2017 – 2019
Publikace klíčových studií o pozornostních mechanismech a spuštění prvních generativních pre-trained modelů.
Prvotní fáze vývoje se soustředila na validaci architektury Transformer. V tomto období docházelo k masivnímu sběru dat a definování základních parametrů pro trénování modelů s miliardami parametrů.
Publikace klíčových studií o pozornostních mechanismech a spuštění prvních generativních pre-trained modelů.
Exponenciální nárůst výpočetní kapacity a integrace RLHF (Reinforcement Learning from Human Feedback) pro zpřesnění výstupů.
V současnosti probíhá integrace do kritické infrastruktury. Modely jsou optimalizovány pro specifické úlohy v průmyslu a vědě, kde je vyžadována vysoká přesnost a nízká latence při zpracování dotazů.
Proces zahrnuje neustálý monitoring a zpracování a filtraci dat v reálném čase. Tímto způsobem dochází k eliminaci chybovosti a zvyšování reliability celého systému v produkčním prostředí.
Vývoj směřuje k systémům, které nevyžadují lidskou supervizi při trénování. Modely budou schopny samoregulace a opravy vlastních algoritmických chyb na základě logických operací.
Implementace pokročilých bezpečnostních benchmarků pro predikci rizik spojených s nekontrolovaným růstem inteligence.
Přesun výpočetního výkonu z centrálních serverů přímo do koncových zařízení. To umožní okamžité rozhodování v lokálních sítích bez nutnosti cloudového připojení.