"Například překladače dříve fungovaly jinak než nyní. Teď fungují na principu neuronových sítí. Neumí to vyhledávat nebo upravovat text, je to naučené pouze překládat," uvedl Herel. Zároveň vysvětlil, jak moderní systémy překladačů fungují: "Jazykový model funguje na principu takové černé skříňky, která se snaží uhádnout další slovo, což dělá z dat na internetu." A podobně je to podle něj také u chatbotů. ChatGPT a jemu podobné aplikace mohou působit podle Herela na člověka jako myslící stroj, ale je to pouze program, který se snaží uhádnout každé nadcházející slovo.
AI si vymýšlí
Proto v případě, když neví, co má následovat, tak si může vymýšlet. Záleží, co má jazykový model ve svých tréninkových datech. "Vývojáři si mohou hodně modifikovat ten model a hodně záleží, z jakých dat model vychází. Každý model se od sebe může z tohoto důvodu lišit," řekl. Problematickým u jazykových modelů je podle Herela fakt, že jsou trénované se zpožděním. Cokoli, co se stane později, než je v tréninkových datech, model neví a vymýšlí si. Většina společností, které vyvíjejí jazykové modely, to ale neuvádí, protože to vnímají jako obchodní tajemství. Čím jsou lepší data, tím i výsledný produkt a kvůli konkurenci takové informace nesdělují.
Zajímavé na jazykových modelech je, že velice dobře funguje takzvané hraní rolí. Například mu člověk zadá pokyn, aby napsal odpověď na otázku jako studentka střední školy, nebo naopak akademik. Herel to vysvětluje tím, že model sbírá z dat i kontext.
Píše jako osmileté dítě
"Když mu řeknete, ať napíše povídku, tak ji napíše jako průměrný člověk. Avšak když zadáte pokyn, aby to napsal jako osmileté dítě, tak vychází z dat a ví, jak píšou osmileté děti, a proto povídku vygeneruje s největší pravděpodobností jako osmileté dítě," konstatoval Herel. Zdůraznil, že hlavním kouzlem jazykových modelů je právě chápání kontextu. "Většina vědců pracuje spíše na matematických modelech, neuronových sítích a technologiích, které máme dnes. Komunita lidí, která vyvíjí umělou inteligenci například s vědomím sebe sama, je velice malá. Zatím je ten postup neúspěšný a negeneruje to žádné zisky," přiblížil Herel. Sám v současné době pracuje na technologii, jejíž myšlenka je využít modely na principu umělé inteligence ke zjištění veřejného mínění z internetových dat.
Fenomén jménem ChatGPT
Umělá inteligence se dostala do středu pozornosti s rozvojem ChatGPT. Tento chatovací systém dokáže generovat různé texty včetně článků, esejí, vtipů a poezie na základě jednoduchých dotazů. ChatGPT se učí odpovídat na podněty uživatelů a podobně jako lidé se učí na základě velkého množství dat.
V březnu 2023 byl zpřístupněn pokročilejší model umělé inteligence GPT-4. Ten má být schopen poskytovat bezpečnější a užitečnější odpovědi a připravit půdu pro šíření technologií podobných lidem. Webovou aplikaci nabízí OpenAI zdarma, platí to však pouze pro starší verzi chatbota GPT-3.5. Pokročilejší umělou inteligenci GPT-4, která je schopná přesnější a užitečnější odpovědi, mohou využívat pouze majitelé předplatného. To vyjde případné zájemce na 20 dolarů měsíčně, tedy v přepočtu zhruba na 453 Kč. Za ChatGPT stojí start-up OpenAI, který financuje společnost Microsoft.