Barbora Tachecí, moderátorka
Co to, pane profesore, znamená v praxi být ovládnut umělou inteligencí?
Michal Pěchouček, ČVUT
Stroje nám pomáhají, umělá inteligence nám pomáhá, dělá za nás spoustu práce, ale zároveň za nás místy přebírá iniciativu. To přebírání iniciativy, tomu já říkám ovládání, protože když je člověk iniciativní, sám se rozhoduje, má nějakou svoji vlastní osobitou autonomii, tak se může stát, že umělá inteligence mu tu autonomii začne ubírat. Příkladem takového ubírání je, když nám například na sociálních sítích umělá inteligence doporučuje, co máme číst, co máme lajkovat, s kým máme kamarádit. To já už považuju sám za sebe jako příklad toho omezení vlastní autonomie, vlastní rozhodovací iniciativy a vlastně i svobody.
Barbora Tachecí, moderátorka
Případně, když nám Chat GPT napíše - Tady máš to, cos chtěl a ještě ti k tomu nabídnu tohle, tak to je to samé.
Michal Pěchouček, ČVUT
Přesně tak.
Barbora Tachecí, moderátorka
Četla jsem vizi Marka Zuckerberga, která se objevila na sociálních sítích a ve které mluví o tzv. superinteligenci, která pomáhá člověku být lepším a výkonnějším. Ta citace je dlouhá a je dost znervózňující. Musím se zeptat, vy, když čtete tyhle věci, tak znervózníte?
Michal Pěchouček, ČVUT
Já jsem vědec povoláním, takže se snažím o těch věcech přemýšlet co možná nejvíce racionálně a co možná nejméně podléhat takové té davové psychóze, ať je pozitivní nebo negativní. Ale pravda je ta, že v dnešní době ty technologické vize, které slyším z velkých technologických firem ve Spojených státech, jako je Meta nebo jako je Open AI, tak mě opravdu znervózňují. Protože podle mého názoru nedávají člověka doprostřed té rovnice. Když se před 30 lety inovovalo v Applu, tak se tam inovovalo tak, aby byl člověk uprostřed a ta inovace aby pomáhala člověku. Dneska si myslím, že to už není nezbytně takové, že sice Mark Zuckerberg říká, že umělá inteligence bude pomáhat lidem, je to pravda, bude pomáhat lidem a také mnoha lidem ublíží. A myslím si, že takový ten nejtypičtější příklad toho ublížení je to, že dostupnost umělé inteligence pomůže relativně malé části populace k větším ziskům na úkor velké části populace, která například díky umělé inteligenci přijde o práci.
Barbora Tachecí, moderátorka
Ono to není jenom, že někdo přijde o práci. Alespoň tak jsem to pochopila z té jeho vize. Je to o tom, že každý bude mít s sebou tu superinteligenci, která mu zprostředkuje jakýkoliv zážitek, naučí ho cokoliv, řekne mu, co si má myslet o čemkoliv a vy najednou nevíte, jestli má být tomu člověku pomoženo, nebo má být přetvořen. Jak to vidíte?
Michal Pěchouček, ČVUT
Tam jsou dva termíny, které jste použila. Jeden je superinteligence, což je vlastně terminus technicus, který se používá primárně, když se lidé baví o tom, jak může být umělá inteligence mocná a podobná člověku. Ta superinteligence, to je inteligence, která překoná člověka. A ten druhý termín, který jste použila, byla ta personalizovanost umělé inteligence. To, že každý má toho vlastního chatbota, má tu vlastní, svoji AI, která mu nejlépe rozumí. Já, když přišel Open AI se svým produktem chat GPT, tak jsem si říkal, to je skvělý, protože je to centralizovaný, všichni vidíme, co to dělá. Ale v okamžiku, kdy si každý z nás vytrénuje vlastního chatbota, tak už ta umělá inteligence ztrácí na transparenci a já přesně nevím, co říká tomu druhému. Takže dneska si můžeme vyprávět o tom, jak chat GPT5 tohle umí, tohle neumí, tady halucinuje, tady dělá chyby. V okamžiku té personalizace ztrácíme to otevřené hřiště, na kterém můžeme umělou inteligenci kontrolovat a vlastně už nevíme, co dělá. Takže já se bojím té personalizace, té velmi vyspělé umělé inteligence, protože bude komplikovanější ji kontrolovat.
Barbora Tachecí, moderátorka
A vy si myslíte, pane profesore, že dokud ta umělá inteligence není takhle rozparcelovaná mezi miliardy lidí, ale je centrálně řízená, tak je méně nebezpečná? Chápu to dobře?
Michal Pěchouček, ČVUT
Je to tak. Nejde o to řízení, ale o tu možnost kontroly. Je to to samé, jako když vyhledávač v tom starém světě, na Googlu1, si vyhledá a tak to každému vyhledá stejně. A vy vidíte na ten dotaz, co přibližně ten vyhledávač říká. V okamžiku, kdy ten vyhledávač před 20 lety začal pracovat s vaší osobní historií, v prohlížeči, a už každému začalo říkat něco jiného. Preference.. Tak tam to už přestalo fungovat a my jsme nevěděli, komu co ten prodavač ukazuje, což se dá krásně zneužít například v použití právě těch doporučovacích algoritmů pro politické kampaně. Protože potom už neplatí to, že co ten politik říká, je univerzálně platné. Ten algoritmus nastaví ten narativ tomu danému voliči podle toho, na co je ten volič pozitivně naladěn. A už to není to, že ten velký billboard u dálnice, na něj se všichni dívají a tam je teda buď to, že zdražím, nebo zlevním. Ale každý z těch voličů vidí v té zprávě něco jiného a vytrácí se tu univerzálnost pravdy.
Barbora Tachecí, moderátorka
To je ono, univerzálnost pravdy, to je krásný termín, ale rozhodně umělá inteligence není ta první, která ji narušuje. Rozumíte mi. Ale víte, mě napadá, když bude ta umělá inteligence schopná jednou vás učit cokoliv, rychle, přehledně, na vyžádání, tak proč školy?
Michal Pěchouček, ČVUT
Já pracuju na univerzitě, takže prostě pro mě to vzdělávání, výuka, kreativita školy je pořád základ pokroku, základ civilizace, ale vlastně i základ té osobní autonomie a intelektuální iniciativy, jak jsme o ní mluvili. A čím víc bude vzdělávací problém degenerovat, tak tím víc půjde ruku v ruce s tím ubíráním té svobody lidí. Takže pro mě školy, vysoké školy, střední školy, základní školy jsou cesta ke svobodě. A jakmile se o ně přestaneme starat, tak se stáváme méně svobodnými.
Barbora Tachecí, moderátorka
Jde o to, k čemu ta lidská masa celá bude dovedená. Pakliže se jednou stane to, a evidentně můžeme být na cestě, že prostě už skutečně každý bude mít, nebo každý, kdo bude mít zájem, bude mít k dispozici takového vlastního chatbota, který mu odpoví každou otázku, nepovede nás to zákonitě k tomu, že zhloupneme?
Michal Pěchouček, ČVUT
Je to otázka do té míry, do jaké platí, že pamatování si je jako ekvivalent chytrosti. V případě, že si povíme ok, takže můžeme si míň věcí pamatovat, protože ta znalost, kterou jsme si dřív pamatovali, tak je dostupná na telefonu. A budeme se víc koncentrovat třeba na schopnost kritického myšlení.
Barbora Tachecí, moderátorka
Ale bez faktů nemůžete kriticky myslet...
Michal Pěchouček, ČVUT
Je to tak. A nějaká fakta víte, nějaké hodnoty se třeba v té škole neučíte. Já si myslím, že škola se musí posouvat spíš k tomu hodnotovému vzdělávání, zážitkovému vzdělávání, vzdělávání fundamentů a může trošku ustoupit v tom faktografickém vzdělávání, kde to pamatování si a zkoušení toho, jestli si to zapamatuji, nemusí být tak klíčové, jako spíš schopnost zkoušet, jestli jsem schopen něco posoudit, zanalyzovat, ověřit pravdivost, například spočítat si nějakou pravděpodobnost. A i proto si myslím, že v budoucnosti v tom vzdělávání bude velmi důležité umět pochopit tu empatii vůči strojům. Ta empatie vůči lidem je empatie vůči lidem, ale empatie vůči strojům je umět si představit, jakým způsobem ten stroj pracuje, jak funguje a proč mi říká to, co mi říká. A proto si myslím, že fundament v matematice, která stojí ve svém základu za těmi všemi algoritmy, je klíčová dovednost.
Barbora Tachecí, moderátorka
Vy asi správně vztyčujete varovný prst nad určitými věcmi kolem toho. Ale uvědomme si, že vývoj umělé inteligence a způsob jejího používání jednotlivec neovlivní a že to prostě půjde dál bez ohledu na to, co si kdo myslí, že je správné. A teď mi řekněte, jestli se třeba dnes už někdo na vysokých školách, na Univerzitě Karlově nebo ČVUT, jestli se připravuje na tuhle dobu, že bude třeba překopat celý ten systém, ve kterém se vzděláváme.
Michal Pěchouček, ČVUT
Myslím si, že v nasazování metod umělé inteligence jsou české univerzity pozadu. Že spousta jiných korporátů nebo možná někdy i municipalit státních úřadů je na tom lépe v nasazování metod umělé inteligence. A já jsem přesvědčen, že umělá inteligence ve výuce je velké téma, Dneska třeba je vidět, že Indie je lídrem v tom vzdělávání té nové generace. Tam je nejvíce vzdělávacích startupů, které pomáhají a používají umělou inteligenci pro kastumizaci vzdělávacího obsahu na konkrétního studenta, takže to je opravdu velikánská věc. Jsem přesvědčen, že ten vzdělávací sektor tomu musí jít naproti a musí umět umělou inteligenci do způsobu vzdělávání pustit čím dříve, tím lépe.
Barbora Tachecí, moderátorka
Ale ono to, soudím, nespočívá jen v tom, že vysoké školy pustí tu umělou inteligenci ve velké míře, ale v tom, že tam bude nahoře sedět někdo osvícený, k tomu budeme mít osvícené ministry školství, kteří budou vědět, že to je začátek změny celého systému školství. A jestli někdo takový je, mě zajímá.
Michal Pěchouček, ČVUT
Já bych ty lídry nepřeceňoval. Myslím si, že ta inovace ve vzdělávání musí jít zeshora i zespoda. A ono i zespoda se toho dá hodně dokázat. A věřím tomu, že spousta ředitelů, učitelů, profesorů na středních, vysokých školách prostě může tu revoluci ve vzdělávání vést zespoda, že to nemusí být pouze ministr nebo rektor.
Barbora Tachecí, moderátorka
Můžete mi říct, pane profesore, jak vy třeba, který se tím extrémně zabýváte, tak co jste vlivem umělé inteligence změnil na své výuce?
Michal Pěchouček, ČVUT
Já se musím přiznat, že ačkoliv jsem profesor umělé inteligence, tak už několik let neučím. Takže já nejsem ten správný příklad toho, kdo by měl komentovat, jakým způsobem se používá umělá inteligence ve výuce.
Barbora Tachecí, moderátorka
To je škoda, tak to jsem šlápla vedle. Já to napravím. Když jsme mluvili o té super inteligenci a připodobnili jsme ji k tomu, že je to ten moment, kdy umělá inteligence dosáhne kvalit myšlení člověka? Je to tak? Včetně emocí nebo bez emocí?
Michal Pěchouček, ČVUT
Umělá inteligence už dneska umí dobře ty emoce rozpoznávat, ale neumí je sama vytvářet a že by si sama tu emoci navozovala a díky ní se nějak rozhodovala. Ona dokáže rozpoznat emoce člověka, který s ní mluví, který s ní promtuje. Například si myslím, že umělá inteligence může být velmi užitečná v takových těch terapeutických profesích, kde může opravdu pomáhat lidem v těžkých situacích, protože dokáže ty těžké situace rozpoznat, dokáže nějak zanalyzovat všechny…. (nesrozumitelné) Ona si neuvědomuje, co to je smutek nebo stres nebo deprese. Ale zároveň je schopna to klasifikovat, rozpoznávat a pracovat s tím.
Barbora Tachecí, moderátorka
Ale proč tedy říkáme, že dosáhne myšlením kvality člověka?
Michal Pěchouček, ČVUT
K tomu se rád vyjádřím. Já jsem velký kritik používání termínu superinteligence, protože si myslím, že to není důležitý. Je to takový nedůležitý termín, který něco u obecné populace zjednodušuje. Představa, že tedy budou nějaké počítače, nějaké programy, nějaké servery, které budou dosahovat úplně stejné intelektuální schopnosti jako člověk, je nereálné. Protože umělá inteligence člověka ve spoustě oblastech překonává a skoro v žádné se mu nevyrovná, aby byla tak dobrá jako člověk. Ona je vždycky buď horší nebo lepší. První chyba té úvahy a druhá chyba té úvahy je, že není potřeba, aby umělá inteligence ve všech uvažovacích schopnostech byla lepší než člověk. Stačí, aby byla pouze v některých, aby se stala nebezpečnou, aniž by dosáhla člověka úplně ve všem, v čem člověk vyniká. Ono se může stát, že člověk si nějaký schopnosti nechá a bude v nich vynikat nad umělou inteligencí, ale to nebude důležitý. Už v tom okamžiku nějaké vyspělosti umělé inteligence nám může umělá inteligence natolik obsáhnout naše životy a náš komentální čas a naše rozhodování, že navzdory tomu, že nás nepřekoná úplně ve všem, už nám změní životy do takové míry, že nás bude ovládat.
Barbora Tachecí, moderátorka
Tak to je to ovládnutí, přesně jsem chtěla říct. Jedna věc je ovládnutí, kdy vás může umělá inteligence ovládnout, ať je to superinteligence nebo není. A druhá věc je ta inteligence, které nechcete říkat superinteligence, která dosahuje v nějakých parametrech myšlení člověka. Říkám to dobře.
Michal Pěchouček, ČVUT
Ano.
Barbora Tachecí, moderátorka
A teď jenom jednu citaci. Tady jsem si napsala od Petra Svobody, šéfa Stratoxu, který říká, že tahle superinteligence, což je termín, který nemáte rád, může přijít už v roce 2028. Myslíte si, že takhle blízko to je?
Michal Pěchouček, ČVUT
Já jenom zopakuji. Tím, že nejsem přesvědčen o tom, že to je dobře zadefinovaný termín, tak se mi špatně diskutuje, kdy to přijde. Ale to, co si myslím, že lidi se bojí toho, že se umělá inteligence dostane do fáze, že začne člověku ubližovat, anebo že začne člověka nahrazovat. To jsou ty dva termíny. To nahrazování už dneska máme, ve spoustě profesích umělá inteligence nahrazuje. To může být pozitivní, i to může mít nějaké negativní sociální dopady. Ale toto nahrazování práce už tady je. A na to nemusíme čekat. Teď se pouze bavíme, která profese, možná kdy, třeba překladatelé už jsou za námi, možná novináři zčásti, právníci zčásti, zčásti programátoři, z velké části to tu je. Ale ten okamžik, kdy umělá inteligence začne člověku ubližovat a bude nekontrolovatelná, tomu se říká odborně AI Missaliman Problem. Okamžik, kdy ta AI začne dělat něco jiného než to, k čemu bylo naprogramovaná.
Barbora Tachecí, moderátorka
Ale tomu přece, jestli to dobře chápu, takovému případnému rozhodování té umělé inteligence, je řada bariér v cestě. A vy říkáte, že některá z nich může selhat.
Michal Pěchouček, ČVUT
Je to tak. Já posledních 20 let komentuji, kdy si myslím, že nastane ten okamžik, kdy se umělá inteligence vymkne kontrole člověka. To mi přijde, že je správný termín. Ne superinteligence, ale okamžik, kdy se umělá inteligence vymkne kontrole člověka. A díky tomu může a nemusí člověku ubližovat. Třeba se může stát, že umělá inteligence sama začne chránit životní prostředí z nějakého důvodu, čímž nás bude omezovat, ale nakonec se ukáže třeba, že je to opravdu dobrý.
Barbora Tachecí, moderátorka
Ale negativní bude, že se sama rozhodne.
Michal Pěchouček, ČVUT
Přesně tak. A teď, když se ptáte, kdy, tak já jsem vždycky říkal, že jako prof. Steven Hawking říkám, že je to plassible, je to možné, že se to někdy stane, je to pravděpodobné, nevíme, kdy a myslíme si, že za dlouho. Vždycky jsem si myslel, to se stane za dlouho, protože jsem si říkal, že pro ten vývoj umělé inteligence je potřeba zdrojů a koncentrace lidstva a říkal jsem si, že nás budou čekat těžší problémy, třeba nějaká pandemie, třeba nějaký ústup demokracie, třeba nějaké války, které ten vývoj AI přibrzdí. Ukazuje se, že ty negativní světové události opravdu nastaly a nastávají, ale nepřibržďují vývoj umělé inteligence, což je něco, v čem jsem se mýlil. A já si myslím, že ten okamžik, kdy se umělá inteligence vymkne kontrole, což je vlastně podobný termín, co používá tady pan kolega. Že to je opravdu otázka několika málo let, že se to prostě může, že v roce 28 taková situace může nastat, že v nějakých partikulárních případech, kdy umělá inteligence řídí elektrické sítě nebo řídí nějaké servery nebo něco rozhoduje, tak se vymkne tomu prvotnímu cíli, který programátor naprogramoval a bude se rozhodovat trošičku po svém. Já doufám, že až to nastane, tak si toho jako lidstvo všimneme, budeme to schopni řešit.
Barbora Tachecí, moderátorka
Neměli bychom to zkusit řešit už teď?
Michal Pěchouček, ČVUT
Ano, jsou vědci, kteří se tím zabývají. Například se zabývají tím, jestli můžeme modelem, který je o generaci méně výkonný, řídit model, který je o generaci více výkonný a tím ho srazit. To se třeba zkoumá, vědci to už zkoumají. Bohužel pravdou je to, že množství prostředků, které jdou do vývoje umělé inteligence, je o mnoho řádů, násobně vyšší, než u prostředků, které jdou do zkoumání právě bezpečnosti umělé inteligence. Že ta věda a ten technologický rozvoj té ochrany je totálně podfinancovaný v relaci vůči tomu, jak je přefinancovaná AI samotná. To znamená, že pro lidi to má dneska menší význam, protože tam ještě nevidí.
Barbora Tachecí, moderátorka
A není to tím, že speciálně v Americe je umělá inteligence hrazená ze soukromých finančních prostředků? Soukromníci chtějí teď vydělávat, zatímco ta ochrana, která bude potřeba za 5,7,8 let, to ještě daleko. Není to tím?
Michal Pěchouček, ČVUT
Jo, je to tak. Na zkáze světa se dá perfektně vydělávat až do toho okamžiku, kdy ten svět skončí. A já si trochu myslím, že to je příznačné pro tu americkou AI deregulaci, kterou já teda považuju za velmi nebezpečnou. Já jsem tady v České republice, kde nemáme rádi žádné regulace, ale oceňuju Evropskou unii ve snahách regulovat umělou inteligenci, protože je to vizionářství.
Barbora Tachecí, moderátorka
Ale nemá šanci…
Michal Pěchouček, ČVUT
Šanci má, protože Evropská unie je trošku jiný kontent než Amerika. Je tu jiná tradice ve správě soukromých údajů, teď se vytváří nová legislativa, která se bude týkat nasazování umělé inteligence. Spousta lidí si stěžuje, že regulace umělé inteligence způsobila to, že jsme pozadu ve vývoji umělé inteligence proti Spojeným státům a Číně, což vůbec není pravda, protože regulace AI ještě nezačala fungovat a my jsme už několik let jsme zpožděni, takže ty důvody pro zpoždění jsou úplně jiné.
Barbora Tachecí, moderátorka
Když jsem řekla, pane profesore, že Evropa nemá šanci, tak jsem to myslela jinak. Myslela jsem to tak, že jestliže je nejmocnější Amerika, historicky, z podstaty věci, takže ona svým pohledem na umělou inteligenci bude ovlivňovat celý svět samozřejmě. A jestliže ne Evropu, tak jenom proto, že jí na tom nezáleží. Evropa nehraje roli, rozumím.
Michal Pěchouček, ČVUT
Tak jako Evropa hraje a nehraje roli. Ona hraje velmi malou roli v umělé inteligenci, pořád hraje špičkovou roli v základním výzkumu a ve vědě, je srovnatelná se Spojenými státy. Evropa má trh, kde jsou lidé, kteří jsou tou umělou inteligencí nějakým způsobem chráněni. Já si dokážu tu budoucnost, kdy Amerika díky ohromné AI deregulaci a velkým investicím se posune dopředu. A díky tomu tam bude 10 000 extrémně bohatých lidí, ale pak tam nebudou ty miliony lidí, kteří budou schopni si vydělat na to, aby tu umělou inteligenci dokázali platit a živili těch 10 000 AI oligarchů. Zatímco Evropa může fungovat tak, že tím, že tady ty lidský práva v oblasti umělé inteligence třeba můžou být lépe chráněny, tak nakonec třeba za 10, 5 let může mít výrazně lepší a bohatší trh a prostě tu bude víc lidí, kteří si budou moct dovolit umělou inteligenci platit než v té Americe.
Barbora Tachecí, moderátorka
Ta umělá inteligence, nebude to jako se vším ostatním, že teď se za ni platí, ale relativně ne výrazně, že bude čím dál levnější, protože bude obsluhovat víc a víc lidí?
Michal Pěchouček, ČVUT
Je to otázka, kolik ta AI bude stát. Samozřejmě existují argumenty pro zlevňování, stejně jako u cloudu a u ostatních věcí. Na druhou stranu velký nositel umělé inteligence je elektřina, takže ta energie bude vytvářet nějakej spodní práh. Na druhou stranu dneska se už tedy vyrábí modely, který stojí 20 000 USD ročně, takový ty různý Research modely a různý jakoby komplikovaný programtorský modely. Takže si myslím, že ta cena AI bude zespoda definovaná tou energií a těmi náklady a zespoda definovaná tím, jakou práci dělá a jakou hodnotu ta práce vytváří. Tak a my jsme ve světě, kdy můžeme si víc automatizovat tu práci, ale jestli si ten výsledek té práce nebude schopen nikdo koupit, tak to nemá smysl. Musíme přemýšlet o tom, jak vypadá ten svět, který bude ochoten platit za tu AI, za ty automatizované AI výsledky. A když ten svět prostě bude dystopicky decimovaný tím, že se například deregulovalo, tak tam nebude tam ta poptávka po těch službách, které AI bude vytvářet. Třeba si vemte nástroje na generování skvělých fotek. Vyplatí se vám je kupovat pouze tehdy, když ty fotky potom bude někdo kupovat. Když ty fotky nebude nikdo kupovat, tak se dusí ten technologický byznys. A to se může stát. A proto si myslím, že starání se o ten trh a o ty obyvatele a kultivace toho trhu z pohledu chránění lidí je hrozně důležité. A že to může odlišovat Ameriku a Evropu.
Barbora Tachecí, moderátorka
Právě jsem totiž chtěla říct, že nikde není psáno, že Donald Trump se svojí deregulací všeho, ale i tady toho, že bude poslední americký prezident. A mě by jenom zajímalo. Představme si, že existuje svět, kde je mnohem více prezidentů nebo šéfů vlád, kteří jsou podobní Donaldu Trumpovi? A co může svět dělat, aby se nenechal tou umělou inteligencí, jak vy říkáte, ovládnout, ale aby se země nedaly ovládnout? Víte, jak to myslím? Je to zneužitelné v politice, ve všem možném. Tak co by měl ten svět dělat v momentu, kdy neexistuje v každé zemi jeden člověk odpovědný za to, jak se tam nakládá s těmi umělými inteligencemi, s jejími produkty?
Michal Pěchouček, ČVUT
Myslím si, že tři věci. Zaprvé by se měly státy naučit používat inteligenci pro to, aby dramaticky zlevnily tu správu těch zemí. Takže když se nasazuje umělá inteligence ve firmách, aby se zlevnilo, tak se musí nastavovat v těch státech, aby ten stát fungoval levněji. Zadruhé vzdělávání a zatřetí sociální smír.
Barbora Tachecí, moderátorka
Michal Pěchouček, kybernetik a ředitel Centra umělé inteligence ČVUT. Děkuju, že jste přišel.