Hana Scharffová, moderátorka
Kam AI nasměruje lidstvo a jak moc by se měla regulovat, to jsou ty zásadní otázky dneška. Dává na ně summit v Paříži alespoň částečnou odpověď?
Viliam Lisý, Fakulta elektrotechnická ČVUT v Praze
Velmi částečnou. Cílem toho summitu je deklarace, kterou mají podepsat ty státy. Jsou nějaké indikace, že se na tom možná úplně nedohodnou, ale kdyby se i dohodly, tak je to obecná deklarace o tom, že je to důležitý problém, který je třeba řešit z pohledu energetiky, vzdělání, vědomostí, konkurenceschopnosti a různých jiných oblastí, ale nedává žádné konkrétní řešení. Cílem toho summitu je hlavně, aby se otevřela široká diskuze, aby o tom lidé přemýšleli, aby se různí významní lidé ve světě tím zabývali a to to určitě způsobí, takže nějaká otevřená komunikace o těchto otázkách určitě
Hana Scharffová, moderátorka
Centrálním tématem je regulace. Který směr byste doporučil? Více regulace za cenu menšího progresu, anebo naopak?
Viliam Lisý, Fakulta elektrotechnická ČVUT v Praze
Je tam vždycky ten trade off anebo dvě možnosti, ty dvě misky vah. A ta regulace určitě bude zpomalovat progres, a proto je třeba dávat pozor, kde má smysl a kde nemá smysl. Například když se bavíme o existenčních rizicích, když se bojíme, že se nám umělá inteligence vymkne z kontroly a budeme se muset proti ní nějak bránit, tak tam nemá smysl regulace, na které se všichni nedohodnou. A když Spojené státy, případně Čína, nejsou úplně otevřené tomu nějakou silnou regulaci mít, tak tam asi regulovat nemá smysl. V těch lokálnějších věcech, kde se bavíme o pracovním trhu, kde se bavíme právě o dopadech na ekonomiku a tak dále, tak tam rozhodně dává smysl se zamyslet nad tím, jaké mohou být dopady, a pokusit se regulovat věci, aby dopady co nejlépe co se týká dezinformací, co se týká dopadu na trh a na práci.
Hana Scharffová, moderátorka
Evropská unie právě nedávno představila svůj první soubor pravidel, takzvaný AI Act. Jak účinný tedy bude? Protože sám jste naznačil, že pokud neplatí pravidla celosvětově, pak mají jenom omezený význam.
Viliam Lisý, Fakulta elektrotechnická ČVUT v Praze
Já si myslím, že určitě je to krok dobrým směrem. Snaží se rozdělit ty systémy podle různé míry rizika. Já se ne úplně ztotožňuji s tím, jak to rozdělili, ale to je asi v pořádku, že o tom rozhodně někdo jiný a ne ti výzkumníci, kteří se tím zabývají. A potom dává nějaké zatím vcelku podle mě mírná pravidla, která je třeba dodržovat, například co se týká transparence a že když nějaký systém o něčem rozhoduje, co se týká lidí, tak by to měl umět vysvětlit proč se rozhodl tak či onak, což je podle mě správně. Ale je to určitě i nějaké zpomalení, když se ale snaží firma přinést nějaký nový produkt a musí myslet na to, aby navrhla, vyvinula, otestovala, evaluovala nějak s uživateli a i to vysvětlení, tak je to nějaká věc, kterou když musí řešit, tak samozřejmě ten produkt dodá o něco později.
Hana Scharffová, moderátorka
Některé start-upy také upozorňují, že se Evropská unie snaží být současně v oboru umělé inteligence hráčem i rozhodčím. Je to tak? Je to problém?
Viliam Lisý, Fakulta elektrotechnická ČVUT v Praze
Je to tak, ale podle mě to problém není. Ten vývoj je natolik rychlý v rámci umělé inteligence, že představa toho, že někdo bude buď hráč, anebo rozhodčí, je trošku naivní. Ten, kdo chce o něčem rozhodovat, tak podle by měl být i na špici toho vývoje, aby vlastně dobře rozuměl tomu, o čem se snaží rozhodovat.
Hana Scharffová, moderátorka
Jak velkou hrozbou je sama umělá inteligence v rukou agresivních režimů? Její zneužití pro války, nebo agrese, nebo kontrolu obyvatel? Jak reálné nebo blízké jsou tyhle hororové scénáře?
Viliam Lisý, Fakulta elektrotechnická ČVUT v Praze
Podle mě jsou bohužel velmi reálné a to je to, čeho se já obávám o mnoho víc než těch existenčních rizik. Když si představíte, že ta umělá inteligence momentálně je už tak schopná jako průměrný intern, tak si může představit autoritativní režim, který bude mít vlastně vlastního utajeného policajta pro každého jednoho občana. Ten policajt ho bude moci velmi dobře poznat, bude moct přečíst všechny e-maily, všechny zprávy, všechny stránky, které ten člověk navštívil, a potom na platformách, jako je YouTube anebo TikTok může doporučovat obsah, který si myslí, že by ten člověk měl konzumovat. Dokonce upravovat, generovat automaticky obsah přímo pro potřeby toho člověka, pro jeho intelektuální schopnosti, pro jeho světonázor a tímto způsobem postupně manipulovat a jeho pohled na svět. A myslím si, že vůči tomuto není vlastně nikdo imunní, a když někdo systematicky dlouhou dobu bude takto manipulovat všemi informacemi, které člověk v rámci svého digitálního života konzumuje, tak můžou autoritativní režimy získat obrovskou moc.
Hana Scharffová, moderátorka
Přesto rozvoj a vývoj umělé inteligence se zastavit zřejmě nedá, neujel už nám Evropanům v konkurenci z Asie a USA vlak? Protože evropské státy varují dokonce před ztrátou technologické suverenity.
Viliam Lisý, Fakulta elektrotechnická ČVUT v Praze
Rozhodně ujel, ale to neznamená, že ho nemáme šanci doběhnout. Když ten nedávný úspěch DeepSeeku něco ukázal. I tým, který není nějaký zahraniční, globální, ale čistě čínský, se zdroji, které podle jejich vlastních vlastních slov byly výrazně omezenější, dokázaly vytvořit vlastně světově konkurenční AI přesto, že měly ze začátku nějaké zpoždění. Takže já si myslím, že když Evropa se posnaží, tak může bez problémů dosáhnout něčeho podobného a ten svět zase doběhneme.
Hana Scharffová, moderátorka
Alespoň malý optimistický závěr. Viliam Lisý. Děkujeme za rozhovor.