Pěchouček: Dobrý den, děkuju za pozvání.
moderátorka: Tak v jakých oblastech může taková dohoda dvacítky technologických gigantů fungovat? Nebo co vy sám od takového paktu očekáváte?
Pěchouček: Já jsem nadšen z toho, že se velké firmy dohodly, že budou spolupracovat při ochraně internetu před hrozbami, které jsou dneska zjevné a které ještě nebyly zjevné před několika málo lety. Každá taková iniciativa zvyšuje, že bezpečí nejen na sociálních sítích, které provozují ty giganti, ale i obecně, obecně na internetu, to, kde vidím jako jistý, jistou, jistou možnost pro ještě větší ochranu uživatelů, jak kdyby se ty platformy dokázali otevřít a kdyby dokázali pustit vývojáře a firmy třetích stran do toho, aby dokázali ještě zlepšit ochranu lidí a sociálních sítích a vytvořily prostor ke zdravé inovativní konkurence.
moderátorka: Ty společnosti deklarovaly, že chtějí vyvinout technologii pro zmírnění rizik, která souvisejí s klamavým předvolebním obsahem generovaným právě umělou inteligencí, tak jak technicky je možné vytvořit systém, který by AI spolehlivě rozpoznal?
Pěchouček: Jak v současné době? To nelze prostě říct, že by kdokoliv dokázal vytvořit technologii, která by zcela stoprocentně dokázala identifikovat, jaký obsah je vytvořený pomocí umělé inteligence, jaký je vybraný člověkem. Zároveň my jako obránci už máme spoustu technologií, které dokáží odhalit některé aspekty použití umělé inteligence, které dokáží už detekovat nějaké podvody, které jsou přítomny jak v tištěném obsahu, v textu, tak v médiích, jako je fotografie nebo video, a dokáží tak upozornit člověka na to, že daný článek, daná zpráva může být podvodná, může být podvrh.
moderátorka: Rozveďte to, prosím, jak to funguje, jaké technické možnosti jsou v současnosti pro to rozpoznání obsahu od AI, ať už jde o text, který jste zmiňoval, o obrázky nebo o video. Jaké technologické možnosti máme?
Pěchouček: Tak zajímavé je to, že ty možnosti, které máme, jsou pořád parciální, my vlastně dneska máme technologie, které dokáží identifikovat jednoduché deep fake a na druhou, když se útočník zaměří a bude chtít ten deep fake odejít, obejít, bude chtít vytvořit technologii, která takovýto detektor bude schopna obejít, tak se mu to podaří, takže ochrana před podvodnými, podvodným obsahem internetu je problém kočky a myši. Obránci se snaží detekovat celý deep fake a útočníci se snaží právě tuto obranu obcházet. Tento boj nikdy neskončí, vždycky se budeme spolu my jako obránci honit, honit útočníky.
moderátorka: A jak daleko za těmi velkými firmami jsou potom ty menší nezávislé modely, které mohou fungovat třeba v zemích, jako je Čína, jako je Rusko, tedy v těch, které by mohly chtít případně zasáhnout do voleb v západních zemích?
Pěchouček: Vůbec nemám informace o tom, jakým způsobem funguje obrana v zemích, jako je Rusko nebo Čína, to, co ale víme, je to, že spousta zájmových skupin, které mimochodem pocházejí ze zemí, které stojí za ovlivňováním voleb v Evropě nebo ve Spojených státech, se snaží měnit narativ, snaží se vytvářet zprávy, vytvářet nějakou náladu ve společnosti, která se potom odráží ve volebních preferencích. A právě ty metody, které používaly v minulosti, byly vlastně metody založené na psaní článků, na psaní poplašných zpráv, které prostě nebyly pravdivé ale dokázaly vytvořit jistý stres ve společnosti a dneska ta revoluce, která je dneska vlastně umělá inteligence, mění tento boj je v aspektech, kde důvěryhodnost těmto falešným poplašným zprávám se zvyšuje tím, že jsou dodávány formou videí, formou videí, které jsou klamavé, protože se na nich mixuje dohromady obličej politika nebo vlivné osobnosti s textem, který je vygenerovaný pomocí umělé inteligence. Takže potom to vypadá, jako že politik něco říká, a on to opravdu nikdy neřekl. Příkladem toho je ovlivnění voleb na Slovensku, kdy Michaela Šimečková údajně diskutovala s novináři o tom, jakým způsobem bude obchodovat s hlasy. A byl to zjevný deep fake, byl velmi nekvalitní, byl jednoduchý, on vlastně odhalit pouze při poslechu té zprávy, nicméně vyvolal takové vlastně zrušení v tom předvolebním narativu, že lze předpokládat, že, že to stálo spoustu hlasů ve volbách.
moderátorka: Jak proti tomu bojují samy sociální sítě typu X, typu Facebook, typu Innstagram?
Pěchouček: Oni investují, oni investují různé zdroje, různé firmy mají různý přístup k tomu, aby moderovali obsah, který je na sociálních sítích zveřejňován, to znamená, aby se snažili detekovat, do jaké míry ten obsah je manipulativní nebo nepravdivý. Víme, že například sociální síť X v minulosti snížila velikost oddělení, které se zabývalo právě bezpečností obsahu, který je na X zveřejňován. Mají své technologie, které jsou založeny na umělé inteligenci, ve většině případů tyto technologie nejsou otevřené. Takže my jako lidé, kteří stojíme mimo technologie těchto firem, přesně nevíme, jak fungují, a asi to neví ani uživatel, a proto si myslím, že by bylo správné, aby uživatel měl větší možnost jako by si nastavovat a kontrolovat si, jakým způsobem ho sociální síť před manipulací nebo nepravdivým obsahem chrání, a případně, aby si uživatel mohl vybrat, že by chtěl technologii od nějaké jiné firmy, od nějakého malého startupu, která mu to zabezpečí, podle uvážení uživatele dodá v lepší kvalitě, než v jakém ho chrání daná sociální síť.
moderátorka: Michal Pěchouček, vedoucí Centra umělé inteligence Fakulty elektrotechnické z ČVUT, moc vám děkuju za váš čas, hezké odpoledne.
Pěchouček: Děkuji, že jste mě pozvali.