Nárůst deep fakes a dezinformací je znepokojivý, říká Hany Farid z UC Berkeley

Už 8. října spolupořádá pražské České vysoké učení technické virtuální konferenci CyberSec&AI Connected. Cílem je propojit akademiky a odborníky z průmyslu se zájmem o téma bezpečnosti a umělé inteligence. Účastníky letos čekají prezentace, workshopy, živé diskuze a networking. Mezi řečníky jsou například Carmela Troncoso (EPF Lausanne), Roger Dingledine (Top Project), šachový velmistr Garry Kasparov či Hany Farid (UC Berkeley), se kterým přinášíme rozhovor.

Mohl byste nám krátce představit vaši přednášku Tvorba, zneužívání a detekce deep fake? Co přesně mohou účastníci konference od této přednášky očekávat?
V posledních několika letech jsme mohli zaznamenat znepokojivý a překvapivý nárůst fenoménu fake news. Díky těm může každý (od jednotlivců, až po národy sponzorované subjekty) produkovat a šířit dezinformace. Fake news mohou způsobit celou škálu problémů od dezinformace veřejnosti až po zásadní ohrožení demokracie a rozšíření nenávisti. Zároveň nám dnešní doba a s ní spojené rychlé pokroky ve strojovém učení vytváří ideální základy pro tvorbu  sofistikovaných a přesvědčivých falešných fotek, videí nebo zvukových nahrávek, což činí fenomén fake news ještě nebezpečnějším. V přednášce poskytnu ucelený přehled o tom, jak se deep fake vytváří, a popíši vznikající techniky, které je detekují. 

Jak rychle se rozvíjí věda a technologie v honbě za deep fake? Je pro akademické a průmyslové odvětví obtížné udržet krok s tímto rychle se rozvíjejícím oborem?
Deep fakes vtrhly na scénu před pár lety. Od té doby se technologie pro jejich tvorbu rozvíjí velmi rychle a stejně tak kvalita jejich zpracování (stále lepší možnost manipulace se zvukem, fotografiemi a videem). Není snadné udržet krok s rychlostí, jakou se tato technologie vyvíjí. Snadné není ani pochopení potenciálních rizik a jejich následné zmírnění. 

Můžete uvést pár skutečných příkladů problémů, které jsou způsobené nebo spojené s deep fake?
Deep fake představuje celou řadu potenciálních hrozeb od dezinformací až po podvody nebo ovlivnění voleb. V současné době je nejčastějším příkladem zneužití této technologie tvorba nekonsensuální pornografie, která postihuje především ženy. Další významnou hrozbou je nárůst takzvaných liar’s dividend, díky kterým může každý tvrdit, že je jakákoliv fotografie nebo video falešná.  

Jak informovaná je široká veřejnost, vláda a firmy? Co je možné udělat pro zvýšení povědomí o problematice deep fake?
Média odvedla v informování o deep fake celkem dobrou práci. Na druhou stranu, naši zákonodárci mají stále problém se stanovením toho, jak a jestli vůbec bojovat s používáním deep fake v dezinformačních kampaních. 

Zůstáváte ale dále optimistický v tom, že můžeme bojovat s deep fake díky stále se rychleji rozvíjejícím technologiím?
Obecně ohledně online dezinformací (jejichž součástí je i deep fake) moc optimistický nejsem. V několika posledních letech došlo k rychlému rozšíření online dezinformací, které měly za následek (jak menší, tak větší) podvody, podnícení občanských nepokojů, narušení demokratických voleb a destabilizaci společnosti. Vláda, veřejnost a ani technologičtí velikáni se mi nezdají být dostatečně vybavení k tomu, aby dokázali čelit globální dezinformační pandemii.  

Jak jistě víte, letošní akce se bude věnovat zásadním problémům AI z hlediska soukromí a bezpečnosti. Které aspekty tohoto tématu byste rád s ostatními přednášejícím a účastníky diskuze probral?
Myslím si, že je velmi důležité, abychom se bavili o tom, jak může být technologie zneužita a použita proti nám. Je zásadní vést takovou diskusi ještě před tím, než se nám nějaká technologie vymkne z rukou. Příliš dlouho dobu jsme technologie vyvíjeli a nasazovali bez zvážení toho, jaké následky může jejich použití mít. 

Můžete zmínit některé z nedávných trendů a novinek týkajících se AI a soukromí, které vás zaujaly?
Jestli jsem se za posledních několik desetiletí něco naučil, tak je to ta skutečnost, že se nedá předvídat budoucnost technologických inovací.