Generátory textů je vhodné zapojit do výuky a ukázat si tak i jejich omezení, míní Thomas Jørgensen z Evropské univerzitní asociace. Opravdu závažné otázky podle něj teprve přijdou. Například co přesně by měly školy vyžadovat a hodnotit nebo jak zkoumat nebezpečná využití umělé inteligence.
Rozhovor v anglickém originále najdete zde.
Jsou to tři měsíce, co americká společnost OpenAI představila ChatGPT, uživatelsky dosud nejpřívětivější rozhraní pro přístup k umělé inteligenci. Lze s ní chatovat, a to i v češtině: na povel řeší slovní úlohy, překládá mezi jazyky, píše e-maily, básně nebo eseje.
Žádné jiné online službě dosud tak rychle nerostl počet uživatelů. Během prvních dvou měsíců ji vyzkoušelo sto milionů lidí. I TikToku to trvalo několikrát déle.
Univerzity zaujaly k využívání ChatGPT a podobných nástrojů různé postoje – od úplného zákazu až po doporučení k využívání při výuce. Evropská univerzitní asociace proto v únoru vydala krátkou sadu doporučení, jak k podobným nástrojům přistupovat. Více o ní v rozhovoru s jejím autorem Thomasem Jørgensenem.
ChatGPT a jemu podobné nástroje zřejmě přinášejí zásadní změny. Jejich vývoj navíc pokračuje velmi rychle a povahu těchto změn je tedy těžké předvídat. Jak by se k jejich využívání měly postavit tradičně spíše konzervativní instituce, jako jsou univerzity?
Nejdůležitější je uvědomit si, že nástup těchto nástrojů je realitou, s níž se musíme vypořádat. Nemůžeme ji ignorovat, říkat si, že o nic nejde. Odpovědností univerzit je koneckonců připravit studenty na práci s různými nástroji, tím pádem i s umělou inteligencí.
Radíte tedy ChatGPT na univerzitách využívat?
Univerzity jsou tradičně vázány na produkci textů. Teď má každý k dispozici nástroj, který přesně to umí. Proč jej nevyužít? Nejdřív ale musíme pochopit, jak ChatGPT a jemu podobné služby fungují. Skládají k sobě slova v pořadí, které je nejvíce pravděpodobné, v pořadí, které už viděly na textech, na kterých se cvičily. ChatGPT tedy není nijak kreativní. Jeho výstupy mohou být pravdivé, protože se zvolená slova vyskytovala často vedle sebe. Když mu zadáte Kolumbus, správně pokračuje rokem 1492. Pokud se ale zeptáte na něco trochu speciálnějšího, často mu to už moc nejde. Když ho požádáte o seznam literatury k určité výzkumné oblasti, vytvoří názvy, které znějí důvěryhodně, ale nejsou nutně skutečné. Nejlepší způsob, jak se s tímto nástrojem vypořádat, je pohrát si s ním a tak poznat jeho omezení. Studentům například můžete zadat vytvoření seznamu oborové literatury. Pak sami uvidí, že výstup z ChatGPT není nutně správný. Umí ale sesbírat nejrůznější informace a říct, kde se v dané oblasti nacházíme. Může také pomoci tam, kde potřebujete více méně standardizovaný text: napsat pozvánku na recepci, formální e-mail. Také básně píše mimořádně dobře.
Vidíme tedy mnoho povyku pro nic?
To ne. Určitě můžete ChatGPT využívat kreativně. Říct si: v pořádku, toto je jakýsi výchozí bod, ale musím k tomu něco přidat. Tak je to možné prezentovat i studentům. Ať třeba nechají ChatGPT napsat esej o dvou tisících slovech o nějakém tématu z jejich oboru – a pak ať hledají, co je špatně, o čem by se dalo diskutovat, a přemýšlejí, jak vytvořit něco lepšího.
Máte už představu, jak se s tím vyrovnávají univerzity v Evropě?
Univerzity se v podstatě rozdělily na dva proudy. První omezuje využití ChatGPT s tím, že to má velmi blízko k plagiátorství: měli bychom vědět, kdo konkrétní text napsal, a pokud je to stroj, pak je to v rozporu s akademickými hodnotami. Druhý proud není tak striktní a říká: pojďme experimentovat, zkusme to nějak využít ve výuce. My se přikláníme k té druhé skupině. Nesmíme podceňovat rizika a musíme o nich mluvit. Ale mluvme také o přínosech. Připravme se na novou skutečnost, neignorujme ji.
Nebyla by ale při doporučování zapojení ChatGPT do výuky na místě opatrnost? Podobné nástroje budou nejspíš dřív nebo později placenou službou.
Pak by se dalo uvažovat o institucionálních předplatných. Ale to je ještě budoucnost. Těžko předvídat. Také si můžeme představit komunitu výzkumníků, která vytvoří vlastní akademický ChatGPT z akademických textů. ChatGPT nevyužívá zase tak revoluční technologii, ta je jen velmi náročná na zdroje. Skutečná výzva podle mě nicméně přichází v oblasti kurikula.
V čem?
Měli bychom se zaměřit se na to, co vlastně učíme. Opravdu podporujeme ve výuce kreativitu, nové myšlenky a originální nápady? Učíme respektu k hodnotám? A co přesně hodnotíme? Oceňujeme kreativitu, nebo jen schopnost napsat text, pro jehož tvorbu by se dal snadno využít stroj?
Měl by existovat nějaký společný etický kodex, který by zakazoval používat umělou inteligenci v určitých aspektech výzkumné práce?
To je podle mě teď obtížné předjímat. Jsme v rané fázi, zatím jsme nemohli pozorovat plný dopad těchto inovací. Do budoucna si ale myslím, že určitě ano. Je třeba studenty učit, jak zacházet s nástroji založenými na umělé inteligenci v mantinelech akademické etiky. Líbí se mi například myšlenka, že když chystáte text, tak ho stroj udělá jen zhruba a vy ho dopíšete.
Takže by pak umělá inteligence byla uvedená jako spoluautor?
To ne. Není spoluautorem. Není za nic odpovědná. Až pokud vám stroj dokáže dát jen správné odpovědi, pak to začne být zajímavé. Když začne klást otázky, když vymyslí něco originálního, když dá dohromady fakta stovkou nových způsobů. Až pak se ptáte: jaký je tedy lidský přínos a co to vlastně znamená?
Nastává doba, kdy mají kromě informatiků na scénu přicházet další výzkumné obory a přemýšlet o umělé inteligenci z různých úhlů?
Samozřejmě. Úlohou univerzit je dívat se na problematiku umělé inteligence komplexně. Byl bych nadšený, kdyby humanitní vědci s ostatními spolupracovali a opravdu experimentálním způsobem se snažili nahlédnout vše mezi tvořivostí, vědomím a informacemi. A přispěli tak k pochopení vztahu mezi člověkem a strojem. Ve výzkumu se otevírá zcela nový svět. Zatím se bavíme o ChatGPT, což může být zábavný nástroj, ale v budoucnu nás podle mě čekají skutečně závažné otázky.
Které například?
Třeba právě pokud počítač či umělá inteligence dokáží poskládat správné informace tak, abychom získali nové poznatky, pak stojíme před opravdu těžkou volbou. Co můžeme ve výzkumném procesu připsat pouze lidem? Další otázkou je, do jaké míry je naše myšlení a chování jen opakováním naučených vzorců, které může stroj replikovat.
Každopádně univerzity jako instituce nemohou být automatizovány. Toho bych se nebál. Zároveň jsem ale velmi rád, že budeme mít v EU legislativu popisující, co by opravdu mělo být zakázáno. Také je důležité zformulovat přesné pokyny pro etický a odpovědný výzkum v oblasti umělé inteligence. Například na jednu stranu potřebujeme dobře porozumět tomu, jak lze umělou inteligenci využít k podprahové manipulaci, ale na druhou stranu by podprahová manipulace mimo laboratoř měla být zakázána. Tato stránka umělé inteligence na univerzitách by mohla být důležitější než debaty o tom, jak nakládat s ChatGPT. Umělá inteligence je nástroj. A lze ji použít ke špatným věcem stejně jako k dobrým.