ChatGPT jako svědek obžaloby. O umělé inteligenci, která nám někdy řekne přesně to, co chceme slyšet.

V diskusi pod článkem o chrudimském hospici se objevil příspěvek čtenáře s přezdívkou Kacafírek. Převzal rozsáhlé vyjádření publicisty Pavla Šafra, který se ostře pustil do Chrudimských novin kvůli jejich informování o sporu hospice s developerem Milanem Kuštou.

Na tom by nebylo nic mimořádného. Noviny mají své kritiky, čtenáři své názory a diskuse od toho existují. Jenže tentokrát se do ní dostal ještě jeden účastník. ChatGPT.

Pavel Šafr píše: „A tak není divu, že si pak zadáme do Chatu GPT, jaký je vztah mezi panem Kuštou a Chrudimskými novinami. Doporučuji to, je to naprosto výmluvné.“

A pokračuje, že minulost je tam popsána „naprosto jednoznačně“. Následuje ukázka odpovědi AI, která upozorňuje na příznivé formulace novin o Kuštově nabídce. Z toho Šafr nakonec dospívá k závěru, že si Kušta novinový článek „zjevně sám“ napsal. Kacafírek celý text přebírá a přidává vlastní osobní hodnocení.

Co vlastně řekl ChatGPT?

Zkusil jsem stejný experiment. Zeptal jsem se ChatGPT na vztah Milana Kušty a Chrudimských novin. A skutečně, Milan Kušta byl v letech 2011 až 2014 členem dozorčí rady vydavatelské společnosti Chrudimské noviny. To je ověřitelný historický údaj, nikoli pomluva nebo výmysl umělé inteligence. Jenže od této informace k tvrzení, že dnes píše nebo řídí články novin, vede pořádně dlouhá cesta. ChatGPT mi žádný důkaz takového současného vlivu nepředložil. Takže ještě jednou pro místní konspirátory. Milan Kušta není majitelem novin, patří pouze do skupiny lidí, která Chrudimské noviny podporuje.

A tady začíná problém. Umělá inteligence může vyhledat skutečný údaj, správně jej popsat, a přesto z něj člověk může vyvodit úplně nepodložený závěr. Dokonce i samotný ChatGPT může při zavádějící formulaci otázky nabídnout jiný výběr informací, jiné důrazy a někdy i závěr, který odpovídá spíše očekávání tazatele než skutečnosti. Otázkou totiž můžeme umělou inteligenci nasměrovat. Když se ptám na „podezřelé vztahy“, už jí předem naznačuji, co má hledat. A pokud její odpověď nekontroluji, mohu snadno získat zdánlivé potvrzení vlastního přesvědčení.

Právě proto jsem před časem ChatGPT výslovně požádal, aby byl k mým názorům kritický. Aby mi neopakoval to, co si myslím, ale požadoval důkazy, hledal slabiny mých argumentů a upozorňoval mě na možné omyly. Napsal jsem mu dokonce, že jsem dostatečně silný, abych takovou kritiku unesl. Nepotřebuji totiž umělou inteligenci, která mi přikyvuje. Potřebuji nástroj, který mi pomáhá přiblížit se skutečnosti. Komu z vás je tento postoj sympatický, můžete si podobnou definici na svůj AI profil napsat.

Ani takové nastavení samozřejmě nezaručuje neomylnost. Ostatně při našem experimentu ChatGPT nejprve historickou vazbu Kušty na vydavatele přehlédl a našel ji až při dalším dotazování. I to je dobrá připomínka, proč jeho odpovědi nelze přijímat bez ověřování.

Mladý student a stará škola

Před časem jsme v Chrudimských novinách přinesli rozhovor s mladým studentem Nickem Svobodou. Mimo jiné mluvil o tom, že by se děti už na základních školách měly učit prakticky pracovat s umělou inteligencí. Samotná myšlenka výuky mě zaujala natolik, že jsem ji později vyzdvihl i při rozboru volebního programu. Právě případ z diskuse pod hospicem ukazuje proč. Práce s AI totiž není jen schopnost položit otázku a přečíst si odpověď. Je to především schopnost přemýšlet, co jsem se dozvěděl, odkud informace pochází, co skutečně dokazuje a co už jsem si k ní přidal sám. Děti se to budou muset naučit. A podle toho, co dnes čteme na internetu, by projít podobným kurzem nepochybně prospělo i mnoha dospělým.

Nová autorita ve starém sporu

Dříve člověk v diskusi napsal, že něco četl v novinách, slyšel v televizi nebo mu to řekl známý. Dnes může napsat: „Zeptejte se ChatGPT. Budete se divit.“ Má to zvláštní kouzlo. Vlastní názor najednou dostane zdánlivě nezávislého svědka. Navíc svědka, který píše souvisle, sebejistě a často velmi přesvědčivě. Jenže nevíme, na co přesně se ho autor ptal. Nevíme, co mu předložil, co z odpovědi vybral a co vynechal. A hlavně nevíme, zda si vůbec ověřil zdroje.

V našem případě je výsledek docela názorný. Historická personální vazba existovala. Současné autorství článku z ní ovšem nevyplývá. Přesto se obě informace v polemice ocitly téměř vedle sebe, jako by jedna dokazovala druhou. Netvrdím, že každý, kdo takto používá AI, chce vědomě manipulovat. Někdy prostě uvěří odpovědi, která potvrzuje jeho dosavadní přesvědčení. Jindy si z ní vybere jen to, co se mu hodí. A někdy může jít o záměr.

Umělá inteligence nám dává do rukou mimořádně silný nástroj. Můžeme ji požádat, aby naše názory kriticky prověřovala, hledala protiargumenty a upozorňovala na chyby. Ale můžeme ji také otázkami navádět k tomu, aby nám naše názory potvrzovala. A potom se na její odpovědi odvolávat jako na nezávislou autoritu.

Odpovědnost za to, jak s ní zacházíme, ovšem zůstává na nás.

Vraťme se tedy k návrhu Nicka Svobody. Učit děti pracovat s umělou inteligencí už na základních školách je dobrá myšlenka. Jen bych k ní připojil malé doporučení: Otevřeme ty kurzy také dospělým. Někteří je potřebují možná ještě naléhavěji než školáci.