Jak může AI ověřovat fakta, když jí nelze věřit?

Zní to jako protimluv, ale skutečně to funguje. Nejde o to věřit jejím jednotlivým výstupům, ale spíš využít její schopnost rychle proskenovat obrovské množství textů a zdrojů a z nich poskládat základní přehled. Ten sice nemusí být zcela přesný, ale často stačí k tomu, aby upozornil na nesrovnalosti a odhalil nedůvěryhodný příspěvek.

Příklad z praxe:
Ve veřejné facebookové skupině Ateismus vs. víra se objevil následující příspěvek o údajně nejchytřejším člověku na světě – Korejci jménem YoungHoon Kim:

„YoungHoon Kim, momentálně oficiálně nejchytřejší člověk světa s naměřeným IQ 276, verifikovaným společností Mensa. Je držitelem několika doktorátů, zakladatelem a ředitelem společnosti NeuroStory zabývající se diagnostikou mozku. A především – je praktikující křesťan, který tvrdí, že nejdůležitější věda ke studiu je teologie.“ (Původní příspěvek viz mensa.click/1lj.)

Příspěvek měl navíc jasný podtón: pokud se někdo snaží spojovat víru s nízkou inteligencí, měl by se zamyslet.

AI kontrola faktů

Na takový text lze během několika minut nechat vygenerovat základní fact-checking – a jeden z komentujících právě to udělal s výsledkem v tomto duchu:

• „IQ 276, ověřené Mensou“ – nepravda.
  Neexistuje žádný důvěryhodný záznam o osobě jménem YoungHoon Kim s oficiálně ověřeným IQ 276. Mensa testy navíc hodnoty nad 160 neměří a seznam „nejchytřejších lidí světa“ nezveřejňuje.
• „Držitel několika doktorátů a ředitel NeuroStory“ – nedoloženo.
  Společnost s tímto názvem není v odborných databázích dohledatelná a žádné akademické práce tohoto autora neexistují.
• „Praktikující křesťan, považuje teologii za nejdůležitější vědu“ – nelze ověřit.
  Pokud není existence dané osoby potvrzena, nelze potvrdit ani její názory.
• „Víra ≠ nízká inteligence“ – pravdivé tvrzení.
  Inteligence a víra se vzájemně nevylučují. Mezi věřícími i nevěřícími jsou lidé všech intelektových úrovní.

Závěr takové analýzy bývá jasný: příběh o YoungHoonu Kimovi je velmi pravděpodobně fiktivní nebo silně zkreslený.

Lidská reakce: méně formální, ale trefnější

Zajímavé je, že jiný člověk ve stejné diskusi napsal komentář, který byl sice méně strukturovaný než výstup AI, ale podle mě měl silnější „příběh“ a kontext. Upozornil například na to, že „Gigasociety“, která údajně IQ měřila, byla založena samotným Kimem a že rekord uznala no-name španělská webová stránka, kam lze za 275 dolarů zapsat téměř cokoliv.
Jinými slovy – i kdyby Kim skutečně byl inteligentní člověk, jeho „světový rekord“ je jen sebepotvrzující marketing.

Komu tedy věřit?

AI komentář vznikne během pár sekund a může vám posloužit jako základní oponentura – ale nesmíte mu bezvýhradně věřit (to ostatně nikomu a ničemu).

AI navíc kopíruje názory, které už někde zazněly – a sociální sítě mají tendenci zvýhodňovat obsah, který potvrzuje status quo. Kritické a nekonvenční názory se naopak do popředí dostávají hůře.

V tomto konkrétním případě jsem já osobně k pochybnostem nepotřeboval AI – něco o IQ testech a stupnicích vím a podezřele působil i možný argumentační faul slaměný panák v závěru – obecně nevěří mv nějakou větší souvislost IQ a konkrétního oboru/skupiny lidí. Příklad jednoho člověka je právě jen to – příklad jednoho člověka. Pokud by ale šlo o oblast, ve které se neorientuji, AI mi může poskytnout rychlý, i když nedokonalý způsob, jak zpochybnit zdánlivě důvěryhodné tvrzení.

Nejsem fanoušek umělé inteligence. Ale i přes její problémy ji používám každý den – prostě proto, že mi šetří čas a pomáhá přemýšlet kriticky.