Domů Tvorba mensanůKontroverzní AI a fact-checking vysokého IQ

Kontroverzní AI a fact-checking vysokého IQ

Od Vladimír Kutálek

Kdybych měl shrnout svůj postoj k umělé inteligenci jednou větou, zněla by asi takto: „Nevěřte ničemu, co AI napíše – ani když vám dělá jen korekturu.“ (Ano, i při obyčejné korektuře se jí občas podaří úplně převrátit význam věty.)
To ale neznamená, že by AI byla k ničemu. Naopak – i přes všechny své nedostatky už dnes nachází spoustu praktických využití. Za posledního půl roku jsem sám prošel přerodem z člověka, který AI nepoužíval vůbec, na někoho, kdo ji zapojuje do práce téměř každý den. A jedním z nejzajímavějších využití je podle mě – paradoxně – fact-checking.

Jak může AI ověřovat fakta, když jí nelze věřit?

Zní to jako protimluv, ale skutečně to funguje. Nejde o to věřit jejím jednotlivým výstupům, ale spíš využít její schopnost rychle proskenovat obrovské množství textů a zdrojů a z nich poskládat základní přehled. Ten sice nemusí být zcela přesný, ale často stačí k tomu, aby upozornil na nesrovnalosti a odhalil nedůvěryhodný příspěvek.

Příklad z praxe:
Ve veřejné facebookové skupině Ateismus vs. víra se objevil následující příspěvek o údajně nejchytřejším člověku na světě – Korejci jménem YoungHoon Kim:

„YoungHoon Kim, momentálně oficiálně nejchytřejší člověk světa s naměřeným IQ 276, verifikovaným společností Mensa. Je držitelem několika doktorátů, zakladatelem a ředitelem společnosti NeuroStory zabývající se diagnostikou mozku. A především – je praktikující křesťan, který tvrdí, že nejdůležitější věda ke studiu je teologie.“ (Původní příspěvek viz mensa.click/1lj.)

Příspěvek měl navíc jasný podtón: pokud se někdo snaží spojovat víru s nízkou inteligencí, měl by se zamyslet.

AI kontrola faktů

Na takový text lze během několika minut nechat vygenerovat základní fact-checking – a jeden z komentujících právě to udělal s výsledkem v tomto duchu:

  • „IQ 276, ověřené Mensou“ – nepravda.
    Neexistuje žádný důvěryhodný záznam o osobě jménem YoungHoon Kim s oficiálně ověřeným IQ 276. Mensa testy navíc hodnoty nad 160 neměří a seznam „nejchytřejších lidí světa“ nezveřejňuje.
  • „Držitel několika doktorátů a ředitel NeuroStory“ – nedoloženo.
    Společnost s tímto názvem není v odborných databázích dohledatelná a žádné akademické práce tohoto autora neexistují.
  • „Praktikující křesťan, považuje teologii za nejdůležitější vědu“ – nelze ověřit.
    Pokud není existence dané osoby potvrzena, nelze potvrdit ani její názory.
  • „Víra ≠ nízká inteligence“ – pravdivé tvrzení.
    Inteligence a víra se vzájemně nevylučují. Mezi věřícími i nevěřícími jsou lidé všech intelektových úrovní.

Závěr takové analýzy bývá jasný: příběh o YoungHoonu Kimovi je velmi pravděpodobně fiktivní nebo silně zkreslený.

Lidská reakce: méně formální, ale trefnější

Zajímavé je, že jiný člověk ve stejné diskusi napsal komentář, který byl sice méně strukturovaný než výstup AI, ale podle mě měl silnější „příběh“ a kontext. Upozornil například na to, že „Gigasociety“, která údajně IQ měřila, byla založena samotným Kimem a že rekord uznala no-name španělská webová stránka, kam lze za 275 dolarů zapsat téměř cokoliv.
Jinými slovy – i kdyby Kim skutečně byl inteligentní člověk, jeho „světový rekord“ je jen sebepotvrzující marketing.

Komu tedy věřit?

AI komentář vznikne během pár sekund a může vám posloužit jako základní oponentura – ale nesmíte mu bezvýhradně věřit (to ostatně nikomu a ničemu).

AI navíc kopíruje názory, které už někde zazněly – a sociální sítě mají tendenci zvýhodňovat obsah, který potvrzuje status quo. Kritické a nekonvenční názory se naopak do popředí dostávají hůře.

V tomto konkrétním případě jsem já osobně k pochybnostem nepotřeboval AI – něco o IQ testech a stupnicích vím a podezřele působil i možný argumentační faul slaměný panák v závěru – obecně nevěří mv nějakou větší souvislost IQ a konkrétního oboru/skupiny lidí. Příklad jednoho člověka je právě jen to – příklad jednoho člověka. Pokud by ale šlo o oblast, ve které se neorientuji, AI mi může poskytnout rychlý, i když nedokonalý způsob, jak zpochybnit zdánlivě důvěryhodné tvrzení.

Nejsem fanoušek umělé inteligence. Ale i přes její problémy ji používám každý den – prostě proto, že mi šetří čas a pomáhá přemýšlet kriticky.

Zanechat komentář

− 4 = 4
Powered by MathCaptcha

Mohlo by se vám líbit