Hloupneme. A AI to dále zhorší.

Když píšu o negativních stránkách AI, působím trochu jako škarohlíd, který je proti pokroku. Vždyť když se vynalezlo ruchadlo — které půdu nejen rozrušovalo, ale i drolilo a obracelo, a které nevyžadovalo tolik fyzické síly — nikdo také neřešil, že sedlákům ochabnou svaly. Společnost se prý vždy novým technologiím přizpůsobila, katastrofické obavy se nenaplnily a benefity časem jednoznačně převýšily nad případnými negativními dopady. Jenže tyhle historické analogie jsou do velké míry zavádějící. Všechny technologické vynálezy vzdálenější minulosti totiž spadaly do jedné ze tří kategorií:

1. Vynálezy, které člověku ulehčily konkrétní fyzickou práci, naškálovaly jeho fyzické schopnosti a zvedly produktivitu práce.

Sem patří třeba to výše zmíněné ruchadlo. Sedlákům teoreticky mohly ochabnout ramena a bicepsy, ale ten efekt byl mírný, protože sedlák toho zoral daleko více za kratší čas, a ve zbylém čase věnoval úsilí jiným věcem (ve středověku se prací, navzdory četným představám, trávilo výrazně méně času než dnes, takže sedlák pak o to více připravoval jídlo na různé oslavy, opravoval chalupu nebo prostě klábosil s přáteli). Nemluvě o tom, že se pak méně sedláků při těžké práci zranilo, neumírali tak brzo a nelehali si do rakve tak opotřebovaní. Do této kategorie patří i električtí pomocníci v domácnosti (mixéry, pračky, vrtačky), osobní automobily a letadla, nebo třeba jeřáby.

2. Vynálezy, které člověku výrazně navýšily kognitivní schopnosti za cenu negativních dopadů do schopností fyzických (minimálně na část populace).

Sem patří vynález písma či knihtisku. S vynálezem písma určitě narostl počet písařů, kteří trávili dlouhé hodiny škrábáním na pergamen za mdlého svitu čadící svíce, a kteří si tak ničili zrak a přetěžovali krční páteř. Ale ten benefit pro celé lidstvo byl obrovský.

3. Vynálezy, které člověku zjednodušily dílčí kognitivní úkony, přičemž jeho kognitivní schopnosti jako celek, ani schopnosti fyzické, příliš neovlivnily.

Sem patří vynález logaritmického pravítka, kalkulátorů a osobních počítačů. Lidem se asi po těchto vynálezech scvrkly části mozku zodpovědné za manuální výpočty, ale na jejich celkovou kognitivní kondici to nemělo vliv; spíše, myslím si, platilo, že se jim uvolnila kapacita na koncepční a systémové myšlení.

Podtrženo, sečteno: vynálezy minulosti neovlivňovaly naše kognitivní schopnosti, a tedy i naši schopnost vymýšlet nové věci, nebo je ovlivňovaly zřetelně pozitivním směrem.

Ale už třeba televize do žádné z těchto kategorií nespadá. U lidí nad 50 let, kteří sledují televizi 3,5h denně a více, upadá verbální paměť. Dlouhodobé sledování televize má negativní dopad na mnohé části mozku, a je spojováno s vyšším rizikem demence ve stáří. Už jen 1,5 hodiny sledování TV denně, pokud trvá mnoho let, vede ke zmenšení objemu mozku o 5%. Tento efekt nelze kompenzovat fyzickou aktivitou, která jinak kognitivní úpadek spojený se stárnutím zpomaluje.

Podobně je to s internetem. Vyhledávácí nástroje, které umožňují dohledat jakoukoliv informaci kdykoliv a odkudkoliv (a které se masivně rozšířily společně s mobilními telefony), mají měřitelný negativní dopad na naši paměť; vžil se pro to termín „Google efekt“. Google efekt nelze brát na lehkou váhu, protože paměť je důležitou součástí IQ. Informace, které nemáme v paměti, nemůžeme kreativně propojovat. Nejsme schopni vidět analogie, protože ty jsou pamětí přímo podmíněny. Naše schopnost vypořádat se skrze myšlení s novými situacemi — což je definice inteligence — tak klesá. Ale ten dopad má ještě další, jemněji nuancované aspekty. Když si lidé něco najdou odpověď na nějaký problém na internetu, pamatují si překvapivě spíše kde onu odpověď našli, než esenci odpovědi samotné. Lidé častěji používající Google jsou také kognitivně sebevědomější, tzn. mají pocit, že toho vědí více a jsou si svými vědomostmi jistější, což je ovšem jen Dunning-Krugerův efekt. Masivní používání internetu dále snižuje schopnost číst delší texty a přemýšlet o nich. I po krátkém pobytu na internetu (např. 15min online nakupování) klesá soustředěnost na značnou dobu. Těch negativních dopadů internetu je celá řada, viz např. zde.

Internet v kombinaci s mobily ale také zpřístupnil lidem mnoho informací dříve nedostupných, takže jeho dopad na kognitivní schopnosti lidstva jako celku bude, pravděpodobně, neutrální.

To už ale neplatí o sociálních sítích. Sociální sítě prokazatelně zkracují attention span (schopnost soustředit se na něco po delší dobu), činí lidi roztěkanými a jsou návykové. Zejména mladým snižují sebevědomí (protože posilují srovnávání se s naleštěnými „personami“ druhých), zvyšují jejich úzkost (mimo jiné díky obavám, že jim něco důležitého uteče, tzv. FOMO), mění metabolismus dopaminu v mozku, a snižují kvalitu spánku. Ty dopady zejména na mozky a psychiku mladých jsou tak ničivé, že např. Austrálie nedávno přistoupila k zákazu sociálních sítí pro všechny pod 16 let. Čína už několik let reguluje mladým lidem pod 18 TikTok.

V obecném povědomí tato rizika moderních technologií zatím příliš nerezonují. Ale situace je bez pochyb vážná. Podle některých zdrojů IQ lidstva jako celku — a tedy i naše schopnost kreativně řešit problémy pomocí vědy a techniky — klesá už cca 200 let, od velkých průmyslových revolucí. Ve 20. století byl tento dlouhodobý trend zastíněn tzv. Flynnovým efektem, takže to nikdo moc neřešil. Výsledky IQ testů se zlepšovaly, což podporovalo obecně optimistický náhled na budoucnost a důvěru ve vědu a technologický pokrok. Jenže pak podrobnější analýzy ukázaly, že zatímco les se zdánlivě zelenal, některé stromy už začínaly usychat. Dnes už se ví, že (i) zlepšení kognitivních schopností během 20. století bylo částečně iluzorní, neboť souviselo se změnami IQ testů směrem k vyššímu důrazu na kategorizaci, (ii) zlepšení se týkalo lidí snbsp;podprůměrnou inteligencí a velmi pravděpodobně souviselo s lepším stravováním se chudých a celkovým růstem životní úrovně, (iii) zlepšení se týkalo jen těch částí IQ testů, které nejsou dědičné a mají nižší korelaci s tzv. obecným g faktorem (tzn. netýkají se inteligence jako takové).

Někdy v 80. letech minulého století se Flynnův efekt vyčerpal. Skóre nejlepších uchazečů o studium na amerických univerzitách v tzv. SAT testech (SAT testy jsou dobrým měřítkem obecné inteligence) začala stagnovat nebo dokonce klesat. Podobně tomu bylo v jiných zemích. Od počátku 21. století je kognitivní úpadek již nesporný, a to napříč mnoha zeměmi. Mluví se o tzv. obráceném Flynnově efektu. Rychlost, s jakou IQ klesá, se odhaduje na 2-5 bodů za dekádu. Jen pro představu, když průměrné IQ poklesne o 3 body, zmenší se počet lidí s IQ rovným či vyšším 140, skoro 2x. Takže máme 2x méně špičkových vědců, právníků, politiků, lékařů aj.

Od počátku 21. století je kognitivní úpadek již nesporný, a to napříč mnoha zeměmi. Rychlost, s jakou IQ klesá, se odhaduje na 2-5 bodů za dekádu.

Příčiny dramatického poklesu IQ se stále zkoumají, ale spekuluje se o dlouhém čase tráveném online, úpadku čtení knih, zhoršující se kvalitě stravy díky vysoce procesovaným potravinám a dysgenickém efektu (tedy tomu, že hloupější část populace má více dětí, zatímco ti chytřejší zůstávají čím dál častěji bezdětní; dále hraje roli, aspoň v některých zemích, efekt „ředění populace“ nevzdělanými migranty). Klesat začaly i počty vynálezů a patentů, a to napříč vědeckými disciplínami. A ten pokles nekončí.

Lidstvo tedy už pár desetiletí vesele frčí dolů po skluzavce směrem k budoucnosti lidí hloupých, zato neustále přilepených k mobilu. A na scénu přichází AI.

Co víme o dopadech AI na lidský mozek a kognitivní schopnosti? Zatím nic moc. Ví se, že lidé více spoléhající na AI myslí méně kriticky. Očekává se zhoršení schopností řešit problémy (problem-solving skills) a vyšší uniformita v myšlení obecně. Ovšem to jsme stále na začátku. LLM—velké jazykové modely typu ChatGPT—se zlepšují každým uplynulým měsícem. Je pravda, že jejich systémové nasazení do korporací pokulhává za očekáváními, ale použití v osobní sféře, v kreativních odvětvích, ale třeba i v HR, narůstá masivně.

Lidé tak poprvé v historii čelí situaci, kdy nějaká technologie, kterou stvořili, dokáže přímo nahrazovat jejich kognitivní a kreativní schopnosti, jako je sumarizování a psaní textu, nebo schopnost umělecky se vyjadřovat. Je nemožné, aby to nemělo dalekosáhlé negativní dopady na lidský mozek i intelekt. A tedy na naši schopnost táhnout káru pokroku dál.

O přesné podobě těchto dopadů se budou úzce zaměření experti přít ještě dalších 20 let. Ale to už může být — minimálně pro generaci současných dětí a teenagerů — pozdě. Osobně si myslím, že bychom s tím měli něco dělat. Pokud bychom si měli vzít ponaučení z mobilů a sociálních sítí, pak by vhodným obecným doporučením mohlo být izolovat od AI v maximální možné míře děti do 12-16 let, a restrukturovat vyučování tak, aby posílilo prvky pomalého učení a rozvoj meta-kognice bez využití digitálních technologií. Současný trend je však spíše opačný…