Odmítnout stroje, co nám lžou

Komentář Margaret Killjoy o zkáze a naději, spojené s kritickým pohledem na umělou inteligenci

Umělá inteligence by mohla zničit civilizaci.

Umělá inteligence by mohla zničit civilizaci, nebo alespoň internet, ale nechci vám dávat falešné naděje.

Na umělé inteligenci je něco, co vyvolává velkolepé, paušální výroky, prohlášení o nové božskosti nebo zkáze. Existují lidé, ti u moci, kteří věří, že stroje na kopírování a vkládání, které sestrojili, brzy dosáhnou božské úrovně, a tito lidé u moci podnikají bezohledné kroky v domnění, že je to pravda. Pak jsou tu lidé jako já, co píšou eseje začínající větami typu „Umělá inteligence by mohla zničit civilizaci“.

Pravděpodobně se mýlím. Ze všech okamžiků, kdy se civilizace otřásala, ze všech okamžiků, kdy se civilizace zachvěla, alespoň v posledních asi tisíci letech, se vždy udržela pohromadě.

Ale mějte se mnou trpělivost, zatímco používám nadsázku, abych zdůraznila pointu.

Moderní společnost je postavena na propojení, globálním obchodu, síťových standardech, komunikaci a naší schopnosti ověřovat určité informace. Je postavena na všeobecném pocitu důvěry. A ten se zdá být ohrožen.

Dnešní dospělí, včetně mě, trpí důvěřivostí. Jsme zvyklí na to, že když zvedneme telefon a uslyšíme hlas naší matky, mluvíme s naší matkou. Jsme zvyklí věřit zprávám, když vidíme jasný záznam událostí. Jistě, triky v temné komoře, Photoshop a CGI existují už nějakou dobu, ale drtivá většina fotografií, které jsme viděli, jsou skutečné zobrazení toho, co bylo před objektivem. Pokud uvidíme jednu fotografii, možná jí nebudeme věřit. Pokud uvidíme fotografie a videa z více úhlů a videozáznamy výpovědí více svědků, uvěříme tomu.

Trpíme důvěřivostí a realita se nám právě teď hroutí právě proto, že jsme tak zvyklí věřit tomu, co vidíme na vlastní oči. Všichni (nebo možná jen já) jsme na sociálních médiích sdílelx vtipná nebo podivná videa, jen abychom se později dozvědělx (abych použila konkrétní příklad), že klokani ve skutečnosti nemohou skákat pozpátku.

Protože máme sklon věřit tomu, co vidíme, snadno se necháme izolovat algoritmy sociálních médií, které nám servírují odlišné vize reality. Jen minulý týden jsem viděla jak video vytvořené umělou inteligencí, na kterém někdo v absurdním kostýmu utíká před ICE, tak i fotku vytvořenou umělou inteligencí, na které vděční obyvatelé města vítají ICE s kávou zdarma a uvítacími cedulemi. Ať už věříte čemukoli, vždy se najde nějaká lahůdka od umělé inteligence, kterou můžete zhltnout.

Toto odcizování reality už bylo problémem a bude se jen zhoršovat, protože falešné obrázky a videa se budou snáze vytvářet a hůře odhalovat. „Mediální gramotnost“ se učí stále hůře. Umělá inteligence se zlepšuje rychleji, než se ji veřejnost učí odhalovat. Toto odcizení reality je problém, kterého si už nějakou dobu všímám a o kterém slyším lidi mluvit. Právě teď je problém to, že máme sklon věřit tomu, co vidíme.

Věřím, že příští generace budou trpět v podstatě opačným problémem.

Dítě narozené dnes nikdy nezažije svět, ve kterém by existoval jakýkoli důvod věřit, že realistické obrázky, videa nebo zvukové záznamy představují realitu nebo že slova, která čte, napsal člověk. Místo toho, aby předpokládaly, že jakýkoli fotorealistický obraz (nebo věrohodně znějící zvuk) je skutečný, dokud se neprokáže opak, budou možná jednoduše předpokládat, že každý obraz a text byl vygenerován monstrózními lživými stroji, které stojí v objektech těsně za hranicemi našich měst a vysávají veškerou naši vodu a energii.

Video použité jako důkaz u soudu bude působit asi stejně věrohodně, jako kdyby se žalobce objevil s prezentací olejomaleb. Nebude žádný důvod věřit, že komentář na fóru napsal člověk, žádný důvod podezírat, že influenceři na YouTube jsou skuteční lidé se skutečnými názory nebo skutečnými informacemi. Hráč v online hře nebude o nic pravděpodobněji člověkem než nečlověkem.

Jedinými ověřitelnými interakcemi budou ty s lidmi, které jsme potkalx osobně nebo které prověřilx přímo lidé, které jsme potkalx osobně.

Pokud se tato kultura nedůvěry stane normou, její důsledky budou ohromující a dalekosáhlé. V podstatě budou jediné ověřitelné zkušenosti ty, které proběhnou tváří v tvář. Důvěru bude možné najít pouze tam, kde si ji člověk zaslouží, a v kultuře ovládané lživými stroji by upřímnost a lidskost mohly být ceněny nade vše.

V kruzích aktivistva tomu říkáme síť důvěry. Sítě důvěry jsou nezbytné, když plánujete přímé akce, které vás vystavují nebezpečí, ale tradičně nebyly nutné, když jste se snažili zjistit, jak zapojit stropní světlo nebo když jste chtěli zjistit, jak probíhá válka proti autoritářství v Myanmaru (nebo Minnesotě).

Internet se zásadně promění. Už to nebude místo, kde se můžete něco naučit, ale jen jakási podivná kolektivní halucinace. Budeme řidiči v mlze dezinformací, naše cesty osvětlují jen slabá světla důvěry.

Existují lidé, kteří pracují na technologiích, jako jsou digitální podpisy – technologiích, které umožňují počítačům vzájemně si důvěřovat. Videokamery by mohly být vybaveny podpisy, které zabrání (nebo zkomplikují) padělání. Jsem však skeptická, zda bude tato technologie trvale spolehlivá, natož pak dostatečně uživatelsky přívětivá, aby se mohla rozšířit natolik, že by zvrátila vlnu dezinformací.

Jsem opatrná vůči komukoli, kdo pronáší velkolepé katastrofické předpovědi, a vy byste měli být opatrní vůči mně. Ale v nejlepším případě, jaký si dokážu představit, se vrátíme zhruba do 18. století, před příchod fotografie. Ačkoli noviny a novináři byli vždy zaujatí (a před 20. stoletím to platilo ještě výrazněji), dříve se dalo alespoň věřit, že ten či onen článek napsal člověk a že vyjadřuje přinejmenším názor autora. Nyní, pokud nevěříte jménu autora, není důvod tomu vůbec věřit.

Ve světě vydávání beletrie se tento kolaps odehrává již několik let. Nikdo se neobtěžuje číst příběhy, které se nikdo neobtěžoval napsat, a beletristické časopisy mají tendenci držet se poměrně přísných zásad zakazujících AI. Tyto zásady se prosazují stále hůře. Největší výhodou, kterou jako autor mám při zasílání příspěvků do těchto časopisů, je to, že lidé vědí, kdo jsem. Mám slušnou reputaci, protože mě nikdo neobvinil z toho, že bych své texty upravovala pomocí AI. Nedokážu si představit, o kolik těžší je dnes prorazit v tomto oboru, a bude to jen horší.

* * *

Důvěra je už sociální měnou. To je důvod, proč nesdílím žádné sbírky, které nebyly osobně prověřeny mnou nebo někým, koho dobře znám a komu důvěřuji. Hodnota důvěry jako sociální měny však bude jen stoupat. Lidé, kteří věří informacím přečeteným na internetu nebo jakýmkoli fotkám či videím, které viděli, budou působit beznadějně naivně.

V méně důvěřivé kultuře, kterou bychom mohlx vybudovat, je však jistá krása. Sci-fi nám už desítky let slibuje dystopii, která se odehrává výhradně online, ve které jsou lidé krmeni břečkou, hltavě ji přijímají a nechávají fyzický svět chátrat. Jsem profesionální optimistka a nemyslím si, že k tomu dojde. Jistě, moje vlastní generace, a dokonce i zoomers se možná nepřizpůsobí, ale mladší lidé pravděpodobně ano.

Jedinou logickou reakcí na internet plný naprostých dezinformací je návrat k osobním interakcím. Živé divadlo a hudba budou o to důležitější. Novinářstvo by mohlo častěji osobně přednášet o tom, co vidělo. Pokud budeme zoufale toužit po influencerech a žhavých komentářích, možná dokonce uvidíme návrat jedné z nejstarších profesí na světě – pouličních řečníků, kteří stojí na rohu ulic a co nejzábavněji hovoří o tom či onom tématu. (Vážně, šokovalo mě, jak univerzální byla tato forma zábavy až do příchodu rozhlasu. Dobrý řečník byl zároveň teoretikem i komikem, schopným zaujmout desítky či stovky lidí). Možná přejdu od podcastů k živému vyprávění. Možná budu šťastnější, i když pravděpodobně chudší.

Možná si budeme víc povídat. Možná si vybudujeme důvěru. Možná vybudujeme komunitu. Možná se naučíme upřednostňovat místní věci. Možná budeme věci vyrábět rukama a mluvit ústy. Pokud mám pronášet utopická prohlášení, řeknu, že se možná naučíme spravovat sami sebe prostřednictvím místních rad, poté tyto místní rady sjednotíme a vybudujeme rovnostářskou společnost zdola nahoru. Možná tuto kulturu nedůvěry rozšíříme tak daleko, že přestaneme věřit kapitalistům a lidem, kteří nám slibují autoritářské alternativy ke kapitalismu.

Možná tento velký reset důvěry povede k její velké obnově. Možná vybudujeme lepší svět, z velké části (ale pravděpodobně ne úplně) offline.

A já si budu muset najít novou práci.

Ale to mi nevadí.

Zdroj:
https://margaretkilljoy.substack.com/p/when-we-walk-away-from-the-lying
(4. února 2026)