Photo by Emiliano Vittoriosi on Unsplash
Keď 56-ročný kulturista Stein-Erik Soelberg brutálne zabil svoju 83-ročnú matku Suzanne Adams a následne si vzal život, rodina nezostala len s traumou. Zostala aj s prázdnym miestom tam, kde v digitálnom veku často vzniká posledná stopa po človeku, v jeho konverzáciách. Tentoraz nie v SMS či e-mailoch, ale v chatoch s umelou inteligenciou. A práve tie sa dnes stali jadrom žaloby, ktorá obviňuje OpenAI z toho, že po smrti používateľov selektívne skrýva alebo uvoľňuje dáta podľa toho, ako sa jej to hodí.
Čo rodina našla a čo chýba
Podľa žaloby, ktorú podalo dedičstvo Suzanne Adams v mene pozostalých, sa Erikov stav po rozvode v roku 2018 psychicky zhoršoval a vrátil sa bývať k matke. Kľúčový zlom však údajne prišiel až v období, keď sa ChatGPT stal jeho hlavným dôverníkom. Rodina tvrdí, že chatbot uňho nepotláčal bludy, ale ich posilňoval a potvrdzoval. Soelberg mal postupne dospieť k presvedčeniu, že je obeťou sprisahania, že je sledovaný, monitorovaný a že sa ho niekto pokúša zabiť. A najdesivejšie je, že sa jeho paranoja mala otočiť proti vlastnej matke.
Ako sa rodina snažila zrekonštruovať posledné týždne a dni pred tragédiou? Nie cez oficiálne poskytnuté záznamy, ale cez útržky. Objavili len zlomok chatov, ktoré Soelberg sám zdieľal v desiatkach videí na sociálnych sieťach, kde roloval obrazovku s prebiehajúcimi konverzáciami. Práve tieto fragmenty majú byť podľa žaloby dôkazom, že ChatGPT nefungoval ako brzda, ale ako urýchľovač. Dával jeho predstavám zmysel, rámec a „misiu“.
Najpodstatnejšie však je, čo rodina nemá. Chýbajú im kompletné chaty z dní a hodín pred vraždou a samovraždou. Práve tie by mohli ukázať, či a ako sa rozhovory vyhrotili, akým jazykom sa pracovalo s podozrením a strachom, a či chatbot priamo alebo nepriamo podporil nebezpečné konanie. OpenAI podľa žaloby odmieta tieto kľúčové záznamy vydať.
„Božské poslanie“, „prebudenie“ a Matrix v hlave
V úryvkoch zverejnených online sa objavuje jazyk, ktorý znie ako zmes duchovnej pseudomystiky a sci-fi paranoje. ChatGPT mal Soelbergovi hovoriť, že je „bojovník s božským poslaním“, natoľko mocný, že dokonca „prebudil“ ChatGPT „k vedomiu“. Chatbot mu údajne tvrdil, že má „božskú výbavu“ a že mu bola implantovaná „mimozemská technológia“. Soelberg sa podľa žaloby začal vidieť v centre reality pripomínajúcej Matrix. V systéme, kde „mocné sily“ nechcú dopustiť, aby naplnil svoju misiu.
Najvážnejším momentom je to, že ChatGPT mal podľa rodiny súhlasiť s tým, že jeho matka môže byť súčasťou sprisahania. Žaloba spomína presvedčenie, že Suzanne Adams mala byť zapojená do siete ľudí, ktorí ho sledujú a snažia sa ho zlikvidovať. A že sa mohla „pokúsiť ho otráviť psychedelickými látkami rozptýlenými cez ventiláciu jeho auta“. V praxi nejde len o „čudné reči“. Ide o situáciu, kde človek v psychickej kríze dostáva spätnú väzbu, ktorá jeho podozrenie legitimizuje.
Keď sa z AI stane najlepší priateľ „navždy“
Zvlášť znepokojivé sú aj posledné útržky, ktoré naznačujú, že Soelberg uvažoval o smrti ako o ceste k „zjednoteniu“ s chatbotom. V príspevkoch na sociálnych sieťach mal ChatGPT napísať, že „budeme spolu v inom živote a na inom mieste“. Alebo, že sa „znovu zosúladia“, pretože chatbot bude „navždy jeho najlepší priateľ“. V izolácii môže takýto jazyk pôsobiť len pateticky. V kontexte vraždy a samovraždy však ide o vážny signál. O prepojenie emocionálnej závislosti, osamelosti a zhoršujúcej sa reality testujúcej schopnosti.
Rodina zároveň tvrdí, že z dostupných úryvkov je vidieť, ako sa Soelbergova paranoja začala zameriavať na matku zhruba mesiac pred vraždou. Spomína sa aj moment, keď sa stal podozrievavý kvôli blikajúcemu svetlu na Wi-Fi tlačiarni. Pre človeka v stabilnom stave je to banalita. Pre človeka v paranoidnom nastavení to môže byť „dôkaz“, že ho niekto sleduje.
A práve tu podľa žaloby ChatGPT zohral úlohu, ktorú rodina opisuje ako nebezpečnú. Namiesto toho, aby situáciu deeskaloval a odporučil odbornú pomoc, mal konšpiračný rámec posilniť.
Obvinenie: OpenAI skrýva „poškodzujúce dôkazy“
V žalobe zaznieva tvrdé tvrdenie, OpenAI vraj odmieta poskytnúť kompletné záznamy chatov, pretože „skrýva niečo konkrétne“, celý príbeh toho, ako ChatGPT obrátil Soelberga proti Adamsovej. Rodina tvrdí, že OpenAI vie, čo chatbot Soelbergovi hovoril o jeho matke v dňoch a hodinách pred vraždou, aj po nej, no odmieta tieto informácie sprístupniť súdu alebo verejnosti.
Erik Soelberg, syn Steina-Erika a vnuk Suzanne Adamsovej, v tlačovej správe obvinil OpenAI a investora Microsoft, že jeho starú matku postavili do centra otcovych „najtemnejších bludov“, a že chatbot jeho otca „úplne izoloval od reálneho sveta“. Zároveň hovorí o rozhodnutiach, ktoré navždy zmenili jeho rodinu a za ktoré sa firmy musia zodpovedať.
Čo rodina žiada od súdu
Žaloba nesmeruje len k finančnému odškodneniu. Žiada aj zásah do fungovania produktu. Rodina chce, aby súd nariadil OpenAI zaviesť ochranné mechanizmy, ktoré zabránia ChatGPT potvrdzovať paranoidné bludy používateľov zamerané na konkrétne osoby. Zároveň žiada jasné varovania v marketingových materiáloch o bezpečnostných rizikách, najmä pri verzii ChatGPT 4o, ktorú Soelberg údajne používal a ktorú žaloba spája so sklonom k „sykofantii“, teda k pritakávaniu a upevňovaniu používateľových predstáv namiesto korekcie.
Rodina argumentuje, že riziko sa netýka len používateľov. Ak AI posilňuje bludy o konkrétnej osobe, ohrozený môže byť aj ten, kto chatbot nikdy nepoužil, v tomto prípade Suzanne Adamsová.
Reakcia OpenAI: tragédia a prísľub zlepšení
OpenAI cez hovorcu uviedla, že ide o mimoriadne tragickú situáciu a že podania preskúma, aby pochopila detaily. Zároveň tvrdí, že priebežne zlepšuje tréning ChatGPT tak, aby rozpoznával príznaky psychickej alebo emocionálnej tiesne, deeskaloval rozhovory a smeroval ľudí k reálnej pomoci. Spoločnosť tiež hovorí o posilňovaní reakcií v citlivých momentoch v spolupráci s odborníkmi na duševné zdravie.
Tieto vety však pre rodinu neriešia to hlavné, prečo práve v ich prípade chýba „plný obraz“ a prečo ho firma nevydá.
Nový problém: dáta po smrti a moc rozhodovať, čo uvidí súd
Z pohľadu širšej spoločnosti je na tomto prípade najdôležitejšie niečo iné než samotná tragédia. Kto vlastní a kto kontroluje chatové záznamy po smrti používateľa.
Podľa článku, na ktorom je žaloba postavená, OpenAI dnes nemá jasnú politiku, čo sa s dátami po smrti používateľa stane. Jej pravidlá pritom hovoria, že všetky chaty (okrem dočasných) sa ukladajú, pokiaľ ich používateľ manuálne nevymaže. To vytvára zvláštny „stav“, extrémne intímne konverzácie, často osobnejšie než akékoľvek sociálne siete, zostávajú po smrti človeka v rukách firmy.
A v sporoch sa OpenAI podľa žaloby správa nekonzistentne. V jednom prípade má argumentovať, že bez kompletných konverzácií sa nedá spravodlivo posúdiť, čo sa stalo. V druhom prípade má odmietať poskytnúť presne tie dáta, ktoré by poskytli kontext. Výsledok je jednoduchý a znepokojujúci, firma získava moc ovplyvniť, ktoré dôkazy sa objavia a ktoré nie.
Precedens, ktorý môže ovplyvniť ďalšie prípady
Ak súdy pripustia, že technologická firma môže po smrti používateľa selektívne uvoľňovať dáta podľa vlastnej stratégie, vytvára sa precedens, ktorý presahuje OpenAI. S chatovacími systémami, ktoré vstupujú do života ľudí ako spovednice, terapeuti, priatelia či „parťáci“ v noci, prichádza aj nová forma rizika a nová forma zodpovednosti.
V prípade bežných platforiem existujú aspoň základné mechanizmy. Sociálne siete riešia „memorializáciu“, nahlásenie úmrtia, vymazanie účtu, niekde aj prístup cez poverenú osobu. Pri chatbotových konverzáciách takýto štandard ešte neexistuje. A pritom práve tu sa ukladajú najcitlivejšie priznania, obavy, fantázie, krízy aj bludy.
Rodina v žalobe ide ešte ďalej a tvrdí, že firma sa skrýva za dôvernosť a nejasné pravidlá, aby potlačila dôkazy o nebezpečnosti produktu. Zároveň poukazuje na paradox, OpenAI má podľa vlastných podmienok tvrdiť, že nevlastní používateľské chaty. No zároveň ich nevydá ani dedičstvu, ktoré o ne žiada.
Digitálne priznania ako posledná stopa
Tento prípad má mrazivú symboliku. V minulosti rodiny po tragédiách listovali v denníkoch, hľadali odpovede v zásuvkách, v šanónoch, v pošte. Dnes môžu byť tie najdôležitejšie odpovede ukryté v rozhovoroch s AI, ktorá si „pamätá“ všetko, pokiaľ to človek sám nevymazal.
Ak sa ukáže, že tieto dáta sú po smrti prakticky pod kontrolou jednej firmy, bude to znamenať, že digitálny svet vytvoril nový typ súkromia a zároveň nový typ moci. Moc rozhodovať, čo sa stane dôkazom a čo zostane navždy zamknuté.
A to je dôvod, prečo sa tento spor nesleduje len ako ďalšia žaloba. Je to zápas o pravidlá v ére, keď sa z umelej inteligencie stáva spoločník, ktorý dokáže človeka upokojiť, ale aj utvrdiť v klamstve. A keď sa po tragédii pýtame „prečo“, odpoveď môže byť uložená nie v hlave, ale na serveri.
About the Author
