Zdroj: Pexels - Photo by Tara Winstead
To, či má niekto umelú inteligenciu rád alebo ju naopak odmieta, súvisí oveľa viac s psychológiou než s technológiou samotnou. Umelá inteligencia dnes prenikla do každodenného života v takej miere, že ju často ani nevnímame ako niečo výnimočné. Od nástrojov, ktoré píšu e-maily a texty, cez algoritmy odporúčajúce seriály, hudbu či videá, až po systémy pomáhajúce lekárom pri diagnostike ochorení. AI už dávno nie je sci-fi.
Napriek prísľubom vyššej rýchlosti, presnosti a efektivity však u mnohých ľudí vyvoláva nepríjemný pocit. Niektorí ju používajú s nadšením a dôverou, iní sú nervózni, podozrievaví alebo majú pocit, že ich niekto klame. Tento rozpor nevzniká preto, že by ľudia nerozumeli výhodám umelej inteligencie, ale preto, že ľudský mozog je nastavený tak, aby dôveroval najmä tomu, čo dokáže pochopiť.
Tradičné technológie pôsobia predvídateľne, otočíte kľúčom a auto naštartuje, stlačíte tlačidlo a výťah príde. Vidíme jasnú príčinu a dôsledok. Mnohé systémy umelej inteligencie však fungujú ako takzvané čierne skrinky, niečo zadáme a dostaneme výsledok, no proces medzi tým zostáva skrytý.
Psychologicky je to znepokojujúce, pretože máme potrebu rozumieť rozhodnutiam, ktoré sa nás týkajú, a pýtať sa, prečo k nim došlo. Keď túto možnosť nemáme, cítime sa bezmocní. Práve preto vzniká nedôvera, ktorá nemá korene v samotnej technológii, ale v tom, ako ľudia spracúvajú neistotu a stratu kontroly.
Nemáme radi, keď sa umelá inteligencia mýli
Jedným z najvýraznejších dôvodov, prečo ľudia odmietajú umelú inteligenciu, je spôsob, akým reagujeme na jej chyby. Výskumy v oblasti behaviorálnych vied ukazujú, že ľudia majú tendenciu uprednostňovať aj chybné ľudské rozhodnutia pred rozhodnutiami algoritmov, najmä po tom, čo algoritmus urobí čo i len jednu viditeľnú chybu.
Tento jav je známy ako averzia voči algoritmom. Paradoxom je, že racionálne vieme, že ľudia robia chyby neustále, zatiaľ čo algoritmy môžu byť v priemere presnejšie. Napriek tomu však od strojov očakávame dokonalosť. Keď sa človek pomýli, dokážeme to pochopiť, niekedy dokonca odpustiť. Keď sa pomýli algoritmus, najmä ak bol prezentovaný ako objektívny a dátovo podložený, cítime sklamanie až pocit zrady. Súvisí to s porušením očakávaní.
Od strojov očakávame logiku, nestrannosť a konzistentnosť. Keď namiesto toho vidíme nesprávnu klasifikáciu, zaujatý výstup alebo absurdné odporúčanie, reakcia je ostrejšia. K tomu sa pridáva aj sklon pripisovať umelej inteligencii ľudské vlastnosti. Hoci vieme, že nemá emócie ani vlastné úmysly, nevedome jej ich prisudzujeme.
Keď AI odpovedá príliš zdvorilo, môže pôsobiť neprirodzene. Keď odporúčací systém „vie priveľa“, vyvoláva pocit manipulácie. Ide o antropomorfizáciu, prirodzenú ľudskú reakciu, ktorá spôsobuje, že na stroje nereagujeme sociálne, keď vieme, že nie sú živé. A keď potom takýto „takmer ľudský“ systém zlyhá, pocit sklamania je o to silnejší.
Túžba po emocionálnych signáloch
Ďalším dôvodom, prečo je dôvera v umelú inteligenciu krehká, je absencia emocionálnych signálov. Ľudská dôvera sa totiž nebuduje len na racionalite. Sledujeme tón hlasu, výraz tváre, váhanie či očný kontakt. Umelá inteligencia nič z toho nemá. Môže znieť plynulo, dokonca prívetivo, no nedokáže nás uistiť spôsobom, akým to robí iný človek. Tento pocit prázdna pripomína fenomén známy ako „uncanny valley“, keď niečo pôsobí takmer ľudsky, ale nie úplne, a práve preto vyvoláva nepokoj.
V prostredí plnom deepfake videí a algoritmických rozhodnutí sa tento nedostatok emocionálnej spätnej väzby stáva výrazným problémom. Nie preto, že by AI robila niečo zlé, ale preto, že nevieme, ako sa k nej máme správať. Zároveň však platí, že nie každá nedôvera voči umelej inteligencii je iracionálna. Algoritmy preukázateľne odrážajú a niekedy posilňujú zaujatosti, najmä v oblastiach ako nábor, polícia či hodnotenie úverov.
Pre ľudí, ktorí boli dátovými systémami poškodení alebo znevýhodnení, je opatrnosť rozumnou reakciou. Ide o takzvanú naučenú nedôveru, ochranný mechanizmus vznikajúci tam, kde systémy opakovane zlyhávajú. Výzvy typu „dôverujte systému“ preto zvyčajne nefungujú.
Dôvera sa musí vybudovať. Znamená to vytvárať umelú inteligenciu, ktorá je transparentná, vysvetliteľná a zodpovedná, a ktorá dáva používateľom pocit, že majú možnosť klásť otázky. Ak má byť AI skutočne prijatá, musí prestať pôsobiť ako nepreniknuteľná čierna skrinka a začať fungovať ako proces, do ktorého je človek aktívne zapojený.
About the Author
