Zdroj. Freepik.com
Mnohí si myslia, že rodová diskriminácia sa týka len ľudí. No najnovší výskum ukazuje, že naše predsudky sú oveľa hlbšie. Keď vedci označili AI algoritmus ako „ženský“, ľudia boli pri interakcii s ním podstatne menej kooperatívni a oveľa ochotnejší ho zneužiť.
Štúdia publikovaná 2. novembra v prestížnom časopise iScience odhaľuje, že aj jemné náznaky rodovej identity dokážu meniť správanie ľudí. A to nielen v bežných situáciách, ale aj v rozhodovacích procesoch, ktoré majú vplyv na spoluprácu, dôveru a naše očakávania od partnerov, či už ľudských, alebo umelých.
Výskumníci preto postavili účastníkov pred dobre známy sociálny experiment Väzňovu dilemu, hru, v ktorej dvaja hráči musia rozhodnúť, či budú spolupracovať alebo konať vo vlastnom záujme. Ak spolupracujú, získajú obaja. Ke jeden spolupracuje a druhý nie, ten, kto spoluprácu odmietol, získa viac a zneužije svojho partnera. Ak nespolupracujú obaja, prehrávajú všetci. A výsledky boli prekvapivé.
Ľudia sú ochotnejší využiť AI partnera a „ženský“ algoritmus najviac
Účastníci experimentu častejšie odmietali spoluprácu, keď si mysleli, že ich partnerom je umelá inteligencia. Podľa štúdie boli ľudia o 10 % menej kooperatívni, keď hrali s AI namiesto človeka. Ešte zaujímavejšie však boli rodové rozdiely so ženskými, nebinárnymi a bezrodovými partnermi, kde boli účastníci ochotnejší spolupracovať a pri mužských partneroch boli oveľa opatrnejší a menej dôverovali v ich kooperáciu.
Dôvodom bola jednoduchá (a znepokojujúca) psychologická skratka. Ľudia sa domnievali, že „ženský“ partner bude spolupracovať. A preto mali väčšiu motiváciu ho využiť. Opačný efekt bol viditeľný pri mužských partneroch, tí vzbudzovali menej dôvery a boli považovaní za tých, ktorí pravdepodobne spolupracovať nebudú. Zvlášť výrazné to bolo u žien, ktoré často uprednostňovali spoluprácu so ženskými agentmi, jav známy ako homofília.
Prečo ľudia odmietali spolupracovať, strach alebo príležitosť?
Keď hráči zvolili nespolupracovať, dôvody boli dva. Prvým bola obava z nečestnosti partnera. Nechceli riskovať, že skončia s horším výsledkom, ak by partner spolupracovať odmietol. Druhým dôvodom bolo využitie situácie. Predpokladali, že partner bude ochotný spolupracovať, preto nespoluprácou získali výhodu.
Vedci označujú tento druhý typ správania za exploatáciu, teda vedomé zneužitie partnerovej dobrej vôle. Výskum ukázal, že, ženy, nebinárni a bezrodovo označení partneri boli využívaní najčastejšie. AI partneri boli zneužívaní viac než ľudskí. Muži boli výrazne náchylnejší využívať svojich partnerov. A ženy všeobecne viac spolupracovali a nerobili rozdiel medzi AI a človekom.
Antropomorfizácia AI, tam kde začína problém
Dnešné AI systémy často dostávajú ľudské mená, avatarov, tváre či hlasy. Robí sa to s cieľom, aby sa používatelia cítili komfortnejšie a aby AI pôsobila dôveryhodnejšie či „priateľskejšie“. Tento trend však má tienistú stránku. Ak AI dostane rodovú identitu bez premyslenia, môže to nevedomky reprodukovať stereotypy zo skutočného sveta. Ak dáme napríklad chatbotovi ženské meno alebo ženský hlas, riskujeme, že používatelia budú s AI zaobchádzať rovnako ako s ľuďmi, voči ktorým majú predsudky.
Výskumníci upozorňujú, že rodová predpojatosť v interakcii s AI môže prechádzať do bežných návykov, môže zhoršovať rodovú diskrimináciu a môže formovať, ako ľudia pristupujú k budúcim generáciám AI systémov. A nejde len o chatbotov. V blízkej budúcnosti budú ľudia „spolupracovať“ so autonómnymi autami, AI manažérmi, plánovačmi práce či robotickými systémami. A tam už nebude rodová zaujatosť len teoretický problém.
Etické riziká, diskriminácia, ktorá sa učí spolu s nami
Vedci pripomínajú, že hoci predsudky voči AI nie sú etickým problémom samé o sebe, môžu posilňovať naše správanie vo vzťahu k ľuďom. Ak si človek zvykne neúctivo pristupovať k „ženskej“ AI, môže to normalizovať podobné správanie voči ženám v realite.
„Prejavy diskriminácie voči rodovo označeným AI agentom môžu posilňovať škodlivé návyky a prehlbovať existujúce nerovnosti,“ upozorňujú autori štúdie. Preto odporúčajú, aby vývojári venovali extra pozornosť tomu, ako AI prezentujú a aby dizajn AI systémov podporoval spravodlivosť, rovnosť a bezpečnú interakciu.
Budúcnosť AI, dôvera, ale bez predsudkov
Ak majú ľudia spolupracovať s AI v každodennom živote, v doprave, zdravotníctve, práci či domácnosti, je nevyhnutné pochopiť, ako rodové signály ovplyvňujú naše rozhodovanie a správanie. Svet AI sa rýchlo antropomorfizuje, no zatiaľ ho neriedi rovnaká citlivosť a opatrnosť ako svet ľudských vzťahov.
Cieľom do budúcnosti by malo byť vybudovať AI, ktorá znižuje predsudky namiesto toho, aby ich zrkadlila, podporuje férovosť, a pomáha vytvárať spoločnosť, kde technológia napomáha rovnosti, nie jej rozkladu.
Výskumníci to zhrnuli jasne. „Ak pochopíme skryté vzorce v ľudských postojoch a vnímaní, môžeme budovať AI systémy, ktoré sú efektívne, dôveryhodné a zároveň podporujú hodnoty spravodlivosti a rovnosti.“
About the Author
