Tehnologija se često posmatra kao alat, proizvod nauke i inženjeringa oslobođen društvenih uticaja. Međutim, ona je u svojoj suštini društveni konstrukt, oblikovan istorijskim pristrasnostima, nejednakostima i odnosima moći. Veštačka inteligencija (AI), kao najnoviji i najuticajniji tehnološki razvoj, ne predstavlja izuzetak. Naprotiv, ona uvećava i ubrzava efekte postojećih društvenih struktura. Podaci, na kojima se treniraju AI sistemi, generisani su i odabrani od strane ljudi, a ljudi nisu oslobođeni pristrasnosti. Stoga, proizvodi AI postaju ogledalo društva koje ih stvara, integrisani sa svim njegovim nepravdama i nejednakostima. Pretpostavka da „jedna veličina odgovara svima“ stvara mnogo nevolja, jer zanemaruje činjenicu da su tehnološki sistemi oblikovani istorijskim obrascima moći.
Ponovimo,tehnologija nije univerzalna niti neutralna. Brojni primeri pokazuju kako se pristrasnosti prenose u AI:
- Amazonov AI alat za zapošljavanje favorizovao je muške kandidate jer je treniran na podacima iz muški dominantne IT industrije;
- AI modeli u medicini zanemarivali su simptome kod žena u dijagnostici kardiovaskularnih bolesti;
- Apple Health aplikacija u prvoj verziji nije uključivala menstrualne cikluse;
- Sistemi za prepoznavanje lica grešili su značajno više kod žena nego kod muškaraca (8.1% do 20.6%);
- Veliki jezički modeli (LLMs) u 20% slučajeva davali su mizogine i seksističke odgovore, tendenciozno povezujući žene sa „domom“, „porodicom“, a muškarce sa „biznisom“ i „profitom“.
Jedna analiza pokazala je da 44,2% AI sistema demonstrira rodnu pristrasnost, dok 25,7% pokazuje i rodnu i rasnu pristrasnost.
U kontekstu AI, važno je da se zapitamo sledeće:
- ko odlučuje o nama i u naše ime;
- ko odlučuje šta se meri i beleži;
- ko ima pristup podacima, a ko je isključen;
- kako se podaci koriste da oblikuju politike i odluke?
Na nivou svakodnevice, ova pitanja bi značila:
- ko dobija kredit;
- ko se zapošljava i leči;
- čije se priče i glasovi vide i čuju u javnosti?
Odgovori na ova pitanja otkrivaju da podaci nisu samo tehnički resurs, već sredstvo političke kontrole i moći koja oblikuje našu realnost.
Uprkos rastućem značaju AI, od 138 zemalja, samo 24 pominju rod u nacionalnim AI strategijama, dok svega 18 uključuju rodno-responsivne odredbe (UN Women, 2026). Ovaj podatak ukazuje na ozbiljan rizik da se nejednakost „ugradi“ u buduće sisteme, perpetuirajući diskriminatorne prakse. Poenta je u tome da razumemo da algoritmi moraju biti podložni kritici, reviziji i demokratskoj kontroli, baš kao zakoni ili politike
Feministički pristup AI, podatke tretira kao politički entitet koji oblikuje društvene odluke i insistira na tome da “Ako žene nisu prisutne u podacima one postaju nevidljive i u politikama”.
Suština je u razotkrivanju nejednakosti u načinu prikupljanja i interpretacije podataka, redistribuciji moći kroz inkluzivne prakse i osiguravanju da marginalizovane grupe budu vidljive u datasetima kako bi se tehnologija razvijala na principima društvene pravde i uvažavanja intersekcionalnosti. Drugim rečima, promena koja se traži jeste da se prepoznaju višeslojni oblici nejednakosti, i izbegnu jednodimenzionalne modeli, kako bi se razvili sistemi koji reflektuju kompleksnost društvenih identiteta.
Autorka teksta – Anita Pantelić
