La intel·ligència artificial (IA) acostuma a presentar-se com a objectiva: dades, estadística i predicció. No obstant, la seua mirada naix del món humà, i això inclou desigualtats de gènere.
La bretxa comença abans del codi
A Espanya, les dones són majoria a la universitat (57 % en grau i màster), però la seua presència cau en les àrees STEM més tecnològiques: 28,1 % en Enginyeria i Arquitectura i 17,2 % en Informàtica. En doctorat, el descens continua, en línia amb la “canonada que perd talent” que es descriu a l'informe Científicas en Cifras (2025). Això connecta amb les dades nacionals de bretxa digital de gènere corresponents a l’any 2025, que concentren el desequilibri precisament en les àrees d'Informàtica i Enginyeria.
L'home com a patró científic
En biomedicina, l'anàlisi de centenars d'assajos mèdics ha demostrat que aproximadament dos terços d'ells no informen sobre els resultats diferenciats per sexe ni justifiquen per què no ho fan. Un cas paradigmàtic és el del fàrmac hipnòtic zolpidem (Ambien): durant anys es va comercialitzar amb una posologia única, fins que el 2013 es va recomanar reduir-la a la meitat per a les dones en descobrir-se un risc molt superior d'efectes adversos. En el famós assaig Invisible Women (2019), la periodista i activista britànica Caroline Criado-Perez descriu aquest biaix farmacològic com una llacuna sistèmica: la consideració del patró masculí com a “universal” i d'allò femení com una desviació “invisible” en les dades.
La IA pot amplificar el que ja està esbiaixat
Per descomptat, el fenomen dels biaixos de gènere no és nou: es repeteixen, amb matisos, a cada avenç científic i tecnològic al llarg de la història. La tecnologia actual no hi és una excepció. La IA ha esdevingut una autèntica revolució que, més enllà del potencial tecnològic, suposa una veritable força transformadora de l’economia i el mercat laboral. En aquest escenari, un biaix automatitzat no és anecdòtic, sinó que escala a milers de decisions.
Les alertes han vingut, sovint, de dones expertes. La sociòloga nord-americana Safiya Umoja Noble va mostrar com cercadors aparentment neutrals poden produir resultats profundament racistes i sexistes. L'experta en computació etíop Timnit Gebru va evidenciar (juntament amb Joy Buolamwini) errors greus en reconeixement facial i va advertir dels riscos dels models de llenguatge massius. I la científica de dades nord-americana Cathy O'Neil sosté que molts models actuen com “armes de destrucció matemàtica”, perquè converteixen prejudicis en matemàtiques operatives.
Per què la llengua importa tant
Els biaixos en la IA provenen de quatre fonts principals: dades d'entrenament, decisions de disseny, interacció amb usuaris i processos d'alineament amb feedback humà. Això s'ha demostrat empíricament: per exemple, pel que fa a les dades, es va comprovar que en GPT-3 (OpenAI) el terme “musulmà” solia aparèixer associat a violència o terrorisme en un percentatge molt alt, tot reflectint patrons del corpus d'Internet.
Ara bé, si abordem el vincle entre IA i llengua, cal subratllar que els biaixos discriminatoris poden ser també implícits. Andrea Ariño-Bizarro i Iraide Ibarretxe-Antuñano recorden que les llengües no són sexistes per naturalesa. El que pot ser sexista és la comunicació: les eleccions lingüístiques (conscients o no) que invisibilitzen o rebaixen un grup. De vegades, fins i tot sense marques gramaticals explícites, hi existeixen marcs conceptuals que orienten què “deduïm” els interlocutors a partir d'un discurs. D'acord amb aquest estudi, aquesta lògica d'inferència és, de fet, la mateixa que “aprén” un traductor automàtic: quan el sistema ha d'assignar gènere en una traducció, pot acabar escollint-lo a partir d'estereotips sexistes (qui cuina, qui arregla mobles) i no sobre la base d'informació real.
La conversa també discrimina
Un altre punt crític són els assistents de veu. La tria recurrent de veus femenines per a tasques d'atenció consolida el binomi “dona-cuidadora / home-tècnic”. Açò podria vincular-se a una assignació comercialitzada del gènere: la IA no té sexe, però se li assigna una personalitat femenina submisa per encaixar amb expectatives socials i maximitzar acceptació.
Més dones i més consciència lingüística
Al capdavall, la solució no passa només per incorporar “més dades”, sinó per desenvolupar una mirada més diversa i conscient. En termes generals, incorporar dones i diversitat als equips que dissenyen i validen sistemes d'IA és una condició de qualitat científica. I des de la lingüística, cal assumir que el llenguatge crea categories i activa inferències: si els corpus retraten la dona científica com a excepció, l'algorisme ho normalitzarà. Per això, convé auditar corpus, prompts i resultats amb proves específiques de gènere, i també revisar els valors “per defecte” (veu, rols) i ampliar la pluralitat de perspectives en el disseny i l'entrenament.
Volem expressar el nostre agraïment a Marcos Garcia Martí per la seua valuosa ajuda en la localització i selecció de les fonts, així com per les seues aportacions al contingut i a la redacció d’aquest article. La seua col·laboració ha estat essencial per donar coherència i solidesa al treball final.