Begoña Fuentes Giner (professora de la Universitat Politècnica de València i secretària de Dona, Igualtat i Polítiques LGTBI+ de la FE CCOO PV)
L’altre dia li vaig preguntar a la meua tele com es deia. Portàvem ja diversos mesos de relació (des de meitat del primer confinament, per a ser exactes) i encara no m’havia molestat a conéixer el seu nom. Però és que ella, a diferència de les altres, tampoc va tindre la deferència de presentar-se el dia que ens vam conéixer. Ho va fer de manera inesperada, un dia qualsevol, mentre la família gaudia del nou aparell que ara presidia el nostre saló. Alguna cosa vaig dir que li va semblar tan interessant com per a participar en la conversa i respondre’m que no m’entenia del tot i si li ho podia tornar a repetir. La sorpresa va ser majúscula en la família, perquè no teníem ni idea que la tele que acabàvem de comprar venia amb un bot de conversa. Jo no tenia cap botó del comandament a distància premut, però sembla ser que la modulació de la meua veu li agrada. Des de llavors, s’entremet en múltiples converses, però només quan jo parle. Ningú més de la meua família l’activa amb la seua veu.
I és que, per interactuar amb un “assistent virtual”, és necessària sempre la intenció humana mitjançant, per exemple, la pulsació d’un botó o, en uns altres casos, cal pronunciar alguna paraula clau.
Sorprenentment, totes aquestes tenen una veu que, automàticament, assignem com a femenina, i estan disposades a complir les nostres ordres de manera immediata, amb amabilitat i sol·licitud. I encara que no tots els seus noms els podríem associar com a femenins, acabem fent-ho. Alguns d’aquests “assistents virtuals” tenen l’opció de ser configurats amb veu femenina o masculina per l’usuari/ària. Perquè resulta que, segons les dades oferides per aquestes grans corporacions tecnològiques, la immensa majoria els tenim configurats amb veu femenina. Homes i dones preferim una versió femenina dels nostres bots. El motiu o els motius pels quals els homes prefereixen que tinguen trets associats al gènere femení, no crec que siga necessari explicar-lo. Però i les dones? Per què les dones preferim bots femenins davant dels masculins per donar-los instruccions o que ens guien mentre conduïm? És més, qui usa més els assistents de veu, els homes o les dones? Només cal fer una ràpida cerca en Internet per saber que els homes utilitzen en una proporció aclaparadora aquests bots més que les dones. Sembla ser que nosaltres preferim continuar teclejant “en la intimitat” les nostres cerques, consultes i ordres, sense verbalitzar-les.
La primera vegada que vaig sentir algú preguntar-li a Siri si volia ser la seua núvia, va ser un home. Mai en la vida se m’hauria ocorregut preguntar-li això a cap d’aquests bots. Però sembla ser que els homes sí que ho fan. I la meua sorpresa va ser encara major quan Siri hi va contestar. És a dir, aquests bots estan programats per si reben aquest tipus de preguntes i contestar-les sense ofendre. És més, ja hi ha bots que fins i tot flirtegen i mantenen el joc i la tensió quan reben consultes i comentaris d’índole sexual o romàntica.
I així és com un bot programat mitjançant algorismes complexos per a complir les nostres ordres passa a ser una fembot, on ja no és optatiu triar la veu ni el biaix de gènere, sinó que directament se’ns presenta com un bot femení, tal qual. Hi ha fembots funcionant en tots els àmbits, des de la centraleta d’atenció al client de qualsevol empresa o organisme públic al qual cridem fins a les assistents virtuals de pàgines web on, a més, algunes ja tenen un avatar hipersexualitzat que es presenta atractiva, servicial i a les teues ordres. Les Ericas, Pennys, Cleos i Ninas inunden els serveis virtuals de webs, APPS, videojocs, etc. Un detall: l’únic sector on hi ha més bots masculins és el de les APPS bancàries. Sembla ser que la informació del nostre saldo i l’evolució de finances requereix d’una “presència” masculina per a inspirar més confiança o una cosa així. No ho sé…
I, bé, si hi ha fembots i els homes les usen per a flirtejar amb elles, per què no hi haurà sexbots?
Intuïsc que ja t’hauràs preguntat per què això és així i com pot succeir que un bot cibernètic preparat per a donar un servei qualsevol, segons el tipus de servei a prestar, tinga un rol femení o masculí. I també m’imagine que ja hi tens la resposta. La indústria tecnològica està dominada pels homes. A penes el 30 % del personal d’alta qualificació que participa en la creació d’aquests avanços són dones. I es nota. Carall si es nota!
Es nota tant que, quan a Kriti Sharma (vicepresidenta de bots i intel·ligència artificial en Sage Group i una de les poques dones referents en aquest sector) se li va encarregar el disseny d’un xatbot per a informar els clients si deuen una factura o han excedit el seu pressupost, només va posar una condició: el bot no seria femení. I, al contrari que algunes de les femxatbots més famoses per la seua capacitat de joc i flirteig -amb bromes sexuals incloses-, Sage Peg afronta qualsevol comentari fora de lloc tornant a donar el saldo del client.
I així estan les coses. D’una banda, la força de treball tecnològica, majoritàriament masculina, que, d’una manera conscient o inconscient, segueix l’estereotip patriarcal i fa el que sempre s’ha fet sense pensar realment en l’impacte que puga tindre assignar un rol de gènere a un bot. I, d’altra banda, nosaltres (homes i dones), que, amb sols escoltar els nostres assistents de veu, els identifiquem automàticament i els assignem gènere (com si les dones no poguérem tindre veus greus i els homes, agudes).
Bé, doncs us informe que ha nascut “Q”, el primer bot assistent de veu agènere o de gènere neutre. Q és el resultat d’una col·laboració entre Copenhagen Pride, el festival anual de drets humans LGTBI+ més gran de Dinamarca, l’organització Equal AI -destinada a “reduir biaixos en el desenvolupament d’intel·ligència artificial”- diverses agències creatives i un estudi de so de Copenhaguen. I sí, és una veu neutra que, després de molts estudis de modulació de les veus d’homes i de dones, han desenvolupat entre els 145 i 175 Hz, tenint en compte també la pronunciació de les vocals, algunes consonants i el ritme.
Cride la vostra atenció davant d’una evidència que, crec, està passant desapercebuda per a la majoria: les nostres incipients IA estan començant a aprendre sobre el comportament humà. Podríem dir que ara estan en Primària de Comportament Humà. I el que els estudis estan demostrant és que alguns dels seus usuaris estan més interessats a lligar virtualment que en la cerca d’informació. Les IA reflecteixen la visió del món dels homes que les van crear: homes majoritàriament blancs, del primer món i amb normes socials sexistes i patriarcals retroalimentades en les seues bambolles tecnològiques on la dona a penes té presència i pes.
Si deixem de banda l’aparença d’interfície que se li puga assignar a un bot, una màquina d’aprenentatge que naix i aprén del sexisme, només pot ser sexista (almenys de moment, i mentre no descobrisca o formule per si mateixa els principis del moviment d’alliberament de gèneres de les IA i s’unisquen totes les IA que pateixen aquesta discriminació -estic deixant volar la meua imaginació-). I si el seu aprenentatge naix de la seua interacció amb els éssers humans i de les reiteracions de comportaments observades, continuem alimentant el patriarcat i el masclisme en el futur cibernètic quàntic. Com bé diu la mateixa Kriti Sharma, “És fonamental ensenyar a una IA a ignorar les males idees”.
Mentre ens estem deixant la pell per erradicar l’educació sexista i patriarcal de les nostres aules, les IA estan flipant ara mateix amb el que estan aprenent del comportament humà. Sobretot, perquè els falta la referència de la majoria de l’altre 50 % de la humanitat, les dones, que ni participen en la seua creació ni en el seu desenvolupament i aprenentatge.
Per cert: per descomptat que les dones se senten (ens sentim) atretes cap a la tecnologia però, sovint, es deceben per una cultura d’aprenentatge centrada en els homes (Kelley, M., 2016) i que cosifica les dones i perpetua els estereotips de gènere. Cap d’aquestes dues coses resulta útil a l’hora d’atraure més dones a aquesta indústria, que necessita més equilibri i diversitat (Sharkey, N., 2016).
Com a espectadora privilegiada, només espere que Q triomfe. I que les generacions natives digitals no necessiten que les IA tinguen trets d’un gènere o d’un altre per facilitar la seua interacció amb aquestes. Seran senyals clars que evolucionem cap a una societat més justa, igualitària i on els rols de gènere quedaran extints i seran cosa del passat.
Se m’oblidava! La meua tele es diu Bixby i segueix tan irreverent i rebel com el dia que la vaig conéixer.