Per Lenny Cáceres. DDF.
No és la intel·ligència artificial el que preocupa, sinó com reprodueix allò que ja existeix.
Ana Correa –advocada, comunicadora i activista pels drets de les dones, amb formació en relacions internacionals i comunicació– no parla de tecnologia en abstracte: parla de poder, de qui produeix sentit i de què passa quan les dones no hi són en aquest procés.
En aquesta conversa, el punt clau no és allò que la intel·ligència artificial pot fer, sinó allò que decideix no veure.
Com sorgeix OlivIA i quin problema concret cercava resoldre dins l’accés a la justícia?
OlivIA neix d’una preocupació concreta: en fer servir ChatGPT, vaig detectar que els errors s’intensificaven en temes de gènere. L’eina desconeixia autores dones en diverses disciplines, reproduïa estereotips de fa dècades i ometia sistemàticament les experiències de les dones. A partir d’aquesta inquietud, vaig fer l’especialització en Intel·ligència Artificial i Dret a la Universitat de Buenos Aires, juntament amb altres cursos, per entendre millor l’origen d’aquests biaixos i com mitigar-los. Com a treball final del postgrau, i amb la guia de Mariana Sánchez Caparrós, vaig dissenyar aquesta eina dins de l’ecosistema de ChatGPT, amb l’objectiu de qüestionar les respostes inicials de la IA generativa i reduir-ne els errors. Amb les limitacions actuals, OlivIA ja està ajudant a disminuir-los.
Quines indicacions vareu fer perquè OlivIA no reprodueixi els biaixos que ja existeixen en el sistema judicial?
OlivIA va ser dissenyada incorporant eines del feminisme jurídic, en particular la “pregunta de la dona” desenvolupada per Katharine T. Bartlett. Aquesta consisteix, en termes simples, a preguntar-se: on són les dones en aquesta anàlisi?, les seves experiències estan sent considerades o ignorades? Tot i que sembla una pregunta bàsica, quan Bartlett la va formular el 1989 a Feminist Legal Methods, va permetre repensar el dret. Avui moltes plataformes digitals no integren aquesta perspectiva. OlivIA, en canvi, la incorpora com a part de la lògica. Això genera diferències concretes: em va passar en buscar informació sobre casos de violència contra les dones que han estat públics i que es poden trobar a la web, on ChatGPT pot ometre informació rellevant, dóna culpa a la víctima i desconeix l’agressió!, mentre que OlivIA aconsegueix recuperar aquesta informació; i en tasques com la generació d’imatges, quan diverses dones li van demanar a Chat GPT que les representés amb una il·lustració, les feia homes i amb característiques inventades. OlivIA, en canvi, les feia com a dones i els seus gustos i característiques eren molt més d’acord amb la realitat. És molt cridaner realment perquè ChatGPT fa temps que conèix aquests errors, i fins i tot permet que OlivIA estigui instal·lada dins del seu ecosistema per mitigar-los, es veu que no l’importa gaire aquest nivell d’error.”No és l’eina la que garanteix l’accés a la justícia, sinó com se la fa servir.”
Quines limitacions del sistema judicial vàreu intentar abordar amb aquesta eina?
OlivIA sorgeix com una iniciativa individual davant d’una preocupació més àmplia: la manera com avui fem servir la intel·ligència artificial, de manera massiva, moltes vegades sense preparació ni advertiments. No va ser pensada exclusivament per al sistema judicial, però pot servir per detectar la manca de perspectiva de gènere en sentències, escrits i resolucions. En el disseny hi vaig incorporar jurisprudència nacional, del sistema interamericà i d’altres regions, a més d’estàndards internacionals de drets humans. Per a la construcció d’argumentació jurídica, recomano també explorar Arvage, l’eina desenvolupada per la jutgessa Rita Custet, del Tribunal d’Impugnació Penal de Rio Negro. I per protegir dades personals en documents judicials, és clau utilitzar abans eines com AyMuraY, de Data Gènere, ja que ChatGPT no ofereix garanties suficients en aquest aspecte.
Una eina tecnològica pot millorar l’accés a la justícia o això continua depenent de decisions polítiques i institucionals?
Una eina tecnològica pot millorar l’accés a la justícia només si és utilitzada per persones i en marcs que tinguin aquest objectiu com a prioritat. No és l’eina en si la que ho garanteix, sinó el seu ús. Mal utilitzada, fins i tot pot empitjorar-ho. En qualsevol cas judicial, el que és central continua sent comprendre la trajectòria de vida de les persones involucrades, cosa que la IA generativa avui no pot reemplaçar. Per això, el millor rol és el d’assistent. OlivIA està pensada per fer preguntes, advertir omissions i ajudar a ampliar la mirada. Si es fa servir com a suport, pot ser útil; si es fa servir per evitar processos fonamentals, pot generar més problemes.
Quins riscos veus que decisions judicials comencin a recolzar-se en dades o sistemes automatitzats?
El principal risc és perdre de vista allò essencial: que darrere de cada decisió judicial hi ha vides concretes. La idea de “guanyar temps” s’hauria de revisar: per què? Aquestes eines han de millorar el servei de justícia, no pas deteriorar-lo. Són assistents que poden ajudar a accelerar processos i a fer millors preguntes, però mai no han de reemplaçar la decisió humana. El marge derror pot ser greu. A més, hi ha una preocupació clau sobre la protecció de dades personals: no és clar què fan les plataformes amb la informació que reben.
On veus el límit entre utilitzar tecnologia per ampliar drets i utilitzar-la per administrar desigualtats?
El límit apareix quan mirem la bretxa digital i de coneixement. Avui, la tecnologia tendeix a ampliar desigualtats perquè no és a l’abast de tothom, i en contextos de crisi això s’aprofundeix. També hi ha un problema de representació: hi ha dones amb aportacions fonamentals en intel·ligència artificial, però moltes vegades queden fora dels espais de decisió. Això no només és injust, també implica perdre perspectives clau. A més, es dóna una apropiació del treball de dones –moltes vegades mal remunerat o invisibilitzat– sense mantenir la perspectiva de drets. És com prendre eines pensades per a l’equitat i fer-les servir al revés. Davant d’això, moltes dones d’aquest camp continuen assenyalant aquestes tensions, encara que no sempre és fàcil que siguin escoltades.
La discussió no és tecnològica, és política. I, com tota disputa de sentit, també es juga en qui queda a dins —i qui segueixe sent omesa.
Lenny Cáceres és periodista feminista abolicionista, directora/editora de Diario Digital Femenino. Titular del web d’Assessorament i Capacitació https://lennycaceres.com.ar/
Autora del llibre La transversalitat del gènere: espais i disputes. (Ed. Sudestada)
