Per Laura Victoria Bonhôte* DDF
La intel·ligència artificial (IA) sens dubte és en boca de tothom, i sembla que ningú vol quedar-ne fora. Aquests dies, portals i xarxes socials, van difondre una notícia sobre noves aplicacions innovadores que, mitjançant l’ús de models d’IA, prometen assessorament i atenció en matèria de salut mental.
Per il·lustrar el lector recordem que, segons un estudi elaborat l’any 2015 per l’OMS i el Ministeri de Salut, a Argentina 1 de cada 3 persones presenta un problema de salut mental a partir dels 20 anys.
Per tant, parlem d’un públic enorme i la vivesa criolla de voler sumar-se a aquesta onada no n’està exempta, només que es disfressa amb un nou eslògan: la democratització de l’accés a la salut, utilitzant el benefici d’abast massiu de la IA.
Possiblement, hem comès l’error de buscar un símptoma o descripció d’un resultat mèdic en un cercador d’internet, sense la consulta prèvia a un professional, i hem viscut els efectes d’angoixa pel resultat que es pot generar si no tenim el degut assessorament.
Ara bé, imaginem que això mateix passa però ara amb un xat conversacional que utilitza models d’IA i, per tant, compta amb determinades dades que us permet predir la resposta que ens oferirà.
En tots dos supòsits, el camí ens porta a la mateixa conclusió: res no reemplaça la intervenció directa d’un professional de la salut capacitat per identificar la problemàtica i la urgència del cas.
A més a més, a més, s’hi afegeix que al nostre país no comptem regulació específica sobre IA i, per tant, no sabem, entre algunes coses, qui formen part del desenvolupament i cicle de vida d’aquests sistemes, amb quines dades compta per donar resultats d’escolta; com es va entrenar als algorismes i, per tant, la fiabilitat de les respostes predictives que llenci els seus usuaris.
Recordem que davant d’aquest cas públic estem parlant de pacients amb problemàtiques de salut mental, que arriben a l’extrem d’acudir a una IA per satisfer les demandes.
En aquest sentit, advertim que aquests serveis a més de col·locar el i la pacient en una potencial situació de risc que podria agreujar el seu quadre de salut, en matèria de drets del consumidor, et posiciona en una situació d’hipervulnerabilitat, perquè sumada la problemàtica de salut et transformen en usuàries i usuaris d’aquest model d’IA amb altes probabilitats de no estar en condicions de ser conscient de com funciona aquest servei i, per tant, els resultats.
Aquí, l’efecte pot ser devastador i, per això, que al nostre país en matèria de salut comptem amb normes específiques de protecció com: la Convención sobre los Derechos de las Personas con Discapacidad y su Protocolo, la Ley Nacional de Derechos del Paciente, normes sobre confidencialitat de la història clínica i previsions davant de la responsabilitat penal i civil dels professionals intervinents, com així una Ley de Salud Mental on es destaca la importància de la mirada interdisciplinària i, específicament, el dret a rebre una atenció basada en fonaments científics ajustats a principis ètics.
La IA avança al món a passos de gegant (per això es diu que estem transitant la quarta revolució industrial). Recentment, hem estat testimonis de les primeres regulacions, com el cas d’Europa, i es comencen a donar discussions sobre com garantir que aquestes tecnologies no deixin de banda els drets humans i, amb això, la dignitat de la persona com a eix del sistema.
Amb aquests avenços, també observem el desenvolupament d’investigacions sobre com garantir els nostres drets en el cicle de vida de la IA; polítiques sobre governança de dades; la protecció de dades personals; garantir l’accés a la informació i a la llibertat d’expressió davant de determinades IA que no sabem com s’entrenen als algorismes; l’ètica davant dels biaixos i la discriminació d’alguns models de llenguatge; el rol i la responsabilitat empresarial; el reemplaçament i automatització de tasques i així una llista interminable de desafiaments.
Els serveis que utilitzen IA en matèria de salut mental ens serveixen avui com a cas testimoni per visibilitzar la importància que la intel·ligència artificial s’incorpori com a política d’estat, perquè ja és entre nosaltres i hi és per quedar-se i l’ètica no pot ser-ne aliena.
Per això, hem de pensar en eines que recullin els seus enormes beneficis, però que -pel camí cap al seu desenvolupament- no deixin de banda els nostres drets.
(Pàgina12)
(*) Advocada especialitzada en dret constitucional i tecnologia.
