Por Laura Victoria Bonhôte* DDF
Para ilustrar al lector recordemos que, según un estudio elaborado en el año 2015 por la OMS y el Ministerio de Salud, en nuestro país 1 de cada 3 personas presenta un problema de salud mental a partir de los 20 años.
Por ende, hablamos de un público enorme y la viveza criolla de querer sumarse a esta ola no está exenta, solo que se disfraza con un nuevo slogan: la democratización del acceso ala salud, utilizando el beneficio de alcance masivo de la IA.
Posiblemente, varios hemos cometido el error de buscar un síntoma o descripción de un resultado médico en un buscador de internet, sin la consulta previa a un profesional, y hemos vivenciado los efectos de angustia o miedo que el resultado puede generar si no tenemos el debido asesoramiento.
Ahora bien, imaginemos que esto mismo sucede pero ahora con un chat conversacional que utiliza modelos de IA y, por ende, cuenta con determinados datos que le permite predecir la respuesta que nos va a ofrecer.
En ambos supuestos, el camino nos lleva a la misma conclusión: nada reemplaza la intervención directa de un profesional de la salud capacitado para identificar la problemática y urgencia del caso.
A todo eso, además, se suma que en nuestro país no contamos regulación específica sobre IA y, por ende, no sabemos, entre algunas cosas, quiénes forman parte del desarrollo y ciclo de vida de estos sistemas, con qué datos cuenta para arrojar resultados de “escucha”; cómo se entrenó a los algoritmos y, por ende, la fiabilidad de las respuestas predictivas que arroje a sus usuarios.
Recordemos que frente a este caso público, estamos hablando de pacientes con problemáticas de salud mental, que llegan al extremo de acudir a una IA para satisfacer sus demandas.
En este sentido, advertimos que estos servicios además de colocar al usuario/paciente en una potencial situación de riesgo que podría agravar su cuadro de salud, en materia de derechos del consumidor, lo posiciona en una situación de híper vulnerabilidad, porque sumada la problemática de salud se transforma en un usuario de este modelo de IA con altas probabilidades de no estar en condiciones de ser consciente de cómo funciona este servicio y, por ende, sus resultados.
Aquí, el efecto puede ser devastador y, es por ello, que en nuestro país en materia de salud contamos con normas específicas de protección como: la Convención sobre los Derechos de las Personas con Discapacidad y su Protocolo, la Ley Nacional de Derechos del Paciente, normas sobre confidencialidad de la historia clínica y previsiones frente a la responsabilidad penal y civil de los profesionales intervinientes, como así una Ley de Salud Mental donde se destaca la importancia de la mirada interdisciplinaria y, específicamente, el derecho a recibir una atención basada en fundamentos científicos ajustados a principios éticos.
La IA avanza en el mundo a pasos agigantados (no por nada se dice que estamos transitando la cuarta revolución industrial). Recientemente hemos sido testigos de las primeras regulaciones, como el caso de Europa, y se empiezan a dar discusiones acerca de cómo garantizar que estas tecnologías no dejen de lado los derechos humanos y, con ello, la dignidad de la persona como eje del sistema.
De la mano de estos avances, también observamos el desarrollo de investigaciones sobre cómo garantizar nuestros derechos en el ciclo de vida de la IA; políticas sobre gobernanza de datos; la protección de datos personales; garantizar el acceso a la información y a la libertad de expresión frente a determinadas IA que no sabemos cómo entrenan a sus algoritmos; la ética frente a los sesgos y la discriminación de algunos modelos de lenguaje; el rol y la responsabilidad empresarial; el reemplazo y automatización de tareas y así una lista interminable de desafíos.
Los servicios que utilizan IA en materia de salud mental, nos sirven hoy como caso testigo para visibilizar la importancia de que la inteligencia artificial se incorpore como política de estado, porque ya está entre nosotros y vino para quedarse y la ética no puede quedar ajena a la misma.
Por ello, debemos pensar en herramientas que reciban sus enormes beneficios pero que, en el camino hacia su desarrollo, no dejen de lado nuestros derechos.
(*) Abogada especializada en derecho constitucional y tecnología.
