La firma ESET advierte sobre los peligros de privacidad y los diagnósticos erróneos al consultar síntomas con herramientas de inteligencia artificial.
Los chatbots están transformando de manera profunda la forma en que pensamos, aprendemos y percibimos el entorno que nos rodea. Esta disrupción tecnológica se manifiesta en múltiples áreas de la vida diaria, pero una de las más sensibles y de mayor crecimiento es el uso de herramientas de inteligencia artificial generativa (GenAI) en el ámbito de la salud. Grandes gigantes de la tecnología han incursionado en este mercado orientado al consumidor con servicios avanzados como Copilot Health, ChatGPT Health y Amazon’s HealthAI.
Estos modelos están diseñados para ayudar a los usuarios a interpretar sus historiales médicos, así como a formular preguntas sobre síntomas, resultados de laboratorios y diversas opciones de tratamiento. Sin embargo, la compañía líder en detección proactiva de amenazas, ESET, advierte que existen serios riesgos al esperar que una herramienta tecnológica asuma el rol de un profesional de la medicina.
De acuerdo con datos proporcionados por Microsoft, las personas conversan en sus dispositivos móviles sobre su salud y la de sus seres queridos más que de cualquier otro tema. Los chatbots ofrecen una disponibilidad total de 24 horas y 7 días a la semana, brindando respuestas inmediatas con un tono seguro que ayuda a tranquilizar a los pacientes nerviosos. En un contexto donde los sistemas nacionales de salud enfrentan una presión cada vez mayor, es muy probable que la población opte por autodiagnosticarse con ayuda de la IA antes de decidir si busca atención médica presencial. A pesar de esta aparente comodidad, las preocupaciones ya están saliendo a la luz, siendo el problema de las alucinaciones o el asesoramiento incorrecto uno de los principales focos de alarma.
Un estudio de la Universidad de Oxford publicado en la revista «Nature Medicine» halló que los usuarios a menudo no saben qué datos deben compartir y que reciben respuestas muy diferentes ante variaciones muy ligeras en las preguntas. Además, los modelos suelen ofrecer tanto buenos como malos consejos, lo que dificulta que el usuario común note la diferencia.
Al respecto, Mario Micucci, Investigador de Seguridad Informática de ESET Latinoamérica, comenta: “El riesgo no es solo recibir un consejo incorrecto, sino también que los usuarios compartan información personal altamente sensible con sistemas cuyas protecciones de privacidad, prácticas de intercambio de datos y obligaciones legales pueden diferir de las de un médico o un hospital, así como que sus datos queden expuestos a entidades inesperadas. El mal uso de los chatbots de IA en general es actualmente el principal riesgo tecnológico en salud, según una organization de seguridad del paciente de EE.UU.”.
El peligro en la privacidad radica en que introducir datos médicos en un chatbot público puede causar que dicha información se use para entrenar al modelo y reaparezca en las respuestas de otros usuarios. Aunque los principales bots de salud prometen no usar los datos para entrenamiento , esto no garantiza que no se compartan con terceros, como agregadores de datos o anunciantes. Cuando la información médica circula por tantas organizaciones, se incrementa la probabilidad de que caiga en manos de ciberdelincuentes. Estos datos son muy valiosos en el mercado negro, ya que sirven para tramitar reclamaciones de seguros fraudulentas, recibir servicios médicos a nombre de terceros o cometer extorsiones. El desafío regulatorio es enorme, pues la mayoría de estas aplicaciones se consideran servicios para consumidores y no están reguladas por la norma Hipaa.
Para reducir la exposición a estos peligros, los expertos recomiendan evitar los bots de uso general y elegir plataformas diseñadas específicamente para la salud. También es vital revisar las políticas de privacidad y verificar si el servicio está cubierto por Hipaa o un régimen equivalente.
Para proteger al máximo la privacidad, se aconseja no subir documentos médicos ni resultados de laboratorio, evitar colocar nombres, direcciones o datos de seguros, desactivar las funciones de historial de chat y compartir únicamente la información mínima necesaria. Los chatbots pueden ser de gran utilidad para preparar las preguntas antes de ir a una cita o comprender un término complejo, pero jamás deben ser un sustituto de la atención profesional.
*En la creación de este texto se usaron herramientas de inteligencia artificial.
