Como se ha apreciado, existe suficiente evidencia que muestra que sistemas de IA son más eficientes en realizar algunos diagnósticos médicos que los mejores expertos en distintas áreas clínicas, en la medida que sean programados de manera adecuada. A pesar de su uso creciente en estas y otras áreas de la medicina clínica, en la investigación y también en la educación sanitaria, su uso genera importantes temas éticos.
En primer lugar, y tal como lo señala la declaración de la UNESCO del 2021, existen preocupaciones éticas relacionadas con los sesgos que pueden aumentar la desigualdad y exclusión, incluso “suponer una amenaza para la diversidad cultural, social y biológica”. Los algoritmos utilizados pueden excluir a grupos indígenas, personas provenientes de zonas rurales o de clases socioeconómicas bajas, pudiendo generar diagnósticos erróneos, especialmente si éstos han sido desarrollados exclusivamente con población extranjera. No obstante, estas preocupaciones éticas no deberían “obstaculizar la innovación y el desarrollo, sino más bien ofrecer nuevas oportunidades y estimular una investigación y una innovación realizadas de manera ética que afiancen las tecnologías de la IA en los derechos humanos y las libertades fundamentales, los valores, los principios y la reflexión moral y ética”.
Un segundo aspecto de preocupación ética se refiere a la necesaria protección de la privacidad de los datos. La ley chilena exige confidencialidad (Ley 19.628), por lo que los sistemas deben cumplir con estrictas normativas de protección de datos y garantizar la protección datos sensibles. También, se requiere transparencia: los modelos deben ser comprensibles y auditables, evitando decisiones clínicas basadas en "cajas negras". La responsabilidad y rendición de cuentas son cruciales para que los desarrolladores y usuarios de IA asuman la responsabilidad de sus decisiones y acciones. Otra preocupación es que el uso de nuevas tecnologías pueda exacerbar la distribución desigual del acceso al cuidado sanitario, particularmente aumentando la brecha entre los países ricos y los de ingresos bajos.
Finalmente, cabe señalar que el uso de la IA puede impactar la relación clínica de maneras aún insospechadas, especialmente si el profesional sanitario empieza a perder competencias clínicas al descansar en el apoyo que brindan estas herramientas digitales. En el mismo sentido, aunque algunos cuestionan si el profesional médico debe o no revelar a su paciente que está usando IA y en qué ámbitos del quehacer clínico, creemos que es relevante que el paciente ejerza su autonomía, para lo cual requiere información plena. Asimismo, consideramos que la IA debe ser apoyo, pero no reemplazar el juicio médico, puesto que, a fin de cuentas, siempre el responsable será la persona humana.
En resumen, la integración de la IA en la práctica clínica debe ser realizada de manera responsable, transparente y equitativa, asegurando que los beneficios tecnológicos se distribuyan de manera justa y que se protejan los derechos y la dignidad de los pacientes.
Género