Estimad@s amig@s
Sinopsis
Entre los campos en los que
se esperan avances notables gracias a la Inteligencia Artificial está la
educación, el cambio climático, la propia mejora de la productividad en el
trabajo, o, la sanidad, donde se esperan particulares hitos en el
descubrimiento de nuevas vacunas o medicamentos, y también en la detección de
enfermedades. La Inteligencia Artificial puede tener en el ámbito clínico
muchas y muy variadas aplicaciones, entre ellas algunas como facilitar y
mejorar la capacidad de diagnóstico, predecir reingresos hospitalarios, ayudar
en el descubrimiento de nuevos fármacos, etc. Sin embargo, su utilización
también plantea varios desafíos y preocupaciones éticas y legales,
especialmente, en el ámbito de la protección de los derechos fundamentales de
los pacientes. Así el presente libro tiene por objeto exponer algunas
consideraciones éticas y legales en el uso de la inteligencia artificial en el
ámbito sanitario o de salud, abordando para ello la protección de los derechos
fundamentales de los pacientes en estos casos. Así, en las siguientes páginas
trataremos las siguientes cuestiones: principales conceptos técnicos
relacionados con la Inteligencia Artificial y los principales casos de uso en
el ámbito sanitario y de la salud; marco normativo existente en España en
relación con la Inteligencia Artificial y el ámbito sanitario, haciendo
especial hincapié en la protección de los derechos fundamentales de los
pacientes al respecto; se analizará en detalle el enfoque de la Unión Europea
en relación con la Inteligencia Artificial detallando el paquete normativo que
se está desarrollando al respecto; retos éticos y legales que todo lo anterior
genera; recomendaciones para intentar preservar el equilibrio entre las
numerosas posibilidades que ofrece una tecnología tan disruptiva como la Inteligencia
Artificial en el ámbito sanitario y el respeto de los derechos fundamentales de
los pacientes como la protección de datos, la privacidad y la confidencialidad.
«No hay Inteligencia Artificial
correcta
sin inteligencia humana que proporcione
información y datos
válidos»[i]
Prólogo I[ii]
(…) la Inteligencia
Artificial nos obliga a asumir y redactar nuevas medidas éticas y legales que
no solo nos inquietan a los médicos, sino que también parecen resultar
inimaginables para nuestros juristas.
Durante los pocos años que
los médicos llevamos introduciendo la IA en nuestra actividad profesional, nos
estamos enfrentando con encrucijadas que ponen a prueba nuestra imaginación y
nuestra ética.
¿De veras ha llegado el
momento en el que los médicos vamos a compartir responsabilidades con la IA, en
el diagnostico, o en la toma de decisiones terapéuticas? ¿Cómo
vamos a ser corresponsables con la IA del resultado o de las posibles
complicaciones que sufran nuestros pacientes?
¿El que cada uno de nosotros
formemos parte de la big data como nutriente imprescindible de la Inteligencia
Artificial nos concienciará de un nuevo deber ético para con el desarrollo
científico?, ¿Llegaremos a ser más generosos con
nuestra intimidad liberando nuestros datos personales?
(…) la Inteligencia
Artificial empuja a la medicina a una evolución inquietantemente rápida (…) innovamos
a una velocidad incómoda para la ciencia hipocrática, una disciplina
tradicionalmente obligada a guardar un ritmo “prudentemente conservador”.
«Con mucha
diferencia,
el mayor peligro de la Inteligencia Artificial
es
que las personas
concluyen demasiado pronto que la entienden»[iii]
Prólogo II[iv]
¿Hay algo más importante que
la salud? (…)
(…) la IA seguirá avanzando,
que llegará a ser más inteligente que nosotros y que siendo un producto
inacabado, no está exenta de limitaciones, eventos adversos o fallos propios
del aprendizaje. En el caso de la medicina, los riesgos son reales e
inmediatos, y en el uso de la IA debemos ser conscientes de los mismos y
minimizarlos (…)
(…) el futuro se presenta
alentador para los sanitarios, ejerciendo la medicina como un asistente
constante que ayude en la elaboración de informes, petición de pruebas, en la
toma de decisiones y diagnósticos complicados y siempre respaldado por el
conocimiento científico más actual y por los datos estadísticos más recientes, disminuyendo,
por un lado, la variabilidad, los efectos adversos, las acciones carentes de
valor y la fatiga del sanitario, y aumentando, por otro lado, la eficiencia, y
el acceso a la atención sanitaria para mejorar las vidas de nuestros pacientes,
especialmente de los más vulnerables.
«Tan importante es
educar a las nuevas generaciones que vienen
como también creo que
es importante
enseñar a la fuerza
laboral existente,
para que puedan entender cómo hacer
que la Inteligencia Artificial les sirva a
ellos y a sus roles»[v]
La
irrupción de lo digital provocó, provoca y seguirá provocando muchos cambios en
todos los sectores de actividad. El sector de la salud como no podría ser menos
también está andando ese camino, no sin problemas de adaptación, gestión del
cambio, seguridad, protección, humanización de la relación entre el profesional
y el paciente, etc.
Antonio Serrano utiliza
su libro La Inteligencia Artificial en el ámbito
sanitario para introducir debates necesarios no sólo
para los dirigentes o los profesionales de la salud, también para el paciente ―y
los familiares. Todos somos parte del cambio, se nos pide un ejercicio de
comprensión del nuevo modelo asistencial, pero no tenemos por qué entender la
idoneidad de ceder nuestros datos sanitarios para entrenar un algoritmo. Visto
desde el otro lado de la mesa puede que en breve la Inteligencia Artificial nos
haga un triage, decida que pruebas nos tenemos que hacer, interprete una
radiografía, recomiende a nuestro médico un tratamiento u otro, etc.
Soy
un defensor de la salud digital pero con salvedades. Sí a la tecnología para
descomprimir el colapso asistencial, pero no a la deshumanización del proceso
/relación profesional sanitario-paciente.
Si a
entrenar algoritmos con mis imágenes, datos médicos pero yo informado,
autorizando, y teniendo la potestad de poder poner límites a la explotación de los
mismos. Podríamos llamarlo algo así como ―empoderar al paciente digital―.
Sí a
los avances en salud digital, pero a la vez dando los máximos estándares de
seguridad al paciente. Como pacientes /usuarios es lógico que tengamos miedo
/reticencias a ceder nuestros datos, sin saber ¿Quien los custodia?, ¿Qué
hace con ellos?, ¿A quién se los comparte?...
Mucho camino por andar, pero tenemos que dar los primeros pasos, y no podemos empezar a caminar si no entendemos hacía dónde nos dirigimos con el uso de La Inteligencia Artificial en el ámbito sanitario. Mi recomendación es preguntar ¿Qué se va a hacer con la información recopilada de nuestro expediente sanitario? Una vez obtengamos la respuesta obraremos en consecuencia.
«Lo que todos tenemos que hacer es asegurarnos de que estamos usando la IA
de una manera
que sea en beneficio de la humanidad,
no en detrimento de
la humanidad»[vi]
Aprendizaje de las maquinas
• Inteligencia Artificial
- Machine Learning
o Deep
Learning
§ Inteligencia
Artificial Generativa
(…) la Inteligencia
Artificial en salud utiliza algoritmos y software para emular la inteligencia humana
en el análisis, interpretación y comprensión de información médica complicada.
Su uso promete mejorar la eficacia del sistema de salud, reducir errores
médicos y proporcionar cuidados de salud personalizados.
Actividad asistencial
La aplicación de la
Inteligencia Artificial en el diagnostico, la prevención y el tratamiento de
enfermedades (…)
• Análisis de imágenes
médicas
• Sistemas de apoyo a la
decisión clínica
• Procesamiento de lenguaje
natural
• Administración de
tratamientos
• Elaboración de perfiles de
pacientes
Gestión sanitaria y de las
estrategias de salud pública
(…) la Inteligencia Artificial
puede emplearse para establecer correlaciones que permitan cambiar o mejorar
procesos, protocolos de actuación (…)
• La gestión optimizada de
los hospitales y centros de salud
• La gestión optimizada del
sistema sanitario en su conjunto
• La creación de modelos
predictivos
Investigación biomédica y
desarrollo de nuevos fármacos
(…) la Inteligencia
Artificial ofrece herramientas que permiten agilizar y optimizar estos
procesos, que tradicionalmente han requerido una inversión considerable de
tiempo y recursos.
• Análisis de datos e
identificación de objetivos
• Diseño de fármacos y
optimización de moléculas
• Screening de
compuestos y predicción de toxicidad
• Medicina y farmacología de
precisión
Medicina preventiva y
autocuidado
(…) la medicina preventiva y
el autocuidado emergen como áreas donde está demostrado ser particularmente
valiosa (…) la Inteligencia Artificial contribuye a la evolución de la medicina
preventiva y fomenta una cultura de autocuidado, empoderando a los individuos en
la gestión de su propia salud.
• Monitorización y detección
temprana
• Gestión de enfermedades
crónicas
• Promoción de estilos de
vida saludables
• Educación y concienciación
en salud
• Apoyo psicológico y
bienestar mental
• Personalización de
intervenciones preventivas
Datos, patrones, tendencias,
algoritmos predictivos, perfilados de personas (…) nos deben poner en sobre
aviso de la necesidad de proteger los derechos fundamentales de las personas
cuando se implementen sistemas o herramientas de Inteligencia Artificial con
pacientes (…) debe ser considerada como una forma más de tratamiento de datos
(…) debe recordarse que la protección de las personas físicas en relación con
el tratamiento de datos personales es un derecho fundamental protegido (…) se
erige como clave de bóveda para afrontar los riesgos éticos y legales en
materia de Inteligencia Artificial.
Retos éticos y legales
• Garantizar el anonimato de
los individuos y pacientes
• Protección de la
información del individuo por la posibilidad de establecer relaciones entre
datos masivos a través de las tecnologías del Big Data
• Evitar posibles sesgos a
la hora de tomar decisiones basadas exclusivamente en perfiles y en procesos de
estratificación
• Garantizar que la toma de
decisiones no sea automatizada o basada exclusivamente en propuestas del
sistema de Inteligencia Artificial o en perfiles obtenidos de los pacientes
• Asegurar la transparencia
sobre los elementos esenciales y sobre el proceso por el cual un sistema de
Inteligencia Artificial llega a la conclusión decisoria
• Establecer a quién
atribuir y quién debe asumir responsabilidades a la hora de emplear
herramientas de Inteligencia Artificial en salud
Recomendaciones
• La Inteligencia
Artificial como instrumento de ayuda en la toma de decisiones del profesional
sanitario: autonomía y supervisión humana
La Inteligencia Artificial
está desempeñando un papel significativo en el apoyo a la toma de decisiones de
los profesionales sanitarios (…) resulta esencial encontrar un equilibrio entre
la autonomía de los sistemas de Inteligencia Artificial y la supervisión humana
para garantizar decisiones seguras y eficaces (…)
• Transparencia y
explicabilidad
(…) desempeñar un papel
esencial para garantizar su aceptación y eficacia (…) parece más que
conveniente garantizar el principio de transparencia y de información para
minimizar las posibles reticencias a las herramientas de Inteligencia
Artificial que surgen de la percepción de no conocer cómo toman las decisiones
(…) sobre la salud de las personas, (…) será imprescindible potenciar la
difusión de información y de transparencia a la hora de aplicar estas
herramientas.
• Robustez
(…) de los sistemas de
Inteligencia Artificial es fundamental para garantizar su fiabilidad y
efectividad en el sector sanitario.
• Fomento de la
innovación y el desarrollo
La creatividad, la
investigación audaz y la experimentación son las fuerzas vitales que permitirán
a la Inteligencia Artificial florecer en todo su esplendor en el sector
sanitario (…) es imperativo fomentar y proteger la investigación y desarrollo
de esta tecnología tan disruptiva (…)
• Regulación y
responsabilidad: Privacidad, calidad de los datos y
discriminación
(…) en el fascinante
horizonte de la Inteligencia Artificial en el ámbito sanitario, donde la
tecnología se convierte en un aliado invaluable en la atención de la salud, es
imperativo tener en cuenta los cimientos éticos y legales sobre los que se
construye esta revolución.
(…) la regulación y
responsabilidad se erigen como baluartes esenciales que garantizan la
protección de los derechos fundamentales de los pacientes, cuidando
especialmente su privacidad e intimidad, la calidad de los datos y la no
discriminación (…)
• Formación
(…) no solo optimiza la
eficacia de esta tecnología, sino que también salvaguarda los aspectos éticos y
legales inherentes a su uso.
«¿Heredarán los
robots la Tierra?
Sí,
pero serán nuestros
hijos[vii]
La
Inteligencia Artificial en el ámbito sanitario
Protección
de los derechos fundamentales de los pacientes
Link de interés
• La
cuarta revolución industrial
• La
salud digital y las nuevas formas de atención médica
• Biotecnología:
Soluciones para la salud del futuro y la sostenibilidad del planeta
• Ciberseguridad
para directivos
• La
salud y las redes sociales: Conectar para investigar, prevenir, compartir,
cuidar y curar
• Alquimia:
Cómo los datos se están transformando en oro
• El urinómetro inteligente, un nuevo paso en la incorporación de la IA al ámbito de la salud
«En el siglo XXI,
el poder es más fácil
de conseguir,
más difícil de usar,
y más fácil de perder»[viii]
ABRAZOTES
[ii] Ángel Villamor Pérez
[iii] Eliezer Yudkowsky
[iv] Manuel Gómez Serrano
[v] Sarah Aerni
[vi] Tim Cook
[vii] Marvin Minsky
[viii] Moisés Naím
