Impacto y regulación de la Inteligencia Artificial en el ámbito sanitario

Abstract

La evolución de la historia clínica electrónica del paciente ha permitido en los últimos años aplicaciones informáticas desde el registro en sistemas de información hasta la aplicación de Inteligencia Artificial en grandes repositorios de datos permitiendo el uso de aprendizaje automático y profundo facilitando la identificación de patrones para diagnósticos, tratamientos, aplicaciones farmacéuticas, entre otras; este conjunto de información y modelos computacionales disponibles de manera pública o privada presenta riesgos y beneficios en el ámbito de la aplicación del Derecho; por ello que se realiza un estudio de manera clara cómo se maneja esta información de manera doctrinal, las propuestas que existen en el ámbito internacional como son el marco Europeo o Latinoamericano, tomándose los criterios de seguridad informática que coadyuven a la anonimización de los datos del paciente, de esta manera se tiene un marco general y propositivo de los ámbitos a ser tratados con la información del paciente.

Full text

1
Impacto y regulación de la Inteligencia Artificial en el ámbito sanitario*
Karina Ingrid Medinaceli Díaz**
Moisés Martin Silva Choque ***
Resumen
La evolución de la historia clínica electrónica del paciente ha permitido en los
últimos años aplicaciones informáticas desde el registro en sistemas de
información hasta la aplicación de Inteligencia Artificial en grandes repositorios
de datos facilitando el uso de aprendizaje automático y profundo facilitando la
identificación de patrones para diagnósticos, tratamientos, aplicaciones
farmacéuticas, entre otras. Este conjunto de información y modelos
computacionales disponibles de manera pública o privada presenta riesgos y
beneficios en el ámbito de la aplicación del Derecho; por ello que se realiza un
estudio de manera clara de cómo se maneja esta información desde un punto de
vista doctrinal, las propuestas que existen en el ámbito internacional como son
el marco europeo o latinoamericano, tomándose los criterios de seguridad
informática que coadyuven a la anonimización de los datos del paciente, de esta
manera se tiene un marco general y propositivo de los ámbitos a ser tratados
con la información del paciente.
* Artículo de investigación postulado el 17 de mayo de 2020 y aceptado para publicación el 28 de octubre
de 2020.
** Docente investigadora en la Facultad de Derecho y Ciencias Políticas de la Universidad Mayor de San
Andrés, Bolivia / karina.medinaceli@gmail.com / orcid.org/0000-0002-8269-4733*** Doctorando en la
Universidad Mayor de San Andrés, Bolivia / mmscnet@gmail.com / orcid.org/0000-0003-2417-4833

2
Abstract
The evolution of the patient's electronic medical record (EMR) has allowed, in
recent years, computer applications from the registration in information systems
to the application of Artificial Intelligence in large data repositories, allowing the
use of Machine Learning and Deep Learning, facilitating the identification of
patterns for diagnoses, treatments, pharmaceutical applications, among others.
Big Data is producing a revolution in the healthcare field with the possibility of
handling huge amounts of data, analyzing them and drawing conclusions, taking
into account information security criteria that contribute to the anonymization of
patient data. International organizations for the protection of human rights are
taking measures to investigate the impact of Artificial Intelligence by preparing
recommendations in Europe and Latin America, thus an investigation of the
doctrine is carried out in order to have a general and purposeful framework for
areas to be treated with patient information.
Palabras claves: Inteligencia Artificial, historia clínica electrónica, datos de
salud, anonimización, derechos humanos.
1. Introducción
Las primeras referencias de aplicaciones médicas en el campo de las ciencias
de la computación datan de 1950. Aplicaciones como ELIZA diseñada por el
Instituto Técnico de Massachusetts (MIT) entre los años 1964 y 1966,
permitieron, a través una lógica computacional, diagnosticar cierto tipo de
enfermedades; así fueron surgiendo términos como informática médica,
medicina informática, procesamiento electrónico de datos médicos,
procesamiento automático de datos médicos, procesamiento de información
médica, ciencia de la información médica, ingeniería de software médico y de
medicina
1
.
1
Collen Morris F. "Origins of medical informatics", The Western journal of medicine, 1986, vol
145, pp. 778-785, [Consultada 15 de abril de 2020], [Disponible en:
https://www.ncbi.nlm.nih.gov/pmc/articles/PMC1307150/pdf/westjmed00160-0042.pdf].

3
Los expertos y autores del libro “Inteligencia Artificial: un enfoque moderno”,
indican que existen tres tipos de Inteligencia Artificial: 1) Sistemas que piensan
como humanos, 2) Sistemas que actúan como humanos, y 3) Sistemas que
actúan racionalmente
2
, estas definiciones dieron paso a múltiples aplicaciones
desde los agentes inteligentes hasta la neurociencia.
Actualmente, con el uso de las tecnologías de la información y las
comunicaciones (TIC) se aprovechan los avances tecnológicos facilitados, en
algunos casos, con el uso de satélites de órbita baja para proveer conectividad
a las clínicas remotas, utilizando así la telemedicina abarcando aspectos tales
como educación sanitaria, gestión de pacientes y administración
3
. Otro aspecto
interesante son los robots que utilizan Inteligencia Artificial, los cuales pueden
ofrecer un apoyo clínico en la toma de decisiones o apoyar al paciente en su
interacción con la sociedad o mejorar habilidades
4
.
La Inteligencia Artificial está apoyando a los médicos, no reemplazándolos, dado
que las máquinas carecen de cualidades humanas como la empatía y la
compasión. Por otro lado, no se puede esperar que los pacientes confíen en una
computadora, por lo cual la Inteligencia Artificial maneja tareas que son
esenciales y limitadas en su alcance para dejar la responsabilidad principal del
manejo del paciente a un médico humano
5
.
En medicina la Inteligencia Artificial se presenta como una valiosa herramienta
para los profesionales del área, al optimizar los procesos de prevención,
2
Russell Stuart, Norvig Peter, artificialInteligencia Artificial: un enfoque moderno. Pearson
Educación, 2004, Colección de Inteligencia Artificial de Prentice Hall.
3
Martínez Ramos Carlos, “Telemedicina. Aspectos Generales”, 2020, [Consultada 06 de mayo
de 2020], [Disponible en:
http://www.revistareduca.es/index.php/reduca/article/viewFile/7/4C3%B3n%20de%20est%C3%
A1ndares%20de%20calidad.pdf].
4
Diehl Joshua J., Schmitt Lauren M., Villano Michael, Crowell Charles R., "The Clinical Use of
Robots for Individuals with Autism Spectrum Disorders: A Critical Review.", Research in autism
spectrum disorders, 2012, vol 6, pp. 249-262, [Consultada 14 de abril de 2020], [Disponible en:
https://www.ncbi.nlm.nih.gov/pmc/articles/PMC3223958/].
5
Buch Varun H., Ahmed Irfan y Maruthappu Mahiben, "Artificial intelligence in medicine: current
trends and future possibilities", The British journal of general practice: the journal of the Royal
College of General Practitioners, Marzo 2018, vol 68, pp. 143-144, [Consultada 13 de abril de
2020], [Disponible en: https://www.ncbi.nlm.nih.gov/pmc/articles/PMC5819974/].

4
diagnóstico y tratamiento de enfermedades
6
. Es necesario contar con un gran
volumen de bases de datos actualizadas para que las aplicaciones tengan un
mayor grado de certeza, mayor nivel de credibilidad y capacidad de predicción.
La Inteligencia Artificial facilita una mayor accesibilidad, relevancia y capacidad
de acción de la información de salud
7
.
Los datos personales son esenciales para la Inteligencia Artificial porque se han
convertido en un insumo crucial para el funcionamiento de algunos sistemas de
Inteligencia Artificial
8
. La Unión Europea puede tener un impacto a nivel
internacional en lo que se refiere a los estándares que debe cumplir la
Inteligencia Artificial, como ya ha ocurrido en el ámbito de la protección de datos
9
con la promulgación del Reglamento General de Protección de Datos. Se debe
tener la responsabilidad de asegurar que las leyes y los reglamentos se
mantengan al día con la tecnología y aborden los riesgos potenciales
10
de utilizar
Inteligencia Artificial en el ámbito de la salud.
2. Inteligencia Artificial en la historia clínica electrónica (HCE)
Las tecnologías de la información y de las comunicaciones se introdujeron en los
centros sanitarios a través de equipos de diagnóstico médicos y de los servicios
de gestión económico-financiera como la contabilidad o la facturación y la
6
IOMED, 2020, “Retos de la artificialInteligencia Artificial en la medicina” [Consultada 30 de
marzo de 2020], [Disponible en: https://iomed.es/2020/01/08/retos-de-la-inteligencia-artificial-en-
medicina/].
7
Corporación Ruta N., “Informe Nº 1 Inteligencia Artificial en Salud”, Observatorio CT+i, 2018,
[Consultada 28 de abril de 2020], [Disponible en :
https://www.researchgate.net/publication/327751676_Informe_Inteligencia_Artificial_en_Salud].
8
Red Iberoamericana de Protección de Datos, 2019, “Recomendaciones Generales para el
Tratamiento de Datos en la Inteligencia Artificial”, 21 de junio de 2019, [Consultada 15 de febrero
de 2020], [Disponible en: https://www.redipd.org/es/noticias/la-ripd-aprueba-sendos-
documentos-sobre-inteligencia-artificial-y-proteccion-de-datos].
9
Gascón Marcén, Ana, “Derechos humanos e artificial”Inteligencia Artificial”, Setenta años de
Constitución Italiana y cuarenta de Constitución Española, Volumen V, pp. 2019-1221,
[Consultada: 24/04/2020], [Disponible en:
https://www.researchgate.net/publication/339687454_Derechos_Humanos_e_Inteligencia_Artifi
cial].
10
Bastias-Butler, Elizabeth y Ulrich, Andrea, “Transformación digital del sector salud en América
Latina y el Caribe: La historia clínica electrónica”, Banco Interamericano de Desarrollo, abril 2019,
pp. 27 [Consultada 05 de mayo de 2020], [Disponible en:
https://publications.iadb.org/es/transformacion-digital-del-sector-salud-en-america-latina-y-el-
caribe-la-historia-clinica].

5
nómina de su personal. Más tarde, se desarrollaron aplicaciones para los
servicios clínico-administrativos, como la gestión de camas, la cita previa de
consultas externas, o la gestión del archivo de historias clínicas, a estas
aplicaciones siguieron los programas de codificación de los sistemas de
clasificación de pacientes. El siguiente paso ha sido la informatización de la
historia clínica
11
, que supone introducir las TIC en el núcleo de la actividad
sanitaria, como es el registro de relación entre el paciente y los médicos y demás
profesionales sanitarios que le atienden.
Una de las definiciones más reconocidas de la Historia Clínica Electrónica (HCE)
proviene de la Healthcare Information and Management Systems Society
(HIMSS): “La HCE es un registro electrónico longitudinal de la información de
salud del paciente, generado por una o más interacciones en un entorno de
prestación de servicios médicos. Esta información incluye datos demográficos
del paciente, notas sobre su evolución, problemas, medicamentos, signos
vitales, historial médico, inmunizaciones, datos de laboratorio y reportes de
radiología”. Nelson y Staggers en su obra complementaron la definición de la
HIMSS al describir a la HCE como “un registro electrónico de información
relacionada con la salud que cumple con los estándares de interoperabilidad
reconocidos a nivel nacional y que puede ser generado, gestionado y consultado
por médicos y personal autorizado en más de una organización de atención
médica”
12
.
11
La historia clínica se puede considerar como la biografía sanitaria del paciente. Existe consenso
por parte de muchos autores en considerar la historia clínica como uno de los documentos
médicos más complejos que existen, debido a la diversidad de personas y organismos que en
un determinado momento pueden estar interesados en tener acceso a los datos en ella
contenidos, lo que compromete la intimidad del paciente. No se debe olvidar que los bienes y
valores que se relacionan a la historia clínica son de una importancia extraordinaria ya que están
directamente relacionados con derechos fundamentales de la persona como el derecho a la
intimidad, a la salud, a la libertad y a la confidencialidad. Medinaceli D., Karina, “El tratamiento
de los datos sanitarios en la historia clínica electrónica: caso boliviano”, Agencia Española de
Protección de Datos Personales 2017, p.. 590 [Consultada 27 de mayo de 2020], [Disponible en:
https://www.aepd.es/sites/default/files/2019-10/tratamiento-de-datos-sanitarios.pdf].
12
Bastias-Butler, Elizabeth y Ulrich, Andrea, “Transformación digital del sector salud en América
Latina y el Caribe: La historia clínica electrónica”, Banco Interamericano de Desarrollo, abril 2019,
p.p. 4, [Consultada 05 de mayo de 2020], [Disponible en:
https://publications.iadb.org/es/transformacion-digital-del-sector-salud-en-america-latina-y-el-
caribe-la-historia-clinica].

6
La historia clínica electrónica tiene como características que es completa, integra
todos los episodios asistenciales del paciente sin importar dónde y cuándo se
hayan producido; es interoperable con otros sistemas como los departamentales,
los clínico-administrativos, de gestión económico-financiera y de gestión del
conocimiento; accesible en cualquier momento y lugar en que sea necesaria para
atender al paciente con las limitaciones debidas a las garantías establecidas en
la legislación de protección de datos personales; flexible, permite su utilización
a los investigadores, planificadores y evaluadores de la calidad de los servicios
entre otros; segura y confidencial, todos los accesos a la historia deben ser
registrados y debe identificarse quién accede y qué información introduce o
modifica. Hoy en día, la implementación de la historia clínica electrónica es una
necesidad, porque con mayor frecuencia, las personas se mueven de un lugar a
otro, a lo largo de su vida es vista por diferentes profesionales, como
consecuencia de ello, tiene más de una historia clínica, distribuida en archivos
informáticos y en papel en varias localizaciones y con varios números de
identificación
13
.
La Historia Clínica Electrónica (HCE) deber ser la herramienta que guíe para
mejorar la eficacia, efectividad y eficiencia de los servicios sanitarios y sociales,
teniendo como centro de atención las necesidades del paciente. Asimismo, se
considera fundamental que el paciente tenga acceso a la HCE
14
.
Se han utilizado diferentes estrategias para reducir el tiempo de la entrada
presencial de datos, como evitar que el médico se convierta en empleado que
registra datos administrativos necesarios para la facturación de servicios; eso es
lo que hace que los médicos estadounidenses tengan un tiempo promedio
alrededor de 4 veces mayor que en otros países con sistemas de salud no
13
Medinaceli D. Karina, “El tratamiento de los datos sanitarios en la historia clínica electrónica:
caso boliviano”, Agencia Española de Protección de Datos Personales 2017, p. 592 [Consultada
27 de marzo de 2020], [Disponible en: https://www.aepd.es/sites/default/files/2019-
10/tratamiento-de-datos-sanitarios.pdf].
14
Gálvez S., María, “Mesa Redonda: Requisitos de HDSQA”, XXVI Jornadas Nacionales de
Innovación y Salud en Andalucía: Historia digital de salud que aprende, Revista de la Sociedad
Española de Informática de la Salud, Nº 136, octubre de 2019, ISSN: 1579-8070, p. 43
[Consultada 04 de mayo de 2020], [Disponible en: https://seis.es/wp-content/plugins/pdfjs-
viewer-shortcode/pdfjs/web/viewer.php?file=https://seis.es/wp-
content/uploads/2019/10/Revista-136.pdf&download=true&print=true&openfile=false].

7
fragmentados
15
. Los médicos que utilizaron el soporte de documentación, como
la asistencia de dictado o los servicios de escribano médico, se relacionaron más
con los pacientes que los que no utilizaron estos servicios. Además, el mayor
uso de Inteligencia Artificial en medicina no solo reduce el trabajo manual y libera
el tiempo del médico de atención primaria, sino que también aumenta la
productividad, la precisión y la eficacia
16
.
No se puede concebir una historia clínica sin tener en cuenta los datos. La
mayoría de las soluciones informáticas para la práctica médica no se basan en
algoritmos que aprenden de datos. Más bien, utilizan sistemas creados por
expertos (médicos e informáticos) para analizar datos y recomendar
tratamientos. Los algoritmos para crear esta Inteligencia Artificial deben ser
diseñados por los programadores en colaboración con por los que realmente
saben de la materia de salud, los clínicos.
Las aplicaciones de Inteligencia Artificial en la atención médica se pueden dividir
en 3 categorías: 1) Soluciones algorítmicas: las integran algoritmos de consenso
entre expertos en el campo con datos de la historia clínica electrónica para
revisar diferentes alternativas de tratamiento y recomendar la combinación más
adecuada al paciente. 2) Tratamiento de imágenes: el potencial de la predicción
automática se refleja donde el ojo humano falla, incluso en los mejores clínicos.
El software de reconocimiento mediante visión artificial, que puede comparar
decenas de miles de imágenes utilizando las mismas técnicas que los humanos,
es entre un 5% y 10% más preciso que el médico promedio. 3) Herramientas de
apoyo a la práctica médica: como los programas que procesan historias clínicas,
este software puede revisar miles de registros médicos para extraer estadísticas
15
Downing N. Lance, Bates David W. y Longhurst Christopher A., “Physician buenoutburnout in
the electronic heath record era: are we ignoring the real cause?” Ann Inter Med 2018; 169:50-1,
DOI: 10.7326/M18-0139 [Consultada 27 de abril de 2020], [Disponible en:
https://annals.org/aim/article-abstract/2680726/physician-burnout-electronic-health-record-era-
we-ignoring-real-cause?doi=10.7326%2fM18-0139].
16
Amisha, Malik Paras, Pathania Monika y Rathaur Vyas Kumar. "Overview of artificial
intelligence in medicine", Journal of family medicine and primary care. 2019, vol 8, p.pp. 2328–
2331, [Consultada 27 de abril de 2020], [Disponible en:
http://www.jfmpc.com/temp/JFamMedPrimaryCare872328-1337112_034251.pdf].

8
sobre enfermedades o tratamientos, detectar errores, lagunas o normalizar
expresiones y terminología en los informes
17
.
Antes de que se pueda aplicar las técnicas de aprendizaje automático en una
escala amplia, se necesita una forma consistente en representar los registros de
los pacientes, por lo que iniciativas de estandarización, como, por ejemplo, el
Observational Medical Outcomes Partnership (OMOP)
18
o Common Data
Model
19
se convierten en prácticas fundamentales. A pesar de la gran cantidad
de datos ahora digitalizados, los modelos predictivos construidos con datos de
historias clínicas rara vez usan más de 20 o 30 variables, y se basan
principalmente en modelos lineales tradicionales. El aprendizaje automático se
aplica actualmente a las historias clínicas para predecir los pacientes que tienen
un mayor riesgo de reingreso al hospital o de no adherirse a los medicamentos
recetados
20
.
Cada paciente es único, lo que implica que un tratamiento puede no ser eficaz
para un paciente cuando clínicamente debería serlo, para mejorar este aspecto,
se debería utilizar la información genética o el uso de algoritmos predictivos con
información estructurada del paciente, e incluso, aplicarutilizar tecnologías de
17
Moreno Antonio y Díaz Julia. “Inteligencia Artificial en salud desde la perspectiva del Instituto
de Ingeniería del Conocimiento”, Revista de la Sociedad Española de Informática de la Salud, Nº
136, octubre de 2019, ISSN: 1579-8070, pp. 32-33 [Consultada 04 de mayo de 2020], [Disponible
en: https://seis.es/wp-content/plugins/pdfjs-viewer-
shortcode/pdfjs/web/viewer.php?file=https://seis.es/wp-content/uploads/2019/10/Revista-
136.pdf&download=true&print=true&openfile=false].
18
La Observational Medical Outcomes Partnership es una asociación público - privada que
involucró a la FDA, múltiples compañías farmacéuticas y proveedores de atención médica
establecidos para informar el uso apropiado de las bases de datos de atención médica
observacional para estudiar los efectos (riesgos y beneficios) de los productos
médicos. Foundation for dethe National Institutes of Health, “Observational Medical Outcomes
Partnership (OMOP)”, [Consultada 07 de mayo de 2020], [Disponible en: https://fnih.org/what-
we-do/major-completed-programs/omop].
19
El modelo de datos comunes simplifica este proceso al proporcionar un lenguaje de datos
compartido para el uso de aplicaciones comerciales y analíticas. El sistema de metadatos del
modelo de datos comunes hace posible que los datos y su significado se compartan entre
aplicaciones y procesos comerciales. Microsoft, “Common Data Model” [Consultada 07 de mayo
de 2020], [Disponible en: https://docs.microsoft.com/en-us/common-data-model/].
20
IOMED, 2020. “Retos de la Inteligencia Artificial en la medicina” [Consultada 30 de marzo de
2020], [Disponible en: https://iomed.es/2020/01/08/retos-de-la-inteligencia-artificial-en-
medicina/].

9
Inteligencia Artificial en las que se incluyan variables propias del individuo para
mejorar el tratamiento
21
.
Para conocer la situación del desarrollo e implementación de la Historia Clínica
Electrónica (HCE) en Latinoamérica, se presentan los casos de Uruguay, Brasil
y Argentina y el trabajo que viene desarrollando la Red Americana de
Cooperación sobre Salud Electrónica (RACSEL).
La Agencia de Gobierno Electrónico y Sociedad de la Información y del
Conocimiento (AGESIC) promueve y encabeza la estrategia digital de Uruguay.
Uno de sus programas es Salud.uy
22
, el cual apoya al Sistema Nacional
Integrado de Salud (SNIS) para mejorar la calidad de los servicios de salud a
través de las tecnologías de la información y la comunicación.
Los múltiples sistemas DATASUS
23
(o los sistemas de Historia Clínica
Electrónica utilizados por SUS) de Brasil fueron desarrollados de acuerdo con
las necesidades nacionales. En vez de crear un sistema unificado, en Brasil se
desarrollaron distintos sistemas conforme fueron requeridos. Esta estrategia
fragmentada ocasionó que DATASUS desarrollara más de 600 sistemas de HCE
paralelos. En el 2014, el gobierno desarrolló un servicio BUS que permitió una
interoperabilidad entre todos estos sistemas, tanto en el sector de salud público
como en el privado. Brasil continúa consolidando sus sistemas de HCE, esta
transformación ha tardado años y todavía está en proceso
24
.
21
García C., Sergio, “Sesión plenaria experiencias; variabilidad en tecnología digital”, Revista de
la Sociedad Española de Informática de la Salud, Nº 136, octubre de 2019, ISSN: 1579-8070,
pp. 52-53 [Consultada 04 de mayo de 2020], [Disponible en: https://seis.es/wp-
content/plugins/pdfjs-viewer-shortcode/pdfjs/web/viewer.php?file=https://seis.es/wp-
content/uploads/2019/10/Revista-136.pdf&download=true&print=true&openfile=false].
22
Agencia de Gobierno Electrónico y Sociedad de la Información y del Conocimiento, “Qué es
Salud.uy”, [Consultada: 06 de mayo de 2020], [Disponible en: https://www.gub.uy/agencia-
gobierno-electronico-sociedad-informacion-conocimiento/politicas-y-gestion/programas/es-
saluduy].
23
Ministerio da Saude, “Sistemas”, [Consultada 06 de mayo de 2020], [Disponible en:
https://datasus.saude.gov.br/sistemas/].
24
Elizabeth Bastias-Butler y Andrea Ulrich, “Transformación digital del sector salud en América
Latina y el Caribe: La historia clínica electrónica”, Banco Interamericano de Desarrollo, Abril 2019
[Consultada 05 de mayo de 2020], [Disponible en:
https://publications.iadb.org/es/transformacion-digital-del-sector-salud-en-america-latina-y-el-
caribe-la-historia-clinica].

10
En Argentina, la experiencia del Hospital Italiano de Buenos Aires
25
en la
implementación de los sistemas de Historia Clínica Electrónica (HCE) considera
ocho elementos clave que fueron imperativos para el éxito en la implementación
de un sistema de HCE: 1) la importancia de crear un sentido de urgencia, 2)
formar una coalición de profesionales médicos con distintas fortalezas y
antecedentes diversos, 3) elaborar un plan maestro para todos los servicios de
información de salud, 4) desarrollar una estructura organizacional, 5) formalizar
los procesos de comunicación y capacitación, 6) poner a disposición la
información necesaria para la investigación y la gestión clínica, 7) evaluar los
resultados en un ciclo de mejoramiento continuo y 8) involucrar a los usuarios
finales en el proceso de diseño.
La elaboración de la Agenda Digital de Ciudad Autónoma de Buenos Aires –
CABA (Argentina) se realizó en el marco del objetivo ministerial estratégico de
fortalecer la Red de Atención Primaria de Salud y lograr un sistema de salud
integrado y eficiente, que ofrece el cuidado oportuno y equitativo a las personas.
La Red de Salud de CABA cuenta con 33 Hospitales, 45 Centros de Atención
Primaria y Comunitaria (CeSAC) y Centros Médicos Barriales divididos en 4
regiones sanitarias. Cabe destacar que se tomó la decisión política de
implementar la Historia Clínica Electrónica (HCE) porque gran parte de los
profesionales del sistema de salud ya se encontraban habituados a utilizar
Sistemas de Información en Salud en consultorios y sanatorios privados. En el
año 2019, la Historia Clínica Electrónica se constituye en el gran hito de la
gestión del Gobierno de la Ciudad Autónoma de Buenos Aires. Se la destaca por
ser uno de los compromisos cumplidos 100% al lograrse la implementación en
todos los Centros de Salud y Acción Comunitaria de CABA, consiguiendo mayor
calidad de atención, eficiencia médica y prevención de enfermedades
26
.
25
De Quiros, Fernan B., “Experiencia de un proyecto de Informatización en Salud en América
Latina: 15 años del desarrollo en el Hospital Italiano de Buenos Aires”, Hospital Italiano de
Buenos Aires, Departamento de Informática en Salud, 2015 [Consultada 06 de mayo de 2020],
[Disponible en:
https://www1.hospitalitaliano.org.ar/multimedia/archivos/noticias_archivos/11/Disertaci
ones/11_06-12Quiros-Experienciade15anosdelHospitalItalianodeBs.As.pdf].
26
Instituto de Formación Política y Gestión Pública, “Historia Clínica Electrónica – Salud”, en
Curso Cambios der paradigma en la medicina tradicional: Historia Clínica Electrónica, Ministerio
de Gobierno, Buenos Aires, pp. 1-14.

11
La Red Americana de Cooperación sobre Salud Electrónica (RACSEL)
27
está
conformada por Costa Rica, Perú, Chile, Colombia y Uruguay. Mediante una
colaboración dentro de la red, los países miembros identificaron retos
compartidos y descubrieron sus propias fortalezas y debilidades. RACSEL se
rige por un comité técnico regional y su objetivo es abordar las cuestiones
relacionadas con la salud digital, incluyendo las diferencias en la terminología y
la creación de marcos jurídicos alrededor de la salud digital. La red promueve
enfáticamente la adopción de estándares de datos y arquitectura para los
procesos de intercambio de información.
3. Big Data e Inteligencia Artificial en el ámbito de la salud
Big Data, que en español significa “grandes datos”, es un término que se ha
acuñado para referirse a la manipulación de gran cantidad de datos. El volumen
masivo, variedad y velocidad que ahora toma la información hace imprescindible
capturar, almacenar y analizar todo este complejo engranaje
28
.
Big Data es una combinación de cinco características muy importantes: volumen,
velocidad, variedad, veracidad y valor. El volumen se refiere a la cantidad de
datos, hablamos de grandes volúmenes de información, nos referimos a
tratamientos de terabytes o petabytes. La velocidad se refiere a los datos en
movimiento y, más específicamente, a la velocidad a la que se crean, procesan
y analizan los datos. La variedad se trata de gestionar la complejidad y la
heterogeneidad de múltiples conjuntos de datos, incluidos los datos
estructurados, semiestructurados y no estructurados. La veracidad se refiere a
la incertidumbre de los datos y al nivel de confiabilidad/calidad asociada con
ciertos tipos de datos. Finalmente, el valor del dato por sí mismo es fundamental,
27
Red Americana de Cooperación sobre Salud Electrónica, “Estándares para Dummis”
[Consultada 04 de mayo de 2020], [Disponible en:
https://estandaresparadummies.blogspot.com/2019/12/racsel-red-americana-de-
cooperacion.html].
28
Puyol Montero, Javier, Aproximación jurídica y económica al Big Data, Valencia, Tirant lo
Blanch, 2015, pp. 33.

12
saber qué datos son los que se debe analizar va a llevar a la consecuencia de
un resultado fiable y apto para toma de una decisión al respecto
29
.
El Big Data trabaja generalmente con información estadística, es decir,
basándose en probabilidades, con tantas variables que el aprendizaje respecto
del resultado es confiable. Trabajar a base de probabilidades en medicina,
estableciendo patrones, resulta útil desde el punto de vista de la propagación de
las enfermedades, el estudio de sus orígenes y, por tanto, su mejor tratamiento.
Tradicionalmente, los datos provenían de registros electrónicos de salud (por sus
siglas en inglés EHR), genómica y datos de imágenes. Sin embargo, el
advenimiento de las modernas tecnologías ubicuas y de redes sociales ha dado
lugar a nuevas formas de datos generados por los pacientes, como los
resultados electrónicos informados por los pacientes (ePRO); fisiológico y datos
psicométricos (especialmente datos en tiempo real recopilados directamente a
través de dispositivos sensores); y datos generados en línea (por ejemplo,
comentarios y publicaciones de pacientes en herramientas de redes sociales en
línea). Hay varios ejemplos de intervenciones tecnológicas desarrolladas para
beneficio de la salud pública a este respecto. Por ejemplo, los EHR se han
procesado para mejorar la aplicación y el análisis
30
.
Un dato estructurado es un dato que puede ser almacenado, consultado,
analizado y manipulado por máquinas, normalmente, en modo tabla de datos;
por ejemplo, datos clásicos de los pacientes (nombre, edad, sexo…). Un dato no
estructurado o desestructurado es todo lo contrario, por ejemplo, las recetas de
papel, los registros médicos, las notas manuscritas de médicos y enfermeras, las
grabaciones de voz, las radiografías, escáneres, resonancias magnéticas, TAC
y otras imágenes médicas. A estos datos, pertenecientes a ambas categorías,
29
Gaitanou, Rea, Gaoufallou, Emmanouel y Panos, Balatsoukas, “The Effectiveness of Big Data
in Health Care: A Systematic Review”, [Consultada 30 de marzo de 2020], [Disponible en:
https://www.researchgate.net/publication/278707106_The_Effectiveness_of_Big_Data_in_Healt
h_Care_A_Systematic_Review].
30
Gaitanou, Rea, Gaoufallou, Emmanouel y Panos, Balatsoukas, “The Effectiveness of Big Data
in Health Care: A Systematic Review”, [Consultada 30 de marzo de 2020], [Disponible en:
https://www.researchgate.net/publication/278707106_The_Effectiveness_of_Big_Data_in_Healt
h_Care_A_Systematic_Review].

13
también se pueden considerar los archivos electrónicos de contabilidad y gestión
administrativa, datos clínicos, etc.
31
Existen dos grandes proyectos a nivel europeo en relación al intercambio de
datos con enorme potencial a nivel de investigación, docencia y empleo de esos
datos a través de Big Data: 1) European Reference Networks (EURORDIS):
estructura de gestión para el intercambio de conocimientos y coordinación de la
atención en toda la Unión Europea en el campo de las enfermedades raras.
Colaboran centros de referencia, prestadores de asistencia sanitaria y
laboratorios; 2) European Medical Information Framework (EMIF): permite a
científicos e investigadores acceder a varias bases de datos de pacientes
reales
32
.
Entre los problemas o aspectos negativos que puede presentar el Big Data en el
ámbito sanitario se resaltan:
o Los datos que se ponen a disposición en código abierto están disponibles
gratuitamente, por lo tanto, son muy vulnerables
33
34
35
.
31
Joyanes A., Luis y Poyatos D., Juan Miguel, “Big Data y el sector de la salud: el futuro de la
sanidad”, [Consultada 07 de mayo de 2020], [Disponible en:
http://poyatosdiaz.com/index.php/big-data-y-el-sector-de-la-salud-el-futuro-de-la-sanidad].
32
Eguia, Hans A. et al, “Clínicos ante las Tics: La transformación digital desde la perspectiva de
SEMERGEN”, Revista de la Sociedad Española de Informática de la Salud, Nº 130, septiembre
de 2018, pp. 42-43, [Consultada: 04 de mayo de 2020], [Disponible en: https://seis.es/is-130-
septiembre-2018/].
33
Jee Kyoungyoung, Gang-Hoon Kim, "Potentiality of Big Data in the Medical Sector: Focus on
How to Reshape the Healthcare System", Healthcare Informatics Research, 2013, vol 19, Nº 2,
pp. 79, [Consultada el 07 de mayo de 2020], [Disponible en:
https://www.ncbi.nlm.nih.gov/pubmed/23882412].
34
Raghupathi Wullianallur y Raghupathi Viju, "Big data analytics in healthcare: promise and
potential", Health Information Science and Systems, 2014, vol 2, Nº 1, [Consultada el 07 de mayo
de 2020], [Disponible en: https://link.springer.com/article/10.1186/2047-2501-2-3 ]
35
Baro Emilie, Degoul Samuel, Beuscart Regis y Chazard Emmanuel, "Toward a Literature-
Driven Definition of Big Data in Healthcare". BioMed Research International, 2015, vol 2015, pp.
1–9, [Consultada el 07 de mayo de 2020], [Disponible en:
https://www.hindawi.com/journals/bmri/2015/639021]

14
o Problemas de estructura de datos, los datos están fragmentados, dispersos
y rara vez estandarizados
36
37
38
.
o Aunque los registros electrónicos en salud (EHR) comparten datos dentro de
la misma organización, las plataformas de EHR están fragmentadas, en el
mejor de los casos. Los datos se almacenan en formatos que no son
compatibles con todas las aplicaciones y tecnologías
39
40
.
o La precisión de los datos también es necesaria para proporcionar información
precisa
41
.
o Algoritmos matemáticos capaces de procesar la información del Big Data
para que la misma éste disponible en tiempo real y no existan interrupciones
al sistema o problemas con las computadoras que lo soportan.
o Los costos asociados con su obtención y almacenamiento son altos
42
.
36
Jee Kyoungyoung, Gang-Hoon Kim, "Potentiality of Big Data in the Medical Sector: Focus on
How to Reshape the Healthcare System", Healthcare Informatics Research, 2013, vol 19, Nº 2,
pp. 79, [Consultada el 07 de mayo de 2020], [Disponible en:
https://www.ncbi.nlm.nih.gov/pubmed/23882412 ]
37
Raghupathi Wullianallur y Raghupathi Viju, "Big data analytics in healthcare: promise and
potential", Health Information Science and Systems, 2014, vol 2, Nº 1, [Consultada el 07 de mayo
de 2020], [Disponible en: https://link.springer.com/article/10.1186/2047-2501-2-3].
38
Fernandes Lorraine, O'connor Michele y Weaver Victoria, "Big data, bigger outcomes:
Healthcare is embracing the big data movement, hoping to revolutionize HIM by distilling vast
collection of data for specific analysis”, Journal of AHIMA, 2012, vol 83, pp. 38–43, [Consultada
el 07 de mayo de 2020], [Disponible en: https://www.ncbi.nlm.nih.gov/pubmed/23061351].
39
Raghupathi Wullianallur y Raghupathi, Viju, "Big data analytics in healthcare: promise and
potential", Health Information Science and Systems, 2014, vol 2, Nº 1, [Consultada el 07 de mayo
de 2020], [Disponible en: https://link.springer.com/article/10.1186/2047-2501-2-3].
40
Hsieh Jui-Chien, Ai-Hsien Li y Chung-Chi Yang, "Mobile, Cloud, and Big Data Computing:
Contributions, Challenges, and New Directions in Telecardiology", International Journal of
Environmental Research and Public Health, 2013, vol 10, Nº 11, pp. 6131–6153, [Consultada el
07 de mayo de 2020], [Disponible en: https://www.mdpi.com/1660-4601/10/11/6131].
41
Kyoungyoung Jee y Gang-Hoon Kim, "Potentiality of Big Data in the Medical Sector: Focus on
How to Reshape the Healthcare System", Healthcare Informatics Research, 2013, vol 19, Nº 2,
pp. 79, [Consultada el 07 de mayo de 2020], [Disponible en:
https://www.ncbi.nlm.nih.gov/pubmed/23882412].
42
Mohr David C., Burns Michelle Nicole, Schueller Stephen M., Clarke Gregory y Klinkman
Michael, "Behavioral Intervention Technologies: Evidence review and recommendations for future
research in mental health", General Hospital Psychiatry. 2013, vol 35, Nº 4, pp. 332–338,
[Consultada el 07 de mayo de 2020], [Disponible en:
https://www.ncbi.nlm.nih.gov/pmc/articles/PMC3719158/].

15
o Dificultades técnicas que supone el almacenamiento de la gran cantidad de
datos, la seguridad del almacenamiento en un determinado soporte, servidor
u otro, que cuente con una adecuada infraestructura que haga inviable su
acceso, hackeo, robo o cualquier vulnerabilidad.
o Inseguridad que pueda llevar a tomar decisiones automatizadas sin la
intervención del factor humano (médico), porque el Big Data trabaja con un
sistema basado en las probabilidades haciendo correlaciones de datos.
o La confidencialidad es importante por la sensibilidad de los datos de salud
43
.
o Necesidad de mecanismos seguros, fiables y consistentes que permitan la
total anonimización de los datos de los pacientes y que estos mecanismos
impidan la identificación del sujeto mediante la vuelta atrás del proceso y su
reidentificación
44
.
o Problemas de gestión y de cumplimiento normativo
45
.
o Actualización de la normativa europea, Reglamento General de Protección
de Datos (en inglés GDPR) en torno a implicaciones del Big Data, el Cloud
Computing, el Internet de las Cosas o BioTech, todos ellos con aplicación en
el ámbito de los datos sanitarios
46
.
43
Mohr David C., Burns Michelle Nicole, Schueller Stephen M., Clarke Gregory y Klinkman
Michael, "Behavioral Intervention Technologies: Evidence review and recommendations for future
research in mental health", General Hospital Psychiatry, 2013, vol 35, Nº 4, pp. 332–338,
[Consultada el 07 de mayo de 2020], [Disponible en:
https://www.ncbi.nlm.nih.gov/pmc/articles/PMC3719158/].
44
Llaser M., Mª R., Casado, M. y Buisan E., L., “Documento sobre bioética y Big Data de salud:
explotación y comercialización de los datos de los usuarios de la sanidad pública”, Observatorio
de Bioética y Derecho de la Universidad de Barcelona, 2015 [Consultada 25 de abril de 2020],
[Disponible en:
http://www.publicacions.ub.edu/refs/observatoriBioEticaDret/documents/08209.pdf].
45
Scott Kruse Clemens, Goswamy Rishi, Raval Yesha y Marawi Sarah, "Challenges and
Opportunities of Big Data in Health Care: A Systematic Review", JMIR Medical Informatics, 2016,
vol 4, Nº 4, pp. 38, [Consultada el 07 de mayo de 2020], [Disponible en:
https://medinform.jmir.org/2016/4/e38/pdf].
46
Cristea UUivaru, Lucia N., “La protección de datos de carácter sensible en el ámbito europeo.
Historia Clínica Digital y Big Data en Salud”, Tesis Doctoral, Facultad de Ciencias Sociales de la
Universidad Abat Oliba CEU, 2017, pp. 303 [Consultada 10 de abril de 2020], [Disponible en:
https://www.tdx.cat/bitstream/handle/10803/442972/Tlcu.pdf?sequence=1&isAllowed=y].

16
Cristea Uivaru
47
señala que el Big Data, desde el punto de vista de la gestión
sanitaria, optimizará los recursos y evitará duplicidades innecesarias eliminando
dichos costes; podrán detectarse de forma precoz epidemias; permitirá a los
médicos un diagnóstico más certero y ágil, etc. Desde el punto de vista de,
También parapermitirá a las farmacéuticas detectar de forma rápida efectos
secundarios de los medicamentos, reducirá los costos de investigación y
probablemente los medicamentos serían más seguros, entre otros beneficios.
La monitorización del propio estado de salud y el vuelco de la información
obtenida en grandes bases de datos para su posterior tratamiento y
estructuración permitirán, en un futuro muy cercano, avanzar al Big Data hacia
un nuevo concepto de la atención médica personalizada.
4. Técnicas de anonimización para el Big Data y la Inteligencia Artificial
La anonimización es el proceso que permite eliminar o reducir al mínimo los
riesgos de reidentificación de un individuo a partir de sus datos personales
eliminando toda referencia directa o indirecta a su identidad, pero manteniendo
la veracidad de los resultados del tratamiento de los mismos. Es decir, además
de evitar la identificación de las personas, los datos anonimizados deben
garantizar que cualquier operación o tratamiento que pueda ser realizado con
posterioridad a la anonimización no conlleva una distorsión de los datos reales
48
.
La anonimización implica un tratamiento posterior de los datos personales. Por
tanto, debe satisfacer el requisito de compatibilidad teniendo en cuenta las
circunstancias y los fundamentos jurídicos de dicho tratamiento. Por otra parte,
aunque los datos anonimizados se encuentren fuera del alcance de la legislación
sobre protección de datos, es posible que los interesados tengan derecho a
47
Cristea UUivaru, Lucia N., “La protección de datos de carácter sensible en el ámbito europeo.
Historia Clínica Digital y Big Data en Salud”, Tesis Doctoral, Facultad de Ciencias Sociales de la
Universidad Abat Oliba CEU, 2017, pp. 297 [Consultada 10 de abril de 2020], [Disponible en:
https://www.tdx.cat/bitstream/handle/10803/442972/Tlcu.pdf?sequence=1&isAllowed=y].
48
Agencia Española de Protección de Datos, “Adecuación al RGPD de tratamientos que
incorporan artificial.Inteligencia Artificial. Una introducción”, pp. 9 [Consultada 25 de abril de
2020], [Disponible en: https://www.aepd.es/sites/default/files/2020-02/adecuacion-rgpd-ia.pdf].

17
protección en virtud de otras disposiciones legales (como las que protegen la
confidencialidad de las comunicaciones)
49
.
Es factible, actualmente, la desanonimización, reidentificación, o revelación de
datos personales de conjuntos de usuarios y de usuarios individuales, pues las
herramientas informáticas empleadas pueden servir tanto para esa finalidad
como para la contraria. Es importante remarcar que el problema no es
únicamente la transformación de los datos considerados personales en un
conjunto de datos, pues incluso eliminando estos datos personales es posible
llegar a reidentificar a una persona concreta
50
.
El Grupo de Trabajo del Artículo 29 reconoce el valor potencial de la
anonimización, en particular como estrategia para permitir a las personas y la
sociedad en su conjunto beneficiarse de los «datos abiertos» al mismo tiempo
que se mitigan los riesgos para los interesados. No obstante, los estudios de
caso y las publicaciones científicas muestran la dificultad de crear un conjunto
de datos verdaderamente anónimo conservando, sin embargo, toda la
información subyacente requerida para la tarea
51
.
En este documento, se aborda también la seudonimización, para aclarar algunos
errores e ideas falsas: la seudonimización no es un método de anonimización;
simplemente, reduce la vinculabilidad de un conjunto de datos con la identidad
original del interesado y es, en consecuencia, una medida de seguridad útil
52
.
(AEPD, 2020).
49
Grupo de Trabajo del Artículo 29, “Dictamen 015/2014 sobre técnicas de anonimización”, de
la Comisión Europea de 10 de abril de 2014, pp. 3, [Consultada 25 de abril de 2020], [Disponible
en: https://www.aepd.es/sites/default/files/2019-12/wp216-es.pdf].
50
Llaser M., Mª R., Casado, M. y Buisan E., L., “Documento sobre bioética y Big Data de salud:
explotación y comercialización de los datos de los usuarios de la sanidad pública”, Observatorio
de Bioética y Derecho de la Universidad de Barcelona, 2015, pp. 45 [Consultada 25 de abril de
2020], [Disponible en:
http://www.publicacions.ub.edu/refs/observatoriBioEticaDret/documents/08209.pdf].
51
Grupo de Trabajo del Artículo 29, “Dictamen 015/2014 sobre técnicas de anonimización”, de la
Comisión Europea de 10 de abril de 2014, pp. 9, [Consultada 25 de abril de 2020], [Disponible
en: https://www.aepd.es/sites/default/files/2019-12/wp216-es.pdf].
52
Grupo de Trabajo del Artículo 29, “Dictamen 015/2014 sobre técnicas de anonimización”, de la
Comisión Europea de 10 de abril de 2014, pp. 22, [Consultada 25 de abril de 2020], [Disponible
en: https://www.aepd.es/sites/default/files/2019-12/wp216-es.pdf].

18
La seudonimización se define, en el artículo 4.5 del Reglamento General de
Protección de Datos de la UE
53
, como “el tratamiento de datos personales de
manera tal que ya no puedan atribuirse a un interesado sin utilizar información
adicional, siempre que dicha información adicional figure por separado y esté
sujeta a medidas técnicas y organizativas destinadas a garantizar que los datos
personales no se atribuyan a una persona física identificada o identificable”.
La conclusión del dictamen es que las técnicas de anonimización pueden aportar
garantías de privacidad y usarse para generar procesos de anonimización
eficientes, pero solo si su aplicación se diseña adecuadamente, lo que significa
que han de definirse con claridad los requisitos previos (el contexto) y los
objetivos del proceso para obtener la anonimización deseada al mismo tiempo
que se generan datos útiles. La solución óptima debe decidirse caso por caso y
puede conllevar la combinación de diversas técnicas, aunque siempre
respetando las recomendaciones prácticas que se formulan en este
documento
54
.
Los procesos de anonimización del dato deben llevarse a cabo dentro del
perímetro interno de la Administración por las garantías que otorgan las
obligaciones de transparencia y rendición de cuentas que dicha Administración
tiene, si bien la responsabilidad compartida exige también transparencia y
rendición de cuentas al sector privado, especialmente en las redes mixtas
público-privadas
55
.
53
Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo, de 27 de abril de 2016,
relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos
personales y a la libre circulación de estos datos y por el que se deroga la Directiva 95/46/CE
[Consultada: 02 de mayo de 2020], [Disponible en: https://eur-lex.europa.eu/legal-
content/ES/TXT/?uri=CELEX%3A32016R0679].
54
Grupo de Trabajo del Artículo 29, “Dictamen 015/2014 sobre técnicas de anonimización”, de la
Comisión Europea de 10 de abril de 2014, pp. 26, [Consultada 25 de abril de 2020], [Disponible
en: https://www.aepd.es/sites/default/files/2019-12/wp216-es.pdf].
55
Llaser M., Mª R., Casado, M. y Buisan E., L., “Documento sobre bioética y Big Data de salud:
explotación y comercialización de los datos de los usuarios de la sanidad pública”, Observatorio
de Bioética y Derecho de la Universidad de Barcelona, 2015, pp. 46 [Consultada 25 de abril de
2020], [Disponible en:
http://www.publicacions.ub.edu/refs/observatoriBioEticaDret/documents/08209.pdf].

19
En la 36ª Conferencia Internacional de Autoridades de Protección de Datos y
Privacidad, los reguladores internacionales de privacidad y de protección de
datos hicieron un llamamiento colectivo con relación al empleo de esta técnica a
todas las partes que utilizan el Big Data para exigir el cumplimiento de una serie
de principios que consideran como el punto de partida a esta técnica
56
.
Por otra parte, el Consejo Europeo de Protección de Datos queda habilitado para
publicar directrices y recomendaciones a fin de especificar los criterios y
condiciones aplicables a la elaboración de perfiles. Se citan a continuación los
principios: a) Respetar el principio de especificación de la finalidad; b) Limitar la
cantidad de información recolectada y almacenada a un nivel que sea necesario
para el propósito legítimo que pretende; c) Obtener, cuando sea apropiado, el
consentimiento válido del titular de los datos en relación con el uso de
información personal para fines de análisis y de creación de perfiles; d) Ser
transparente acerca de qué información se recolecta, cómo se procesa, con qué
propósito será utilizada y si será transferida a terceros; e) Dar a las personas
acceso apropiado a los datos; f) Ofrecer a las personas, cuando sea apropiado,
acceso a la información sobre los insumos principales y los criterios para la toma
de decisiones (algoritmos) que se han utilizado como base para el desarrollo del
perfil; g) Llevar a cabo una evaluación de impacto en la privacidad,
especialmente cuando el análisis del Big Data implica usos novedosos o
inesperados de los datos personales; h) Desarrollar y utilizar tecnologías del Big
Data de acuerdo con los principios de la privacidad por diseño; i) Considerar
cuando los datos anónimos mejorarán la protección de la privacidad; j) Actuar
cumpliendo la legislación aplicable en materia de protección de datos, cuando
se comparte o se publican conjuntos de datos con seudónimos o que pueden ser
identificables indirectamente; y k) Demostrar que las decisiones respecto al uso
del Big Data son justas, transparentes y responsables
57
.
56
Puyol Montero, Javier, Aproximación jurídica y económica al Big Data, Valencia, Tirant lo
Blanch, 2015, pp. 309.
57
Puyol Montero, Javier, Aproximación jurídica y económica al Big Data, Valencia, Tirant lo
Blanch, 2015, pp. 306-328.

20
5. Inteligencia Artificial, aprendizaje automático y aprendizaje profundo en
el ámbito de la salud
La Red Iberoamericana de Protección de Datos menciona que “la Inteligencia
Artificial incluye una variedad de técnicas computacionales y de procesos
enfocados a mejorar la capacidad de las máquinas para realizar muchas
actividades, los que comprenden desde modelos algorítmicos, pasando por los
sistemas de machine learnig, hasta llegar a las técnicas de deep learning.
Particularmente se vincula el uso de algoritmos a la IA, los cuales son un
conjunto de reglas o una secuencia de operaciones lógicas que proporcionan
instrucciones para que las máquinas tomen decisiones o actúen de determinada
manera”
58
.
Las artificialInteligencia Artificial ha mejorado la calidad y la atención médica,
dado que al acelerar la investigación sobre datos clínicos con algoritmos
computacionales tales como el aprendizaje automático (Machine Learning),
aprendizaje profundo (Deep Learning) y sistemas expertos, se ha permitido una
detección y prevención temprana de trastornos como diabetes, edemas, cáncer,
autismo, y otros; por tanto, la evolución de la historia clínica permite agilizar el
intercambio de datos entre los médicos, unidades de atención, laboratorios de
investigación y el paciente
59
.
Si bien la Inteligencia Artificial abarca una amplia gama de enfoques simbólicos
y estadísticos para el aprendizaje y el razonamiento, la potencia del equipo
computacional, incluyendo el uso de la programación paralela o distribuida, los
avances algorítmicos, así como el acceso a grandes conjuntos de datos han
permitido que las redes neuronales artificiales emerjan como el método líder de
la Inteligencia Artificial. Las redes neuronales artificiales son modelos
58
Red Iberoamericana de Protección de Datos, Recomendaciones Generales para el Tratamiento de datos
en la Inteligencia Artificial, [Consultada 12 de octubre de 2020], [Disponible en:
https://www.redipd.org/sites/default/files/2020-02/guia-recomendaciones-generales-tratamiento-
datos-ia.pdf].
59
Ahmed Zeeshan, Khalid Mohamed, Saman Zeeshan, Xinqi Dong, "Artificial intelligence with
multi-functional machine learning platform development for better healthcare and precision
medicine", Database, 2020, vol 2020, [Consultada 15 de abril de 2020], [Disponible en:
https://academic.oup.com/database/article/doi/10.1093/database/baaa010/5809229].

21
matemáticos flexibles que utilizan múltiples algoritmos para identificar relaciones
complejas no lineales dentro de grandes conjuntos de datos (análisis). Las
máquinas aprenden cuándo se corrigen los errores encontrados en respuesta a
modificaciones menores del algoritmo (entrenamiento), mejorando
progresivamente la precisión del modelo predictivo (confianza)
60
61
.
Se mejora lo anterior con el aprendizaje profundo (Deep Learning), dado que
existen varias características ocultas que se descubren y mejoran en tiempos si
se hace uso de equipos optimizados, es decir, gracias a tarjetas gráficas,
servidores con múltiples procesadores o arquitecturas en la nube. Una aplicación
común del aprendizaje profundo es encontrar patrones de comportamiento en
imágenes como las radiológicas, por resonancia magnética funcional u otras
Esta combinación permite una mayor precisión en el diagnóstico, generando
herramientas automatizadas conocidas como detección asistida por
computadora (CAD).
Parte del aprendizaje profundo es el Procesamiento Natural del Lenguaje (PNL),
este permite reconocimiento de voz, análisis de texto, traducción y otros objetivos
relacionados con el lenguaje. Hay dos enfoques básicos: PNL estadístico se
basa en el aprendizaje automático (redes neuronales de aprendizaje profundo
en particular) y ha contribuido a un aumento reciente en la precisión del
reconocimiento, y el PNL semántico
62
.
El aprendizaje computacional consiste básicamente en enseñar a una máquina
a hacer algo mostrándole muchos ejemplos, pero en medicina no suelen
compartir por motivos de privacidad y de protección de datos personales. En la
investigación médica, además de entrevistar a los especialistas, se utilizan
cientos de datos de diagnósticos para que la máquina aprenda; así, si se desea
60
Goodfellow Ian, Bengio Yoshua y Courville Aaron, “Deep Learning”, MIT Press, 2016,
[Consultada el 12 de mayo de 2020], [Disponible en: http://www.deeplearningbook.org].
61
Miller Douglas y Brown Eric, "Artificial Intelligence in Medical Practice: The Question to the
Answer?". The American Journal of Medicine, 2018, vol 131, Nº 2, pp. 129–133, [Consultada el
12 de mayo de 2020], [Disponible en: https://kundoc.com/pdf-artificial-intelligence-in-medical-
practice-the-question-to-the-answer-.htmlwww.deeplearningbook.org].
62
Davenport Thomas y Kalakota Ravi, "The potential for artificial intelligence in healthcare",
Future healthcare journal, 2019, vol 6, pp. 94-98, [Consultada el 12 de abril de 2020], [Disponible
en: https://www.ncbi.nlm.nih.gov/pmc/articles/PMC6616181/].

22
que se detecte un tumor en el cerebro, se procesarán los datos y esto permitirá
una conclusión
63
. Existen contribuciones valiosas como la iniciativa Biobank, un
proyecto en Reino Unido para crear una base de datos de acceso libre con
imágenes médicas, informe y hábitos de vida de 100.000 voluntarios, otros
repositorios importantes son de Kaagle, UCI o ABIDE, específicamente de
problemas de autismo.
El aprendizaje profundo también contempla el denominado aprendizaje del
lenguaje natural, esto permite la creación, comprensión y clasificación de la
documentación clínica, para lo cual se requiere un gran "corpus" o cuerpo de
lenguaje del cual aprender; estas aplicaciones analizan notas clínicas no
estructuradas en pacientes, preparar informes y facilitar conversaciones.
Parte de la Inteligencia Artificial son los sistemas expertos, los cuales no han
caducado y siguen siendo usados, estos se basan en condicionantes o reglas
"si-entonces", su auge fue en la década de los 80. Los sistemas expertos
requieren expertos humanos para construir una serie de reglas en un dominio de
conocimiento particular. Funcionan bien hasta cierto punto y son fáciles de
entender. Sin embargo, cuando el número de reglas es grande, las reglas
comienzan a entrar en conflicto entre sí o no son coherentes.
6. Beneficios y riesgos de la Inteligencia Artificial en el ámbito sanitario
A continuación, podemos conocer los beneficios que otorga la aplicación de
Inteligencia Artificial en el ámbito de la salud:
Uno de los mejores ejemplos de la aplicación de Inteligencia Artificial en salud
es Watson, desarrollado por IBM. La división de este sistema de Inteligencia
Artificial centrada en aplicaciones sanitarias cuenta con una rama para oncología
(Watson for oncology). Watson asesora a médicos que trabajan en hospitales de
63
Guerrero Teresa y Lucio Cristina G., “Un nuevo aliado de los médicos” en periódico El Mundo
[Consultada 29 de abril de 2020], [Disponible en: https://lab.elmundo.es/inteligencia-
artificial/salud.html].

23
Estados Unidos, India, México, Tailandia, Eslovaquia o Corea. En la actualidad,
Watson está entrenado para detectar 13 tipos de cáncer y su tecnología ha
llegado a 45.000 pacientes en todo el mundo
64
.
Otra de las aplicaciones de Inteligencia Artificial y la telemedicina es el asistente
robótico para cirugías o robot-assisted surgery, este asistente brinda la
posibilidad, al profesional médico, de realizar operaciones sin la necesidad de
que doctor y paciente se encuentren en el mismo espacio geográfico; las virtual
nursing assistant o enfermeras virtuales son aplicaciones de Inteligencia Artificial
que asisten al paciente en cualquier momento que este desee, mediante una
aplicación que puede descargarse de internet hacia un dispositivo móvil
65
.
El objetivo de la compañía Alphabet es crear una aplicación Streams que
centraliza la información sobre un paciente, puede generar alertas en base a esa
información, permitiendo al profesional sanitario actuar con rapidez. Sentrian
apunta más allá, el objetivo es prever cuándo una persona se puede enfermar,
utilizando biosensores y aprendizaje automático para analizar datos
66
.
En la Universidad de Valencia (España) están entrenando a máquinas para
ayudar a los médicos a realizar mejores diagnósticos, trabajan en un sistema de
Inteligencia Artificial capaz de detectar el cáncer de pecho en mamografías
usando la misma tecnología de la física de partículas con la que se detectó el
Boson de Higgs en el CERN de Ginebra. El nivel de confianza del diagnóstico
está en torno al 89%; si se combina con la valoración de radiólogos humanos, el
porcentaje se eleva al 93%
67
.
64
Guerrero Teresa y Lucio Cristina G., “La artificialInteligencia Artificial entra en el hospital”,
periódico El Mundo [Consultada 29 de abril de 2020], [Disponible en:
https://lab.elmundo.es/inteligencia-artificial/salud.html].
65
Martínez – García, Diana N. et al, “Avances de la artificialInteligencia Artificial en salud”,
Revista Científica Dominio de las Ciencias, Dom. Cien., ISSN: 2477-8818, Vol. 5, núm. 3, julio
2019, pp. 609, DOI: 10.23857/dc.v5i3.955 [Consultada 28 de abril de 2020], [Disponible en:
https://dialnet.unirioja.es/descarga/articulo/7154291.pdf].
66
Martínez – García, Diana N. et al, “Avances de la artificialInteligencia Artificial en salud”,
Revista Científica Dominio de las Ciencias, Dom. Cien., ISSN: 2477-8818, Vol. 5, núm. 3, julio
2019, pp. 610, DOI: 10.23857/dc.v5i3.955 [Consultada 28 de abril de 2020], [Disponible en:
https://dialnet.unirioja.es/descarga/articulo/7154291.pdf].
67
Guerrero Teresa y Lucio Cristina G., “Detección precoz del cáncer de mama”, periódico El
Mundo [Consultada 29 de abril de 2020], [Disponible en: https://lab.elmundo.es/inteligencia-
artificial/salud.html].

24
En Silicon Valley trabajan ingenieros en biomedicina que investigan en el campo
de la visión por computador y el aprendizaje profundo (deep learning) para que
las computadoras detecten enfermedades tras analizar la fotografía de un ojo.
Los diagnósticos de la diabetes, dolencias cardiovasculares, degeneración
macular o glaucoma pueden realizarse ya mediante observación de la retina
68
.
DeepHealth es un proyecto europeo para mejorar los diagnósticos médicos con
Inteligencia Artificial que financia con 12 millones el programa Horizonte 2020,
se utilizará la Computación de Alto Rendimiento y Big Data en aplicaciones
biomédicas, empleando técnicas de vanguardia de Inteligencia Artificial,
aprendizaje profundo y visión artificial para dar soporte a nuevas formas
eficientes para el diagnóstico, seguimiento y tratamiento de enfermedades
69
.
Desde una clínica remota en el Amazonas (Brasil) mediante el uso de la
plataforma denominada Portal Telemedicina que hace uso de la Inteligencia
Artificial, es posible subir imágenes para diagnóstico, tales como una tomografía
computarizada; se compara las imágenes con datos clínicos históricos para
sugerir un diagnóstico propuesto, que luego es verificado por un radiólogo en
Sao Paulo
70
.
Meridian Medical Network Corp desarrolló Angel Robot, una solución que integra
la Inteligencia Artificial con sistemas de apoyo de decisiones clínicas, un robot
que utiliza la tecnología de reconocimiento facial para reconocer y conversar con
68
De Miguel, Mar, “Lili Peng: Los médicos necesitamos mejorar la forma en la que manejamos
un gran volumen de datos”, periódico El Mundo [Consultada 29 de abril de 2020], [Disponible en:
https://lab.elmundo.es/inteligencia-artificial/salud.html].
69
IT User Tech & Bussines, “DeepHealth, el proyecto europeo para mejorar los diagnósticos
médicos con artificialInteligencia Artificial” [Consultada 30 de abril de 2020], [Disponible en:
https://www.ituser.es/actualidad/2019/05/deephealth-el-proyecto-europeo-para-mejorar-los-
diagnosticos-medicos-con-inteligencia-artificial].
70
Bastias-Butler, Elizabeth y Ulrich, Andrea, “Transformación digital del sector salud en América
Latina y el Caribe: La historia clínica electrónica”, Banco Interamericano de Desarrollo, Abril 2019,
p. 16 [Consultada 05 de mayo de 2020], [Disponible en:
https://publications.iadb.org/es/transformacion-digital-del-sector-salud-en-america-latina-y-el-
caribe-la-historia-clinica].

25
los pacientes a fin de remitirlos a especialistas o prescribirles medicamentos,
solución probada en el condado de Jingde (China)
71
.
En relación a los riesgos cabe mencionar:
o Diversos estudios indican que muchos sistemas de Inteligencia Artificial
afectan desproporcionadamente a grupos que ya están en desventaja por
factores como la raza, género y antecedentes socioeconómicos. La
capacidad de detectar y corregir estos sesgos en los datos hace que sea
importante contar con grandes volúmenes de datos y diferentes para que la
amplitud y la profundidad de los datos expongan las sutilezas
correspondientes a cada grupo de pacientes
72
.
o Las personas que confían y utilizan Inteligencia Artificial en el ámbito sanitario
deben incorporar prácticas que garanticen la integridad, confidencialidad y
disponibilidad de la información del sistema.
o En algunas ocasiones, los datos clínicos son numerosos y no son de calidad,
no hay información concreta del paciente (por ejemplo, diferentes direcciones
de su vivienda), la información es inconsistente. En esta forma los datos no
tienen significados clínicos, por lo que no se pueden crear ontologías a partir
de ellos ni una capa semántica que sea la base de la Inteligencia Artificial ni
conseguir que un sistema aprenda solo
73
.
71
Bastias-Butler, Elizabeth y Ulrich, Andrea, “Transformación digital del sector salud en América
Latina y el Caribe: La historia clínica electrónica”, Banco Interamericano de Desarrollo, Abril 2019,
p. 16 [Consultada 05 de mayo de 2020], [Disponible en:
https://publications.iadb.org/es/transformacion-digital-del-sector-salud-en-america-latina-y-el-
caribe-la-historia-clinica].
72
IOMED, 2020. “Retos de la artificialInteligencia Artificial en la medicina” [Consultada 30 de
marzo de 2020], [Disponible en: https://iomed.es/2020/01/08/retos-de-la-inteligencia-artificial-en-
medicina/].
73
Méndez S., Oscar, “Plenario 1 ¿Conectar datos o relacionar significados?, Revista de la
Sociedad Española de Informática de la Salud, Nº 136, octubre de 2019, ISSN: 1579-8070, pp.
32-33 [Consultada 04 de mayo de 2020], [Disponible en: https://seis.es/wp-content/plugins/pdfjs-
viewer-shortcode/pdfjs/web/viewer.php?file=https://seis.es/wp-
content/uploads/2019/10/Revista-136.pdf&download=true&print=true&openfile=false].

26
o La influencia de los falsos positivos, los errores y la precisión del sistema de
Inteligencia Artificial
74
.
o Otro de los riesgos es el sesgo de automatización, es decir, cuando los
médicos aceptan sin cuestionar los consejos de las máquinas en lugar de
mantener la vigilancia o validar esos consejos
75
.
o Es potencialmente problemática, para la aplicación clínica, la incapacidad de
la Inteligencia Artificial para “explicar” la toma de decisiones de una manera
comprensible. Existe la necesidad no solo de enfoques de buen desempeño,
sino también fiables, transparentes e interpretables.
o Si bien los ejemplos descritos constituyen impresionantes éxitos prácticos, su
efectividad está limitada por la incapacidad para “explicar” la toma de
decisiones de una manera comprensible. Esto es potencialmente
problemático para su aplicación clínica, donde existe una necesidad clara de
enfoques que no son solo de buen desempeño, sino también fiables,
transparentes e interpretables
76
.
7. Tendencias de regulación de la Inteligencia Artificial en el ámbito
sanitario
La Inteligencia Artificial involucra la recolección, el almacenamiento, análisis,
procesamiento o interpretación de enormes cantidades de información (Big
Data), que es aplicada para la generación de diversos resultados, acciones o
comportamientos por parte de las máquinas. Se están desarrollando múltiples
74
García L., Francisco R. y Moratilla V., José Juan, “Taller B1: nuevo paradigma de la compra
por valor en sanidad: AI (Inteligencia Artificial) aplicada a la radiología”, Revista de la Sociedad
Española de Informática de la Salud, Nº 136, octubre de 2019, ISSN: 1579-8070, pp. 32-33
[Consultada 04 de mayo de 2020], [Disponible en: https://seis.es/wp-content/plugins/pdfjs-
viewer-shortcode/pdfjs/web/viewer.php?file=https://seis.es/wp-
content/uploads/2019/10/Revista-136.pdf&download=true&print=true&openfile=false].
75
Canguilhem, George, “En los tiempos de la artificialInteligencia Artificial ¿Cuál será el destino
de los médicos?”, Revista Argentina de Cardiología, Vol. 86 Nº 6, Diciembre 2018, [Consultada
27 de marzo de 2020], [Disponible en: https://dialnet.unirioja.es/descarga/articulo/6775233.pdf].
76
IOMED, 2020. “Retos de la artificialInteligencia Artificial en la medicina” [Consultada 30 de
marzo de 2020], [Disponible en: https://iomed.es/2020/01/08/retos-de-la-inteligencia-artificial-en-
medicina/].

27
proyectos e iniciativas en todo el mundo por parte de los Estados, empresas y
organismos internacionales sobre la Inteligencia Artificial y el uso de algoritmos.
Los Estados son los principales garantes del fortalecimiento de los derechos
humanos cuando sistemas de Inteligencia Artificial son comprados, diseñados
y/o implementados por el Estado para definir sus políticas públicas en el ámbito
de la salud.
Las organizaciones internacionales de protección de los derechos humanos son
conscientes de los riesgos y están tomando medidas para investigar el impacto
real de la Inteligencia Artificial y elaborar las recomendaciones necesarias que
faciliten a sus Estados miembros reaccionar ante las mismas.
En el marco de las Naciones Unidas, son múltiples las organizaciones y órganos
que exploran las oportunidades y retos de la Inteligencia Artificial. La Unión
Internacional de Telecomunicaciones (UIT), organismo especializado para las
tecnologías de la información y la comunicación, se ha convertido en una de las
plataformas clave para explorar este tema que se ha centrado en las estrategias
para garantizar un desarrollo fiable, seguro e inclusivo de estas tecnologías y el
acceso equitativo a sus beneficios
77
.
El Informe del Relator Especial sobre la promoción y protección del derecho a la
libertad de opinión y de expresión se constituye en un trabajo más centrado en
analizar el impacto de la Inteligencia Artificial
78
, que considera que una ley o
regulación integral de la Inteligencia Artificial puede ser inadecuada para un
campo tan innovador, dado que tendría que ser muy general y podría terminar
siendo demasiado vaga o demasiado restrictiva, por lo que es preferible una
77
Gascón Marcén, Ana, “Derechos humanos e artificial” Inteligencia Artificial”, Setenta años de
Constitución Italiana y cuarenta de Constitución Española, Volumen V, 2019 – 1221, pp. 335-350
[Consultada: 24 de abril de 2020], [Disponible en:
https://www.researchgate.net/publication/339687454_Derechos_Humanos_e_Inteligencia_Artifi
cialfile:///C:/Users/HP/AppData/Local/Packages/Microsoft.MicrosoftEdge_8wekyb3d8bbwe/Tem
pState/Downloads/5.2.5AnaGascon21%20(1).pdf].
78
Naciones Unidas, “Promoción y protección de los derechos humanos: cuestiones de derechos humanos,
incluidos otros medios para mejorar el goce efectivo de los derechos humanos y las libertades
fundamentales” pp. 1-24 [Consultada: 02 de mayo de 2020], [Disponible en :
https://undocs.org/es/A/73/348]

28
regulación sectorial. Su informe concluye con recomendaciones, tanto para los
Estados como para las empresas que diseñan y utilizan Inteligencia Artificial
79
.
En el ámbito europeo, se destaca al Consejo de Europa que creó un nuevo
Comité de Expertos sobre las dimensiones de derechos humanos del
procesamiento automatizado de datos y diferentes formas de Inteligencia
Artificial
80
. La Convención 108 de 1981 del Consejo de Europa sobre la
protección de los individuos en el contexto del procesamiento de datos
personales y tras su revisión Convenio 108+ actualizado y relacionado con los
actuales retos digitales, utilizando como base los principios
81
del Reglamento
General de Protección de Datos (RGPD) y de la OCDE. propone unas guías
generales sobre la Inteligencia Artificial.
El Grupo europeo de ética de la ciencia y de las nuevas tecnologías (grupo
consultivo de la Comisión) de la Unión Europea publicó, en marzo de 2018, una
Declaración sobre Inteligencia Artificial, robótica y sistemas autónomos
82
.
Las directrices elaboradas por el grupo de expertos de alto nivel sobre la
Inteligencia Artificial de la Comisión Europea, se basan en particular en el trabajo
realizado por el Grupo europeo de ética de la ciencia y de las nuevas tecnologías
y la Agencia de los Derechos Fundamentales. Las directrices propugnan que,
79
Resman, Daniel; Schultz, Jason; Crawford, Kate y Whittaker, Meredith, “Algorithmic impact
assessments: a practical framework for public agency accountability” [Consultada: 02 de mayo
de 2020], [Disponible en: https://ainowinstitute.org/aiareport2018.pdf].
80
La Recomendación CM/REc (2019) del Comité de Ministros a los Estados Miembros sobre la protección
de datos relacionados con la salud aprobado por el Comité de Ministros el 27 de marzo de 2019 en la
1342ª reunión de los Delegados de los Ministros. Esta recomendación es aplicable al tratamiento de datos
personales relacionados con la salud en los sectores público y privado. Por tanto, también se aplica al
intercambio y al intercambio de datos relacionados con la salud mediante herramientas digitales (2.
Alcance). Considerando que los datos relacionados con la salud pertenecen a una categoría especial que,
en virtud del artículo 6 del Convenio 108, goza de un mayor nivel de protección debido al riesgo de
discriminación que puede producirse con su tratamiento. Consejo de Europa, “Recomendación CM/REc
(2019) del Comité de Ministros a los Estados Miembros sobre la protección de datos relacionados con la
salud”, [Consultada 18 de octubre de 2020], [Disponible:
https://search.coe.int/cm/pages/result_details.aspx?objectid=09000016809e1154].
81
1) Licitud, lealtad y transparencia, 2) Limitación de la finalidad, 3) Minimización de datos, 4) Exactitud,
5) Limitación del plazo de conservación, 6) Integridad y confidencialidad, y 7) Responsabilidad proactiva.
82
Villalobos, María José, “Traducción de la Declaración sobre artificialInteligencia Artificial,
robótica y sistemas “autónomos” del Grupo Europeo sobre Ética de la Ciencia y las Nuevas
Tecnologías”, [Consultada 03 de mayo de 2020], [Disponible en:
https://www.researchgate.net/publication/332061758_Traduccion_de_la_Declaracion_sobre_Int
eligencia_artificial_robotica_y_sistemas_autonomos_del_Grupo_Europeo_sobre_Etica_de_la_
Ciencia_y_las_Nuevas_Tecnologias

29
para lograr una Inteligencia Artificial fiable, son necesarios tres componentes: 1)
debe ser conforme a la ley, 2) debe respetar los principios éticos y 3) debe ser
sólida.
Las directrices señalan siete requisitos esenciales que deben respetar las
aplicaciones de IA para ser consideradas fiables: 1) Intervención y supervisión
humanas, 2) Solidez y seguridad técnicas, 3) Privacidad y gestión de datos, 4)
Transparencia, 5) Diversidad, no discriminación y equidad, 6) Bienestar social y
medioambiental y 7) Rendición de cuentas
83
.
La OCDE establece los siguientes principios sobre la Inteligencia Artificial (IA):
1. La IA debería beneficiar a las personas y al planeta impulsando el crecimiento
inclusivo, el desarrollo sostenible y el bienestar.
2. Los sistemas de inteligencia artificial deben diseñarse de manera que
respeten el estado de derecho, los derechos humanos, los valores
democráticos y la diversidad, y deben incluir las salvaguardias adecuadas,
por ejemplo, permitir la intervención humana cuando sea necesario, para
garantizar una sociedad justa y equitativa.
3. Debe haber transparencia y divulgación responsable en torno a los sistemas
de IA para garantizar que las personas comprendan los resultados basados
en la IA y puedan desafiarlos.
4. Los sistemas de IA deben funcionar de manera robusta, segura y segura a lo
largo de sus ciclos de vida y los riesgos potenciales deben evaluarse y
gestionarse continuamente.
5. Las organizaciones y las personas que desarrollan, implementan u operan
sistemas de IA deben ser responsables de su correcto funcionamiento de
acuerdo con los principios anteriores
84
.
83
Comisión Europea, “Generar confianza en la Inteligencia Artificial centrada en el ser humano”
pp. 3-7, [Consultada: 19 de octubre de 2020], [Disponible en:
https://ec.europa.eu/transparency/regdoc/rep/1/2019/ES/COM-2019-168-F1-ES-MAIN-PART-
1.PDF].
84
OCDE, “¿Qué son los los principios de la OCDE sobre IA?” [Consultada: 25 de octubre de
2020], [Disponible en: http://www.oecd.org/going-digital/ai/principles/].

30
El Reglamento General de Protección de Datos (RGDP)
85
de la Unión Europea
se constituye en la normativa relativa a la automatización de la toma de
decisiones que puede realizarse a través de Inteligencia Artificial. El mismo que
establece el derecho de los individuos a no ser sometidos a una decisión basada
puramente en un proceso automatizado si ésta ha de tener efectos legales
significativos en la vida de aquellos. Con el RGPD, se está avanzando hacia la
privacidad desde el diseño y, por defecto, en el diseño la elaboración de
programas de Inteligencia Artificial debiendo asumirse una perspectiva pro
derechos humanos.
La Declaración de los Comisionados de Privacidad y Protección de Datos
Personales relativa a la ética y protección de datos de Inteligencia Artificial
reconoce el vínculo entre la recolección, uso y revelación de información
personal y el desarrollo de ciertas áreas de la IA: i) los datos personales son una
categoría jurídica de información que se rige por reglas especiales que deben
observarse en la industria de la Inteligencia Artificial; ii) no todo desarrollo de IA
implica el tratamiento de datos personales; y iii) los datos personales no son la
única información que se recolecta, almacena, analiza y usa para dicho efecto
86
.
El documento Recomendaciones Generales para el Tratamiento de Datos en la
Inteligencia Artificial
87
de la Red Iberoamericana de Protección de Datos
recomienda que los proyectos o desarrollos de Inteligencia Artificial que
involucren el tratamiento de datos personales consideren lo siguiente: 1) Cumplir
las normas locales sobre el tratamiento de datos personales; 2) Efectuar estudios
de impacto de privacidad; 3) Incorporar la privacidad, la ética y la seguridad
85
Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo, de 27 de abril de 2016,
relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos
personales y a la libre circulación de estos datos y por el que se deroga la Directiva 95/46/CE
[Consultada: 02 de mayo de 2020], [Disponible en: https://eur-lex.europa.eu/legal-
content/ES/TXT/?uri=CELEX%3A32016R0679].
86
Declaration on ethics and data protection in artificial intelligence, 40th International Conference
of Data Protection and Privacy Commisioners Tuesday 23rd October 2018 [Consultada 03 de
mayo de 2020], [Disponible en: https://edps.europa.eu/sites/edp/files/publication/icdppc-40th_ai-
declaration_adopted_en_0.pdf].
87
Red Iberoamericana de Protección de Datos, “Recomendaciones Generales para el
Tratamiento de Datos en la Inteligencia Artificial”, texto aprobado por las Entidades integrantes
de la RIPD en la sesión del 21 de junio de 2019 en la ciudad de Naucalpan de Juárez, México,
[Consultada 02 de mayo de 2020], [Disponible en: https://www.redipd.org/es/noticias/la-ripd-
aprueba-sendos-documentos-sobre-inteligencia-artificial-y-proteccion-de-datos].

31
desde el diseño y, por defecto; 4) Materializar el principio de responsabilidad
demostrada; 5) Diseñar esquemas apropiados de gobernanza sobre tratamiento
de datos personales (TDP) en las organizaciones que desarrollan productos de
IA; 6) Adoptar medidas para garantizar los principios sobre TPD en los proyectos
de IA; 7) Respetar los derechos de los titulares de los datos e implementar
mecanismos efectivos para el ejercicio de los mismos; 8) Asegurar la calidad de
los datos; 9) Utilizar herramientas de anonimización; e) 10) Incrementar
confianza y transparencia con los titulares de los datos Personales
Previo al diseño y desarrollo de productos de Inteligencia Artificial, en la medida
que los productos entrañen un alto riesgo de afectación del derecho a la
protección de datos personales de los titulares, se debe efectuar una evaluación
de impacto en la privacidad (Privacy Impact Assessment – PIA por sus siglas en
inglés)
88
. La privacidad por arquitectura (privacy by design) representa el empleo
de mecanismos y soluciones que respetan los valores de privacidad durante todo
el ciclo de vida de los datos recolectados en razón de aplicaciones, productos u
otros servicios. En la misma línea, la seguridad por arquitectura (security by
design) tiene por objetivo garantizar la seguridad de tales datos desde la
concepción de los productos y servicios. Por último, poco estudiada, pero de
extrema importancia está la ética por arquitectura (ethics by design), porque sin
valores éticos, la tecnología puede ser responsable de segregar, discriminar y
así perjudicar la convivencia humana
89
.
90
88
Red Iberoamericana de Protección de Datos, “Recomendaciones Generales para el
Tratamiento de Datos en la Inteligencia Artificial”, Texto aprobado por las Entidades integrantes
de la RIPD en la sesión del 21 de junio de 2019 en la ciudad de Naucalpan de Juárez, México,
[Consultada 02 de mayo de 2020], [Disponible en: https://www.redipd.org/es/noticias/la-ripd-
aprueba-sendos-documentos-sobre-inteligencia-artificial-y-proteccion-de-datos].
89
De Oliveira, Caio César. “artificialInteligencia Artificial al servicio de la convivencia humana: la
importancia de normas de privacidad, seguridad y ética desde la concepción de productos y
servicios”, Inteligencia Artificial y bienestar de las juventudes en América Latina, ISBN: 978-956-
00-1237-1 Primera edición, diciembre 2019 [Consultada 28 de abril de 2020], [Disponible en:
https://drive.google.com/file/d/1OenZSNPgHUUd39ltaUIZw83B0Lt0GF6K/view].
90
Dicho marco de gobernanza de datos de salud debería contemplar: 1) Compromiso y participación, 2)
Coordinación en el ámbito del gobierno y promoción de la cooperación entre organizaciones de
procesamiento de datos personales de salud, tanto en el sector público como en el privado, 3) Revisión
de la capacidad de los sistemas de datos de salud del sector público empleados para procesar datos
personales de salud que sirvan y protejan el interés público, 4) Disposición de la información de manera
clara para las personas, 5) Consentimiento informado y alternativas adecuadas, 6) Procedimientos de

32
En el ámbito internacional, existen diferentes guías y marcos de referencia para
asegurar un procedimiento ético en la investigación médica, entre ellas, las
normas de cooperación de la OCDE de 2018o la política de la Agencia Europea
del Medicamento
91
sobre publicación de datos clínicos. La Organización Mundial
de la Salud (OMS) cuenta con un sitio web
92
dedicado a informar y educar a los
profesionales sobre cómo integrar la ética en el tratamiento de brotes de
enfermedades infecciosas, en la investigación y en las prácticas de monitoreo
que usen datos de salud abiertos. Entre las publicaciones están las Pautas de la
OMS sobre la ética en la vigilancia de la salud pública
93
en la cual se incluyen 17
pautas para asegurar que esta se realice de manera ética.
8. A modo de conclusión
o La Historia Clínica está conformada por datos de información personal
(nombre y apellidos, dirección, teléfono, documento nacional de identidad,
número de tarjeta sanitaria, etc.) y datos de salud (pruebas diagnósticas,
cirugías, medicamentos, etc.) No se puede concebir una historia clínica sin
tener en cuenta los datos. La Historia Clínica Electrónica (HCE) debe ser
proactiva, más inteligente, con una interfaz amigable e intuitiva que asegure
la confidencialidad y seguridad de la información. La HCE debe ser “única”
independientemente de dónde se genere y dónde se consulte. Por otra parte,
revisión y aprobación, según corresponda, sobre el uso de datos personales de salud con fines de
investigación y otros propósitos de interés público relacionados con la salud, 7) Transparencia, a través
de mecanismos de información pública que no comprometan la privacidad de los datos de salud, la
protección de seguridad, los intereses comerciales legítimos ni otros intereses de las organizaciones, 8)
Maximización del potencial y promoción del desarrollo de la tecnología, 9) Establecimiento de una
capacitación adecuada y desarrollo de competencias en medidas de privacidad y seguridad para quienes
procesan datos personales de salud, 11) Implementación de controles y garantías y 12) Exigencia a las
organizaciones que procesan datos personales de salud para que demuestren su cumplimiento con las
expectativas nacionales en cuanto a la gobernanza de los datos de salud. OCDE, “Recomendación del
Consejo sobre Gobernanza de Datos de Salud”, [Consultada 26 de octubre de 2020], [Disponible en:
https://cdn.www.gob.pe/uploads/document/file/306933/Recomendaci%C3%B3n_del_Consejo_sobre_
Gobernanza_de_Datos_de_Salud_-_OCDE.PDF].
91
Unión Europea, “Agencia Europea del Medicamento” [Consultada 03 de mayo de 2020],
[Disponible en: https://europa.eu/european-union/about-eu/agencies/ema_es#c%C3%B3mo-
funciona].
92
Organización Mundial de la Salud, “Acerca de la OMS” [Consultada: 03 de mayo de 2020],
[Disponible en: https://www.who.int/es].
93
Organización Panamericana de la Salud, “Pautas de la OMS sobre la ética en la vigilancia de
la salud pública” ISBN: 978-92-4-151265-7, 2017 [Consultada: 02 de mayo de 2020], [Disponible
en: https://iris.paho.org/bitstream/handle/10665.2/34499/9789275319840-spa.pdf?sequence=6].

33
a nivel internacional se persigue una HCE “sin fronteras”, las limitaciones que
hoy se encuentran es que no todos los países utilizan los mismos estándares
y en algunos países no existe una identificación de los pacientes.
o El futuro de la HCE se basa en 5 ejes de cambio: interoperabilidad, sistemas
de información, Internet de las Cosas (IoT), Big Data e Inteligencia Artificial.
Finalmente, señalar las oportunidades que ofrecen las tecnologías y las
expectativas del uso de la Inteligencia Artificial para optimizar la experiencia
de la atención médica.
o Durante la última década, el denominado Big Data está produciendo una
revolución en el ámbito sanitario con la posibilidad de manejar ingentes
cantidades de datos, analizarlos y obtener conclusiones. En este contexto,
los científicos, los profesionales de la salud y gestores se han centrado en la
mejora de la salud pública, políticas, investigación clínica y la atención
prestada a los pacientes mediante el análisis de grandes conjuntos de datos
relacionados con la salud. Los ejemplos que ilustran la eficacia de los análisis
basados en Big Data son innumerables. Toda la información analizada puede
ser aplicada a la investigación, creación de guías clínicas, protocolos, entre
otros. El Big Data supone un cambio de paradigma a la hora de extraer
conclusiones y tomar decisiones.
o El Big Data y la Inteligencia Artificial están permitiendo nuevos usos en el
campo de la salud con la ayuda de la memoria de computadoras,
procesadores de gran alcance, algoritmos inteligentes, software inteligente,
aprendizaje automático, aprendizaje profundo, matemáticas, estadísticas,
entre otros. Existe la necesidad de mecanismos seguros, fiables y
consistentes que permitan la total anonimización de los datos de los
pacientes, que estos mecanismos impidan la identificación del sujeto, pero
por los avances tecnológicos, la reidentificación de la persona es viable y no
evita usos indebidos o discriminatorios. Un dato será anónimo cuando no sea
posible su vinculación con la persona a la que hubiera identificado el dato, es
por ello que las medidas de anonimización deben ser encriptadas y
tecnológicas para impedir la reidentificación de la persona. Cabe señalar que

34
si los datos son anonimizados y a través de ellos no se puede identificar a la
persona a la que pertenecen, quedan fuera del ámbito legal, porque no son
considerados datos personales.
o La Inteligencia Artificial apoya a los médicos, no los reemplaza, dado que las
máquinas carecen de cualidades humanas como la astucia, intuición,
empatía o compasión, los médicos cuentan con ello y no podrían ser
fácilmente reemplazados. Por otro lado, los pacientes, si bien esperan el
apoyo de equipos para el tratamiento de su enfermedad, no confiarán
fácilmente en una máquina. Asimismo, la Inteligencia Artificial podría evitar
errores clínicos dados por registros humanos incorrectos, beneficiando así al
paciente con datos precisos de su información o precautelando su seguridad.
La Inteligencia Artificial se acopla con la medicina de precisión, dado que se
provee un conjunto de datos y acciones precisas, esto representa un
problema para determinados tipos de dolencia dado que las enfermedades
pueden evolucionar de distintas formas en cada persona. Un inconveniente
del uso del aprendizaje automático o profundo es que requiere un conjunto
de información amplio, esto permite a la matemática y estadística utilizadas
obtener buenos resultados; si existe poca información, sea del conjunto de
personas o variables, la información puede ser sesgada y no apoyar a un
diagnóstico correcto.
o Las fuentes de información o los repositorios de datos a ser utilizados en las
técnicas de Inteligencia Artificial deben ser considerables y amplios en la
cantidad de variables y registros a manejar, dado que esto permitirá disminuir
el sesgo de la información respecto a grupos de pacientes por edad, raza,
género u otros. La Inteligencia Artificial es falible si los datos no son correctos
o tienen sesgos, es por ello aconsejable que las validaciones de los
resultados sean dirigidas por el personal de salud.
o Las organizaciones internacionales de protección de los derechos humanos
(Naciones Unidas, Consejo de Europa, Unión Europea, entre otras) están
tomando medidas para investigar el impacto de la Inteligencia Artificial y
elaborando recomendaciones (Declaraciones, Informes, entre otros

35
instrumentos). El Reglamento de Protección de Datos Personales de la Unión
Europea se constituye en la normativa de referencia en relación a la
automatización de la toma de decisiones que puede realizarse a través de
Inteligencia Artificial. Por otra parte, la Red Iberoamericana de Protección de
Datos emitió en junio de 2019, las Recomendaciones Generales para el
Tratamiento de Datos Personales en la Inteligencia Artificial.
Los sistemas de Inteligencia Artificial pueden crear problemas éticos y
jurídicos en tres niveles distintos, pero relacionados: transparencia y
responsabilidad algorítmica, control de los sistemas de Inteligencia Artificial y
explicabilidad e inteligibilidad algorítmica. En el mundo, más de 20 países
cuentan con estrategias nacionales existen más de 300 iniciativas de políticas
de Inteligencia Artificial, como, por ejemplo, Australia, Francia, Reino Unido,
Estados Unidos, Canadá, México, Colombia, Argentina y Chile, entre otros.
Sistemas de Inteligencia Artificial son comprados, diseñados e
implementados por el Estado para definir políticas públicas en el ámbito
sanitario. Se debe tener especial cuidado cuando se tratan datos sensibles
como son los datos de salud que pueden ser de interés de grandes empresas
farmacéuticas, aseguradoras y empleadores, velar por que la aplicación de
la Inteligencia Artificial no cause discriminación, respete la privacidad,
seguridad y ética.
9. Referencias
Agencia de Gobierno Electrónico y Sociedad de la Información y del
Conocimiento, “Qué es Salud.uy”, [Consultada: 06 de mayo de 2020],
[Disponible en: https://www.gub.uy/agencia-gobierno-electronico-sociedad-
informacion-conocimiento/politicas-y-gestion/programas/es-saluduy].
Agencia Española de Protección de Datos, “Adecuación al RGPD de
tratamientos que incorporan Inteligencia Artificial. Una introducción”,
[Consultada 25 de abril de 2020], [Disponible en:
https://www.aepd.es/sites/default/files/2020-02/adecuacion-rgpd-ia.pdf].

36
Ahmed Zeeshan, Khalid Mohamed, Saman Zeeshan, Xinqi Dong, "Artificial
intelligence with multi-functional machine learning platform development for
better healthcare and precision medicine", Database, 2020, vol 2020,
[Consultada 15 de abril de 2020], [Disponible en:
https://academic.oup.com/database/article/doi/10.1093/database/baaa010/5
809229].
Amisha, Malik Paras, Pathania Monika y Rathaur Vyas Kumar. "Overview of
artificial intelligence in medicine", Journal of family medicine and primary care.
2019, vol 8, p. 2328–2331, [Consultada 27 de abril de 2020], [Disponible en:
http://www.jfmpc.com/temp/JFamMedPrimaryCare872328-
1337112_034251.pdf].
Baro Emilie, Degoul Samuel, Beuscart Regis y Chazard Emmanuel, "Toward
a Literature-Driven Definition of Big Data in Healthcare". BioMed Research
International, 2015, vol 2015, pp. 1–9, [Consultada el 07 de mayo de 2020],
[Disponible en: https://www.hindawi.com/journals/bmri/2015/639021]
Bastias-Butler, Elizabeth y Ulrich, Andrea, “Transformación digital del sector
salud en América Latina y el Caribe: La historia clínica electrónica”, Banco
Interamericano de Desarrollo, abril 2019, p. 27 [Consultada 05 de mayo de
2020], [Disponible en: https://publications.iadb.org/es/transformacion-digital-
del-sector-salud-en-america-latina-y-el-caribe-la-historia-clinica].
Buch Varun H., Ahmed Irfan y Maruthappu Mahiben, "Artificial intelligence in
medicine: current trends and future possibilities", The British journal of general
practice: the journal of the Royal College of General Practitioners, Marzo
2018, vol 68, pp. 143-144, [Consultada 13 de abril de 2020], [Disponible en:
https://www.ncbi.nlm.nih.gov/pmc/articles/PMC5819974/].
Canguilhem, George, “En los tiempos de la Inteligencia Artificial ¿Cuál será
el destino de los médicos?”, Revista Argentina de Cardiología, Vol. 86 Nº 6,
Diciembre 2018, [Consultada 27 de marzo de 2020], [Disponible en:
https://dialnet.unirioja.es/descarga/articulo/6775233.pdf].

37
Collen Morris F. "Origins of medical informatics", The Western journal of
medicine, 1986, vol 145, pp. 778-785, [Consultada 15 de abril de 2020],
[Disponible en:
https://www.ncbi.nlm.nih.gov/pmc/articles/PMC1307150/pdf/westjmed00160
-0042.pdf].
Comisión Europea, “Generar confianza en la Inteligencia Artificial centrada
en el ser humano” pp. 3-7, [Consultada: 19 de octubre de 2020], [Disponible
en: https://ec.europa.eu/transparency/regdoc/rep/1/2019/ES/COM-2019-
168-F1-ES-MAIN-PART-1.PDF].
Corporación Ruta N., “Informe Nº 1 Inteligencia Artificial en Salud”,
Observatorio CT+i, 2018, [Consultada 28 de abril de 2020], [Disponible en :
https://www.researchgate.net/publication/327751676_Informe_Inteligencia_
Artificial_en_Salud].
Cristea Uivaru, Lucia N., “La protección de datos de carácter sensible en el
ámbito europeo. Historia Clínica Digital y Big Data en Salud”, Tesis Doctoral,
Facultad de Ciencias Sociales de la Universidad Abat Oliba CEU, 2017, p.
303 [Consultada 10 de abril de 2020], [Disponible en:
https://www.tdx.cat/bitstream/handle/10803/442972/Tlcu.pdf?sequence=1&i
sAllowed=y].
Davenport Thomas y Kalakota Ravi, "The potential for artificial intelligence in
healthcare", Future healthcare journal, 2019, vol 6, pp. 94-98, [Consultada el
12 de abril de 2020], [Disponible en:
https://www.ncbi.nlm.nih.gov/pmc/articles/PMC6616181/].
De Miguel, Mar, “Lili Peng: Los médicos necesitamos mejorar la forma en la
que manejamos un gran volumen de datos”, periódico El Mundo [Consultada
29 de abril de 2020], [Disponible en: https://lab.elmundo.es/inteligencia-
artificial/salud.html].

38
De Oliveira, Caio César. “Inteligencia Artificial al servicio de la convivencia
humana: la importancia de normas de privacidad, seguridad y ética desde la
concepción de productos y servicios”, Inteligencia Artificial y bienestar de las
juventudes en América Latina, ISBN: 978-956-00-1237-1 Primera edición,
diciembre 2019 [Consultada 28 de abril de 2020], [Disponible en:
https://drive.google.com/file/d/1OenZSNPgHUUd39ltaUIZw83B0Lt0GF6K/vi
ew].
De Quiros, Fernan B., “Experiencia de un proyecto de Informatización en
Salud en América Latina: 15 años del desarrollo en el Hospital Italiano de
Buenos Aires”, Hospital Italiano de Buenos Aires, Departamento de
Informática en Salud, 2015 [Consultada 06 de mayo de 2020], [Disponible en:
https://www1.hospitalitaliano.org.ar/multimedia/archivos/noticias_archivos/1
1/Disertaciones/11_06-12Quiros-
Experienciade15anosdelHospitalItalianodeBs.As.pdf].
Declaration on ethics and data protection in artificial intelligence, 40th
International Conference of Data Protection and Privacy Commisioners
Tuesday 23rd October 2018 [Consultada 03 de mayo de 2020], [Disponible
en: https://edps.europa.eu/sites/edp/files/publication/icdppc-40th_ai-
declaration_adopted_en_0.pdf].
Diehl Joshua J., Schmitt Lauren M., Villano Michael, Crowell Charles R., "The
Clinical Use of Robots for Individuals with Autism Spectrum Disorders: A
Critical Review.", Research in autism spectrum disorders, 2012, vol 6, pp.
249-262, [Consultada 14 de abril de 2020], [Disponible en:
https://www.ncbi.nlm.nih.gov/pmc/articles/PMC3223958/].
Downing N. Lance, Bates David W. y Longhurst Christopher A., “Physician
buenout in the electronic heath record era: are we ignoring the real cause?”
Ann Inter Med 2018; 169:50-1, DOI: 10.7326/M18-0139 [Consultada 27 de
abril de 2020], [Disponible en: https://annals.org/aim/article-
abstract/2680726/physician-burnout-electronic-health-record-era-we-
ignoring-real-cause?doi=10.7326%2fM18-0139].

39
Eguia, Hans A. et al, “Clínicos ante las Tics: La transformación digital desde
la perspectiva de SEMERGEN”, Revista de la Sociedad Española de
Informática de la Salud, Nº 130, septiembre de 2018, pp. 42-43, [Consultada:
04 de mayo de 2020], [Disponible en: https://seis.es/is-130-septiembre-
2018/].
Microsoft, “Common Data Model” [Consultada 07 de mayo de 2020],
[Disponible en: https://docs.microsoft.com/en-us/common-data-model/].
Elizabeth Bastias-Butler y Andrea Ulrich, “Transformación digital del sector
salud en América Latina y el Caribe: La historia clínica electrónica”, Banco
Interamericano de Desarrollo, Abril 2019 [Consultada 05 de mayo de 2020],
[Disponible en: https://publications.iadb.org/es/transformacion-digital-del-
sector-salud-en-america-latina-y-el-caribe-la-historia-clinica].
Fernandes Lorraine, O'connor Michele y Weaver Victoria, "Big data, bigger
outcomes: Healthcare is embracing the big data movement, hoping to
revolutionize HIM by distilling vast collection of data for specific analysis”,
Journal of AHIMA, 2012, vol 83, pp. 38–43, [Consultada el 07 de mayo de
2020], [Disponible en: https://www.ncbi.nlm.nih.gov/pubmed/23061351].
Gaitanou, Rea, Gaoufallou, Emmanouel y Panos, Balatsoukas, “The
Effectiveness of Big Data in Health Care: A Systematic Review”, [Consultada
30 de marzo de 2020], [Disponible en:
https://www.researchgate.net/publication/278707106_The_Effectiveness_of
_Big_Data_in_Health_Care_A_Systematic_Review].
Gaitanou, Rea, Gaoufallou, Emmanouel y Panos, Balatsoukas, “The
Effectiveness of Big Data in Health Care: A Systematic Review”, [Consultada
30 de marzo de 2020], [Disponible en:
https://www.researchgate.net/publication/278707106_The_Effectiveness_of
_Big_Data_in_Health_Care_A_Systematic_Review].

40
Galvez S., María, “Mesa Redonda: Requisitos de HDSQA”, XXVI Jornadas
Nacionales de Innovación y Salud en Andalucía: Historia digital de salud que
aprende, Revista de la Sociedad Española de Informática de la Salud, Nº 136,
octubre de 2019, ISSN: 1579-8070 [Consultada 04 de mayo de 2020],
[Disponible en: https://seis.es/wp-content/plugins/pdfjs-viewer-
shortcode/pdfjs/web/viewer.php?file=https://seis.es/wp-
content/uploads/2019/10/Revista-
136.pdf&download=true&print=true&openfile=false].
García C., Sergio, “Sesión plenaria experiencias; variabilidad en tecnología
digital”, Revista de la Sociedad Española de Informática de la Salud, Nº 136,
octubre de 2019, ISSN: 1579-8070, pp. 52-53 [Consultada 04 de mayo de
2020], [Disponible en: https://seis.es/wp-content/plugins/pdfjs-viewer-
shortcode/pdfjs/web/viewer.php?file=https://seis.es/wp-
content/uploads/2019/10/Revista-
136.pdf&download=true&print=true&openfile=false].
García L., Francisco R. y Moratilla V., José Juan, “Taller B1: nuevo paradigma
de la compra por valor en sanidad: AI (Inteligencia Artificial) aplicada a la
radiología”, Revista de la Sociedad Española de Informática de la Salud, Nº
136, octubre de 2019, ISSN: 1579-8070, pp. 32-33 [Consultada 04 de mayo
de 2020], [Disponible en: https://seis.es/wp-content/plugins/pdfjs-viewer-
shortcode/pdfjs/web/viewer.php?file=https://seis.es/wp-
content/uploads/2019/10/Revista-
136.pdf&download=true&print=true&openfile=false].
Gascón Marcén, Ana, “Derechos humanos e Inteligencia Artificial”, Setenta
años de Constitución Italiana y cuarenta de Constitución Española, Volumen
V, 2019-1221 [Consultada: 24/04/2020], [Disponible en:
https://www.researchgate.net/publication/339687454_Derechos_Humanos_
e_Inteligencia_Artificial].

41
Goodfellow Ian, Bengio Yoshua y Courville Aaron, “Deep Learning”, MIT
Press, 2016, [Consultada el 12 de mayo de 2020], [Disponible en:
http://www.deeplearningbook.org].
Grupo de Trabajo del Artículo 29, “Dictamen 015/2014 sobre técnicas de
anonimización”, de la Comisión Europea de 10 de abril de 2014, [Consultada
25 de abril de 2020], [Disponible en:
https://www.aepd.es/sites/default/files/2019-12/wp216-es.pdf].
Grupo de Trabajo del Artículo 29, “Dictamen 015/2014 sobre técnicas de
anonimización”, de la Comisión Europea de 10 de abril de 2014, [Consultada
25 de abril de 2020], [Disponible en:
https://www.aepd.es/sites/default/files/2019-12/wp216-es.pdf].
Grupo de Trabajo del Artículo 29, “Dictamen 015/2014 sobre técnicas de
anonimización”, de la Comisión Europea de 10 de abril de 2014, pp. 26,
[Consultada 25 de abril de 2020], [Disponible en:
https://www.aepd.es/sites/default/files/2019-12/wp216-es.pdf].
Guerrero Teresa y Lucio Cristina G., “Detección precoz del cáncer de mama”,
periódico El Mundo [Consultada 29 de abril de 2020], [Disponible en:
https://lab.elmundo.es/inteligencia-artificial/salud.html].
Hsieh Jui-Chien, Ai-Hsien Li y Chung-Chi Yang, "Mobile, Cloud, and Big Data
Computing: Contributions, Challenges, and New Directions in
Telecardiology", International Journal of Environmental Research and Public
Health, 2013, vol 10, Nº 11, pp. 6131–6153, [Consultada el 07 de mayo de
2020], [Disponible en: https://www.mdpi.com/1660-4601/10/11/6131].
Instituto de Formación Política y Gestión Pública, “Historia Clínica Electrónica
– Salud”, en Curso Cambios der paradigma en la medicina tradicional:
Historia Clínica Electrónica, Ministerio de Gobierno, Buenos Aires, pp. 1-14.

42
IOMED, 2020, “Retos de la Inteligencia Artificial en la medicina” [Consultada
30 de marzo de 2020], [Disponible en: https://iomed.es/2020/01/08/retos-de-
la-inteligencia-artificial-en-medicina/].
IT User Tech & Bussines, “DeepHealth, el proyecto europeo para mejorar los
diagnósticos médicos con Inteligencia Artificial” [Consultada 30 de abril de
2020], [Disponible en: https://www.ituser.es/actualidad/2019/05/deephealth-
el-proyecto-europeo-para-mejorar-los-diagnosticos-medicos-con-
inteligencia-artificial].
Jee Kyoungyoung, Gang-Hoon Kim, "Potentiality of Big Data in the Medical
Sector: Focus on How to Reshape the Healthcare System", Healthcare
Informatics Research, 2013, vol 19, Nº 2, pp. 79, [Consultada el 07 de mayo
de 2020], [Disponible en: https://www.ncbi.nlm.nih.gov/pubmed/23882412].
Joyanes A., Luis y Poyatos D., Juan Miguel, “Big Data y el sector de la salud:
el futuro de la sanidad”, [Consultada 07 de mayo de 2020], [Disponible en:
http://poyatosdiaz.com/index.php/big-data-y-el-sector-de-la-salud-el-futuro-
de-la-sanidad].
Knoppers, Bartha Maria y Thorogood, Adrian Mark, “Ethics and Big Data in
Health”, Current Opinion in Systems Biology, 4: 53-57. DOI:
10.1016/j.coisb.2017.07.001, [Consultada 03 de mayo de 2020], [Disponible
en:
https://reader.elsevier.com/reader/sd/pii/S2452310017300264?token=B4EE
37E6730B2AEBABC6560330561AED052BF2BAB48B02BA2411C4821A2B
A3740DDCD416C4CE6FE07E3CB2DD8A8F4C12].
Kyoungyoung Jee y Gang-Hoon Kim, "Potentiality of Big Data in the Medical
Sector: Focus on How to Reshape the Healthcare System", Healthcare
Informatics Research, 2013, vol 19, Nº 2, pp. 79, [Consultada el 07 de mayo
de 2020], [Disponible en: https://www.ncbi.nlm.nih.gov/pubmed/23882412].

43
Medinaceli D., Karina, “El tratamiento de los datos sanitarios en la historia
clínica electrónica: caso boliviano”, Agencia Española de Protección de Datos
Personales 2017, p. 590 [Consultada 27 de mayo de 2020], [Disponible en:
https://www.aepd.es/sites/default/files/2019-10/tratamiento-de-datos-
sanitarios.pdf].
Foundation for the National Institutes of Health, “Observational Medical
Outcomes Partnership (OMOP)”, [Consultada 07 de mayo de 2020],
[Disponible en: https://fnih.org/what-we-do/major-completed-
programs/omop].
Llaser M., Mª R., Casado, M. y Buisan E., L., “Documento sobre bioética y
Big Data de salud: explotación y comercialización de los datos de los usuarios
de la sanidad pública”, Observatorio de Bioética y Derecho de la Universidad
de Barcelona, 2015 [Consultada 25 de abril de 2020], [Disponible en:
http://www.publicacions.ub.edu/refs/observatoriBioEticaDret/documents/082
09.pdf].
Martínez – García, Diana N. et al, “Avances de la Inteligencia Artificial en
salud”, Revista Científica Dominio de las Ciencias, Dom. Cien., ISSN: 2477-
8818, Vol. 5, núm. 3, julio 2019, p. 609, DOI: 10.23857/dc.v5i3.955
[Consultada 28 de abril de 2020], [Disponible en:
https://dialnet.unirioja.es/descarga/articulo/7154291.pdf].
Martínez Ramos Carlos, “Telemedicina. Aspectos Generales”, 2020,
[Consultada 06 de mayo de 2020], [Disponible en:
http://www.revistareduca.es/index.php/reduca/article/viewFile/7/4C3%B3n%
20de%20est%C3%A1ndares%20de%20calidad.pdf].
Medinaceli D. Karina, “El tratamiento de los datos sanitarios en la historia
clínica electrónica: caso boliviano”, Agencia Española de Protección de Datos
Personales 2017, p. 592 [Consultada 27 de marzo de 2020], [Disponible en:
https://www.aepd.es/sites/default/files/2019-10/tratamiento-de-datos-
sanitarios.pdf].

44
Méndez S., Oscar, “Plenario 1 ¿Conectar datos o relacionar significados?,
Revista de la Sociedad Española de Informática de la Salud, Nº 136, octubre
de 2019, ISSN: 1579-8070, pp. 32-33 [Consultada 04 de mayo de 2020],
[Disponible en: https://seis.es/wp-content/plugins/pdfjs-viewer-
shortcode/pdfjs/web/viewer.php?file=https://seis.es/wp-
content/uploads/2019/10/Revista-
136.pdf&download=true&print=true&openfile=false].
Miller Douglas y Brown Eric, "Artificial Intelligence in Medical Practice: The
Question to the Answer?". The American Journal of Medicine, 2018, vol 131,
Nº 2, pp. 129–133, [Consultada el 12 de mayo de 2020], [Disponible en:
https://kundoc.com/pdf-artificial-intelligence-in-medical-practice-the-
question-to-the-answer-.htmlwww.deeplearningbook.org].
Ministerio da Saude, “Sistemas”, [Consultada 06 de mayo de 2020],
[Disponible en: https://datasus.saude.gov.br/sistemas/].
Mohr David C., Burns Michelle Nicole, Schueller Stephen M., Clarke Gregory
y Klinkman Michael, "Behavioral Intervention Technologies: Evidence review
and recommendations for future research in mental health", General Hospital
Psychiatry. 2013, vol 35, Nº 4, pp. 332–338, [Consultada el 07 de mayo de
2020], [Disponible en:
https://www.ncbi.nlm.nih.gov/pmc/articles/PMC3719158/].
Moreno Antonio y Díaz Julia. “Inteligencia Artificial en salud desde la
perspectiva del Instituto de Ingeniería del Conocimiento”, Revista de la
Sociedad Española de Informática de la Salud, Nº 136, octubre de 2019,
ISSN: 1579-8070, pp. 32-33 [Consultada 04 de mayo de 2020], [Disponible
en: https://seis.es/wp-content/plugins/pdfjs-viewer-
shortcode/pdfjs/web/viewer.php?file=https://seis.es/wp-
content/uploads/2019/10/Revista-
136.pdf&download=true&print=true&openfile=false].

45
OCDE, “¿Qué son los los principios de la OCDE sobre IA?” [Consultada: 25
de octubre de 2020], [Disponible en: http://www.oecd.org/going-
digital/ai/principles/].
OCDE, “Recomendación del Consejo sobre Gobernanza de Datos de Salud”,
[Consultada 26 de octubre de 2020], [Disponible en:
https://cdn.www.gob.pe/uploads/document/file/306933/Recomendaci%C3%
B3n_del_Consejo_sobre_Gobernanza_de_Datos_de_Salud_-_OCDE.PDF].
Organización Mundial de la Salud, “Acerca de la OMS” [Consultada: 03 de
mayo de 2020], [Disponible en: https://www.who.int/es].
Organización Panamericana de la Salud, “Pautas de la OMS sobre la ética
en la vigilancia de la salud pública” ISBN: 978-92-4-151265-7, 2017
[Consultada: 02 de mayo de 2020], [Disponible en:
https://iris.paho.org/bitstream/handle/10665.2/34499/9789275319840-
spa.pdf?sequence=6].
Puyol Montero, Javier, Aproximación jurídica y económica al Big Data,
Valencia, Tirant lo Blanch, 2015, p. 33.
Raghupathi Wullianallur y Raghupathi Viju, "Big data analytics in healthcare:
promise and potential", Health Information Science and Systems, 2014, vol 2,
Nº 1, [Consultada el 07 de mayo de 2020], [Disponible en:
https://link.springer.com/article/10.1186/2047-2501-2-3]
Raghupathi Wullianallur y Raghupathi, Viju, "Big data analytics in healthcare:
promise and potential", Health Information Science and Systems, 2014, vol 2,
Nº 1, [Consultada el 07 de mayo de 2020], [Disponible en:
https://link.springer.com/article/10.1186/2047-2501-2-3].
Red Americana de Cooperación sobre Salud Electrónica, “Estándares para
Dummis” [Consultada 04 de mayo de 2020], [Disponible en:

46
https://estandaresparadummies.blogspot.com/2019/12/racsel-red-
americana-de-cooperacion.html].
Red Iberoamericana de Protección de Datos, “Recomendaciones Generales
para el Tratamiento de Datos en la Inteligencia Artificial”, texto aprobado por
las Entidades integrantes de la RIPD en la sesión del 21 de junio de 2019 en
la ciudad de Naucalpan de Juárez, México, [Consultada 02 de mayo de 2020],
[Disponible en: https://www.redipd.org/es/noticias/la-ripd-aprueba-sendos-
documentos-sobre-inteligencia-artificial-y-proteccion-de-datos].
Red Iberoamericana de Protección de Datos, “Recomendaciones Generales
para el Tratamiento de Datos en la Inteligencia Artificial”, Texto aprobado por
las Entidades integrantes de la RIPD en la sesión del 21 de junio de 2019 en
la ciudad de Naucalpan de Juárez, México, [Consultada 02 de mayo de 2020],
[Disponible en: https://www.redipd.org/es/noticias/la-ripd-aprueba-sendos-
documentos-sobre-inteligencia-artificial-y-proteccion-de-datos].
Red Iberoamericana de Protección de Datos, 2019, “Recomendaciones
Generales para el Tratamiento de Datos en la Inteligencia Artificial”, 21 de
junio de 2019, [Consultada 15 de febrero de 2020], [Disponible en:
https://www.redipd.org/es/noticias/la-ripd-aprueba-sendos-documentos-
sobre-inteligencia-artificial-y-proteccion-de-datos].
Red Iberoamericana de Protección de Datos, Recomendaciones Generales
para el Tratamiento de datos en la Inteligencia Artificial, [Consultada 12 de
octubre de 2020], [Disponible en:
https://www.redipd.org/sites/default/files/2020-02/guia-recomendaciones-
generales-tratamiento-datos-ia.pdf].
Ahmed Zeeshan
Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo, de 27 de
abril de 2016, relativo a la protección de las personas físicas en lo que
respecta al tratamiento de datos personales y a la libre circulación de estos
datos y por el que se deroga la Directiva 95/46/CE [Consultada: 02 de mayo

47
de 2020], [Disponible en: https://eur-lex.europa.eu/legal-
content/ES/TXT/?uri=CELEX%3A32016R0679].
Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo, de 27 de
abril de 2016, relativo a la protección de las personas físicas en lo que
respecta al tratamiento de datos personales y a la libre circulación de estos
datos y por el que se deroga la Directiva 95/46/CE [Consultada: 02 de mayo
de 2020], [Disponible en: https://eur-lex.europa.eu/legal-
content/ES/TXT/?uri=CELEX%3A32016R0679].
Resman, Daniel; Schultz, Jason; Crawford, Kate y Whittaker, Meredith,
“Algorithmic impact assessments: a practical framework for public agency
accountability” [Consultada: 02 de mayo de 2020], [Disponible en:
https://ainowinstitute.org/aiareport2018.pdf].
Russell Stuart, Norvig Peter, Inteligencia Artificial: un enfoque moderno.
Pearson Educación, 2004, Colección de Inteligencia Artificial de Prentice Hall.
Scott Kruse Clemens, Goswamy Rishi, Raval Yesha y Marawi Sarah,
"Challenges and Opportunities of Big Data in Health Care: A Systematic
Review", JMIR Medical Informatics, 2016, vol 4, Nº 4, p. 38, [Consultada el
07 de mayo de 2020], [Disponible en:
https://medinform.jmir.org/2016/4/e38/pdf].
Unión Europea, “Agencia Europea del Medicamento” [Consultada 03 de
mayo de 2020], [Disponible en: https://europa.eu/european-union/about-
eu/agencies/ema_es#c%C3%B3mo-funciona].
Villalobos, María José, “Traducción de la Declaración sobre Inteligencia
Artificial, robótica y sistemas “autónomos” del Grupo Europeo sobre Ética de
la Ciencia y las Nuevas Tecnologías”, [Consultada 03 de mayo de 2020],
[Disponible en:
https://www.researchgate.net/publication/332061758_Traduccion_de_la_De

48
claracion_sobre_Inteligencia_artificial_robotica_y_sistemas_autonomos_del
_Grupo_Europeo_sobre_Etica_de_la_Ciencia_y_las_Nuevas_Tecnologias