Revista Médica Vozandes
Volumen 27, Número 1, 2016 59
EL MANEJO DE LA INTELIGENCIA ARTIFICIAL
DESDE PARÁMETROS ÉTICOS Y LEGALES.
THE MANAGEMENT OF ARTIFICIAL INTELLIGENCE
FROM ETHICAL AND LEGAL PARAMETERS.
Agustín Pérez-Cruz Martín1, Sonia Calaza López 2*
Resumen
La introducción en la medicina de las herramientas de la Inteligencia
Articial, al igual que en el resto de las ciencias, ha generado un importante
debate en torno a sus ventajas e inconvenientes; una valoración y
ponderación de unos y otros permite sostener que, nalmente, las
herramientas de la Inteligencia Articial serán introducidas, con distinta
dimensión y entidad, en las distintas ramas cientícas.
El mayor problema que suscita, en el momento actual, el manejo de
la Inteligencia Articial es que carece de la imprescindible cobertura
legal, lo que, sin duda alguna, en un Estado constitucional de derechos
y justicia, consagrado en el artículo 1 CPR, supone una agrante
vulneración del principio de legalidad.
Se impone una regulación, desde parámetros éticos, una regulación
del manejo de las herramientas de la Inteligencia Articial que, por la
propia dimensión internacional que plantea la Inteligencia Articial,
debería llevarse a cabo por Organizaciones Internacionales.
Europa, consciente del mencionado vacío legal con relación a la
Inteligencia Articial, ha iniciado la redacción de un Reglamento de
Inteligencia Articial, habiendo presentado, el 21 de abril de 2021,
una Propuesta de Reglamento que, actualmente, está en avanzado
estado de elaboración.
Palabras clave: Inteligencia Articial, Ética, Legislación, Medicina, Aspectos Bioéticos.
ABSTRACT
The introduction in the medina of the tools of Articial Intelligence, as
in the rest of the sciences, has generated an important debate about
its advantages and disadvantages; an assessment and weighting of
both allows us to maintain that, nally, the tools of Articial Intelligence
will be introduced, with different dimension and entity, in the different
scientic branches.
The biggest problem that arises, at the present time, the management of
Articial Intelligence is that it lacks the essential legal coverage, which,
without a doubt, in a constitutional State of rights and justice, enshrined
in article 1 CPR, is a agrant violation of the principle of legality.
A regulation is imposed, from ethical parameters, a regulation of the
management of the tools of Articial Intelligence that, due to the
international dimension posed by Articial Intelligence, should be carried
out by International Organizations
Europe, aware of the aforementioned legal vacuum in relation to
Articial Intelligence, has initiated the drafting of an Articial Intelligence
Regulation, having presented, in April 202, a Proposal for a Regulation
that, currently, is in an advanced state of preparation.
Keywords: Articial Intelligence, Ethics, Legislation, Medicine, Bioethical aspects..
DILEMAS ÉTICOS
Revista Médica Vozandes
Volumen 33, Número 1, 2022
Forma de citar este artículo: Pérez-Cruz
Martín A, Calaza López S. EL MANEJO DE
LA INTELIGENCIA ARTIFICIAL DESDE
PARÁMETROS ÉTICOS Y LEGALES. Rev
Med Vozandes. 2023; 34 (1): 59 - 62
1 Universidad de Oviedo (UNIOVI). Facultad de
Derecho. Departamento de Ciencias Jurídicas Básicas.
Asturias - España.
2 Universidad Nacional de Educación a Distancia
(UNED). Facultad de Derecho. Departamento Derecho
Procesal. Madrid - España
ORCID ID:
Pérez-Cruz Martín Agustín:
orcid.org/0000-0002-5220-5281
López Calaza Sonia:
orcid.org/0000-0002-4677-4162
*Corresponding author: Sonia Calaza López
E-mail: scalaza@der.uned.es
Este artículo está bajo una
licencia de Creative Com-
mons de tipo Reconocimien-
to – No comercial – Sin obras
derivadas 4.0 International.
Received: 02 – May – 2023
Accepted: 14 – Jun – 2023
Publish: 01 – Jul – 2023
Conflict of interest: The authors have full freedom
of manuscript preparation, and there were no potential
conicts of interest.
Financial disclosure: The authors have no nan-
cial relationships relevant to this article to disclose.
This work is part of three R + D + i Project for
knowledge generation and scientic and technological
strengthening of Ministerio de Ciencia e Innova-
ción de España: “Proceso y prueba prohibida”, con
REF PID2020-114707GB-100; “Ejes de la Justicia en
tiempos de cambio”, con REF PID2020-113083GB-I00
y “Transición Digital de la Justicia”, con REF. RED
2021-130078B-100.
CRediT – Contributor Roles Taxonomy:
Conceptualización: APCM – SCL, Curación de
datos: APCM – SCL, Análisis formal: APCM – SCL,
Adquisición de fondos: APCM – SCL, Investigación,
Metodología: APCM – SCL, Recursos: APCM – SCL,
Redacción – borrador original, Redacción – revisión y
edición: APCM – SCL.critical revision.
DOI: 10.48018/rmv.v34.i1.7
Revista Médica Vozandes
Volumen 33, Número 1, 2022
La Inteligencia Articial (IA) juega un gran papel en la
transformación digital de la sociedad y ya está presente en
muchas áreas de la vída cotidiana. El surgimiento de la IA
(1)-aplicada a las disciplinas cientícas- provoca tan frenético
adelantamiento por la derecha que un buen número de
cientícos -más de mil se han sumado a la propuesta inicial
del Future of Life Institute- piden una suspensión -moratoria de,
al menos, 6 meses- de los avances que se esperan en esta
desaante materia para evaluar, antes de asumir su impacto
real, los riesgos, peligros y amenazas que puede conllevar.
Una de las mayores preocupaciones de la ciudadanía -a la hora
de asumir este inevitable impacto de la Inteligencia Articial en
el mundo postmoderno- es la pérdida de puestos de trabajo,
como consecuencia de la amortización de un buen número de
profesiones y la revalorización del capital humano como fruto
de una inteligencia natural, imposible de imitar por la máquina;
pero ya -casi- todo es susceptible de articial imitación (incluso
la capacidad crítica, la originalidad y la misma creatividad
cuando se toman como base de otras creaciones, conscientes
como lo somos, de la consabida enseñanza clásica: Nihil
novum sub sole): imágenes idénticas a las reales, textos de
extraordinaria calidad, traducciones impecables, resoluciones
óptimas de problemas complejos, etc. Por si todo esto fuera
poco, las “redes neuronales (articiales)” de la IA llegan a
generar, con autonomía -respecto de la intervención humana-
nuevas soluciones o respuestas, más rápidas, más ecientes,
más económicas; pero estas respuestas, ¿son también más
satisfactorias desde el punto de vista de la Verdad, la Ética y la
Justicia?. Demasiados frentes abiertos … y, sobre todo, frentes
opacos: entre tanto desconozcamos los datos -su procedencia,
su actualización, su anidad-, procedimientos -sus cauces-
y prioridades que inuyen en la toma de decisiones, no será
fácil acertar a regular las -más que probables- suras, quiebras,
sesgos y riesgos de esta nueva Tecnología inteligente.
Pero no puede esperarse a tener todas las piezas para comenzar
a construir el puzle: resulta evidente que las fotografías que
simulan imágenes reales, las voces que sugieren expresiones
auténticas o las noticias que evidencian informaciones ciertas
-siendo, en verdad, todas ellas (imágenes, audios y noticias)
manipuladas y, por tanto, falsas (Deepfakes)-; las traducciones
o construcciones contractuales erróneas -que provocan
graves daños y perjuicios-; las obras intelectuales e industriales
de la IA -ideadas a imagen y semejanza de las ya creadas,
con mucho esfuerzo, por la Inteligencia Humana-; entre otras
muchísimas quiebras, riesgos y amenazas de la IA, conllevan la
transición hacia un nuevo -e inhóspito- mundo de estadística sin
conciencia, de datos sin contraste y de irrefutables irrealidades,
que impactan -de forma agresiva- en nuestra realidad,
mientras la Justicia se mantiene sin marco legal
habilitante, sin conocimientos tecnológicos y sin
una mínima experiencia previa.
Entre tanto la IA va tomando una velocidad tan
vertiginosa, que determinadas profesionales
comienzan a temer por el futuro de la profesión.
Ya ha llegado la robótica con sus ilimitadas
posibilidades. También ha llegado el Metaverso,
si bien todavía llegará -en su mejor versión: otra
más sosticada, desde luego, que la actual-
y con él, un mundo de vibrantes emociones
y sensaciones por descubrir, un “sinfín” de
controversias por resolver, un trasvase de
acciones -entre reales, imaginarias e híbridas-;
en denitiva, un nuevo mundo totalmente
desconocido, entre otras, para la generación
de los padres de la Constitución; pero un nuevo
mundo que se desarrolla -aún sin saberlo- en el
marco de los principios nucleares, de los valores
esenciales y de los derechos fundamentales de
esta Alta Norma.
Las innovaciones siempre generan, a priori, un
natural rechazo, sin embargo, los benecios de
su incorporación, en el campo de la medicina,
son maniestos en términos de eciencia,
precisión, seguridad, optimización de recursos,
permitiendo promover una transformación
y mejora de las prestaciones sanitarias, sin
olvidar que la IA no debe considerarse un n
en sí misma “… sino un instrumento al servicio
de las personas para mejorar nuestras vidas
de manera que nos permita perfeccionar y
complementar la adopción de decisiones y
su razonamiento gracias, al procesamiento
masivo de datos a través de distintas técnicas
(…) que cualquier ser humano estaría impedido
de llevarlo a cabo por si mismo.(2)”
Sin embargo, no se puede ignorar o preterir que la
IA adolece, bien es cierto, de un buen número de
debilidades, por el momento -escasez de datos
(todos ellos, además, cronológicamente pasados)
y desconocimiento de su real procedencia
(sino a riesgo de invadir su imprescindible
protección), opacidad o falta de la debida
transparencia, posibles sesgos o prejuicios,
deciente discriminación de casos no idénticos,
extremo automatismo (inexistente capacidad
EL MANEJO DE LA INTELIGENCIA ARTIFICIAL DESDE
PARÁMETROS ÉTICOS Y LEGALES. Pérez-Cruz Martín A, et al.
60
1. La IA es denitiva por la Real Academia de la Lengua España como una “disciplina cientíca que se ocupa de crear programas informáticos que
ejecutan operaciones comparables a las que realiza la mente humana, como el aprendizaje o el razonamiento lógico» (Diccionario de la Lengua
Española. Ed. del Tricentenario. Actualización de 2022 -https://dle.rae.es/inteligencia?m=form#2DxmhCT (consultado el día 11 de junio de 2023).
El Consejo de la UE, adopto, el pasado 8 de diciembre de 2022, ha restringido la denición de sistemas inteligentes a los desarrollados a través de
estrategias de aprendizaje automático, la lógica y el conocimiento.
2. Vid.: Garcia-Varela Iglesias R, Xiol Ríos J, Llano Alonso F, Irazabal E, Beiro Magán J, González M, et al. Ética e Inteligencia Articial. Actualidad Civil.
2022; 11:2 Ed. La Ley, Madrid.
Revista Médica Vozandes
Volumen 33, Número 1, 2022
interpretativa, crítica o innovadora) y por supuesto, ausencia
de toda empatía, humanidad o solidaridad-.
La IA se está desarrollando rápido. Cambiará nuestras
vidas, pues mejorará la atención sanitaria (por ejemplo,
incrementando la precisión de los diagnósticos y
permitiendo una mejor prevención de las enfermedades),
pero el recurso a la IA, singularmente en el campo de la
medicina, no es inocua para el ser humano, el progreso
que conlleva su uso no puede, en ningún caso, un
retroceso en los derechos de los pacientes. Por ello, en el
actual contexto, resulta imprescindible abrir un diálogo, no
solo sobre cuestiones jurídicos o tecnológicas, sino, antes
que estas, sobre cuestiones éticas. Porque siempre, aunque
se olvide con demasiada habitualidad, detrás de cada
iniciativa tecnológica se halla presente una idea moral que
conviene consensuar de forma reexiva(3).
Sin duda alguna, el inconveniente, desde el plano jurídico,
tomando en consideración el principio legalidad que
consagra y debe garantizarse en un Estado constitucional
de derechos y justicia (artículo 1 CPR) es que el manejo
de IA ha llegado sin esperar a la Ley habilitante- y su
utilización será, en breve, una cotidiana realidad: las
grandes compañías -respetando o no los 6 meses de
moratoria que piden los cientícos- ofrecerán, más pronto
que tarde, nuevos mecanismos, adicionales a los ya
existentes, que serán utilizados, con o sin cobertura legal:
el futuro ya ha llegado.
Sam Atlman, CEO de Open AI, la empresa creadora de
GPT y el ChatGPT, ha planteado la necesidad de una
regulación de la IA que mitigue los riesgos asociados a las
tecnologías. El citado creador “En una comparecencia
ante el Subcomité de Privacidad, Tecnología y Derecho
del Comité de Justicia del Senado en los Estados Unidos,
Altman ha destacado que es esencial que una tecnología
tan potenta como la IA se desarrolle, teniendo en cuenta
los valores democráticos. Para ello es fundamental una
intervención reguladora por parte de los gobiernos que
mitigue los crecientes riesgos que plantean los grandes
modelos de lenguaje (LLM por su abreviatura en inglés),
en los que se basa su producto. Una regulación de la IA
que equilibre la necesidad de seguridad con la
garantía de que las personas puedan acceder a los
benecios de la tecnología (4)” . Sobre esta cuestión,
el pasado 5 de mayo de 2023, en Oviedo, se celebró
el III Congreso Internacional de Derecho Procesal
(Prueba prohibida, IA y Digitalización de la Justica”,
manifestando unánimemente los asistentes la
imperiosa y urgente necesidad de regular el manejo
de las herramientas de IA, siempre bajo el control
humano(5), que debería tomar en consideración
principios éticos que aseguren el avance del
conocimiento, la comprensión y mejora de la
condición humana y el progreso de la sociedad.
Europa se encuentra, en estos momentos, en
un proceso de elaboración del Reglamento de
Inteligencia Articial(6). El Consejo de la Unión
Europa, el pasado 8 de diciembre de 2022, adopto
una “Orientación General” sobre el Reglamento de
IA. Cabe reseñar algunas precisiones al respecto:
1) En relación con las prácticas de IA prohibidas:
se amplía a los agentes privados la prohibición de
utilizar la IA con nes de puntuación ciudadana; 2) la
disposición por la que se prohíbe el uso de sistemas
de IA que explotan las vulnerabilidades de grupos
especícos de personas ahora incluye también a
las personas vulnerables por su situación social o
económica; 3). En cuanto a la clasicación de los
sistemas de IA como de alto riesgo: se añade una
serie de criterios horizontales a la clasicación de
sistemas de alto riesgo, con el n de garantizar que
no se incluyan en dicha clasicación sistemas de
IA que probablemente no acarrearán violaciones
graves de los derechos fundamentales ni otros
riesgos considerables. Finalmente, se han aclarado y
precisado muchos de los requisitos para los sistemas
de IA de alto riesgo de manera que sean más
viables desde el punto de vista técnico y supongan
una carga menor para las partes(7).
La Comisión Europea, el día19 de febrero de
2020, aprobó el Libro Blanco sobre IA -un enfoque
europeo orientado a la excelencia y la conanza(8),
DILEMAS ÉTICOS
61
3. Cfr.: BARRIO ANDRÉS M., DÍAZ CAPPA, J., MARTÍNEZ TALAMANTES, J. y BRAVO MARTÍN, P. (2023). Diálogos para el futuro judicial LXII. La Ética de la
transformación digital de la Justica. Diario La Ley, nº 10281, de 8 de mayo. Ed. La Ley. Madrid, p. 2.
4.https://diariolaley.laleynext.es/Content/Documento.aspx?params=H4sIAAAAAAAEAEWQS0_
DMAzHP81yRH0JwSGXtT0UdWOPguCE3NRqI0JSxcmg3x5vleDgv_z8yXaAnmSRC1AhgqmckunV1xfsoL8WnB
_xeZiOACmBOSTPP7TNDkvvdw0SME7ewWvOx8RKGHXXs8o5E7tPHgtVV6BpNmH2nCtUHu6yRJsvSxeEhzcUFPPCxf9Yg2oJj0OLVsYWUBkaYKAsjquezeD_
UmK6puk_f1G8vTC8u-FoTg1XSAEWWrKQBvGE2AwVHXlHdA848w9pMvO98aV7QyHDAaSzBoh7_tqYVo1XSM6Jc1Zf4TzSDbI0MFzLNZTs7wL
249syPmxy8-orEleBeJP5D8AjbZOdpcAQAAWKE (consultado el día 18 de mayo de 2023)
5. Vid.: PÉREZ-CRUZ MARTÍN, A. J. y VELASCO NUÑEZ, E. Entrevista de Agustín-Jesús Pérez-Cruz Martín a Eloy Velasco -https://diariolaley.laleynext.es/
dll/2023/05/19/la-ia-con-el-control-nal-humano-conllevara-a-una-mejor-justicia-mas-reexionada-y-contextual (consultado el día 19 de mayo de 2023).
6. Vid.: Propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de Inteligencia
Articial (Ley de Inteligencia Articial) y se modican de determinados actos legislativos de la Unión -https://eur-lex.europa.eu/legal-content/ES/
TXT/HTML/?uri=CELEX:52021PC0206 (consultado el día 12 de mayo de 2023).
7. Cfr.: Consejo de la Unión Europea aprueba su posición común sobre el Reglamento de Inteligencia Articial (2023). Diario La Ley, de 31 de enero.
Ed. La Ley. Madrid, p. 2.
Revista Médica Vozandes
Volumen 33, Número 1, 2022
62
Referencias
BARRIO ANDRÉS M., DÍAZ CAPPA, J., MARTÍNEZ TA-
LAMANTES, J. y BRAVO MARTÍN, P.. Diálogos para
el futuro judicial LXII. La Ética de la transformación
digital de la Justica. Diario La Ley, nº 10281, 2023
May. Ed. La Ley. Madrid
LA LEY (REDACCIÓN). Consejo de la Unión Euro-
pea aprueba su posición común sobre el Regla-
mento de Inteligencia Articial. Diario La Ley, 2023
Jan. Ed. La Ley. Madrid.
PÉREZ-CRUZ MARTÍN, A. J. y VELASCO NUÑEZ,
E. Entrevista de Agustín-Jesús Pérez-Cruz Martín
a Eloy Velasco -https://diariolaley.laleynext.es/
dll/2023/05/19/la-ia-con-el-control-nal-humano-
conllevara-a-una-mejor-justicia-mas-reflexiona-
da-y-contextual (consultado el día 19 de mayo
de 2023).
REAL ACADEMÍA DE LA LENGUA ESPAÑOLA. Dic-
cionario de la Lengua Española. Ed. del Tricente-
nario. Actualización de 2022 -https://dle.rae.es/
inteligencia?m=form#2DxmhCT
Garcia-Varela Iglesias R, Xiol Ríos J, Llano Alonso F,
Irazabal E, Beiro Magán J, González M, et al . Ética
e Inteligencia Articial. Actualidad Civil. 2022; 11.
Ed. La Ley, Madrid.
pero, sin duda, una fecha relevante en la regulación de la
IA se ha producido el pasado 14 de junio de 2023, en que el
Parlamento de Europa dio un paso crucial hacia la aprobación
del Reglamento de IA, adoptando los Comités de Mercado
Interior y Libertades Civiles sus enmiendas al Reglamento,
cuya principal novedad es que se imponen toda una serie de
restricciones a ChatGPT y otros modelos de lenguaje basados
en la IA. El Reglamento obligará a ChatGPT y similares a cumplir
con requisitos de transparencia adicionales
como revelar que el contenido fue generado por
IA diseñar el modo de forma que se garantice
que no producirá contenido ilegal y publicar
resúmenes de datos protegidos por derechos de
autor utilizados para entrenar al algoritmo.
8. Vid.: https://eur-lex.europa.eu/legal-content/ES/TXT/HTML/?uri=CELEX:52020DC0065 (consultado el día 11 de junio de 2023).
EL MANEJO DE LA INTELIGENCIA ARTIFICIAL DESDE
PARÁMETROS ÉTICOS Y LEGALES. Pérez-Cruz Martín A, et al.