Verdad y Derecho
Revista Arbitrada de Ciencias Jurídicas y Sociales
Vol. 3(Especial2), 239-246, 2024
https://doi.org/10.62574/bdvzg165
239
Ética y responsabilidad en el uso de la inteligencia artificial en procesos
judiciales
Ethics and responsibility in the use of artificial intelligence in judicial
processes
Keila Lisseth Zabala-Balladares
keilalzb44@uniandes.edu.ec
Universidad Regional Autónoma de los Andes, Puyo, Pastaza, Ecuador
https://orcid.org/0000-0002-7213-5209
Nathaly Kasandra Moncayo-Morlas
nathalymm31@uniandes.edu.ec
Universidad Regional Autónoma de los Andes, Puyo, Pastaza, Ecuador
https://orcid.org/0000-0002-5297-2894
Wendy Geovanna Jiménez-Andrade
wendygja59@uniandes.edu.ec
Universidad Regional Autónoma de los Andes, Puyo, Pastaza, Ecuador
https://orcid.org/0000-0003-1451-2392
Deinier Ros-Álvarez
uq.deinierra09@uniandes.edu.ec
Universidad Regional Autónoma de los Andes, Puyo, Pastaza, Ecuador
https://orcid.org/0000-0002-1531-3355
RESUMEN
La incorporación de la inteligencia artificial (IA) en el ámbito judicial plantea desafíos éticos y
responsabilidades que requieren un análisis exhaustivo. Este estudio tiene como objetivo analizar la
ética y responsabilidad en el uso de la IA en procesos judiciales. Para ello, se incluyeron 19 artículos
científicos publicados entre 2018 y 2024, lo que brindó una comprensión actualizada sobre el
desarrollo y aplicaciones de la IA en el ámbito judicial. Los hallazgos muestran que, aunque la IA
mejora la eficiencia y accesibilidad judicial, su implementación sin supervisión adecuada podría
perpetuar sesgos, vulnerar la privacidad y afectar la objetividad en decisiones. Para que la IA
fortalezca el sistema judicial, es esencial que autoridades y el sistema legal establezcan normativas
claras que delimiten responsabilidades y aseguren la justicia en un entorno de creciente
automatización.
Descriptores: administración de justicia; derecho a la justicia; inteligencia artificial. (Fuente: Tesauro
UNESCO).
ABSTRACT
The incorporation of artificial intelligence (AI) in the judicial field poses ethical challenges and
responsibilities that require a thorough analysis. This study aims to analyze the ethics and
responsibility in the use of AI in judicial processes. For this purpose, 19 scientific articles published
between 2018 and 2024 were included, providing an up-to-date understanding on the development
and applications of AI in the judicial field. The findings show that, although AI improves judicial
efficiency and accessibility, its implementation without proper oversight could perpetuate biases,
violate privacy, and affect objectivity in decisions. For AI to strengthen the judicial system, it is
essential that authorities and the legal system establish clear regulations that delineate
responsibilities and ensure justice in an environment of increasing automation.
Descriptors: administration of justice; right to justice; artificial intelligence. (Source: UNESCO
Thesaurus).
Recibido: 07/10/2024. Revisado: 13/10/2024. Aprobado: 23/10/2024. Publicado: 29/10/2024.
Sección artículos de investigación
Verdad y Derecho
Revista Arbitrada de Ciencias Jurídicas y Sociales
Vol. 3(Especial2), 239-246, 2024
Ética y responsabilidad en el uso de la inteligencia artificial en procesos judiciales
Ethics and responsibility in the use of artificial intelligence in judicial processes
Keila Lisseth Zabala-Balladares
Nathaly Kasandra Moncayo-Morlas
Wendy Geovanna Jiménez-Andrade
Deinier Ros-Álvarez
240
INTRODUCCIÓN
La creciente incorporación de la inteligencia artificial (IA) en diversos ámbitos,
incluyendo el judicial, plantea una serie de desafíos éticos y responsabilidades
fundamentales que requieren un análisis exhaustivo. En el contexto de los
procesos judiciales, el uso de IA para la toma de decisiones, la gestión de
información y la automatización de procedimientos promete optimizar la eficiencia
y la accesibilidad. Sin embargo, esta integración suscita interrogantes sobre la
protección de los derechos humanos, la transparencia en las decisiones
automatizadas y la salvaguarda de principios éticos, como la justicia y la equidad
(Jurado et al., 2024; Alarcón-Macías et al., 2023).
Ante la posibilidad de que los algoritmos refuercen sesgos inherentes o carezcan
de la capacidad para interpretar contextos complejos, el sistema judicial enfrenta
el reto de regular y supervisar el rol de la IA en sus procedimientos (Montañez-
Sierra, 2021). En particular, la preocupación por la subjetividad algorítmica y el
respeto a la privacidad de los datos resalta la necesidad de un marco regulador
que delimite el alcance y responsabilidad de la IA en decisiones judiciales (Ponce-
Cedeño et al., 2023; Segura, 2023).
Desde lo develando anticipatoriamente, se describe el objetivo de la investigación
consistente en analizar la ética y responsabilidad en el uso de la inteligencia
artificial en procesos judiciales.
MÉTODO
Para abordar el objetivo de esta investigación, se utilizó una metodología de
revisión documental, centrada en el análisis de literatura científica y académica
relacionada con la ética y la responsabilidad en el uso de la inteligencia artificial en
procesos judiciales. La revisión documental permite recopilar, examinar y sintetizar
perspectivas teóricas y empíricas sobre los desafíos y principios éticos implicados
en la implementación de IA en el ámbito jurídico. Esta metodología es
Verdad y Derecho
Revista Arbitrada de Ciencias Jurídicas y Sociales
Vol. 3(Especial2), 239-246, 2024
Ética y responsabilidad en el uso de la inteligencia artificial en procesos judiciales
Ethics and responsibility in the use of artificial intelligence in judicial processes
Keila Lisseth Zabala-Balladares
Nathaly Kasandra Moncayo-Morlas
Wendy Geovanna Jiménez-Andrade
Deinier Ros-Álvarez
241
particularmente adecuada para el tema, ya que proporciona una visión integral de
las normativas, recomendaciones éticas y estudios de caso que aportan elementos
relevantes al debate sobre la responsabilidad y la transparencia en el uso de
tecnología avanzada en el sistema judicial.
Se incluyeron 19 artículos científicos publicados entre 2018 y 2024, lo que permitió
una comprensión actualizada del desarrollo y las aplicaciones de la IA en contextos
judiciales. Los criterios de inclusión consideraron estudios que abordaran aspectos
clave como la subjetividad algorítmica, el impacto en derechos laborales y de
privacidad, la transparencia en las decisiones automatizadas, y la regulación de la
propiedad intelectual en creaciones generadas por IA.
ANÁLISIS DE LOS RESULTADOS
La necesidad de transparencia y regulación para que las decisiones asistidas por IA
mantengan la justicia y la equidad, como lo sugieren Jurado et al., quienes proponen
principios éticos como base fundamental en su aplicación. En contextos regionales
como América Latina, tal como argumenta Segura, la implementación enfrenta retos
adicionales, subrayando que la infraestructura y el acceso desigual a la tecnología
podrían agudizar las disparidades. Desde lo presentado en la tabla 1, se invita a
reflexionar sobre la necesidad de un marco regulador ético que permita integrar la
IA de manera responsable en el ámbito judicial, balanceando innovación con la
protección de derechos fundamentales.
Tabla 1. Ética y responsabilidad en el uso de la inteligencia artificial en procesos
judiciales.
ASPECTO
DESCRIPCIÓN
FUENTE
Ética en IA aplicada a lo judicial
Establece principios éticos que
guían el uso de IA en procesos
judiciales, abordando justicia,
equidad y transparencia.
Alarcón-Macías et al. (2023)
Responsabilidad en IA y derechos
fundamentales
Examina la responsabilidad legal
en los resultados de IA en juicios,
especialmente cuando afectan
derechos humanos.
Arévalo-Prado et al. (2023)
Impacto en derechos de
privacidad
Analiza el derecho a la privacidad
frente a la recolección y
procesamiento de datos
personales en IA.
Ponce-Cedeño et al. (2023)
Desafíos en derechos laborales
Describe cómo la IA impacta
derechos de los trabajadores,
Cadena-Vásquez et al. (2024)
Verdad y Derecho
Revista Arbitrada de Ciencias Jurídicas y Sociales
Vol. 3(Especial2), 239-246, 2024
Ética y responsabilidad en el uso de la inteligencia artificial en procesos judiciales
Ethics and responsibility in the use of artificial intelligence in judicial processes
Keila Lisseth Zabala-Balladares
Nathaly Kasandra Moncayo-Morlas
Wendy Geovanna Jiménez-Andrade
Deinier Ros-Álvarez
242
incluyendo riesgos de
automatización en decisiones
laborales.
Propiedad intelectual de
creaciones IA
Discute la titularidad de derechos
de autor para obras creadas por IA
y su impacto en la legislación
vigente.
Alarcón-Macías et al. (2023)
Subjetividad en decisiones
judiciales automatizadas
Explora la complejidad de la
subjetividad algorítmica y sus
implicaciones en decisiones
judiciales objetivas.
Montañez-Sierra (2021)
Implicaciones éticas en medicina
forense
Revisa el uso de IA en medicina
forense, evaluando los beneficios
y riesgos éticos asociados.
Galante et al. (2023)
Justicia y algoritmos en el
contexto latinoamericano
Evalúa cómo los algoritmos de IA
en justicia reflejan desafíos únicos
en el contexto latinoamericano.
Segura (2023)
Regulación de IA en derechos
humanos
Estudia la necesidad de regulación
para IA con enfoque en derechos
humanos y justicia equitativa.
Valero-Quispe (2021)
Transparencia y justicia en
decisiones asistidas por IA
Analiza la transparencia requerida
para que las decisiones de IA sean
percibidas como justas.
Becerra (2022)
Automatización y control en
decisiones políticas
Examina el uso de IA en decisiones
políticas, considerando la
objetividad y control ético.
Becerra (2022)
Riesgos de sesgo algorítmico en
IA judicial
Aborda los riesgos de sesgos en
algoritmos utilizados en IA
aplicada al sistema judicial.
Sanchis Crespo (2023)
Desafíos de jurisdicción ante IA
Explora la jurisdicción y
competencia en procesos
asistidos por IA en contextos
globales.
Da Silva et al. (2022)
Autonomía y responsabilidad en
decisiones de IA
Discute la autonomía de las IA en
toma de decisiones y la
responsabilidad derivada.
Bonsignore-Fouquet (2023)
Perspectivas comparativas
internacionales sobre IA
Analiza comparativamente el
tratamiento de IA en el ámbito
judicial en diferentes países.
Corvalán (2018)
IA en la ética y responsabilidad
social
Discute el rol de la IA en la ética
profesional y su impacto en la
responsabilidad social.
Jurado et al. (2024)
Implicaciones de IA en el contexto
penal
Investiga las aplicaciones de IA en
casos penales y sus implicaciones
éticas.
Farfán Intriago et al. (2023)
Interacción de IA y políticas de
derechos
Explora la interacción entre IA y
políticas de derechos, con énfasis
en justicia.
Ketsekioulafis et al. (2024)
Uso de IA en evidencias y pruebas
judiciales
Examina el uso de IA en la
recolección y análisis de
evidencias judiciales,
considerando sus limitaciones y
alcances.
Fang et al. (2020)
Fuente: Elaboración propia.
El debate sobre la ética y la responsabilidad en el uso de la inteligencia artificial (IA)
en procesos judiciales evidencia una serie de posturas y preocupaciones, que van
Verdad y Derecho
Revista Arbitrada de Ciencias Jurídicas y Sociales
Vol. 3(Especial2), 239-246, 2024
Ética y responsabilidad en el uso de la inteligencia artificial en procesos judiciales
Ethics and responsibility in the use of artificial intelligence in judicial processes
Keila Lisseth Zabala-Balladares
Nathaly Kasandra Moncayo-Morlas
Wendy Geovanna Jiménez-Andrade
Deinier Ros-Álvarez
243
desde la salvaguardia de derechos fundamentales hasta la implementación de
principios éticos que garanticen transparencia y justicia. Autores como Alarcón-
Macías, Moran-Giler & Robles-Zambrano (2023) destacan la importancia de
establecer un marco regulatorio que contemple la propiedad intelectual de las
creaciones generadas por IA. Según ellos, la ausencia de esta regulación podría
derivar en una desprotección del valor original de las obras, lo que plantea un riesgo
ético para los creadores y propietarios de derechos.
En contraste, Montañez-Sierra (2021) subraya un problema diferente relacionado
con la subjetividad algorítmica en las decisiones judiciales automatizadas. El autor
argumenta que la IA, al carecer de un juicio moral, podría sesgar los resultados
basándose únicamente en patrones previos. Esta postura se alinea con las
preocupaciones planteadas por Bonsignore-Fouquet (2023), quien cuestiona la
posibilidad de lograr un "justo medio" mediante el realismo jurídico en el contexto
de la IA, ya que los algoritmos carecen de la capacidad de interpretar matices
humanos como la empatía o el contexto social de los casos judiciales.
Por otra parte, Jurado, Montalvo & Reyes (2024) analizan la responsabilidad social
y ética en los procesos judiciales asistidos por IA, sugiriendo que esta tecnología
debe estar sujeta a principios éticos de transparencia y equidad. Los autores
proponen que, al incorporar la IA en los tribunales, se deben priorizar mecanismos
que mantengan la confianza pública y reduzcan posibles abusos. Similarmente,
Valero-Quispe (2021) apoya la regulación de la IA con el objetivo de proteger los
derechos humanos y evitar que la tecnología se convierta en una herramienta de
discriminación o exclusión.
Por otro lado, desde un enfoque práctico, en este sentido, Segura (2023) evalúa la
aplicabilidad de la IA en el contexto judicial latinoamericano, señalando que, en
comparación con otras regiones, los sistemas judiciales de América Latina enfrentan
mayores dificultades debido a la falta de infraestructura y capacitación tecnológica.
La autora sostiene que, si bien la IA ofrece soluciones innovadoras, también plantea
riesgos específicos para los derechos de los trabajadores y el debido proceso en
estos contextos.
Verdad y Derecho
Revista Arbitrada de Ciencias Jurídicas y Sociales
Vol. 3(Especial2), 239-246, 2024
Ética y responsabilidad en el uso de la inteligencia artificial en procesos judiciales
Ethics and responsibility in the use of artificial intelligence in judicial processes
Keila Lisseth Zabala-Balladares
Nathaly Kasandra Moncayo-Morlas
Wendy Geovanna Jiménez-Andrade
Deinier Ros-Álvarez
244
En lo que respecta a la privacidad, Ponce-Cedeño, Robles-Zambrano & Díaz-Basurto
(2023) abordan la importancia de salvaguardar los derechos a la privacidad en la
recopilación de datos por sistemas de IA en contextos judiciales. Este enfoque es
respaldado por Da Silva et al. (2022), quienes analizan las preocupaciones legales
en IA aplicada a la salud, concluyendo que el procesamiento de datos personales
debe ser regulado con normas estrictas para proteger a los individuos frente a
posibles mal usos de sus datos en entornos judiciales y médicos.
Por consiguiente, Cadena-Vásquez et al. (2024) señalan que el uso de IA no solo
genera nuevas dinámicas legales, sino que también afecta los derechos laborales,
en particular cuando se utiliza para tomar decisiones sobre contratos y despidos.
Este impacto es una preocupación compartida por Arévalo-Prado, Robles-Zambrano
& García-Sánchez (2023), quienes resaltan la necesidad de establecer normas de
protección para los trabajadores ante decisiones automatizadas, sugiriendo que
estas decisiones deben contar con supervisión humana para prevenir errores o
sesgos.
CONCLUSION
Los hallazgos muestran que, si bien la IA puede aportar mejoras significativas en
eficiencia y accesibilidad judicial, su implementación sin una supervisión adecuada
podría perpetuar sesgos, vulnerar derechos de privacidad y comprometer la
objetividad en la toma de decisiones. Para que la IA se convierta en una herramienta
que verdaderamente fortalezca el sistema judicial, es esencial que las autoridades y
el sistema legal desarrollen normativas específicas que delimiten la responsabilidad
de los actores involucrados y garanticen la justicia en un entorno de creciente
automatización.
FINANCIAMIENTO
No monetario
CONFLICTO DE INTERÉS
No existe conflicto de interés con personas o instituciones ligadas a la investigación.
Verdad y Derecho
Revista Arbitrada de Ciencias Jurídicas y Sociales
Vol. 3(Especial2), 239-246, 2024
Ética y responsabilidad en el uso de la inteligencia artificial en procesos judiciales
Ethics and responsibility in the use of artificial intelligence in judicial processes
Keila Lisseth Zabala-Balladares
Nathaly Kasandra Moncayo-Morlas
Wendy Geovanna Jiménez-Andrade
Deinier Ros-Álvarez
245
AGRADECIMIENTOS
A la dirección de investigación de la Universidad Regional Autónoma de los Andes.
REFERENCIAS
Alarcón-Macías, K. N., Moran-Giler, M. C., & Robles-Zambrano, G. K. (2023). El derecho de propiedad
intelectual de las creaciones generadas por la inteligencia artificial en Ecuador [Intellectual
property rights of creations generated by artificial intelligence in Ecuador].
IUSTITIA
SOCIALIS
,
8
(1), 61–70. https://doi.org/10.35381/racji.v8i1.2489
Arévalo-Prado, J. A., Robles-Zambrano, G. K., & García-Sánchez, G.- del-R. (2023). Impacto de la
inteligencia artificial en los derechos de los trabajadores [The impact of artificial intelligence
on workers' rights].
IUSTITIA SOCIALIS
,
8
(1), 926–935.
https://doi.org/10.35381/racji.v8i1.3143
Becerra, J. (2022). La Inteligencia Artificial en la decisión jurídica y política [Artificial Intelligence in
legal and political decision making].
Araucaria
,
24
(49). https://doi.org/10.12795.10
Bonsignore-Fouquet, D. (2023). La imposibilidad de un juez. Realismo jurídico, inteligencia artificial
y la búsqueda de un justo medio [The impossibility of a judge. Legal realism, artificial
intelligence and the search for a fair middle ground.].
Estudios Penales Y
Criminológicos
,
44
(Ext.), 1-31. https://doi.org/10.15304/epc.44.8906
Cadena-Vásquez, J. E., Marchan-Barragan, Z. del C., Lastra-Rosero, V. de L., & Zurita-Carpio, G. E.
(2024). Responsabilidad civil en el contexto de la inteligencia artificial y la automatización
[Liability in the context of artificial intelligence and automation].
IUSTITIA SOCIALIS
,
9
(1),
831–840. https://doi.org/10.35381/racji.v9i1.3864
Corvalán, JG, (2018). Inteligencia artificial: retos, desafíos y oportunidades - Prometea: la primera
inteligencia artificial de Latinoamérica al servicio de la Justicia [Artificial intelligence:
challenges and opportunities - Prometea: Latin America's first artificial intelligence at the
service of justice].
Revista de Investigações Constitucionais, 5
(1), 295-316.
https://doi.org/10.5380/rinc.v5i1.55334
Crespo-Berti, L. A. (2023). El impacto de la Inteligencia Artificial en las Ciencias Jurídicas [The impact
of Artificial Intelligence on Legal Science].
IUSTITIA SOCIALIS
,
8
(2), 1–3.
https://doi.org/10.35381/racji.v8i2.2912
Da Silva, M., Horsley, T., Singh, D., Da Silva, E., Ly, V., Thomas, B., Daniel, R. C., Chagal-Feferkorn, K.
A., Iantomasi, S., White, K., Kent, A., & Flood, C. M. (2022). Legal concerns in health-related
artificial intelligence: a scoping review protocol.
Systematic reviews
,
11
(1), 123.
https://doi.org/10.1186/s13643-022-01939-y
Fang, Y. T., Lan, Q., Xie, T., Liu, Y. F., Mei, S. Y., & Zhu, B. F. (2020). New Opportunities and Challenges
for Forensic Medicine in the Era of Artificial Intelligence Technology.
Fa yi xue za zhi
,
36
(1),
77–85. https://doi.org/10.12116/j.issn.1004-5619.2020.01.016
Farfán Intriago, J. L., Farfán Largacha, J. A., Farfán Largacha, B., & Núñez Vera, J. P. (2023).
Inteligencia artificial y Derecho: ¿La justicia en manos de la IA? [Artificial Intelligence and
Law: Justice in the hands of AI?].
Frónesis
,
30
(2), 173-197.
Galante, N., Cotroneo, R., Furci, D., Lodetti, G., & Casali, M. B. (2023). Applications of artificial
intelligence in forensic sciences: Current potential benefits, limitations and
perspectives.
International journal of legal medicine
,
137
(2), 445–458.
https://doi.org/10.1007/s00414-022-02928-5
Verdad y Derecho
Revista Arbitrada de Ciencias Jurídicas y Sociales
Vol. 3(Especial2), 239-246, 2024
Ética y responsabilidad en el uso de la inteligencia artificial en procesos judiciales
Ethics and responsibility in the use of artificial intelligence in judicial processes
Keila Lisseth Zabala-Balladares
Nathaly Kasandra Moncayo-Morlas
Wendy Geovanna Jiménez-Andrade
Deinier Ros-Álvarez
246
Jurado, N., Montalvo, H., & Reyes, A. (2024). Ética y responsabilidad social en los procesos judiciales
y su aplicación en la inteligencia artificial [Ethics and social responsibility in judicial processes
and their application to artificial intelligence].
ComHumanitas: Revista Científica De
Comunicación
,
15
(1), 68-91. https://doi.org/10.31207/rch.v15i1.434
Ketsekioulafis, I., Filandrianos, G., Katsos, K., Thomas, K., Spiliopoulou, C., Stamou, G., & Sakelliadis,
E. I. (2024). Artificial Intelligence in Forensic Sciences: A Systematic Review of Past and
Current Applications and Future Perspectives.
Cureus
,
16
(9), e70363.
https://doi.org/10.7759/cureus.70363
Montañez-Sierra, C. F. (2021). Subjetividad de las máquinas en toma de decisiones judiciales
[Subjectivity of machines in judicial decision making].
Foro: Revista De Derecho
, (36), 9–27.
https://doi.org/10.32719/26312484.2021.36.1
Ponce-Cedeño, A. D., Robles-Zambrano, G. K., & Díaz-Basurto, I. J. (2023). La inteligencia artificial y
el derecho a la intimidad-privacidad [Artificial intelligence and privacy rights].
IUSTITIA
SOCIALIS
,
8
(1), 84–93. https://doi.org/10.35381/racji.v8i1.2493
Sanchis Crespo, C. (2023). Inteligencia artificial y decisiones judiciales: crónica de una transformación
anunciada.
Scire: Representación Y organización Del Conocimiento
,
29
(2), 65–84.
https://doi.org/10.54886/scire.v29i2.4937
Segura, Romina Estefanía. (2023). Inteligencia artificial y administración de justicia: desafíos
derivados del contexto latinoamericano [Intel·ligència artificial i administració de justícia:
desafiaments derivats del context llatinoamericà].
Revista de Bioética y Derecho
, (58), 45-
72. https://dx.doi.org/10.1344/rbd2023.58.40601
Szeremeta, M., Janica, J., & Niemcunowicz-Janica, A. (2024). Artificial intelligence in forensic medicine
and related sciences - selected issues. Sztuczna inteligencja w medycynie sądowej i naukach
pokrewnych – wybrane zagadnienia.
Archiwum medycyny sadowej i kryminologii
,
74
(1), 64–
76. https://doi.org/10.4467/16891716AMSIK.24.005.19650
Valero-Quispe, C. D. (2021). Derecho e Inteligencia Artificial en el mundo de hoy: escenarios
internacionales y los desafíos que representan para el Perú [Law and Artificial Intelligence in
today's world: international scenarios and the challenges for Peru].
THEMIS Revista De
Derecho
, (79), 311-322. https://doi.org/10.18800/themis.202101.017
Derechos de autor: 2024 Por los autores. Este artículo es de acceso abierto y distribuido según los términos y
condiciones de la licencia Creative Commons Atribución-NoComercial-CompartirIgual 4.0 Internacional (CC
BY-NC-SA 4.0)
https://creativecommons.org/licenses/by-nc-sa/4.0/
