Criterios para determinar la imputabilidad en accidentes con vehículos autónomos o sistemas médicos basados en IA

Criterios para determinar la imputabilidad en accidentes con vehículos autónomos o sistemas médicos basados en IA

1. CRITERIOS PARA
DETERMINAR LA
IMPUTABILIDAD EN
ACCIDENTES CON VEHÍCULOS
AUTÓNOMOS O SISTEMAS
MÉDICOS BASADOS EN IA.
2025
Grupo: 6
Regulación de inteligencia artificial y
responsabilidad jurídica
Enfoque: Vacíos normativos en la atribución
de responsabilidad por daños causados por
sistemas autónomos.

2. 02
La inteligencia artificial (IA) se refiere a la
simulación de procesos que normalmente
requieren inteligencia humana, como el
reconocimiento de objetos, lenguaje, toma de
decisiones y aprendizaje.
Los sistemas autónomos son aquellos que pueden
operar y tomar decisiones sin intervención
humana directa, adaptándose a entornos
cambiantes mediante capacidades como
percepción, control y accionamiento.
La autonomía implica que estos sistemas
mantienen su operación en el tiempo y pueden
decidir sus acciones de forma independiente,
utilizando recursos sensoriales y computacionales
en entornos inciertos.
¿Qué es la Inteligencia Artificial y
los Sistemas Autónomos?

3. 03
Vehículos autónomos
Estos vehículos cuentan con un "cerebro virtual" que
identifica situaciones de tráfico y actúa en consecuencia.
Son capaces de detectar objetos y condiciones en 360
grados, incluso en condiciones climáticas adversas como
lluvia o niebla, con el objetivo de mejorar la seguridad
vial y la eficiencia del transporte.
Los vehículos autónomos son máquinas
capaces de navegar y operar sin conductor,
utilizando tecnologías avanzadas como
radares, sensores LIDAR, visión
computarizada y mapas en 3D para percibir
y analizar el entorno.

4. 03
Sistemas médicos basados en IA
Además, la IA facilita la monitorización continua de
pacientes, mejora la adherencia a tratamientos y
apoya cirugías asistidas por robótica, ampliando las
capacidades del personal médico .
Los sistemas médicos con IA aplican
algoritmos para analizar datos biomédicos y
apoyar diagnósticos, pronósticos y
tratamientos personalizados. Usan análisis
de imágenes, reconocimiento de patrones y
modelos predictivos para aumentar la
precisión clínica y reducir errores médicos.

5. 03
¿Existe alguna norma que regule el uso de
la inteligencia artificial en sistemas
médicos, especialmente en casos de
accidentes o fallos técnicos?

6. Situación actual en el Perú
04La Ley 31814, aprobada en 2023, fija principios
como transparencia y protección de datos, pero no
establece quién responde si un sistema autónomo
causa un daño.
En 2024, la PCM publicó un proyecto de
reglamento con lineamientos de riesgo y
transparencia, aunque aún no está aprobado.
VACÍOS NORMATIVOS EN LA REGULACIÓN DE LA IA EN EL PERÚ

7. COMPARACIÓN INTERNACIONAL
03
Unión Europea ha avanzado mucho con el AI Act, que regula los sistemas de alto riesgo, exige transparencia y busca
garantizar la reparación de las víctimas.
Chile, por su parte, presentó en 2024 un proyecto de ley que responsabiliza directamente al operador de la IA y establece
auditorías y evaluaciones de riesgo.
En contraste, Perú todavía no cuenta con un régimen integrado: no tenemos reglas claras de imputación, ni exigencias
técnicas como logs, ni mecanismos de reparación ágiles.

8. Necesidad de un marco especializado
04
Primero, para dar previsibilidad
jurídica y proteger a las víctimas,
estableciendo responsabilidades
según el nivel de autonomía de los
sistemas.
Segundo, para imponer deberes
técnicos, como registros de eventos y
auditorías.
Tercero, para crear mecanismos efectivos de
reparación, como seguros obligatorios o fondos de
compensación.
Y finalmente, para coordinar a las distintas
instituciones: PCM, ANPD, MTC, MINSA e INDECOPI.
En conclusión, un marco especializado garantizaría
seguridad jurídica y protección ciudadana, sin frenar la
innovación tecnológica
Perú necesita un marco legal especializado
para la inteligencia artificial.

9. Responsabilidad subjetiva (Art. 1969 CC): quien causa
daño por dolo o culpa debe indemnizar.
Problema: en sistemas autónomos (ej. vehículos sin
conductor) no siempre hay acción humana directa.
Responsabilidad objetiva o por riesgo (Arts. 1970 y 1984
CC): basta demostrar daño y nexo causal, sin necesidad de
probar culpa.
Aplicación en IA:
Fabricante o desarrollador responsables por defectos en
software/hardware.
Art. 101 de la Ley de Protección al Consumidor:
daños por productos defectuosos.
Doctrina: aplicar responsabilidad solidaria entre
diseñadores, fabricantes, distribuidores y operadores,
cuando se pruebe su vínculo con el daño.
Criterios de Imputabilidad en Casos de Daños Causados por IA
Según el Código Civil

10. Imputabilidad directa a la IA:
inviable → la IA no tiene voluntad ni conciencia.
Responsabilidad penal recae en personas
físicas o jurídicas que diseñan, operan o
controlan el sistema.
Conductas punibles:
Negligencia grave en la programación.
Imprudencia en la supervisión u operación.
Delitos informáticos vinculados a IA.
Ejemplo: desarrollador que incorpora
algoritmos defectuosos, con previsibilidad de
daño → podría ser penalmente responsable.
Criterios de Imputabilidad en Casos de Daños Causados por IA
Según el Código Penal

11. Art. 2 (incisos 1, 2 y 24): protege vida,
integridad, propiedad y derecho a no sufrir
daños contra la salud.
El Estado debe garantizar:
Un marco normativo eficaz frente a riesgos
de la IA.
Responsabilidades claras y mecanismos de
reparación.
Principio de seguridad jurídica:
normas claras para operadores de IA y
protección a víctimas.
Implicancia: la Constitución fundamenta la
necesidad de atribuir responsabilidades en
daños agravados por tecnologías autónomas.
Criterios de Imputabilidad en Casos de Daños Causados por IA
Según la Constitución

12. Identificar el nivel de autonomía del sistema y
el grado de intervención humana.
Evaluar fallas en hardware o software como
causa del daño.
Determinar la participación de operador,
propietario o terceros (mantenimiento
defectuoso, modificaciones indebidas).
Aplicar responsabilidad objetiva al fabricante o
desarrollador si se prueba defecto, nexo
causal y daño.
Considerar responsabilidad solidaria en toda
la cadena productiva y operativa.
Imponer sanciones penales cuando el daño
derive de conductas humanas dolosas o
negligentes(culposo).
Criterios de Imputabilidad en Casos de Daños Causados por IA
Aplicación práctica: Criterios en accidentes con IA

13. Caso en la
Sociedad Peruana

14. Caso en la Sociedad Peruana 07
Vehículo autónomo en Lima ocasiona
un accidente con un peatón.
• Falla en el algoritmo de detección.
• Surge el dilema: ¿Quién responde
legalmente?Caso hipotético: Accidente con
vehículo autónomo

15. Caso real: IA en el sector salud 07
• Uso de IA en telemedicina y
diagnósticos asistidos (MINSA,
EsSalud).
• Algoritmos en radiografías y
tomografías.
• Error de IA = responsabilidad
atribuida al médico tratante.

16. Análisis jurídico del caso: ¿Quién responde? 07
• Fabricante: por defectos de diseño o
producción.
• Programador: por errores en el código.
• Usuario: por falta de supervisión.
• Estado: por ausencia de regulación
clara.

17. 5.4 Implicancias éticas, sociales y jurídicas 07 Éticas: transparencia, sesgos
algorítmicos, confianza.
Sociales: aceptación de la IA en salud
y transporte.
Jurídicas: vacíos normativos,
reparación de daños.
Urgencia de una regulación adaptada
al Perú.

18. Conclusiones
08
La IA y los sistemas autónomos generan vacíos legales en materia de responsabilidad.
En el Perú, la normativa es incipiente y no establece criterios claros de imputabilidad.
Modelos internacionales (UE, Chile, Brasil) muestran la necesidad de regulación basada en riesgos y
responsabilidad objetiva.
Es urgente implementar un marco legal especializado que garantice trazabilidad, reparación de daños y
seguridad jurídica.
El reto es equilibrar innovación tecnológica con la protección de derechos fundamentales.
La IA y los sistemas autónomos generan vacíos legales en materia de responsabilidad.
En el Perú, la normativa es incipiente y no establece criterios claros de imputabilidad.
Modelos internacionales (UE, Chile, Brasil) muestran la necesidad de regulación basada en riesgos y
responsabilidad objetiva.
Es urgente implementar un marco legal especializado que garantice trazabilidad, reparación de daños y
seguridad jurídica.
El reto es equilibrar innovación tecnológica con la protección de derechos fundamentales.

19. ¡Muchas
gracias!
1.Jimena Lopez B.
2.Jackelime Shirley Rospigliosi
3.Yovana Velasquez
4.Ariana Delgado
5.Abril CotradoIntegrantes: