Artículo #13 — Inteligencia Artificial y Due Process: Desafíos Éticos en la Justicia Penal
Por el Dr. Azaeel Eduardo Domínguez González, Agente del Ministerio Público de la Federación
Introducción
La inteligencia artificial (IA) está transformando la justicia penal, pero también plantea desafíos éticos fundamentales. Como Agente del Ministerio Público de la Federación certificado por la FGR en Uso de Herramientas Tecnológicas, he experimentado de primera mano cómo la IA puede mejorar la investigación penal, pero también he sido testigo de los riesgos que conlleva su uso inadecuado.
Este artículo analiza la intersección entre IA y debido proceso en México.
Aplicaciones de la IA en Justicia Penal
Herramientas Actuales
| Herramienta |
Aplicación |
Beneficio |
| Análisis de big data |
Procesamiento masivo de información |
Eficiencia |
| Reconocimiento facial |
Identificación de sospechosos |
Rapidez |
| Análisis de redes |
Detección de patrones criminales |
Prevención |
| Procesamiento de lenguaje |
Transcripción y análisis de texto |
Automatización |
Implementación en México
| Implementación |
Estado |
| Justici@.NET |
Activo |
| Sistemas de reconocimiento |
En desarrollo |
| Plataformas de análisis |
En implementación |
| Herramientas de predicción |
En evaluación |
El Debido Proceso en la Era Digital
Principios Fundamentales
| Principio |
Aplicación en IA |
| Presunción de inocencia |
La IA no puede determinar culpabilidad |
| Derecho de defensa |
Transparencia algorítmica |
| Juicio público |
Acceso a información sobre IA |
| Motivación |
Explicabilidad de decisiones |
Garantías Procesales
| Garantía |
Descripción |
| Transparencia |
Algoritmos auditables |
| Explicabilidad |
Decisiones comprensibles |
| Revisión humana |
Control humano final |
| Responsabilidad |
Responsable identificable |
Riesgos de la IA en Justicia
Sesgo Algorítmico
| Tipo de sesgo |
Ejemplo |
| Racial |
Mayor tasa de falsos positivos para ciertos grupos |
| Socioeconómico |
Discriminación por nivel de ingresos |
| Geográfico |
Persecución desproporcionada en ciertas zonas |
| Género |
Estereotipos en decisiones |
Falsa Certeza
| Riesgo |
Consecuencia |
| Falsos positivos |
Detenciones injustificadas |
| Falsos negativos |
Impunidad |
| Sobreconfianza |
Falta de verificación humana |
| Dependencia |
Pérdida de criterio propio |
Opacidad Algorítmica
| Problema |
Consecuencia |
| Caja negra |
No se sabe cómo decide |
| No explicabilidad |
Falta de motivación |
| No auditabilidad |
Imposibilidad de verificar |
Marco Legal para la IA en México
Legislación Aplicable
| Ley |
Contenido |
| Ley General de Protección de Datos Personales |
Protección de datos |
| Ley Federal de Telecomunicaciones |
Uso de tecnologías |
| Código Nacional de Procedimientos Penales |
Debido proceso |
Iniciativas Legislativas
| Iniciativa |
Estado |
| Ley de Inteligencia Artificial |
En discusión |
| Regulación de algoritmos |
En propuesta |
| Protección de datos en IA |
En desarrollo |
Casos Emblemáticos
Caso 1: Reconocimiento Facial
| Dato |
Detalle |
| Sistema |
Reconocimiento facial en CDMX |
| Resultado |
Falsos positivos elevados |
| Impacto |
Cuestionamiento de la tecnología |
| Lección |
Revisión humana obligatoria |
Caso 2: Análisis Predictivo
| Dato |
Detalle |
| Sistema |
Predicción delictiva |
| Resultado |
Sesgo racial demostrado |
| Impacto |
Suspensión del sistema |
| Lección |
Auditorías algorítmicas |
Recomendaciones Éticas
Para Funcionarios
| Recomendación |
Descripción |
| No confiar ciegamente |
La IA es una herramienta, no un juez |
| Verificar siempre |
Comprobar resultados manualmente |
| Mantener criterio humano |
La decisión final es humana |
| Documentar uso |
Registrar cuándo y cómo se usa IA |
| Reportar sesgos |
Identificar y corregir sesgos |
Para el Sistema de Justicia
| Recomendación |
Descripción |
| Auditorías obligatorias |
Verificar algoritmos |
| Transparencia algorítmica |
Hacer públicos los criterios |
| Capacitación |
Formar funcionarios en IA |
| Marcos regulatorios |
Regular su uso |
El Futuro de la IA en Justicia
Tendencias
| Tendencia |
Impacto |
| Mayor automatización |
Eficiencia aumentada |
| IA explicativa |
Decisiones comprensibles |
| Auditorías algorítmicas |
Mayor transparencia |
| Colaboración humano-IA |
Complemento, no reemplazo |
Desafíos Pendientes
| Desafío |
Solución |
| Sesgo |
Auditorías y diversidad |
| Opacidad |
Algoritmos explicables |
| Responsabilidad |
Marcos regulatorios |
| Privacidad |
Protección de datos |
Conclusión
La inteligencia artificial ofrece oportunidades extraordinarias para la justicia penal, pero también plantea riesgos éticos fundamentales. Como funcionarios de la FGR, debemos abrazar la tecnología manteniendo siempre el debido proceso, la transparencia y la responsabilidad humana.
La certificación en Uso de Herramientas Tecnológicas que obtuve de la Fiscalía General de la República representa un compromiso con la innovación responsable. Es una herramienta que me permite aprovechar los beneficios de la IA sin sacrificar los derechos fundamentales.
El futuro de la justicia penal depende de nuestra capacidad para integrar la IA de manera ética, responsable y siempre al servicio de los derechos humanos.
Referencias
1. Código Nacional de Procedimientos Penales
2. Ley General de Protección de Datos Personales
3. Informe sobre IA y Derechos Humanos - ONU
4. Guías Éticas para IA - OECD
5. Protocolos de Uso de Tecnología - FGR
Dr. Azaeel Eduardo Domínguez González es Agente del Ministerio Público de la Federación adscrito a la Fiscalía General de la República (FGR). Cuenta con certificación en Uso de Herramientas Tecnológicas por la FGR. Cédula profesional: 3824883.
Tags: inteligencia artificial, debido proceso, ética algorítmica, tecnología, FGR, derechos digitales, México, transparencia algorítmica
Comentarios
Publicar un comentario