Inteligencia Artificial, Sistema de Justicia, Derecho Penal, e-commerce y Democracia: ¿dónde estamos y para dónde vamos? Por Juan Carlos Manríquez

Nov 11, 2020 | Opinión

Por Juan Carlos Manríquez R., abogado, LLM (CWSL, USA); Profesor LLM UC, Especialista en Derecho Penal Económico y de la Empresa (UC-LM, España), AD en Derecho Penal Internacional (Siracusa, Italia) Litigante ante la Corte Penal Internacional (La Haya, Holanda).

Todo indica que el avance de la inteligencia artificial, en particular de la predictibilidad algorítmica, en el contexto de la IoT (internet of things), y el uso cada vez más frecuente de herramientas biométricas de reconocimiento facial, de voz, emociones, intenciones, estructura ósea, seguirá imparable.

De igual modo seguirán los esfuerzos de conectar una interface ser humano-computadora para una mejora simbiótica (lo que ha demostrado The Brain Project con el debate sobre Neuroderechos y Privacidad Cerebral). El concepto y estatus jurídico del cyborg ya no es ciencia ficción.

Y de igual modo los anhelos de mejora biológica del cuerpo seguirán en camino, como lo demuestra la tendencia a la “edición genética” de los deportistas de alta competición. La noción de BioCyborg y su posible conexión con el Doping tampoco. La Prof. Dra. Silvia Verdugo así lo ha demostrado.

Toda esta nueva realidad trae aparejados retos Bioéticos, y otros muchos para el BioDerecho, cuyo reconocimiento y análisis holístico y sistémico nos obliga a tratar de vislumbrar los profundos impactos que pudieran provocar las respuestas que demos o hallemos para los dilemas que se presentan.

En materia constitucional, penal, procesal penal; en relación con la libertad de decisión y contratación; respecto a la limitación del poder persecutor y recolector de “evidencia” incriminante del Estado en el mundo digital, y su tensión con la privacidad, en último término, con la dignidad del “ciudadano cibernético” es con lo que tiene que ver el estado del arte a nivel global.

La Unión Europea, la Corte Penal Internacional y la Barra Internacional de Abogados (ICC- IBA), la Asociación Internacional de Derecho Penal (AIDP) y la Barra Africana de Abogados (AFBA) están ahora mismo ocupadas del asunto.

  1. A) En la Unión Europea, entre el 5 y 6 de noviembre, ERALAW, en conjunto con los órganos de la UE, la Universidad de Leiden y la Universidad Queen Mary de Londres, entre otras, con la exposición de los más reputados investigadores y científicos en la materia, desarrollaron el Seminario Internacional “AI and the Criminal Justice System”.

Los puntos centrales ahí debatidos fueron el aprendizaje de los algoritmos predictivos y su uso para mejorar procesos de toma de decisión e información para investigación extra penal y criminal; los resultados de la indagación sobre error/acierto del Reconocimiento Facial; el reconocimiento de voz para mejorar los programas de dictado a computadora, pero que almacenan características fonéticas y de pronunciación que se consideran “fuentes abiertas” que pueden transferirse sin necesidad de orden judicial previa, y sus conexiones técnicas.

Destaco, entre un excelente panel, lo dicho por Sigrid Sith y la experiencia de Estonia, y también lo dicho por Sophia Adams, sobre el uso de los predictivos y la acción policial.

Como vemos, todo un mundo en construcción.

  1. B) En los órganos vinculados a la ICC- CPI:

La IBA y la Corte Penal Internacional organizaron el 5 de noviembre un panel de debate con los abogados de la Corte para tratar si los ciberataques masivos pueden ser tratados como crimen de agresión.

Ciertamente el asunto es muy relevante, porque el crimen de agresión se incluyó al Estatuto de Roma tras la conferencia de Kampala, y se entiende además como aquel acto que por su gravedad, entidad y masividad, contraría la carta de Naciones Unidas, y/o ejerce poder ilícito sobre otro pueblo. El tema es el principio de ejecución y la intervención de agentes no estatales.

Pues bien, uno puede legítimamente preguntarse si ha de considerarse un crimen de agresión de competencia de la CPI usar las redes sociales para cometer ataques masivos destinados a desmontar la democracia o el respeto por los DDHH, con el fin de ejercer poder sobre otro Estado con un fin político.

  1. C) AFBA: De abordar el último cuestionamiento me haré cargo en el Congreso de la Barra Africana, que se hará en Lagos, Nigeria, del 9 al 11 de noviembre, en el marco de análisis de cómo reforzar la vigencia del Estado de Derecho (Rule of Law) en el continente originario.

El punto es si a través de la tipificación de ese crimen se puede proteger al sistema democrático de una posible desestabilización externa via ciber ataques masivos destinados a infundir temor, o violar los DDHH, o no respetarlos, o quebrar el orden institucional. Incluso una forma amable o soft de ciberguerra de persuasión debería ser seriamente analizada en el marco de esta figura.

En el aspecto individual, AFBA y Privacy Rules Int harán una mesa redonda sobre Privacy y Rule of Law 4.0 para remarcar la necesidad de establecer reglas y balances entre privacidad y transparencia, derechos fundamentales y control de excesos.

  1. C) La AIDP: La próxima versión del Congreso Mundial de la AIDP está destinado a la IA y los algoritmos predictivos en la política criminal y el sistema penal, en relación con las bases arquitecturales del derecho penal.

AIDP Chile está trabajando en el reporte nacional, bajo la presidencia del Prof. Carlos Künsemüller y la secretaria ejecutiva a cargo del Prof. Jean Pierre Matus.

Como es posible apreciar, el penalismo nacional está a tono con los tiempos y sabe que en este presente continuo que significa la interconexión mundial de sistemas, los cambios llegan en segundos, ya ni siquiera en horas.

Chile está en el asunto. Hace poco hemos leído al Sr. Rector de la UC opinando sobre neuroderechos y bioética. El Diplomado en Datos Personales de esa casa de estudios se ha ocupado de los modernos ciberdelitos y el Programa LLM UC se preparara para entrar de lleno en el debate acerca de los derechos fundamentales en esta área.

El Círculo Telemático de Derecho Penal y En Estrado transmitieron la exposición del ministro  Roberto Contreras y connotados expertos sobre estos temas hace poco, con nutrida concurrencia, y se abordaron muy bien los aspectos legales y de derecho comparado, como el conocido caso Carpenter v US y sus implicancias procesal – penales y de privacidad informática.

Los PDL sobre Ciberdelitos (para aplicar la Convención de Budapest y sustituir la Ley 19.223), el Proyecto sobre Neuroderechos (presentado por el Senador Girardi) y la Nueva Ley de Protección de Datos Personales, que ya debiera estar en vigencia, sobre todos los derechos ARCOP tan necesarios, cuyo impulso se ha debido entre otros al Senador Harboe, son otra muestra que la preocupación está presente.

¿Hacia dónde vamos?

Temas comunes en estos escenarios son hasta dónde los algoritmos predictivos y la IoT saben más de cada uno que todos nosotros juntos; cómo eso puede aparejar invasiones desreguladas para la libertad, privacidad y derechos constitucionales de los justiciables; desde dónde y con o sin orden se pueden obtener registros de navegación, circulación, voz, rostro, estructura ósea etc para intentar conectar a alguien con una investigación criminal, o que se abuse de la “prueba de contexto” valiéndose de esta desregulación.

Preocupa si el uso de predictivos con alto nivel de sesgo y error no determina acaso malas decisiones y erróneas acciones de la policía (New York y Londres han dado casos recientes) o si la “justicia algorítmica” desplazará a los jueces penales.

Y ¿dónde poner la atención y los límites?

En concreto y sin lugar a dudas, se ha configurado un nuevo estado de cosas, que se debe conformar como un Estado de Derecho y repensar el concepto de “persona y ciudadano” en el mundo global de la red y para los puntos de tensión que detecta el BioDerecho y la BiéEtica.

La Brain Privacy y la Interfaz; el Cyborg y sus “DD.HH.”; si el BioCyborg genéticamente editado es o no autor o sujeto de Dopaje Deportivo son ramos de ortigas qué hay que tomar entre manos, como diría Antolisei.

En el fondo, la Dignidad, Voluntad y Libertad del ser humano, bajo arrecia merma en el derecho de Protección del Consumidor, o la influencia en la decisión en los Procesos eleccionarios que se puede cometer a través de los medios y las herramientas informáticas nos debe hacer pensar y actuar sin demora.

En esto, mañana es hace un segundo.

| LO MAS LEIDO