Ecosistema Digital y Sistemas de Justicia: ¿Hay Machismo y Misoginia en la IA? Por Juan Carlos Manríquez

Mar 12, 2021 | Opinión

Juan Carlos Manríquez R., Abogado LLM (CWSL, USA), Profesor UC-UCV, Miembro de PrivacyRules Int, Litigante ante la CIDH  y la Corte Penal Internacional (La Haya, Holanda).

  1. Einstein y el Prejuicio.

El 08 de marzo celebramos otra vez el Día Internacional de la Mujer, y claro que es impresionante y motivador ver hoy cómo desde ese lejano 23 de febrero en el calendario Juliano de la Rusia Zarista (8M en el Gregoriano), la base cultural, filosófica, argumental, política, pragmática y activista de aquello en lo que ha devenido el Feminismo, en sus diversas acepciones y corrientes (Feminist Theory And The Law, Judith A. Baer, The Oxford Handbook of Political Science, Edited by Robert E. Goodin, July 2011) ha logrado hacer visible lo que nos parece  de toda evidencia, como la igualdad salarial a igual trabajo o la no “condenación por el rol” y ha puesto en tensión algunos temas tabú, como el miedo masculino endémico a la alfabetización y empoderamiento de la mujer. (http://www.humanas.cl/16196/)

Pero como quiera que sea, hay una línea central que es irrebatible en el actual estado de cosas. Se debe avanzar definitivamente en la evitación o eliminación del prejuicio en todo tipo de sistema de aquellos que tratan con “el otro”, y particularmente, si esa alteridad se practica con una mujer, y más aún, si hablamos de los sistemas de justicia. Como dice este trabajo: “La Otredad tiene rostro de mujer” https://revistaderecho.ucn.cl/index.php/teologia/article/download/3341/3057/10839

El lenguaje no sólo expresa realidad, la construye y define sus límites, es gran parte una acción política en el sentido amplio, que levanta, derriba o abre muros de comprensión del otro, y por cierto ayuda a superar el prejuicio, si el lenguaje es dialogal. Hernandez Castellanos (2011), lo dice bien http://www.scielo.org.mx/scielo.php?script=sci_arttext&pid=S1870-00632011000200002

Albert Einstein dijo que “es más fácil dividir el átomo, que terminar con un prejuicio”. Como ya dividimos el átomo, ahora cabe ocuparse del prejuicio.

  1. Misoginia Judicial y Gender Justice.

Estudios reputados, opiniones respetables y noticias varias han detectado que los sistemas de justicia han discriminado negativamente en forma histórica a la mujer cuando es sujeto/objeto de una indagación (así, fuente probatoria primaria [víctima] o secundaria [testigo, perita o experta])  de un caso penal por agresión sexual, o reclamante en juicio civil o de familia, o postula a cargos de relevancia en la estructura de gobierno o en la alta jerarquía judicial, pues se le cree menos, o se le impugna más que a un par hombre en igual situación.  Así lo dicen también en Chile recientes publicaciones https://www.latercera.com/paula/el-patriarcado-es-un-juez-por-que-la-practica-judicial-es-discriminatoria-contra-las-mujeres-en-chile/

La Oficina del Alto Comisionado de Naciones Unidas y la Comisión Inter Americana de DDHH han expresado también su preocupación y recomendaciones, como puede verse en los siguientes estudios https://www.ohchr.org/SP/AboutUs/Pages/DiscriminationAgainstWomen.aspx y https://www.cidh.oas.org/women/acceso07/cap1.htm

Se ha detectado que el trato prejuicioso lo es más cuando quienes las evalúan o deciden son mujeres en causas en que intervienen mujeres en un rol relevante.

Eso es lo que se conoce como Misoginia Judicial (https://www.theleaflet.in/unmasking-the-misogyny-of-indian-courts/ ), y cuyo reconocimiento y combate ha llevado, entre otras consecuencias positivas, a la progresiva instalación de conceptos tales como la paridad de género  y a corrientes más modernas en la Victimología, como lo es la aparición de la Víctimo – Dogmática (https://dpej.rae.es/lema/victimodogm%C3%A1tica ), de la Justicia de Género, o con perspectiva de género ( Gender Justice).

Especialmente duro es conocer del trato cruel e inhumano recibido por niñas esclavas, prisioneras o violadas sistemáticamente en medio de las matanzas y guerrillas de África reciente, en razón de su condición de mujeres, cuestión que ha sido materia de recientes fallos ante la Corte Penal Internacional, dado que conforme al Estatuto de Roma estas conductas son de esas grandes atrocidades consideradas crímenes globales de guerra o contra la humanidad toda, y  deben ser tanto reprochados como llamar enérgicamente la atención para que se adopten los grados de consciencia que impidan su repetición.

Así en el Caso Ongwen (https://www.icccpi.int/Pages/item.aspx?name=pr1564 ), lo destacaba ya UNICEF desde el año 2012  https://www.unicef.org/spanish/protection/57929_62002.html ), y es asunto de otras causas en curso https://www.corteidh.or.cr/tablas/r37874.pdf

En marzo de 2019, por invitación de la Asociación de Mujeres Abogadas de África (AWLA), expuse en la NGO CW63 de Nueva York, USA, en la preparatoria de la Conferencia Mundial del estatus de la Mujer en el Mundo, Beijing25+, al amparo de Naciones Unidas, el estado de la Jurisprudencia de la CPI acerca de los delitos internacionales contra mujeres, y en el Panel, destacadas académicas y Juezas Federales de Estados Unidos levantaron en la agenda estadísticas analizadas sobre cómo en sistemas más modernos de sociedad, la misoginia judicial aparecía muy presente en temas laborales, de inmigración, familia, raciales o de control del orden público, etc.

Ver https://www.unodc.org/dohadeclaration/en/news/2019/01/the-role-of-women-judges-and-a-gender-perspective-in-ensuring-judicial-independence-and-integrity.html

Pero de todos modos hay que practicar la ponderación y la prudencia, porque el lenguaje fácil aplica muy velozmente la “Ley del Péndulo”, como se ha visto en esos casos de jueces y sus familias amenazados por dictar sentencias “machistas” o “misóginas”, que a veces, menos que eso, parecen ser decisiones no del todo bien fundadas, que no gustan a quien pierde, como se lee en https://abcnews.go.com/US/threats-judges-increasing-experts-misogyny-problem/story?id=72061296

  1. Espacio Digital y Machismo.

A poco andar de esa Conferencia mundial, y a propósito del estudio del riesgo de prejuicio, sesgo o de intromisión indebida en la privacidad del ámbito de seguridad del ciudadano, a través del uso de las herramientas de Inteligencia Artificial (IA), los desarrollos de Machine Learning, y del avance den uso del Reconocimiento Facial (FR), Apps Biométricas y Algoritmos Predictivos en el sistema procesal penal comparado (i. e. https://enestrado.com/inteligencia-artificial-sistema-de-justicia-derecho-penal-e-commerce-y-democracia-donde-estamos-y-para-donde-vamos-por-juan-carlos-manriquez /  https://mbcia.cl/2020/12/20/en-estrado-reconocimiento-facial-y-tecnologia-intrusiva-por-que-la-moratoria-de-la-ue-y-cuales-criterios-las-hacen-admisibles-por-juan-carlos-manriquez/), fuimos detectando las alertas de diversas fuentes que llamaban la atención sobre la aparición de los primeros atisbos de que, al parecer, en el ecosistema digital y en la vida en la Net, así como en las herramientas de vigilancia digital de calles y de tráfico en la red, se estarían replicando modelos misóginos o machistas de la vida real, con mayor énfasis (otra vez) puesto en las mujeres.

Interesante es leer la nota de EuroNews que el pasado 8M21 se preguntaba en la Efeméride: Cuan sexistas pueden ser los algoritmos? (https://www.euronews.com/2020/03/08/international-women-s-day-our-algorithms-are-sexist )

Así, por ejemplo, se dice que ocurre al buscar perfiles de trabajo, los que en razón del color de piel, o si la mujer es latinas, etc. la navegación conduce más rápido a páginas de record criminales o a sitios de pornografía, que cuando se usa la biometría o FR de mujeres caucásicas blancas,, y que también por eso en un aeropuerto con cámaras para pasaporte covid19 si es rubia o blanca, entre otras razones puede saltar la fila más rápido que la afro americana, asiática o latina, las que tienen “más probabilidades de volver a la fila de espera” que aquellas.

Esto pasa, señalan los expertos, porque las grandes compañías de RRSS obtienen los estereotipos con que alimentan los algoritmos desde los millones de fotos de seres humanos de lo que las personas suben, o de sus navegaciones trackeadas y perfiladas, con los que luego las tecnológicas  arman las bases de datos que comercian con Estados, Gobiernos y Empresas, como quien hace minería digital de millones de Teras de datos hallados en una cantera gratis.

En consecuencia, tenemos otro estímulo para avanzar en la regulación constitucional del Estado de Derecho Digital, igual como queremos la menor latencia de espera que daría la 5G.

 

 

 

| LO MAS LEIDO