Un algoritmo de inteligencia artificial determina si un detenido es peligroso o no, ¿puede ser equitativo?

Otro de los textos que vamos a leer sobre el tema Inteligencia Artificial y ChatGPT tiene que ver con el uso de la IA en la justicia, en particular para ayudar a los jueces a definir si un detenido debe ser liberado mientras se lo enjuicia, y en qué medida son proclives a reincidir. ¿Es posible que sea equitativo? El artículo es “Can you make AI fairer than a judge? Play our courtroom algorithm game”; por Karen Hao & Jonathan Stray, publicado en MIT Technology Review:  https://www.technologyreview.com/2019/10/17/75285/ai-fairer-than-judge-criminal-risk-assessment-algorithm/amp/

“De niño, desarrollas un sentido de lo que significa “justicia”. Es un concepto que aprendes desde el principio a medida que aceptas el mundo que te rodea. Algo se siente justo o no.

Pero cada vez más, los algoritmos han comenzado a arbitrar la justicia por nosotros. Ellos deciden quién ve anuncios de viviendas, quién es contratado o despedido, e incluso quién es enviado a la cárcel. En consecuencia, a las personas que los crean (ingenieros de software) se les pide que articulen lo que significa ser justos en su código. Esta es la razón por la cual los reguladores de todo el mundo ahora están lidiando con una pregunta: ¿Cómo se puede cuantificar matemáticamente la equidad?”

“Los defensores de las herramientas de evaluación de riesgos argumentan que hacen que el sistema legal penal sea más justo. Reemplazan la intuición y el sesgo de los jueces, en particular, el sesgo racial, con una evaluación aparentemente más “objetiva”. También pueden reemplazar la práctica de pagar una fianza en los EE. UU., que requiere que los acusados ​​paguen una suma de dinero para su liberación. La fianza discrimina a los estadounidenses pobres y afecta de manera desproporcionada a los acusados ​​negros, que están sobrerrepresentados en el sistema legal penal.”

“En cualquier contexto en el que un sistema automatizado de toma de decisiones deba asignar recursos o castigos entre múltiples grupos que tienen diferentes resultados, las diferentes definiciones de equidad inevitablemente resultarán mutuamente excluyentes.

No existe un algoritmo que pueda solucionar esto; esto ni siquiera es un problema algorítmico, en realidad. Los jueces humanos están haciendo actualmente el mismo tipo de compensaciones forzadas, y lo han hecho a lo largo de la historia.”

Donde la justicia social no es justicia, ni es social. La manipulación de la retórica sobre «derechos»

Como siempre, la revista online Quillette trae artículos muy interesantes, al margen de que uno esté de acuerdo con ellos o no. En esta oportunidad quiero presentar el artículo de Nicolas Agostini, titulado “A Suicide Foretold: How Social Justice Rhetoric is Turning People off Human Rights”, donde, como dice su título el uso y abuso de ciertas palabras termina quitándoles sentido o modificándolo, a veces, hasta terminar siendo todo lo contrario. Ya Hayek había afirmado que la “justicia social” no es ni justicia, ni social. Aquí algo del artículo:

“Una de sus características más llamativas es su dependencia de las palabras de moda. Tomemos, por ejemplo, la palabra «equidad». Como un espectro en un pasillo, es difícil de describir, difícil de atrapar y difícil de entender. No se encuentra en ninguna parte de los tratados internacionales de derechos humanos, las leyes nacionales o las sentencias judiciales. Su ambigüedad está en desacuerdo con la ligereza con la que la gente de derechos humanos ha llegado a usarlo (intente buscar en Google «equidad de vacunas», «equidad racial» o «equidad de género»). En un taller reciente sobre derechos humanos, el uso ad nauseam de “equidad” por parte de los oradores llevó a un colega mío a preguntarme si de hecho estábamos discutiendo sobre igualdad. Incluso la gente de derechos humanos está perdida.

Tome las palabras «justicia» y «rendición de cuentas». A primera vista, no plantean ningún problema: una gran parte del trabajo de derechos humanos es hacer que los abusadores rindan cuentas, garantizar que se respete el debido proceso y obtener reparación para las víctimas. Sin embargo, los activistas han llegado a usar estas palabras de una manera tan expansiva que el sentido común ya no puede definirlas. Uno escucha sobre “justicia reproductiva”, “justicia ambiental” o “rendición de cuentas para mujeres y niñas en entornos humanitarios”. Iteración tras iteración, incluso la gente de derechos humanos se esfuerza por comprender qué significa «equidad» y por qué está reemplazando a la igualdad, o por qué «justicia» y «rendición de cuentas» se usan tan vagamente que pueden referirse a cualquier resultado social deseable. Estas palabras significan miles de cosas. Se han convertido en fetiches.

La pedagogía se basa en la repetición y, dado que la promoción es una forma de pedagogía, la repetición suele ser buena para la promoción. Pero la condición es transmitir mensajes claros. Si las palabras son vagas, los mensajes no son claros y la repetición se vuelve contraproducente. Abusar de las palabras significa estropearlas y despojarlas de su valor.”

https://quillette.com/2022/03/24/chronicle-of-a-suicide-foretold-how-social-justice-rhetoric-is-turning-people-off-human-rights/