Cass Sunstein, reconocido autor del libro Nudge junto a Richard Thaler, elabora en base el famoso artículo de Hayek “El uso del conocimiento en la sociedad”, para aplicarlo a los algoritmos de las más modernas tecnologías. “The Use of Algorithms in Society”:

Sunstein, Cass R., The Use of Algorithms in Society (December 22, 2022). Available at SSRN: https://ssrn.com/abstract=4310137  or http://dx.doi.org/10.2139/ssrn.4310137

Así presenta Wikipedia a Cass Sunstein: Cass R. Sunstein (21 de septiembre de 1954) es un abogado norteamericano y profesor universitario dedicado principalmente al estudio del derecho constitucional, derecho administrativo, derecho ambiental y de la economía conductual. Se desempeñó como Director de la Oficina de Información y Asuntos Regulatorios (OIRA) en la administración Obama y es Profesor Felix Frankfurter en la Escuela de Derecho en Harvard. Durante 27 años, Sunstein fue investigador en la Escuela de Derecho de la Universidad de Chicago,​ donde actualmente continúa enseñando como profesor Visitante Harry Kalven.

Resumen:

“Los juicios de los seres humanos pueden estar sesgados; también pueden ser ruidosos. En una amplia gama de configuraciones, es probable que el uso de algoritmos mejore la precisión, porque los algoritmos reducirán tanto el sesgo como el ruido. De hecho, los algoritmos pueden ayudar a identificar el papel de los sesgos humanos; incluso podrían identificar sesgos que no se han mencionado antes. En comparación con los algoritmos, por ejemplo, los jueces humanos, al decidir si conceden la libertad bajo fianza a los acusados ​​penales, muestran un sesgo de delito actual y un sesgo de ficha policial; en comparación con los algoritmos, los médicos humanos, al decidir si evaluar a las personas para detectar ataques cardíacos, muestran un sesgo de síntomas actuales y un sesgo demográfico. Estos son casos en los que grandes conjuntos de datos pueden asociar ciertas entradas con resultados específicos. Pero en casos importantes, los algoritmos luchan por hacer predicciones precisas, no porque sean algoritmos sino porque no tienen suficientes datos para responder la pregunta en cuestión. Esos casos a menudo, aunque no siempre, involucran sistemas complejos. (1) Es posible que los algoritmos no puedan prever los efectos de las interacciones sociales, que pueden depender de una gran cantidad de factores aleatorios o fortuitos, y que pueden conducir en direcciones imprevistas e impredecibles. (2) Es posible que los algoritmos no puedan prever los efectos del contexto, el tiempo o el estado de ánimo. (3) Es posible que los algoritmos no puedan identificar las preferencias de las personas, que pueden estar ocultas o falsificadas y que pueden revelarse en un momento inesperado. (4) Es posible que los algoritmos no puedan anticipar saltos o choques repentinos o sin precedentes (un avance tecnológico, un ataque terrorista exitoso, una pandemia, un cisne negro). (5) Los algoritmos pueden no tener «conocimiento local» o información privada, que los seres humanos pueden tener. Las predicciones sobre la atracción romántica, sobre el éxito de los productos culturales y sobre las próximas revoluciones son ejemplos de ello. Las limitaciones de los algoritmos son análogas a las limitaciones de los planificadores, enfatizadas por Hayek en su famosa crítica de la planificación central. Es una pregunta sin resolver si, y en qué medida, algunas de las limitaciones de los algoritmos podrían reducirse o superarse con el tiempo, con más datos o varias mejoras; los cálculos están mejorando de manera extraordinaria, pero algunos de los desafíos relevantes no se pueden resolver con cálculos ex ante.”