Archivo del Autor: Martin Krause

IA y ChatGPT: ¿Quién decide qué comentarios son ofensivos? ¿Son sus «valores universales» similares a los tuyos y míos?

Posted on por
1

Otro de los textos que veremos sobre IA y ChatGPT es de Lawrence M. Krauss, físico teórico, de su bolg en Substack, con el título “Artificially Intelligent Offense? The Danger of Teaching AI that Information Can Be Harmful or Offensive”: https://lawrencekrauss.substack.com/p/artificially-intelligent-offense

Allí señala que ChatGPT “modera” el contenido de sus respuestas para que no resultan ofensivas, lo cual plantea más preguntas de las que pretende resolver, ya que ¿cuáles son los criterios para determinar qué es ofensivo? ¿Deberían esos contenidos ofensivos censurarse previamente o por aquél a quien lo ofende?

En última instancia tendremos la posibilidad de elegir entre ChatGPT y toda la competencia que ya se viene.

“Hace años asistí a una conferencia en Asilomar, organizada por un grupo que estaba preocupado por el futuro de la IA. Las conferencias de apertura, en su mayoría de filósofos, advirtieron sobre la importancia de enseñar «valores humanos universales» a la IA si finalmente los sistemas inteligentes de IA no representan un peligro para la humanidad.

Esto suena bien, en principio, hasta que uno intenta definir los valores humanos universales, al menos en el contexto de la historia humana. Si los sistemas de aprendizaje automático se entrenan con dicho material disponible en Internet, tendrán dificultades para encontrar ejemplos consistentes de comportamiento lógico, ético o moral a lo largo del tiempo o la geografía. Uno se preocupa de que, al final, este tipo de orientación para la programación inicial implique más «haz lo que digo, no lo que hago» que la programación para el descubrimiento abierto.

El problema con esto, por supuesto, es la cuestión de quién puede proporcionar la orientación y cuáles son sus valores.

Esta preocupación hipotética se ha vuelto mucho más real a medida que han florecido los sistemas de aprendizaje automático de interfaz humana, con el reciente auge de ChatGPT y su impacto en el discurso humano, desde ayudar en la redacción de artículos científicos hasta guiar a las personas en su búsqueda de información.”

…

“El problema esencial aquí es eliminar la obligación, o más bien, la oportunidad que todos deberíamos tener de determinar racionalmente cómo respondemos al contenido potencialmente ofensivo asegurándonos en cambio de que dicho contenido potencialmente ofensivo pueda ser censurado primero. La intención y la precisión se vuelven irrelevantes. El poder de veto en esta era de victimización potencial se otorga al destinatario imaginario de la información.

El acceso libre y abierto a la información, incluso la información que puede causar dolor o angustia, es esencial en una sociedad libre. Como Christopher Hitchens (canalizando a John Stuart Mill) destacó con tanta frecuencia, la libertad de expresión es principalmente importante no porque brinde a los oradores la oportunidad de hablar en contra de los vientos predominantes, sino porque ese discurso les da a los oyentes o lectores la libertad de darse cuenta de que es posible que deseen cambiar sus mentes.”

Un algoritmo de inteligencia artificial determina si un detenido es peligroso o no, ¿puede ser equitativo?

Posted on por
Responder

Otro de los textos que vamos a leer sobre el tema Inteligencia Artificial y ChatGPT tiene que ver con el uso de la IA en la justicia, en particular para ayudar a los jueces a definir si un detenido debe ser liberado mientras se lo enjuicia, y en qué medida son proclives a reincidir. ¿Es posible que sea equitativo? El artículo es “Can you make AI fairer than a judge? Play our courtroom algorithm game”; por Karen Hao & Jonathan Stray, publicado en MIT Technology Review:  https://www.technologyreview.com/2019/10/17/75285/ai-fairer-than-judge-criminal-risk-assessment-algorithm/amp/

“De niño, desarrollas un sentido de lo que significa “justicia”. Es un concepto que aprendes desde el principio a medida que aceptas el mundo que te rodea. Algo se siente justo o no.

Pero cada vez más, los algoritmos han comenzado a arbitrar la justicia por nosotros. Ellos deciden quién ve anuncios de viviendas, quién es contratado o despedido, e incluso quién es enviado a la cárcel. En consecuencia, a las personas que los crean (ingenieros de software) se les pide que articulen lo que significa ser justos en su código. Esta es la razón por la cual los reguladores de todo el mundo ahora están lidiando con una pregunta: ¿Cómo se puede cuantificar matemáticamente la equidad?”

“Los defensores de las herramientas de evaluación de riesgos argumentan que hacen que el sistema legal penal sea más justo. Reemplazan la intuición y el sesgo de los jueces, en particular, el sesgo racial, con una evaluación aparentemente más “objetiva”. También pueden reemplazar la práctica de pagar una fianza en los EE. UU., que requiere que los acusados ​​paguen una suma de dinero para su liberación. La fianza discrimina a los estadounidenses pobres y afecta de manera desproporcionada a los acusados ​​negros, que están sobrerrepresentados en el sistema legal penal.”

“En cualquier contexto en el que un sistema automatizado de toma de decisiones deba asignar recursos o castigos entre múltiples grupos que tienen diferentes resultados, las diferentes definiciones de equidad inevitablemente resultarán mutuamente excluyentes.

No existe un algoritmo que pueda solucionar esto; esto ni siquiera es un problema algorítmico, en realidad. Los jueces humanos están haciendo actualmente el mismo tipo de compensaciones forzadas, y lo han hecho a lo largo de la historia.”

David Hume: filósofo, historiador, filósofo político y moral…, y también economista

Posted on por
Responder

Conocida es la amistad entre David Hume y Adam Smith y también que se atribuye al primero grandes contribuciones en filosofía, historia, ética o ciencia política, y sobre economía y también ética al segundo. Pero David Hume realizó importantes contribuciones también en economía, tema que se trata en este libro “A philosopher’s economist: Hume and the rise of capitalism”, por Margaret Schabas y Carl Wennerlind, University of Chicago Press, Chicago.

El libro es comentado por Gent Carrabregu de Duke University,

Carrabregu, G. A philosopher’s economist: Hume and the rise of capitalism. Contemp Polit Theory 21 (Suppl 4), 182–186 (2022). https://doi.org/10.1057/s41296-021-00506-9

“David Hume no necesita presentación para los estudiantes de historia de la filosofía. Sus contribuciones a la metafísica, la epistemología y la ética no solo son bien conocidas, sino que también han sido muy apreciadas por muchos filósofos y científicos cognitivos destacados. Además, Hume ha sido aclamado como historiador por su obra The History of England, que durante su vida contribuyó a su fama mucho más que sus escritos puramente filosóficos. Sin embargo, la parte de su obra que ha sido mucho menos valorada son sus aportaciones al pensamiento económico. Aunque su amigo cercano y discípulo filosófico Adam Smith se cuenta entre los padres fundadores de la economía, Hume no ocupa un lugar preponderante en la historia intelectual de la disciplina. Este excelente estudio de Margaret Schabas y Carl Wennerlind tiene como objetivo proporcionar un correctivo muy necesario para este olvido. Lo hace mediante una agenda interpretativa que pretende (1) recuperar las contribuciones de Hume a la economía y (2) situarlas en el centro mismo de su proyecto filosófico. Si bien cumplen con bastante éxito la primera parte de su agenda, y al hacerlo hacen una contribución muy valiosa tanto a los estudios de Hume como a la historia de la economía, la última parte sigue siendo una tarea difícil, a pesar de los admirables esfuerzos de los autores.”

Steven Pinker sobre inteligencia artificial y ChatGPT: ¿nos suplantará como escritores o pensadores?

Posted on por
Responder

Vamos a ver algunos artículos sobre inteligencia artificial y el chat GPT como parte del Seminario Mises. Entre las lecturas, tenemos este artículo de Harvard Gazette: “Will ChatGPT supplant us as writers, thinkers?”, una entrevista al profesor de esa universidad, Steven Pinker: https://news.harvard.edu/gazette/story/2023/02/will-chatgpt-replace-human-writers-pinker-weighs-in/

Así se presenta:

“Steven Pinker cree que ChatGPT es realmente impresionante, y lo será aún más una vez que «deje de inventar cosas» y se vuelva menos propenso a errores. La educación superior, de hecho, gran parte del mundo, se llenó de entusiasmo en noviembre cuando OpenAI presentó su chatbot ChatGPT capaz de responder preguntas instantáneamente (de hecho, componer escritura en varios géneros) en una variedad de campos de una manera conversacional y aparentemente autorizada. Utilizando un tipo de IA llamado modelo de lenguaje grande (LLM), ChatGPT puede aprender y mejorar continuamente sus respuestas. Pero, ¿qué tan bueno puede ser? Pinker, el Profesor de Psicología de la Familia Johnstone, ha investigado, entre otras cosas, los vínculos entre la mente, el lenguaje y el pensamiento en libros como el premiado éxito de ventas «The Language Instinct» y tiene algunas ideas propias sobre si deberíamos estar preocupado por el potencial de ChatGPT para desplazar a los humanos como escritores y pensadores. La entrevista fue editada para mayor claridad y duración.”

Y más adelante:

“Estamos lidiando con una inteligencia alienígena que es capaz de hazañas asombrosas, pero no a la manera de la mente humana. No necesitamos estar expuestos a medio billón de palabras de texto (que, a tres palabras por segundo, ocho horas al día, tomaría 15.000 años) para hablar o resolver problemas. No obstante, es impresionante lo que se puede obtener de patrones estadísticos de muy, muy, muy alto orden en conjuntos de datos gigantescos.”

Cuando la inteligencia artificial supere a nuestros cerebros…, ¿será el comienzo de una nueva especie?¿superior?

Posted on por
Responder

Cada tanto tenemos una reunión de un grupo llamado Seminario Mises, en honor a las reuniones que éste organizaba en Viena para discutir teoría. Los temas cambian cada vez, y en esta oportunidad se trata de la Inteligencia Artificial y el ChatGPT. Hay distintas lecturas previas. Una de ellas es “Artificial Intelligence Will Serve Humans, Not Enslave Them”, por Pedro Domingos, profesor de Computer Science en The University of Washington, publicado en Scientific American: https://www.scientificamerican.com/article/artificial-intelligence-will-serve-humans-not-enslave-them/

Entre tantas cuestiones interesantes que se tratan:

“A muchos les preocupa que las máquinas con estas capacidades utilicen sus nuevos conocimientos para tomar todos nuestros trabajos, esclavizarnos o incluso exterminarnos. Pero es poco probable que eso suceda porque no tienen voluntad propia. Esencialmente, todos los algoritmos de IA están impulsados ​​por objetivos que programamos, como «encontrar la ruta más corta desde el hotel hasta el aeropuerto». Lo que distingue a estos algoritmos de los ordinarios es que tienen mucha flexibilidad para descubrir cómo alcanzar los objetivos que les fijamos en lugar de tener que ejecutar una serie de pasos predefinidos. A pesar de que mejoran en la tarea con la experiencia, las metas permanecen sin cambios. Las soluciones que no avanzan hacia la meta se descartan automáticamente. Además, los humanos pueden comprobar que lo que producen las máquinas satisface nuestros objetivos. También podemos verificar que las máquinas no violen ninguna de las restricciones que les imponemos, como «obedecer las reglas de tránsito».

Sin embargo, cuando visualizamos una IA, tendemos a proyectar en ella cualidades humanas como la voluntad y la conciencia. La mayoría de nosotros también estamos más familiarizados con las IA similares a las humanas, como los robots domésticos, que con la miríada de otros tipos que hacen su trabajo entre bastidores. Hollywood agrava esta percepción al representar a los robots y las IA como humanos disfrazados, una táctica comprensible que hace que la historia sea más convincente. La inteligencia artificial es solo la capacidad de resolver problemas difíciles, una tarea que no requiere libre albedrío. No es más probable que se vuelva contra nosotros que tu mano para abofetearte. Como cualquier otra tecnología, las IA siempre serán extensiones de nosotros. Cuanto más poderosos podamos hacerlos, mejor.”

El consenso de investigadores sobre la evolución de la psicología y conducta humana

Posted on por
Responder

Para los que conocemos poco o nada de ciertos temas es siempre muy útil encontrar un artículo que presente el “estado del arte”, es decir, el consenso entre los investigadores, aunque sepamos que la ciencia avanza precisamente cuando alguien cuestiona esos consensos y propone nuevas teorías. Por eso es muy interesante este artículo publicado en la revista Evolution and Human Behavior, con el título: “What do evolutionary researchers believe about human psychology and behavior?”, por Daniel J.Kruger, University of Michigan, Maryanne L. Fisher Saint Mary’s University y Catherine Salmon, University of Redlands: https://doi.org/10.1016/j.evolhumbehav.2022.11.002

“Investigamos la prevalencia de creencias en varios aspectos clave y controvertidos de la psicología y el comportamiento humanos en una amplia muestra de académicos informados sobre la evolución (N = 581). Casi todos los participantes creían que los entornos de desarrollo dan forma sustancial a la psicología y el comportamiento de los adultos humanos, que existen diferencias en la psicología y el comportamiento humanos basados ​​en las diferencias sexuales de la selección sexual, y que existen diferencias individuales en la psicología y el comportamiento humanos como resultado de diferentes genotipos. Alrededor de las tres cuartas partes de los participantes creían que existen diferencias de población de ecologías/entornos ancestrales disímiles y diferencias dentro de la persona a lo largo del ciclo menstrual. Las tres quintas partes creían que la mente humana se compone de módulos sensibles al contexto y específicos de dominio. Alrededor de la mitad de los participantes creía que los aspectos conductuales y cognitivos de la historia de la vida humana varían a lo largo de un continuo rápido-lento unificado. Dos quintas partes de los participantes creían que la selección a nivel de grupo ha contribuido sustancialmente a la evolución humana. Los resultados indican que existen tanto creencias fundamentales compartidas como fenómenos que son aceptados por proporciones variables de académicos. Dichos patrones representan las opiniones de los estudiosos contemporáneos y el estado actual del campo. El grado de aceptación de algunos fenómenos puede cambiar con el tiempo a medida que avanza la ciencia evolutiva a través de la acumulación de evidencia empírica.”

Los resultados políticos modifican las expectativas económicas: un ejercicio con la elección entre Trump & Biden

Posted on por
Responder

La economía es el estudio de la acción humana, pero esta acción es motivada por valoraciones subjetivas que cada individuo tiene. Por eso es importante analizar cómo y porqué cambian esas valoraciones, las expectativas sobre el futuro y de allí las decisiones que se tomen. Es lo que trata el paper “Political Leaders and Macro economic Expectations: Evidence from a Global Survey Experiment”, por  Dorine Boumans, Klaus Gründler, Niklas Potrafke y  Fabian Ruthardt de la Universidad de Munich, publicado por CEsIfo: https://www.cesifo.org/DocDL/cesifo1_wp9974.pdf

En este caso analizan las consecuencias de ciertos eventos políticos, tales como el resultado de una elección, como la de Estados Unidos entre Biden & Trump. Y llegan a la conclusión que las expectativas mejoraron con la victoria de Biden, porque supuestamente daría como resultado menores trabas al comercio internacional. En fin, discutible. Así se presenta:

“¿Puede un solo líder político influir en las expectativas macroeconómicas a escala global? Diseñamos un experimento de encuesta a gran escala entre expertos económicos influyentes que trabajan en más de 100 países y utilizamos las elecciones presidenciales de EE. UU. de 2020 como un experimento cuasi natural para identificar el efecto del cambio de titular de EE. UU. en las expectativas macroeconómicas globales. Encontramos grandes efectos de la elección de Joe Biden en las expectativas de crecimiento de los expertos internacionales, trabajando a través de expectativas más positivas sobre el comercio. El resultado electoral afectó particularmente las expectativas de los aliados occidentales y aumentó la incertidumbre económica global. Nuestros hallazgos sugieren importantes efectos indirectos políticos en la formación de expectativas macroeconómicas

Hayek, un genio: no tenía 30 años y había escrito un libro precursor de las neurociencias

Posted on por
Responder

El título ya te asusta: Herrmann-Pillath, Carsten (2021). “Evolutionary mechanisms of choice: Hayekian perspectives on neurophilosophical foundations of neuroeconomics”. Economics and Philosophy 37 (2):284-303. Pero, efectivamente, Hayek tiene un libro sobre el cerebro, la mente, la conciencia. Uno de los más difíciles de leer. Increíblemente, uno que escribiera cuando era muy joven, no llegaba a los 30, pero que recién se publicara mucho después. Y ahora resulta ser que es un precursor en este campo de las neurociencias. Increíble.

El autor es del Max Weber Centre for Advanced Cultural and Social Studies, Erfurt University, Economics & Philosophy , Volume 37 , Issue 2 , July 2021 , pp. 284 – 303. DOI: https://doi.org/10.1017/S0266267120000371

La contribución seminal de Hayek a las neurociencias teóricas, The Sensory Order, sigue siendo descuidada en los esfuerzos actuales por integrar las neurociencias, la psicología y la economía. Defiendo la opinión de que Hayek presenta el caso de una alternativa evolutiva a los principales paradigmas en el campo y analizo dos con más detalle: el modelo basado en el bien en neuroeconomía y el enfoque de sistemas duales en economía del comportamiento. En ambos casos, las ideas hayekianas esenciales siguen siendo válidas en el contexto de la neurociencia moderna, permiten tener en cuenta investigaciones recientes y esbozar un modelo de elección dinámico y seleccionista.

Hayek y Rueff: diferencias y coincidencias en el origen de la Unión Europea

Posted on por
Responder

Interesante artículo sobre un personaje que hace mucho tiempo que no es mencionado: Jacques Rueff; el economista francés, el economista francés que jugara un papel central en la recuperación económica de ese país y en el origen de lo que hoy es la Unión Europea. Aquí sobre sus coincidencias y diferencias con Hayek en un paper titulado: “Jacques Rueff, Friedrich Hayek, and the Emergence of Economic Order: the Case of the European Coal and Steel Community”; por Vincent Carret, de Duje University October 2022: https://halshs.archives-ouvertes.fr/halshs-03824688

“El argumento de este artículo es que se puede hacer que Jacques Rueff y F.A. Hayek tengan un diálogo constructivo que informe nuestra comprensión de cómo ambos autores abordaron temas como el papel del gobierno en la sociedad y el significado del orden espontáneo. A través de un análisis de sus usos del mecanismo de precios como principio de ordenación, y un examen de cómo ambos avanzaron hacia un enfoque legal-institucional para entender el mundo, los elementos comunes en sus sistemas se destacan y encajan en una tradición liberal más larga. preocupado no sólo por el significado de la competencia, sino por las condiciones que fomentan el surgimiento del orden social en medio del caos individual. La participación de Rueff en la construcción de la Comunidad Europea del Carbón y del Acero ofrece una interesante aplicación de sus sistemas a un experimento concreto de creación de un orden económico racional en la Europa de la posguerra. El examen de la jurisprudencia del Tribunal de Justicia de la Comunidad demuestra hasta qué punto el principio de competencia estaba subordinado a un ideal político de paz basado en la limitación de los gobiernos para evitar las guerras, un mecanismo en el centro de los sistemas tanto de Hayek como de Rueff.”

 

Chocolate por la noticia: Los políticos evitan aumentar impuestos antes de las elecciones, lo hacen después.

Posted on por
Responder

Hay investigaciones que parecen ser intentos de verificar lo que ya sabemos de memoria. ¿Cuál es la originalidad? Por ejemplo, en este paper, investigadores del FMI y el Banco Mundial “descubren” que los políticos rara vez anuncian aumentos de impuestos antes de las elecciones, y sí lo hacen una vez que fueron electos. Chocolate por la noticia.

El paper es: David, Antonio C. y Sever, Can, “Electoral Cycles in Tax Reforms”. IMF Working Paper No. 2022/216, Available at SSRN: https://ssrn.com/abstract=4278473  or http://dx.doi.org/10.5089/9798400223754.001

Así es presentado:

“Examinamos los ciclos electorales en las reformas fiscales utilizando datos mensuales durante el período 1990-2018 para 22 economías avanzadas y mercados emergentes. Mostramos que los gobiernos tienden a evitar anunciar reformas fiscales durante los meses previos a las elecciones. Además, es más probable que anuncien esas reformas en los primeros meses posteriores a las elecciones, lo que indica que el “capital político” juega un papel en el momento de las reformas. Estos patrones son de base amplia en cuanto a los cambios en la base y tasa impositiva, y para varios tipos de impuestos. También encontramos que la disminución preelectoral en la probabilidad de anuncios de reformas tributarias es más fuerte en los mercados emergentes y más débil en los países con una calidad institucional relativamente mejor. Finalmente, nuestros resultados indican que ni las reglas fiscales ni los programas del FMI parecen tener efectos diferenciales sobre los ciclos electorales en las reformas tributarias.”