Una última lectura sobre el tema de IA y ChatGPT. En este caso quería presentar una que planteara un escenario catastrófico para la humanidad, además de los que ya nos presentan con el cambio climático. Cuando leo estos temas no dejo de recordar lo que se decía iba a ocurrir con el cambio de siglo, se iban a parar todas las computadoras del planeta….

En fin, para conocer esta opinión sugiero leer este artículo “Preventing an AI-related catastrophe: AI might bring huge benefits — if we avoid the risks”, por Benjamin Hilton: Preventing an AI-related catastrophe – 80,000 Hours (80000hours.org)

“Esperamos que haya un progreso sustancial en la IA en las próximas décadas, potencialmente incluso hasta el punto en que las máquinas superen a los humanos en muchas, si no en todas, las tareas. Esto podría tener enormes beneficios, ayudando a resolver problemas globales actualmente intratables, pero también podría presentar graves riesgos. Estos riesgos podrían surgir accidentalmente (por ejemplo, si no encontramos soluciones técnicas a las preocupaciones sobre la seguridad de los sistemas de IA) o deliberadamente (por ejemplo, si los sistemas de IA empeoran el conflicto geopolítico). Creemos que se necesita trabajar más para reducir estos riesgos.

Algunos de estos riesgos de la IA avanzada podrían ser existenciales, lo que significa que podrían causar la extinción humana o una pérdida de poder igualmente permanente y grave de la humanidad. la tecnología se puede desarrollar e integrar de forma segura en nuestra sociedad. Encontrar respuestas a estas preocupaciones está muy descuidado y bien puede ser manejable. Estimamos que hay alrededor de 400 personas en todo el mundo trabajando directamente en esto.3 Como resultado, la posibilidad de una catástrofe relacionada con la IA puede ser el problema más apremiante del mundo, y lo mejor en lo que pueden trabajar aquellos que están bien ubicados para contribuir.

Las opciones prometedoras para trabajar en este problema incluyen la investigación técnica sobre cómo crear sistemas de IA seguros, la investigación de estrategias sobre los riesgos particulares que podría plantear la IA y la investigación de políticas sobre las formas en que las empresas y los gobiernos podrían mitigar estos riesgos. Si se desarrollan políticas que valgan la pena, necesitaremos personas que las pongan en práctica y las implementen. También hay muchas oportunidades para tener un gran impacto en una variedad de roles complementarios, como gestión de operaciones, periodismo, ingresos para dar y más, algunos de los cuales enumeramos a continuación.”