Investigadores de OpenAI advierten de un peligro existencial para la humanidad

En un nuevo giro en la polémica sobre OpenAI , varios investigadores de la empresa tecnológica enviaron una carta a la junta directiva advirtiendo de un poderoso descubrimiento de inteligencia artificial que, según dijeron, podría amenazar a la humanidad. La carta, revelada por Reuters, fue enviada poco antes de que el CEO de la empresa, Sam Altman, fuera despedido.

Los investigadores expresaron su preocupación por la forma en que se estaba ejecutando el proyecto Q*, un modelo de aprendizaje automático diseñado para resolver problemas matemáticos. La carta señalaba que Q* había logrado numerosos avances en la resolución de problemas matemáticos, en un nivel similar al que podría hacer un estudiante de primaria.

Los investigadores advirtieron que este hito podría tener implicaciones significativas para el desarrollo de la inteligencia artificial general (AGI), que es una forma de inteligencia artificial que podría superar a los humanos en la mayoría de las tareas. Q* sería capaz de conquistar la capacidad de hacer matemáticas, lo que implicaría que la IA tendría mayores capacidades de razonamiento que se asemejarían a la inteligencia humana.

Los investigadores argumentaron que la comercialización de Q* antes de comprender las consecuencias podría tener consecuencias catastróficas para la humanidad. Temen que la IA podría ser utilizada para crear armas autónomas, desarrollar propaganda engañosa o incluso destruir la civilización humana.

El despido de Sam Altman ha generado una gran incertidumbre sobre el futuro de OpenAI. Los investigadores que enviaron la carta han expresado su esperanza de que la nueva junta directiva de la empresa reconsidere sus planes para Q*.