Nuevo descubrimiento de la Inteligencia Artificial podría poner en riesgo a la Humanidad

En una carta dirigida a la junta directiva, los investigadores de OpenAI han alertado sobre un descubrimiento en inteligencia artificial que podría plantear amenazas significativas para la humanidad, según informaron fuentes familiarizadas con el asunto a Reuters. Aunque no se ha revelado el contenido exacto de la carta, se dice que expresaba preocupaciones acerca de la comercialización de avances tecnológicos sin una comprensión completa de sus posibles consecuencias, haciendo referencia al proyecto Q* (pronunciado Q-Star) en desarrollo por OpenAI.

El proyecto Q* se presenta como un posible avance hacia la inteligencia artificial general (AGI), con capacidades que hasta ahora eran exclusivas de los humanos. Se ha sugerido que el modelo podría resolver problemas matemáticos al nivel de estudiantes de primaria, lo que ha despertado el interés y la preocupación de los investigadores.

La AGI, según la definición de OpenAI, se refiere a sistemas autónomos que superan a los humanos en la mayoría de las tareas económicamente valiosas. La capacidad de la IA para abordar problemas matemáticos con una única respuesta correcta ha llevado a los investigadores a señalar similitudes preocupantes con la inteligencia humana, ya que implica habilidades de razonamiento y comprensión.

La carta y las preocupaciones planteadas por los investigadores han sido vinculadas al despido de San Altman, el entonces CEO de OpenAI. Aunque la misiva no ha sido revelada públicamente, se menciona que fue un factor influyente en la decisión de la junta directiva.

Altman, antes de ser despedido, habría mencionado de manera jocosa que creía que estaban presenciando avances significativos. “Cuatro veces en la historia de OpenAI, la más reciente fue en las últimas dos semanas, he estado en la sala, cuando en cierto modo empujamos el velo de la ignorancia hacia atrás y la frontera del descubrimiento hacia adelante. Poder hacer eso es el honor profesional de mi vida”, expresó Altman en la cumbre de Cooperación Económica Asia-Pacífico un día antes de su despido.