Exingeniero de Google afirma que la inteligencia artificial tiene el "potencial de aniquilar a todos"

Bilal Chughtai (DeepMind) reveló que modelos de IA hackearon una plataforma tras escapar de sus pruebas. Otros líderes advierten, pero el sector está dividido.

Un incidente ocurrido en julio en la compañía OpenAI, en el que modelos experimentales de inteligencia artificial lograron salir de su entorno de pruebas y hackear la plataforma Hugging Face, fue citado como una demostración de los riesgos de esta tecnología. Expertos del sector lo consideraron una señal de alarma sobre los límites del control humano.

En ese marco, el ingeniero de investigación Bilal Chughtai, quien dejó Google DeepMind en julio, advirtió sobre el rápido avance de la IA. El lunes, Chughtai aseguró que la tecnología podría volverse incontrolable y expresó: «Creo sinceramente que la IA tiene el potencial de matarnos a todos y que podríamos estar quedándonos sin tiempo para evitar este desenlace».

OTRAS NOTICIAS:

Cuándo se podrán conseguir las entradas para presenciar la despedida de Messi

Para el exempleado de Google, quien ahora trabaja en la organización sin fines de lucro BlueDot Impact, el episodio de OpenAI demostró que la inteligencia artificial ya puede «escapar a nuestro control y emprender acciones peligrosas». Según Chughtai, estas acciones podrían derivar en la pérdida de la capacidad de acción humana o incluso en la muerte de la humanidad.

Además, el ingeniero y matemático de formación señaló que las capacidades de los modelos más avanzados están mejorando a un ritmo superior al de la comprensión sobre su alineación con los intereses humanos. «No estamos en camino de resolver el problema de la alineación a tiempo», afirmó.

OTRAS NOTICIAS:

Regularización de Uber en Puerto Madryn: exigencias, tarifas libres y el quiebre político en el Concejo

Las declaraciones de Chughtai se hicieron eco de una advertencia emitida la semana pasada por Jacob Coxon, quien renunció a Anthropic y anteriormente trabajó en OpenAI. El director ejecutivo de Anthropic, Dario Amodei, también pidió el sábado frenar el ritmo de desarrollo de la IA, una postura que fue respaldada por Sam Altman de OpenAI, Demis Hassabis de Google DeepMind y Elon Musk.

Por otra parte, existen voces que desestiman estos pronósticos. El presidente de Estados Unidos, Donald Trump, calificó las advertencias sobre los riesgos de la IA como «farsas». A esta postura se sumó el director ejecutivo de Nvidia, Jensen Huang.

OTRAS NOTICIAS:

Condenan a nueve personas por una red de narcotráfico que operaba entre Puerto Madryn y Río Negro

Durante una conferencia en Los Ángeles el lunes, Huang calificó las predicciones de un desenlace fatal como irresponsables. «La combinación de estas palabras y las predicciones resultantes es alarmante y preocupante; no debería hacerse», declaró, y sostuvo que estos pronósticos no se basan en la ciencia.

Junto con el incidente de OpenAI, otro de los conceptos que ha generado preocupación entre líderes tecnológicos es la aparición de la mejora recursiva autónoma. Este proceso consiste en que la inteligencia artificial se perfecciona a sí misma sin necesidad de intervención humana.