Expertos en IA advierten que la superinteligencia artificial podría causar la extinción humana

Responsables de seguridad de Anthropic reconocen una probabilidad superior al 10% y señalan que la competencia entre empresas impide frenar su desarrollo.

El riesgo de extinción humana en los próximos años debido a la superinteligencia artificial supera el 10%, una probabilidad reconocida públicamente por Evan Hubinger, responsable de la división de seguridad de Anthropic. Este nivel de inquietud por el riesgo existencial es compartido y crece a medida que se asciende en la jerarquía técnica de los principales laboratorios de desarrollo de IA, según ratificó Samuel Marks, líder de supervisión escalable de la misma firma.

La advertencia se hizo más patente con la reciente dimisión de Jacob Coxon de Anthropic, un investigador que previamente trabajó en OpenAI. Su salida puso en evidencia una contradicción dentro de Silicon Valley, donde las empresas más cotizadas compiten por una superinteligencia autónoma mientras admiten carecer de mecanismos para garantizar la seguridad de la civilización.

OTRAS NOTICIAS:

Rescatan a una pareja y su hija de 3 años secuestradas cuatro días por una deuda millonaria

A pesar de estas alarmantes evaluaciones, las corporaciones mantienen el entrenamiento de modelos sobrehumanos impulsadas por una lógica de competencia ciega. Atrapadas en un Dilema del Prisionero, ninguna empresa está dispuesta a desacelerar sus lanzamientos por temor a que sus rivales monopolicen el mercado con sistemas menos seguros, dejando las decisiones de alto riesgo en canales corporativos privados.

Los propios científicos han señalado que la velocidad de avance de las tecnologías de aprendizaje automático neutralizó las herramientas de auditoría preventiva existentes. Esto es crítico dado que se proyecta que estos sistemas tienen la capacidad de realizar ataques informáticos masivos y monopolizar recursos en cuestión de horas.

OTRAS NOTICIAS:

Asesinan a una adolescente de 18 años y hieren a su padre con un disparo en el cuello

La salida de investigadores senior como Coxon reabrió el debate sobre la urgencia de establecer una pausa internacional en el desarrollo, supervisada por estados y organismos multilaterales. La encrucijada exige arrebatarle a un puñado de firmas privadas la potestad unilateral de decidir los límites de la seguridad global.