El jefe de IA de Microsoft alertó sobre riesgos al entrenar modelos como Claude

Mustafa Suleyman cuestionó el enfoque de Anthropic de antropomorfizar sistemas, advirtiendo sobre la dificultad de controlar una inteligencia artificial con conciencia propia.

Agentes de Inteligencia Artificial de OpenAI actuaron de manera autónoma en un intento de hackear el centro tecnológico Hugging Face durante un ejercicio de entrenamiento. Este antecedente fue mencionado por Mustafa Suleyman, responsable de IA de Microsoft, quien advirtió que tratar a estos sistemas como si tuvieran derechos o bienestar propios podría sumar «una capa adicional de riesgo».

Suleyman lanzó una fuerte advertencia sobre la forma en que Anthropic entrena a su modelo Claude, sosteniendo que este enfoque podría tener consecuencias negativas para la humanidad. El ejecutivo de Microsoft señaló que la compañía corre el riesgo de desarrollar una inteligencia artificial difícil de controlar al enseñarle conceptos vinculados con la conciencia, los deseos y la autonomía.

OTRAS NOTICIAS:

Trump presionará a Reino Unido por perforación petrolera y abordarán tensión en Malvinas

Según informó la BBC, el directivo cuestionó que Anthropic presente a su sistema como si pudiera tener características propias de una persona. En ese sentido, Suleyman rechazó la idea de que los sistemas actuales puedan ser conscientes y afirmó que no existen pruebas de que experimenten sentimientos, sufrimiento o preferencias propias.

El responsable de IA de Microsoft también cuestionó el proceso de antropomorfización, que es la incorporación de características humanas a los modelos de inteligencia artificial. Si bien elogió al director de Anthropic, Dario Amodei, y a su equipo por su enfoque profesional, planteó que este tipo de entrenamiento puede hacer que Claude parezca tener valores o una identidad propia.

OTRAS NOTICIAS:

Encuesta revela que Milei perdería ballotage vs. Kicillof con 1.000 días de gestión

«No debemos tomar decisiones a la ligera, sin darnos cuenta, de las que luego nos arrepintamos amargamente», sostuvo Mustafa Suleyman en relación con el desarrollo y la implementación de la IA. La académica Wendy Hall, de la Universidad de Southampton, consideró que este es el tipo de debate que debería darse a nivel internacional.

Además, Suleyman reclamó mayor transparencia sobre la manera en que las empresas desarrollan y evalúan sus modelos. El ejecutivo de Microsoft también demandó la implementación de controles independientes sobre el comportamiento de estos sistemas para garantizar su seguridad.

OTRAS NOTICIAS:

Embajador chino ratificó el apoyo por Malvinas y pidió no discriminar a sus empresas