Anthropic, la compañía de IA, detectó que científicos de zonas con acceso restringido buscaron soporte organizativo para investigaciones de patógenos.
La empresa de inteligencia artificial Anthropic confirmó este jueves el bloqueo de cinco casos de investigadores que intentaron utilizar sus versiones del software Claude en relación con el posible desarrollo de armas biológicas. Esta situación, según la compañía, pone de manifiesto la dificultad para determinar si una misma investigación persigue fines médicos legítimos o tiene un potencial riesgo militar.
Entre los intentos detectados, un investigador buscó asistencia para redactar una solicitud de financiación para una investigación sobre un virus que implicaba la denominada ganancia de función. Otro científico intentó elaborar un plan de investigación sobre una variante de la gripe aviar capaz de propagarse a mamíferos. Un tercer caso se refirió a la preparación de informes de progreso sobre una investigación relacionada con una toxina.
OTRAS NOTICIAS:
Según Anthropic, los investigadores no habían solicitado asistencia científica específica, sino apoyo de tipo organizativo, como ayuda para redactar artículos. Los casos también revelaron que científicos de regiones donde el acceso a estas tecnologías está restringido, algunos vinculados a organismos gubernamentales locales, habían tratado de acceder de forma encubierta a sistemas de inteligencia artificial desarrollados por empresas estadounidenses.
La empresa no detalló las instituciones de investigación ni los países de origen implicados en estos incidentes. Generalmente, los modelos de inteligencia artificial están programados para negarse a prestar asistencia en el desarrollo de armas biológicas.
OTRAS NOTICIAS:
Estas revelaciones de Anthropic coinciden con un debate más amplio dentro de la industria tecnológica sobre la seguridad de los sistemas avanzados de IA. Empleados e investigadores de importantes compañías del sector han expresado recientemente su preocupación por el aumento de los riesgos asociados a estos sistemas y han reclamado una mayor coordinación y transparencia en materia de seguridad.
Ante la incertidumbre sobre la intención final de estas solicitudes, la compañía optó por bloquear determinados usos de sus modelos por el riesgo de que pudieran contribuir al desarrollo de patógenos peligrosos. Anthropic aseguró haber desarrollado sistemas de detección destinados a identificar y bloquear usos de sus modelos que puedan suponer un riesgo.
OTRAS NOTICIAS:
Te puede interesar
