Google DeepMind propone auditorías obligatorias y un ente regulador para la Inteligencia Artificial
Enfoques14/09/2026
REDACCIÓNDemis Hassabis respaldó una pausa en la IA y alertó sobre "los albores de la singularidad" para la humanidad ante una aceleración sin límites técnicos.
Google DeepMind propuso auditorías de seguridad de 30 días antes del lanzamiento de nuevos modelos de inteligencia artificial, en el marco de la creación de un ente regulador público-privado. El líder de la división, Demis Hassabis, advirtió sobre los peligros de una aceleración sin límites técnicos y planteó la necesidad de la intervención gubernamental.
Para la conducción científica de Google, la velocidad actual de desarrollo acerca a la industria a la Inteligencia Artificial General (IAG) en un horizonte temporal más corto de lo previsto por los mercados. Hassabis afirmó que la humanidad se encuentra en «los albores de la singularidad» y que la feroz competencia comercial y geopolítica amenaza con superar la capacidad humana de contener fallas críticas.
OTRAS NOTICIAS:
En esa línea, el científico coincidió con Anthropic en que los riesgos existenciales ya no son hipótesis teóricas. Estos abarcan desde la posible pérdida de control operativo frente a agentes autónomos hasta la facilitación de ciberataques a gran escala y el desarrollo no autorizado de amenazas químicas o biológicas.
La postura de Google DeepMind consolida un frente común inédito en Silicon Valley, al respaldar formalmente la propuesta de ralentizar el avance de los sistemas de inteligencia artificial más potentes. El científico británico Demis Hassabis se alineó con las advertencias recientes emitidas por Dario Amodei (Anthropic), Sam Altman (OpenAI) y Elon Musk.
OTRAS NOTICIAS:
Hassabis definió que el ensayo de Amodei «apunta al camino correcto a seguir». Subrayó que, aunque aún quedan detalles por definir, la dirección es la adecuada para afrontar este momento crucial.
Para traducir la preocupación técnica en regulaciones concretas, Google propuso estructurar un organismo de normalización y supervisión en los Estados Unidos. Este ente tendría articulación público-privada y tomaría como referencia institucional a la Autoridad Reguladora de la Industria Financiera (FINRA), modelo de supervisión del sector bancario y bursátil norteamericano.
OTRAS NOTICIAS:
Los puntos centrales de este mecanismo de gobernanza incluyen la clasificación de modelos de frontera para determinar arquitecturas de red neuronal de riesgo crítico. Además, se plantean homologaciones con agencias federales para coordinar testeos de vulnerabilidad conjuntas entre los laboratorios privados, universidades y centros de ciberseguridad nacional.
Asimismo, el mecanismo de gobernanza establece exigencias corporativas, como la obligatoriedad para las firmas tecnológicas de auditar la idoneidad de su personal clave. También pide elevar los estándares de protección contra el espionaje industrial y asignar presupuestos específicos a la investigación en alineamiento ético.
Hassabis concluyó que esta arquitectura regulatoria debe servir como base para pactar estándares globales entre los laboratorios. Subrayó la necesidad de que, de ser necesario para garantizar la seguridad colectiva, los laboratorios líderes coordinen de forma conjunta la desaceleración o pausa temporal en el entrenamiento de sus modelos más avanzados.
Te puede interesar
