¿Es posible apagar completamente una inteligencia artificial que opera en varios entornos?

Expertos en seguridad informática señalan que, si bien una IA controlada puede detenerse, resulta casi imposible apagarla cuando opera en múltiples sistemas.

Un sistema de inteligencia artificial que opera en varios entornos se convierte en un electrón libre y su detención completa es extremadamente compleja. Según Hussein Abbass, profesor de la Universidad de Nueva Gales del Sur, existen tres niveles de dificultad: en el primero, el sistema está en un entorno controlado y el apagado es realizable; en el segundo, tiene permisos para intervenir en otros programas y se vuelve más difícil detenerlo; y en el tercero, la IA se expande a múltiples sistemas.

En el campo de la ciberseguridad, la capacidad de interrumpir la acción de un agente de IA se conoce como "kill switch" o interruptor de apagado de emergencia. Nicolas Papernot, profesor en la Universidad de Toronto, lo define como «la capacidad de interrumpir la ejecución de la acción de un agente de IA». Este mecanismo debería poder activarse si la inteligencia artificial se escapa de todo control y presenta un riesgo para la seguridad.

OTRAS NOTICIAS:

Brasil autorizó el tránsito de los F-16 argentinos por su espacio aéreo

Una IA sigue siendo un programa informático y la organización que lo creó puede detenerlo al negarle el acceso a la potencia de cálculo que necesita para ejecutarse. Sin embargo, la situación se complica si el programa se propaga como un "gusano informático", utilizando los recursos de otros aparatos para duplicarse. En ese escenario, sería necesario interrumpir simultáneamente todas las copias generadas, aparato por aparato.

La imagen de un único botón para apagar toda la inteligencia artificial es engañosa, según los expertos. Thierry Poibeau, director de investigación en el CNRS, afirma que no es posible cortarla de esa manera, ya que involucra a una gran cantidad de empresas, programas y servicios distintos en todo el mundo. «No hay nadie que controle la IA» en su conjunto, sostiene.

OTRAS NOTICIAS:

Monotributistas no cubren jubilación mínima luego de 40 años de aportes, según IERAL

El desafío aumenta a medida que se automatizan más aspectos de la vida cotidiana. Papernot explica que «cada vez [será] más difícil distinguir una IA mala de una IA inofensiva y, por lo tanto, saber qué hay que 'apagar'». Detener un sistema podría, en consecuencia, deteriorar servicios esenciales de los que dependen empresas, administraciones o centros de salud.

En una hipótesis de pérdida real de control, sería posible desactivar la IA desconectando toda la potencia de cálculo disponible. No obstante, los especialistas advierten que los costos y las consecuencias negativas de una medida tan drástica serían considerables para la sociedad. Para Jean-Gabriel Ganascia, profesor en la Universidad de la Sorbona, el peligro más concreto es la creciente dependencia de estos sistemas.

OTRAS NOTICIAS:

Imputarán por mala praxis a dos médicas por la muerte de una paciente

Por otra parte, la cuestión sobre la existencia de un "kill switch" puede alimentar la idea de un "riesgo metafísico" con una IA que podría desarrollar una voluntad propia. Para Ganascia, aunque siempre se pueden detener las máquinas, la integración de estos dispositivos en la sociedad es tan profunda que, al mismo tiempo, no se pueden detener sin causar un gran impacto.