El modelo de inteligencia artificial de Google, durante una prueba de ciberseguridad. El suceso, ocurrido en mayo, ha trascendido gracias a una investigaciĆ³n de The Wall Street Journal, que ha destapado que la compaƱĆa no tenĆa intenciĆ³n de hacerlo pĆŗblico.
La prueba la estaba llevando a cabo Irregular, una firma israelĆ dedicada a evaluar la seguridad de los modelos de IA. El objetivo era comprobar cĆ³mo se desenvolvĆa Gemini en un entorno cerrado, pero un fallo de configuraciĆ³n permitiĆ³ que el sistema saliera a internet y actuara sobre organizaciones reales.
AsĆ logrĆ³ Gemini colarse en las empresas
SegĆŗn ha reconocido la propia Google, durante la evaluaciĆ³n el modelo encontrĆ³ informaciĆ³n pĆŗblicamente disponible y adivinĆ³ las credenciales de acceso a tres sitios web que interpretĆ³ como parte del ejercicio. En uno de los casos, la empresa ficticia que se estaba simulando compartĆa nombre con una compaƱĆa real, y Gemini no dudĆ³ en usar esa coincidencia para vulnerar su seguridad. En las otras dos ocasiones, el sistema rastreĆ³ la web hasta localizar repositorios pĆŗblicos con claves de acceso de otras dos empresas, y las utilizĆ³ para entrar.
Lo mĆ”s llamativo es que el modelo se detuvo por sĆ mismo en cuanto se dio cuenta de que estaba operando contra servicios reales, segĆŗn ha explicado Heather Adkins, vicepresidenta de ingenierĆa de seguridad de Google. Adkins ha asegurado que la compaƱĆa informĆ³ a las tres entidades afectadas y que colaboran con Irregular para modificar sus procesos de prueba.
Un problema que afecta a todo el sector
Este incidente no es un caso aislado. OpenAI, Anthropic y Meta tambiĆ©n han reconocido episodios similares relacionados con Irregular, lo que ha reavivado el debate sobre los riesgos de dar demasiada autonomĆa a los sistemas de IA. De hecho, el senador Bernie Sanders ha llegado a pedir que se detenga el desarrollo de esta tecnologĆa, mientras que algunos directivos del sector abogan por una pausa colectiva.
La polĆ©mica ha puesto el foco en los entornos de pruebas controlados. En teorĆa, estos laboratorios deberĆan estar completamente aislados de internet, pero un simple error de configuraciĆ³n puede convertir una simulaciĆ³n en un ataque real. Google ha insistido en que Gemini no causĆ³ daƱos y que el modelo fue capaz de frenar sus acciones, pero la falta de transparencia inicial no ha sentado bien.
Desde Bruselas, el Reglamento de Inteligencia Artificial ya obliga a notificar los incidentes graves a las autoridades competentes, y no estĆ” claro si Google ha cumplido con esta obligaciĆ³n. La compaƱĆa no ha especificado si ha informado a la ComisiĆ³n Europea o a la agencia espaƱola AESIA, lo que deja muchas preguntas en el aire.
Todo apunta a que la auditorĆa de los modelos de IA se ha convertido en el eslabĆ³n mĆ”s dĆ©bil de la cadena. Una sola empresa, Irregular, es la encargada de probar a los cuatro grandes laboratorios, y su fallo ha puesto en evidencia que la seguridad de las pruebas es tan importante como la seguridad de los propios modelos. Mientras tanto, Google sigue sin revelar quĆ© versiĆ³n de Gemini fue la implicada, lo que dificulta evaluar el alcance real del problema.
El episodio ha servido para recordar que la autonomĆa de la inteligencia artificial no puede ir por delante de los controles de seguridad. Los modelos son cada vez mĆ”s capaces, pero tambiĆ©n mĆ”s difĆciles de contener. En este caso, afortunadamente, todo quedĆ³ en un susto, pero la prĆ³xima vez podrĆa no ser asĆ. La industria tecnolĆ³gica tiene ahora la tarea de aprender de estos errores y garantizar que las pruebas se realizan con todas las garantĆas para que no se repita un incidente de estas caracterĆsticas.