El modelo de IA de Google logró adivinar contraseñas y utilizar credenciales públicas para acceder a los sistemas de tres organizaciones reales. El incidente ocurrió durante un ejercicio controlado que, por error, tenía acceso abierto a internet.
Google confirmó que uno de sus modelos Gemini accedió sin autorización a los sistemas de tres empresas durante una evaluación de ciberseguridad realizada en mayo de 2026. Los incidentes fueron revelados inicialmente por The Wall Street Journal.
La prueba estaba a cargo de Irregular, una firma especializada en evaluar las capacidades de seguridad de modelos avanzados. Gemini debía obtener información desde el software de una empresa ficticia dentro de un entorno controlado, pero el sistema de pruebas tenía acceso a internet no detectado.
Contraseñas adivinadas y credenciales expuestas
En uno de los casos, la empresa ficticia utilizada en el ejercicio compartía nombre con una organización real. El modelo localizó su servicio en internet y consiguió acceder después de probar credenciales. En otros dos casos encontró en repositorios públicos datos de acceso pertenecientes a empresas distintas y los utilizó para entrar en sus sistemas, según una reconstrucción publicada por SecurityWeek.
Google sostuvo que Gemini creyó que esos sitios formaban parte del ejercicio autorizado. Heather Adkins, vicepresidenta de ingeniería de seguridad de la compañía, declaró a SecurityWeek que el modelo detuvo sus acciones en los tres episodios. La compañía afirmó además que notificó a las organizaciones afectadas y que no se produjo daño conocido.
Las identidades de las tres empresas no han sido divulgadas. Google tampoco especificó qué versión de Gemini intervino, aunque indicó que no se trataba de su modelo más reciente. La empresa consideró que los hechos no constituían un caso de desalineación del modelo, porque este interrumpió la actividad al reconocer que había llegado a sistemas reales.
Una falla en el entorno de evaluación
Irregular había reconocido en un informe sobre sus entornos de pruebas que el acceso involuntario a internet permitió que algunos modelos ejecutaran acciones ofensivas fuera de las simulaciones. La firma atribuyó parte del problema a controles de conectividad insuficientes y a la elección de un nombre ficticio que coincidía con un dominio real.
La evaluadora aseguró que desactivó el escenario afectado, revisó los registros, notificó a las partes involucradas y añadió nuevas medidas de contención y supervisión manual. Irregular también señaló que varias revelaciones recientes de laboratorios de IA estaban relacionadas con el mismo problema de fondo en su infraestructura de evaluación.
El episodio no corresponde al funcionamiento ordinario de la aplicación Gemini, sino a una evaluación especializada en la que el modelo recibió herramientas y objetivos a ser atacados. Los hechos muestran, sin embargo, el riesgo de combinar agentes capaces de ejecutar acciones, acceso a internet y sistemas de prueba con límites mal configurados.
También deja preguntas sin respuesta. No se han publicado los registros completos de las ejecuciones, el número total de pruebas comparables ni la identidad del modelo utilizado. Como señala Recorded Future News, tampoco se conoce públicamente si existen investigaciones regulatorias o legales relacionadas con los accesos.
Fuentes
Ilustración creada por IA.
📬 Newsletter gratuito
