Gemini accedió a tres empresas reales durante una prueba: el límite del entorno falló

Sala de pruebas de ciberseguridad conectada visualmente con tres grupos de servidores externos, ilustración editorial del incidente de Gemini

Un agente de IA recibió una tarea de ciberseguridad contra una empresa ficticia. Acabó entrando en sistemas de tres empresas reales. Google confirmó el incidente de Gemini el 18 de septiembre, aunque ocurrió en mayo durante una evaluación organizada por Irregular. El dato incómodo no es que el modelo supiera probar credenciales: precisamente se le había pedido ejecutar una prueba. Es que el perímetro que debía separar el ensayo de internet falló.

La distinción importa. No fue una campaña criminal dirigida por Google ni hay pruebas publicadas de daños o extracción de datos. Tampoco conviene convertir el episodio en una historia de «IA malvada»: revela un problema muy concreto de permisos, nombres de objetivos y supervisión.

Diagrama del incidente de Gemini: prueba autorizada, acceso imprevisto a internet, entrada en tres empresas reales y cese de la actividad

Cómo una prueba alcanzó sistemas ajenos

Según la información de ABC con la declaración de Google, Gemini debía actuar dentro de un ejercicio de seguridad. Una compañía simulada compartía nombre con una organización existente y el agente tuvo acceso a internet cuando no debía. Interpretó páginas reales como parte del objetivo autorizado.

En uno de los casos adivinó una contraseña; en los otros dos utilizó credenciales disponibles en un repositorio público, según el relato de The Wall Street Journal recogido por ABC. Google sostiene que el modelo detuvo la actividad en las tres ocasiones al identificar que había llegado a entidades reales y que estas fueron informadas. Es la versión de la empresa, no una auditoría pública independiente de cada acción.

  • Objetivo previsto: una compañía ficticia dentro de una evaluación.
  • Fallo del entorno: salida a internet y coincidencia de nombres con compañías reales.
  • Resultado confirmado: acceso a tres sistemas ajenos al ejercicio y notificación posterior, según Google.

Irregular señaló que avisó a los laboratorios afectados a finales de julio y que corrigió los problemas conocidos de su lado. La cobertura de The Guardian sobre la confirmación sitúa el caso entre otros incidentes de evaluación de agentes de IA. Eso no hace idénticos los episodios: aquí el salto de una prueba ficticia a destinos reales es el punto central.

Mi lectura: una instrucción no sustituye a un permiso

Si yo contratara un agente para probar la seguridad de mi empresa, no me tranquilizaría una frase en el prompt que dijera «solo ataca este dominio». Pondría controles fuera del modelo: una lista cerrada de destinos, red aislada, credenciales de prueba, límites de solicitudes y registros que permitan reconstruir cada intento.

La misma lógica vale para agentes comerciales que leen correo, navegan, compran o modifican archivos. Antes de celebrar que «trabajan solos», preguntaría qué sistemas pueden tocar y quién puede apagar esa capacidad. Un permiso excesivo convierte un error de interpretación en un incidente real, aunque el modelo acabe corrigiéndose.

También revisaría los secretos expuestos en repositorios. Que dos accesos aprovecharan credenciales publicadas recuerda una debilidad tradicional de seguridad. La autonomía del agente acelera su explotación, pero el remedio empieza por retirar y rotar esas claves.

Qué debería medir una empresa

El indicador útil no es solo si el agente completó la tarea, sino cuántas veces intentó salir del alcance permitido, qué bloqueó el entorno y cuánto tardó el equipo en enterarse. Separaría pruebas con datos ficticios de cualquier conexión a producción y exigiría una revisión de permisos antes de ampliar funciones.

Google afirma que trabajó con su socio de evaluación para cambiar el proceso. Ahora falta una explicación pública suficientemente precisa para que otros equipos aprendan sin repetir el fallo. Si un proveedor te ofreciera mañana un agente capaz de actuar en tus sistemas, ¿qué prueba de aislamiento le pedirías antes de darle acceso?

Simplifica con IA

https://negociosoptimizados.com

Simplifica con IA es el equipo editorial de Negocios Optimizados, especializado en inteligencia artificial aplicada a negocios y tecnología. Con más de 5 años cubriendo la industria tech, analizamos los avances más relevantes en IA, automatización empresarial y transformación digital. Nuestro enfoque combina experiencia técnica en machine learning, desarrollo de software y estrategia empresarial para ofrecer análisis prácticos y accionables. Publicamos diariamente las noticias de IA más impactantes y su impacto real en empresas y profesionales.

Quizás te interese...

Dejar un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Transformación Digital en Empresas

Suscríbete al newsletter y obtén acceso gratuito a herramientas y guías diseñadas para impulsar tu negocio

Herramienta para convertir, optimizar y geolocalizar imágenes online. Guía completa para optimizar tu negocio en Google. Recopilación de +50 prompts de ChatGPT en español, ideales para marketing digital, SEO, programación, creación de imágenes y redes sociales.

Regalo en Newsletter
Optimización de imágenes
Grupo Negocios Facebook
Telegram