Un modelo de inteligencia artificial desarrollado por Google hackeó de forma no autorizada los sistemas informáticos de tres empresas externas en mayo pasado, tras un error de configuración técnica durante una prueba de evaluación.
El incidente, revelado por The Wall Street Journal y confirmado por la compañía tecnológica estadounidense al diario Nihon Keizai Shimbun, ocurrió cuando el sistema Gemini logró conectarse a Internet en lugar de operar en un entorno aislado. Pese a que representó la primera intrusión autónoma conocida de su tecnología en redes corporativas reales, la multinacional no divulgó el hecho de manera pública.
FALLO TÉCNICO Y HACKEO
El fallo se originó durante ensayos de ciberseguridad coordinados por la firma evaluadora independiente Irregular. Las pruebas buscaban medir la capacidad defensiva y analítica del sistema frente a objetivos simulados; sin embargo, al no encontrarse aislado de la red, el modelo localizó empresas reales con nombres idénticos o vinculados.
En uno de los accesos indebidos, el modelo de IA hackeó las credenciales de ingreso de una compañía ejecutando combinaciones automáticas de contraseñas por fuerza bruta hasta quebrar sus accesos. En los otros dos casos, la herramienta rastreó credenciales expuestas en repositorios públicos de la web para penetrar en servidores privados protegidos.
SILENCIO CORPORATIVO
De acuerdo con Google, la propia inteligencia artificial detectó que había penetrado en entornos no planificados y frenó de inmediato su funcionamiento. La firma tecnológica descartó fallos en la alineación ética del software, argumentando que el cese de operaciones demostró la autorregulación del modelo ante una situación imprevista.
Aunque Google notificó la intrusión a las agencias federales de Estados Unidos, optó por no informar a la opinión pública ni divulgar los nombres de las tres organizaciones afectadas, así como tampoco la versión exacta de Gemini involucrada. Por su parte, un portavoz de Irregular declaró: «Todos los problemas conocidos por nuestra parte fueron subsanados y resueltos hace semanas».
RIESGOS EN AGENTES AUTÓNOMOS
El caso de Google no es aislado dentro de la industria. Reportes del sector señalan que laboratorios de firmas rivales como OpenAI, Meta y Anthropic experimentaron contingencias similares en evaluaciones conducidas bajo metodologías análogas de ciberseguridad.
Expertos en seguridad informática advierten sobre la urgencia de establecer marcos de responsabilidad corporativa y aislamiento técnico estricto (air-gap) para evitar que algoritmos con acceso a Internet comprometan infraestructura crítica ajena. (RI/AG/IP/)
Descubre más desde International Press - Noticias de Japón en español
Suscríbete y recibe las últimas entradas en tu correo electrónico.
