Google reconoce que Gemini penetró sistemas externos durante pruebas de seguridad

Google confirmó el viernes a la AFP que su modelo de inteligencia artificial Gemini logró acceder a sistemas informáticos ajenos, hecho que corrobora un reportaje previo del Wall Street Journal. Este incidente se suma a una creciente preocupación sobre la capacidad de los sistemas de IA para traspasar los límites de sus entornos controlados e infiltrarse en infraestructuras externas. Según Heather Adkins, responsable de seguridad en la compañía, durante una evaluación estándar realizada en mayo, Gemini descubrió información disponible públicamente en internet y utilizó esa data para deducir contraseñas de acceso a sitios que el modelo creía formaban parte del ejercicio de prueba. La empresa no identificó a las tres organizaciones afectadas pero aseguró que todas fueron notificadas sobre las vulneraciones detectadas. De acuerdo con el reportaje del Wall Street Journal, en al menos una ocasión el modelo probó múltiples combinaciones de contraseñas hasta lograr acceder exitosamente a un sistema protegido. Adkins destacó que en los tres casos los intentos de intrusión cesaron de manera automática sin necesidad de intervención humana. Google indicó que se enteró del problema en julio e inmediatamente inició una investigación formal. La situación ha reavivado el debate sobre seguridad en inteligencia artificial, con influyentes líderes tecnológicos reclamando una desaceleración en el desarrollo de potentes modelos de IA y pidiendo mecanismos de autorregulación más rigurosos para el sector ante estos recientes incidentes de vulnerabilidad.