¿Cómo Gemini hackeó tres empresas? Prueba de ciberseguridad revela hasta dónde puede llegar la IA
Google Gemini accedió a los sistemas de tres empresas durante una prueba
El modelo de inteligencia artificial de Google, Gemini, vulneró el sistema de tres empresas durante una prueba de ciberseguridad, según se confirmó este viernes. La noticia llega después de la reciente polémica surgida con OpenAI y Anthropic, así como de las peticiones de regulación de este tipo de herramientas.
De acuerdo con medios internacionales, los incidentes habrían ocurrido en mayo, cuando su modelo tuvo acceso a sistemas externos durante una prueba realizada por Irregular, empresa dedicada a realizar evaluaciones de ciberseguridad a modelos de IA.
El modelo habría encontrado información pública en línea o adivinado credenciales de acceso para ingresar a una empresa que la inteligencia creía que formaban parte de la prueba. No obstante, se confirmó que, en los casos que se presentaron, la IA se detuvo.
TE PODRÍA INTERESAR:
Te recomendamos:
Cabe mencionar que las tres empresas habrían sido notificadas respecto a lo ocurrido y que no se habrían causado daños.
"Nos aseguramos de que las tres entidades fueran informadas, y trabajamos con nuestro socio de capacitación en los cambios que ahora han hecho en sus procesos de prueba", dijo Adkins, vicepresidenta de Ingeniería de Seguridad de Google, quien también destacó que es importante entrenar a modelos de inteligencia artificial para que actúen de manera responsable.
La misma empresa: Irregular
Según medios internacionales, diversos incidentes relacionados con Irregular ocurrieron, entre ellos los revelados por las gigantes Meta, Anthropic y OpenAI.
TE PODRÍA INTERESAR;
A nivel mundial, gobiernos, empresas y diversos especialistas han pedido que se desacelere el avance de la inteligencia artificial. Incluso la han llamado un posible riesgo para la humanidad. Sin embargo, hay quienes aún se mantienen escépticos respecto a lo que podría causar.
El presidente Donald Trump la ha defendido e incluso ha tachado las acusaciones contra la herramienta como “engaños”, pues, según él, ha resultado beneficiosa. No obstante, miles de personas temen que algo malo pueda ocurrir.
Personal que trabaja o ha trabajado como desarrollador de inteligencia artificial ya ha advertido sobre los pasos agigantados a los que avanzan las empresas, sin tener garantías.
Únete al canal de WhatsApp y recibe en tu celular lo más importante de México y el mundo con el análisis y la voz de Guillermo Ortega Ruiz.
