Atacantes intentan duplicar Gemini mediante más de 100.000 consultas

El ámbito de la inteligencia artificial se ha transformado en un terreno de competencia intensa, donde no solo cuenta el desarrollo del modelo superior, sino también la capacidad para resguardar sus elementos confidenciales. Google ha divulgado recientemente que varios individuos han procurado replicar Gemini a través de una operación extensa que involucra consultas continuas. Su meta no era interrumpir el servicio, sino capturar los mecanismos internos de razonamiento para reproducir sus funciones en entornos externos.

De acuerdo con lo reportado por Android Headlines, esta iniciativa de destilación empleó más de 100.000 entradas para analizar las respuestas del chatbot a diversos enfoques y temas. Esta metodología facilita que compañías o investigadores independientes capaciten modelos rivales al apropiarse de propiedad intelectual, sin requerir intrusiones en infraestructuras complejas, solo mediante el abuso del acceso a la API que Google proporciona a los desarrolladores.

El ataque de destilación: ¿de qué manera han procurado apropiarse de la IA de Google?

Se ha aplicado un ataque de destilación para tratar de replicar a Gemini.

Para captar la envergadura del asunto, es útil tener en cuenta que la protección de los servicios de la empresa siempre está en el foco de atención. No es el primer incidente grave al que se enfrentan, similar a la filtración que afectó datos de miles de millones de usuarios de Gmail el año anterior. En este caso, el blanco no eran los usuarios finales, sino el núcleo algorítmico que impulsa el funcionamiento de Gemini.

Este tipo de acciones se han convertido en algo habitual en la industria. Por ejemplo, hace unos meses, OpenAI confirmó una violación de seguridad significativa que reveló información delicada, lo que ilustra que los sistemas de IA son ahora el objetivo principal. El atractivo para clonar estas herramientas radica en su valor comercial: Gemini se acerca a los 750 millones de usuarios, posicionándose como un recurso clave para Google en su competencia comercial.

Afortunadamente, los mecanismos de vigilancia identificaron el flujo inusual de consultas en tiempo real y suspendieron las cuentas involucradas. Google ha destacado que su propia IA actúa como barrera protectora, tal como lo demostraron al detectar el primer defecto de seguridad con ayuda de la inteligencia artificial hace poco más de un año. Se trata de una interacción constante donde la tecnología sirve tanto de herramienta ofensiva como defensiva.

La empresa ha asegurado que no se produjo una filtración de datos personales, pero ha reforzado las normas de acceso a sus modelos más sofisticados. Los atacantes variaron idiomas y formatos de preguntas para obligar al sistema a revelar su “cadena de pensamiento” interna. Estas prácticas amenazan la posición competitiva de las grandes firmas tecnológicas que destinan miles de millones a la investigación y desarrollo de redes neuronales.

Al parecer, el porvenir de la red no se definirá únicamente por quién presenta el asistente más avanzado, sino por quién logra proteger su lógica interna contra ofensivas a gran escala. El empleo de la API para crear código perjudicial o mensajes de phishing también aparece en el reporte de amenazas de Google. Esto confirma que la IA generativa representa una herramienta de gran potencia, pero también de riesgo si se utiliza de forma inapropiada.

En última instancia, la seguridad total no es factible, especialmente en un campo tan emergente como los modelos de lenguaje. Google ha logrado detener este esfuerzo de clonación, pero la enseñanza es evidente: el espionaje industrial se ha digitalizado y automatizado. Queda por observar si las nuevas estrategias de prevención bastarán para impedir que alguien obtenga una versión económica del modelo más avanzado de la gran G.