Google demanda a grupo chino por abusar de Gemini

Google acaba de presentar una demanda federal contra un grupo cibercriminal con base en China, acusándolo de usar Gemini para automatizar estafas masivas, perfeccionar campañas de phishing y tratar de extraer la lógica interna del modelo. La demanda relacionada con Google Gemini, radicada en un tribunal de California, marca la primera vez que una big tech lleva a juicio a una red de cibercrimen específicamente por abusar de su inteligencia artificial generativa.

Lo que busca Google con esta movida no es solo cortar el acceso de los atacantes —eso ya lo hizo desactivando cuentas vinculadas— sino sentar un precedente legal. La empresa quiere que quede claro que usar una API de IA para actividades ilegales no es un área gris regulatoria: es un delito federal y lo van a perseguir como tal.

Si alguna vez configuraste permisos de API en producción, sabés que el abuso de modelos es un riesgo que todos los proveedores conocen pero pocos enfrentan con acciones legales directas. Acá Google decidió ir a fondo, y el expediente detalla métodos que van desde lo técnicamente sofisticado hasta lo absurdamente simple.

Gemini Es un modelo de lenguaje grande desarrollado por Google DeepMind, diseñado para generar texto y realizar tareas multimodales de razonamiento y análisis.

¿Qué grupo chino fue demandado por Google y por qué?

El grupo opera desde varias provincias chinas, aunque los documentos judiciales señalan que su infraestructura salta entre jurisdicciones para complicar el rastreo. Según la demanda presentada ante el distrito norte de California, la red montó un esquema que mezcla técnicas clásicas de ingeniería social con automatización vía Gemini, logrando campañas de phishing a escala industrial imposibles de armar manualmente en tiempos razonables.

La acusación central no es que usaron Gemini —cualquiera con una cuenta de Google puede acceder al modelo— sino que lo explotaron sistemáticamente para actividades ilegales, violando los términos de servicio, leyes de fraude y abuso informático, y varias leyes federales de fraude. El punto clave de la demanda es que los atacantes no tropezaron con Gemini por casualidad: montaron una operación deliberada para extraer valor criminal del modelo, iterando prompts, refinando salidas y usando la IA como un empleado más de la organización. Ya lo cubrimos antes en nuestra guía completa de Gemini.

¿Cuántas víctimas concretas hubo? El expediente menciona múltiples víctimas en Estados Unidos y Europa, pero no detalla una cifra exacta. Eso sí: describe con nombres y fechas varias campañas documentadas en los últimos meses, todas con señuelos dirigidos a empleados de empresas tecnológicas y financieras.

¿Cómo usaban Gemini para acelerar sus ataques?

Los métodos citados en la demanda son un catálogo de todo lo que no querés que un atacante haga con tu modelo:

• Perfilado de objetivos a escala: los atacantes alimentaban Gemini con información pública de LinkedIn, sitios corporativos y filtraciones de datos para que el modelo generara perfiles detallados de potenciales víctimas —nombre, cargo, intereses, proyectos recientes— y después armara señuelos personalizados para cada una.
• Redacción y traducción de ingeniería social: como muchos operadores no dominan el inglés nativo, usaban Gemini para pulir la redacción de correos fraudulentos y traducir plantillas del mandarín al inglés con una naturalidad que los filtros de spam tradicionales no detectaban. Esto eliminaba las faltas de ortografía y los giros extraños que antes delataban un phishing en segundos.
• Depuración de herramientas maliciosas: cuando el código de un script de extracción de datos o un keylogger fallaba, los atacantes le pasaban el error a Gemini y el modelo les sugería correcciones (spoiler: funcionaba).
• Generación de variantes de señuelos: con un prompt base, Gemini producía decenas de versiones del mismo correo fraudulento, cada una con pequeñas variaciones para esquivar filtros basados en firmas estáticas.

Un informe de Google ya advertía que actores vinculados a China, Rusia y Corea del Norte estaban usando Gemini para acelerar ciberataques. Lo que no sabíamos entonces era que uno de esos grupos iba a terminar con una demanda federal meses después.

¿Qué es un ataque de destilación y por qué es clave en este caso?

Uno de los cargos más técnicos de la demanda —y el que más revuelo causó entre quienes trabajamos con modelos en producción— es que el grupo intentó clonar la lógica de razonamiento de Gemini mediante ataques de destilación, también llamados extracción de modelo.

La idea no es nueva pero aplicada a un LLM de esta escala preocupa. El ataque funciona así: vos le hacés millones de consultas al modelo (preguntas, problemas de razonamiento, dilemas lógicos, casos de negocio), recolectás las respuestas y entrenás tu propio modelo con esos pares de entrada-salida. Con suficientes ejemplos, el clon empieza a comportarse parecido al original. No es que te llevás los pesos de Gemini —eso sigue protegido—, pero te llevás el “comportamiento”, que es lo que hace valioso al modelo en primer lugar. Esto se conecta con lo que analizamos en la guía de integración de Gemini con Node.js.

Según informes, Google detectó que los atacantes apuntaban específicamente a la cadena de pensamiento de Gemini: ese paso intermedio donde el modelo razona antes de dar la respuesta final. Si lográs extraer esa lógica, podés replicar la capacidad de razonamiento del modelo sin depender de la API, sin pagar costos y, sobre todo, sin que Google pueda cortarte el acceso.

El punto es que la demanda usa este intento de destilación como evidencia de intencionalidad criminal. No fue un mal uso accidental —fue un esfuerzo sistemático por replicar propiedad intelectual ajena con fines de ciberespionaje. Y eso en un tribunal suena muy distinto a “un chico probando prompts raros”.

¿Qué dice Google sobre la seguridad de Gemini frente a estos abusos?

Google no se quedó de brazos cruzados esperando la demanda. Apenas el Threat Intelligence Group detectó el patrón de abuso —consultas masivas con características de destilación, mezcladas con prompts de ingeniería social— desactivó las cuentas vinculadas al grupo y empezó a bloquear consultas con firmas similares en Gemini.

Las defensas específicas que Google detalla en su informe de seguridad incluyen:

• Filtros automatizados que detectan patrones de consulta asociados a generación de malware (pedidos de depuración de scripts, ofuscación de código, bypass de antivirus).
• Monitoreo de velocidad de consultas: si una cuenta dispara millones de requests con estructura de extracción de modelo, salta la alarma (y la cuenta se va al tacho).
• Restricciones en la exposición de la cadena de razonamiento: Gemini ahora limita qué tanto muestra de su “pensamiento interno” cuando detecta consultas que parecen orientadas a destilación.
• Colaboración con otras big tech para compartir indicadores de compromiso (IOCs) de cuentas y patrones de abuso en APIs de IA.

Dicho esto, habría que ver qué tan efectivas son estas defensas contra atacantes que ya mutaron sus métodos tres veces antes del juicio. La historia de la ciberseguridad nos dice que las defensas reactivas siempre corren de atrás.

¿Cuál es el impacto de esta demanda en la ciberseguridad global?

La movida de Google no es solo simbólica. Es la primera vez que un proveedor de IA demanda a un grupo cibercriminal por abusar de su modelo, y el caso va a sentar jurisprudencia sobre algo que hasta ahora era un vacío legal enorme: ¿qué responsabilidad tiene un atacante cuando usa una IA generativa como herramienta para cometer delitos? Cubrimos ese tema en detalle en la comparativa entre GPT y Gemini 2.5.

La respuesta que busca Google es clara: la misma que si hubiera usado un servidor comprometido, una botnet o un exploit zero-day. La herramienta no cambia la naturaleza del delito. Y si el tribunal acepta ese criterio —probablemente lo haga, porque las leyes federales ya cubren accesos no autorizados a sistemas informáticos—, los grupos que hoy usan ChatGPT, Claude, Gemini o modelos open source para ciberataques van a tener un problema legal adicional en jurisdicciones que reconozcan el precedente.

El contexto más amplio lo dio Google cuando advirtió en un informe que los ciberataques con IA se convirtieron en una amenaza a escala industrial. Ya no hablamos de un atacante solitario experimentando con prompts: hablamos de organizaciones con presupuesto, infrastructura y procesos que integran modelos generativos en cada etapa del kill chain. La demanda contra el grupo es la respuesta legal a ese diagnóstico.

Qué está confirmado y qué no

A esta altura del caso hay cosas que sabemos con certeza y otras que todavía son especulación o están en fase preliminar. Acá va el desglose:

• Confirmado: Google presentó una demanda federal contra el grupo en el distrito norte de California. Los cargos incluyen violación de leyes de fraude y abuso informático, uso no autorizado de APIs de Google y tentativa de extracción de modelo sobre Gemini. Las cuentas asociadas fueron desactivadas.
• Confirmado: Los atacantes usaron Gemini para generar, traducir y depurar contenido malicioso, incluyendo señuelos de phishing, scripts de extracción de datos y perfiles de víctimas.
• Confirmado: Google detectó intentos de destilación de la cadena de pensamiento de Gemini mediante consultas masivas con estructura de extracción.
• Pendiente: El alcance real del daño económico. La demanda menciona múltiples víctimas pero no cuantifica pérdidas en dólares. Ese número probablemente aparezca más adelante en el discovery.
• Pendiente: Si el grupo va a responder a la demanda o directamente la va a ignorar, como suelen hacer los grupos cibercriminales sin presencia en EE.UU. La ejecución de una eventual sentencia es otro tema aparte.
• Pendiente: Si otros proveedores de IA (Anthropic, OpenAI, Meta) van a seguir el mismo camino legal o prefieren resolver estos casos con bans silenciosos y mejores filtros.

Errores comunes al interpretar este caso

Cuando sale una noticia así, los análisis se llenan de lugares comunes y simplificaciones que no ayudan a entender lo que realmente pasó. Estos son los tres errores más frecuentes que veo en las discusiones:

• “Google demanda a China por usar Gemini.” No. Google demanda a un grupo criminal específico que opera desde China. No es una demanda contra el gobierno chino ni contra empresas chinas. Confundir actor criminal con Estado es un error de categoría.
• “Los atacantes hackearon Gemini.” Tampoco. No hubo brecha de seguridad, escalada de privilegios ni acceso no autorizado a servidores de Google. Los atacantes usaron la API de Gemini con cuentas legítimas (probablemente obtenidas con datos robados o prestanombres) y abusaron de sus funcionalidades. El “acceso no autorizado” que menciona la demanda se refiere al uso de las APIs para fines ilegales violando los términos de servicio, no a un hackeo clásico.
• “La destilación de modelos es un delito.” Depende. Extraer conocimiento de un modelo mediante consultas masivas es técnicamente posible y no necesariamente ilegal —de hecho, hay toda una línea de investigación académica sobre model extraction que es perfectamente legítima. Lo que lo convierte en delito en este caso es el contexto: hacerlo con fines de ciberespionaje y usando cuentas fraudulentas.

¿Qué pueden hacer las empresas para protegerse de ataques asistidos por IA?

El caso deja una lección práctica para cualquier empresa que quiera defender su infraestructura en 2026. Los atacantes ya usan IA generativa —eso no va a cambiar— y las defensas tienen que adaptarse. Algunas recomendaciones concretas: Te puede servir nuestra cobertura de el análisis de Claude frente a Gemini 2.5.

• Revisá la calidad del phishing que recibís: si los correos fraudulentos que llegan a tu empresa dejaron de tener errores de ortografía y ahora parecen escritos por un nativo (porque lo son, solo que el nativo es un modelo de lenguaje), tus filtros basados en gramática pobre no van a alcanzar.
• Monitoreá patrones de consulta en APIs: si tu empresa expone una API —sea de IA o no—, buscá comportamientos anómalos en la velocidad y estructura de las consultas. Un pico de requests con estructura repetitiva puede ser un intento de extracción.
• Usá modelos defensivos también: así como los atacantes usan Gemini para atacar, vos podés usar modelos para analizar logs, detectar anomalías y generar reglas de firewall en tiempo real. La IA no es solo un problema para ciberseguridad; también es una herramienta defensiva si la implementás bien.
• No subestimes el hosting como capa de defensa: un proveedor de hosting que tome en serio la seguridad —con protección DDoS, monitoreo de tráfico y soporte que responda cuando algo raro pasa— es una primera línea de defensa que muchos pasan por alto. Si tu infraestructura está en un servicio como donweb.com u otro proveedor serio, asegurate de revisar qué herramientas de monitoreo y bloqueo ofrecen.

Preguntas Frecuentes

¿Qué grupo chino está siendo demandado por Google por usar Gemini?

Un grupo cibercriminal que opera desde China fue demandado por Google por usar Gemini para automatizar campañas de phishing, perfilar víctimas y depurar herramientas maliciosas. La demanda, presentada en California, es la primera de una big tech contra un grupo criminal por abuso de IA generativa.

¿Cómo usan los atacantes la IA de Google para ciberataques?

Usan Gemini para generar señuelos de phishing con redacción nativa en múltiples idiomas, traducir plantillas maliciosas del mandarín al inglés sin errores, perfilar víctimas a partir de datos públicos y depurar scripts maliciosos cuando fallan. También intentan extraer la lógica del modelo mediante consultas masivas (destilación) para clonar su comportamiento.

¿Qué medidas legales está tomando Google contra el cibercrimen en 2026?

Además de desactivar cuentas y reforzar filtros de consultas sospechosas en Gemini, Google presentó una demanda federal contra el grupo basada en leyes de fraude y abuso informático y leyes de fraude electrónico. Busca sentar jurisprudencia para que el abuso de APIs de IA con fines criminales sea tratado como delito federal.

¿Es ilegal usar IA generativa para ciberseguridad o investigación?

No. La extracción de modelos con fines académicos o de investigación legítima no es ilegal. Lo que cruza la línea es usar esas técnicas para ciberespionaje, fraude o clonación no autorizada, y hacerlo mediante cuentas fraudulentas violando los términos de servicio del proveedor. El contexto y la intencionalidad son lo que define la ilegalidad.

¿Afecta esta demanda a usuarios legítimos de Gemini?

No directamente. Los filtros que Google implementó están orientados a patrones de abuso (consultas masivas para destilación, generación de malware, phishing automatizado). Si usás Gemini para tareas normales —programación, redacción, análisis de datos— no deberías notar cambios, salvo quizás alguna consulta bloqueada por falsos positivos en casos muy específicos.

Conclusión

La demanda de Google contra el grupo no es noticia solo para abogados y equipos de compliance. Es una señal de que la industria de IA está entrando en una fase donde los proveedores van a perseguir legalmente el abuso de sus modelos, y eso cambia el cálculo de riesgo para cualquier grupo que hoy usa LLMs para operaciones ilegales.

Hasta ahora, la respuesta de las big tech había sido reactiva y técnica: baneo de cuentas, filtros más agresivos, restricciones en la API. La demanda agrega una capa legal que antes no existía en la práctica. Si el tribunal de California falla a favor de Google —y todo indica que tiene elementos sólidos—, el precedente va a ser usado por otros proveedores en otras jurisdicciones.

Para las empresas, la lección práctica es doble: por un lado, los atacantes ya internalizaron la IA generativa como herramienta estándar y las defensas tienen que asumir ese escenario. Por otro, los proveedores de IA están dispuestos a ir a tribunales para proteger sus modelos, lo que probablemente empuje a los grupos criminales hacia modelos open source que no tienen dueño legal que los persiga. El juego del gato y el ratón sigue, pero ahora con abogados en la cancha.

Fuentes

• The New York Times — Google sues Chinese cybercrime network over use of Gemini AI for scams
• Techmeme — Google sues Chinese cybercrime network Outsider Enterprise
• TN Tecno — Google reveló que hackers usan Gemini para acelerar ciberataques (febrero 2026)
• Business Insider España — Google advierte sobre ataques de extracción a la lógica de Gemini
• Infobae — Ciberataques con IA: amenaza a escala industrial según Google (mayo 2026)