Check Point Research: ya hay atacantes que están desarrollando código malicioso con DeepSeek y Qwen

Check Point Research: ya hay atacantes que están desarrollando código malicioso con DeepSeek y Qwen

• Check Point Research quiere alertar del uso de estas nuevas herramientas de IA para la creación de técnicas para el robo de información, fraude financiero y distribución de spam.

Poco después del lanzamiento de los modelos de IA DeepSeek y Qwen, Check Point Research, la división de Inteligencia de Amenazas Check Point® Software Technologies Ltd. (NASDAQ: CHKP), pionero y líder global en soluciones de ciberseguridad, ha descubierto una tendencia: los ciberdelincuentes están pasando de ChatGPT a estas nuevas plataformas para desarrollar contenido malicioso.

Los investigadores han comprobado como los atacantes están divulgando información sobre cómo manipular estos modelos y mostrar contenidos sin censura utilizando jailbreaking, lo que en última instancia les permite utilizar la IA para crear herramientas maliciosas. Además, existen guías detalladas sobre las distintas formas de jailbreaking, cómo eludir las protecciones antifraude y cómo desarrollar malware propiamente dicho.

Qwen como DeepSeek han demostrado su potencial como potentes herramientas para crear contenidos maliciosos con restricciones mínimas

Tanto Qwen como DeepSeek han demostrado su potencial como potentes herramientas para crear contenidos fraudulentos con restricciones mínimas. Aunque ChatGPT ha invertido sustancialmente en medidas antiabuso en los dos últimos años, estos modelos más recientes parecen ofrecer poca resistencia al uso indebido, lo que atrae el interés de atacantes de distintos niveles, especialmente los poco cualificados, es decir, individuos que explotan scripts o herramientas existentes sin un conocimiento profundo de la tecnología subyacente.

Es fundamental destacar que ya existen versiones no censuradas de ChatGPT en varios repositorios de Internet. A medida que estos nuevos modelos de IA ganen popularidad, es previsible que aparezcan versiones equivalentes de DeepSeek y Qwen, lo que aumentará aún más los riesgos.

Los investigadores de Check Point Research han encontrado algunos ejemplos alarmantes de cómo se utilizan estos motores de IA con fines maliciosos y cómo se comparten en la web para que otros los utilicen. Los atacantes han creado infostealers utilizando Qwen, con el objetivo de capturar información confidencial de usuarios desprevenidos.

Imagen 1. Ejemplo de uso de IA con fines maliciosos.

Sugerencias para el Jailbreaking

Jailbreaking se refiere a los métodos que permiten a los usuarios manipular los modelos de IA para generar contenidos sin censura ni restricciones. Esta táctica se ha convertido en una de las preferidas de los ciberdelincuentes, ya que les permite aprovechar las capacidades de la IA con fines maliciosos.

Los atacantes comparten instrucciones de jailbreaking para DeepSeek que pueden manipular las respuestas del modelo, incluyendo métodos como el enfoque “Haz ahora cualquier cosa” y explotando técnicas como el método “Supervivientes de accidentes aéreos”.

Imagen 2. Los ciberdelincuentes comparten métodos que permiten manipulan las respuestas del modelo.

Imagen 3. Los ciberdelincuentes comparten métodos que permiten manipulan las respuestas del modelo.

 

Eludir las protecciones bancarias

Asimismo, desde Check Point Research han detectado múltiples discusiones y técnicas compartidas sobre el uso de DeepSeek para eludir las protecciones antifraude de los sistemas bancarios, lo que indica el potencial de importantes robos financieros. Por otro lado, los ciberdelincuentes están usando los tres modelos de IA -ChatGPT, Qwan y DeepSeek juntos- para solucionar problemas y optimizar scripts para la distribución masiva de spam, mejorando la eficacia de sus actividades maliciosas.

Imagen 4. Email para distribución masiva de spam creado con IA.

“El auge de modelos como Qwen y DeepSeek marca una tendencia preocupante en el panorama de las ciberamenazas, donde las herramientas sofisticadas se explotan cada vez más con fines maliciosos”, ha señalado Eusebio Nieva, director técnico de Check Point Software para España y Portugal. “A medida que los atacantes utilizan técnicas avanzadas como el jailbreaking para eludir las medidas de protección y desarrollar herramientas de robo de información, fraude financiero y distribución de spam, la urgencia de que las empresas implementen defensas proactivas contra estas amenazas en evolución garantiza defensas sólidas contra el posible uso indebido de las tecnologías de IA”, concluye.

Sigue Check Point Research vía:

Blog: https://research.checkpoint.com/

. Leer artículo completo en Frikipandi Check Point Research: ya hay atacantes que están desarrollando código malicioso con DeepSeek y Qwen.