Los investigadores han comprobado como los atacantes est\u00e1n divulgando informaci\u00f3n sobre c\u00f3mo manipular estos modelos y mostrar contenidos sin censura utilizando jailbreaking, lo que en \u00faltima instancia les permite utilizar la IA para crear herramientas maliciosas. Adem\u00e1s, existen gu\u00edas detalladas sobre las distintas formas de jailbreaking, c\u00f3mo eludir las protecciones antifraude y c\u00f3mo desarrollar malware propiamente dicho.\u00a0<\/p>\n
Qwen como DeepSeek han demostrado su potencial como potentes herramientas para crear contenidos maliciosos con restricciones m\u00ednimas<\/strong><\/p>\n Tanto Qwen como DeepSeek han demostrado su potencial como potentes herramientas para crear contenidos fraudulentos con restricciones m\u00ednimas. Aunque ChatGPT ha invertido sustancialmente en medidas antiabuso en los dos \u00faltimos a\u00f1os, estos modelos m\u00e1s recientes parecen ofrecer poca resistencia al uso indebido, lo que atrae el inter\u00e9s de atacantes de distintos niveles, especialmente los poco cualificados, es decir, individuos que explotan scripts o herramientas existentes sin un conocimiento profundo de la tecnolog\u00eda subyacente.<\/p>\n Es fundamental destacar que ya existen versiones no censuradas de ChatGPT en varios repositorios de Internet. A medida que estos nuevos modelos de IA ganen popularidad, es previsible que aparezcan versiones equivalentes de DeepSeek y Qwen, lo que aumentar\u00e1 a\u00fan m\u00e1s los riesgos.<\/p>\n Los investigadores de Check Point Research han encontrado algunos ejemplos alarmantes de c\u00f3mo se utilizan estos motores de IA con fines maliciosos y c\u00f3mo se comparten en la web para que otros los utilicen. Los atacantes han creado infostealers utilizando Qwen, con el objetivo de capturar informaci\u00f3n confidencial de usuarios desprevenidos.<\/p>\n Imagen 1.<\/strong> Ejemplo de uso de IA con fines maliciosos.<\/p>\n Sugerencias para el Jailbreaking<\/strong><\/p>\n Jailbreaking se refiere a los m\u00e9todos que permiten a los usuarios manipular los modelos de IA para generar contenidos sin censura ni restricciones. Esta t\u00e1ctica se ha convertido en una de las preferidas de los ciberdelincuentes, ya que les permite aprovechar las capacidades de la IA con fines maliciosos.\u00a0<\/p>\n Los atacantes comparten instrucciones de jailbreaking para DeepSeek que pueden manipular las respuestas del modelo, incluyendo m\u00e9todos como el enfoque \u201cHaz ahora cualquier cosa\u201d<\/em> y explotando t\u00e9cnicas como el m\u00e9todo \u201cSupervivientes de accidentes a\u00e9reos\u201d<\/em>.<\/p>\n Imagen 2.<\/strong> Los ciberdelincuentes comparten m\u00e9todos que permiten manipulan las respuestas del modelo.<\/p>\n Imagen 3.<\/strong> Los ciberdelincuentes comparten m\u00e9todos que permiten manipulan las respuestas del modelo.<\/p>\n Eludir las protecciones bancarias<\/strong><\/p>\n Asimismo, desde Check Point Research han detectado m\u00faltiples discusiones y t\u00e9cnicas compartidas sobre el uso de DeepSeek para eludir las protecciones antifraude de los sistemas bancarios, lo que indica el potencial de importantes robos financieros. Por otro lado, los ciberdelincuentes est\u00e1n usando los tres modelos de IA -ChatGPT, Qwan y DeepSeek juntos- para solucionar problemas y optimizar scripts para la distribuci\u00f3n masiva de spam, mejorando la eficacia de sus actividades maliciosas.<\/p>\n Imagen 4.<\/strong> Email para distribuci\u00f3n masiva de spam creado con IA.<\/p>\n \u201cEl auge de modelos como Qwen y DeepSeek marca una tendencia preocupante en el panorama de las ciberamenazas, donde las herramientas sofisticadas se explotan cada vez m\u00e1s con fines maliciosos\u201d<\/em>, ha se\u00f1alado Eusebio Nieva, director t\u00e9cnico de Check Point Software para Espa\u00f1a y Portugal. \u201cA medida que los atacantes utilizan t\u00e9cnicas avanzadas como el jailbreaking para eludir las medidas de protecci\u00f3n y desarrollar herramientas de robo de informaci\u00f3n, fraude financiero y distribuci\u00f3n de spam, la urgencia de que las empresas implementen defensas proactivas contra estas amenazas en evoluci\u00f3n garantiza defensas s\u00f3lidas contra el posible uso indebido de las tecnolog\u00edas de IA\u201d<\/em>, concluye.<\/p>\n Sigue Check Point Research v\u00eda:<\/strong><\/p>\n Blog: https:\/\/research.checkpoint.com\/<\/a> Acerca de Check Point Research<\/strong><\/p>\n Check Point Research proporciona inteligencia sobre ciberamenazas a los clientes de Check Point Software y a la comunidad de inteligencia. El equipo de investigaci\u00f3n recopila y analiza datos de ciberataques globales almacenados en ThreatCloud para mantener los ciberdelincuentes a raya, al tiempo que se asegura de que todos los productos de Check Point est\u00e9n actualizados con las \u00faltimas protecciones. El equipo de investigaci\u00f3n est\u00e1 formado por m\u00e1s de 100 analistas e investigadores que cooperan con otros proveedores de seguridad, las fuerzas de seguridad y varios CERTs.\u00a0<\/p>\n La entrada <strong>Check Point Research: ya hay atacantes que est\u00e1n desarrollando c\u00f3digo malicioso con DeepSeek y Qwen\u00a0<\/strong><\/a> se public\u00f3 primero en El negocio – Gu\u00eda Informativa para Aut\u00f3nomos y Pymes<\/a>.<\/p>\n <\/p>\n","protected":false},"excerpt":{"rendered":"Check Point Research: ya hay atacantes que est\u00e1n desarrollando c\u00f3digo malicioso con DeepSeek y Qwen\u00a0 Madrid, 10 de…","protected":false},"author":2,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"csco_display_header_overlay":false,"csco_singular_sidebar":"","csco_page_header_type":"","csco_page_load_nextpost":"","csco_post_video_location":[],"csco_post_video_location_hash":"","csco_post_video_url":"","csco_post_video_bg_start_time":0,"csco_post_video_bg_end_time":0,"footnotes":""},"categories":[554],"tags":[114],"class_list":["post-56446","post","type-post","status-publish","format-standard","category-actualidad","tag-destacado","cs-entry","cs-video-wrap"],"_links":{"self":[{"href":"https:\/\/iberopress.es\/index.php\/wp-json\/wp\/v2\/posts\/56446","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/iberopress.es\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/iberopress.es\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/iberopress.es\/index.php\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/iberopress.es\/index.php\/wp-json\/wp\/v2\/comments?post=56446"}],"version-history":[{"count":0,"href":"https:\/\/iberopress.es\/index.php\/wp-json\/wp\/v2\/posts\/56446\/revisions"}],"wp:attachment":[{"href":"https:\/\/iberopress.es\/index.php\/wp-json\/wp\/v2\/media?parent=56446"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/iberopress.es\/index.php\/wp-json\/wp\/v2\/categories?post=56446"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/iberopress.es\/index.php\/wp-json\/wp\/v2\/tags?post=56446"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}<\/figure>\n
<\/figure>\n
<\/figure>\n
<\/figure>\n
Twitter: https:\/\/twitter.com\/_cpresearch_<\/a>\u00a0<\/p>\n