{"id":55986,"date":"2025-04-23T12:36:34","date_gmt":"2025-04-23T15:36:34","guid":{"rendered":"https:\/\/temucotelevision.cl\/web\/?p=55986"},"modified":"2025-04-23T12:36:35","modified_gmt":"2025-04-23T15:36:35","slug":"del-robo-de-propiedad-intelectual-al-mal-uso-de-servidores-como-los-cibercriminales-atacan-los-modelos-de-ia","status":"publish","type":"post","link":"https:\/\/temucotelevision.cl\/web\/2025\/04\/23\/del-robo-de-propiedad-intelectual-al-mal-uso-de-servidores-como-los-cibercriminales-atacan-los-modelos-de-ia\/","title":{"rendered":"Del robo de propiedad intelectual al mal uso de servidores: C\u00f3mo los cibercriminales atacan los modelos de IA"},"content":{"rendered":"
<\/div>

<\/path><\/svg><\/i> \"Loading\"<\/p>

<\/div>\n

ESET advierte  que los modelos de IA son objetivos valiosos para los cibercriminales debido a la informaci\u00f3n sensible que manejan y su creciente importancia en diversas industrias.<\/p>\n\n\n\n

\u00a0Los modelos de inteligencia artificial se convirtieron en activos valiosos para cibercriminales y en un objetivo atractivo por la cantidad de informaci\u00f3n que procesan y por su uso\u00a0cada vez m\u00e1s frecuente en diversas industrias<\/a>\u00a0.<\/p>\n\n\n\n

En este contexto, ESET<\/a> , compa\u00f1\u00eda l\u00edder en detecci\u00f3n proactiva de amenazas, alerta que los ataques a los modelos de IA var\u00edan  <\/a>desde el robo de propiedad intelectual, filtrado de informaci\u00f3n -e incluso su manipulaci\u00f3n para generar resultados err\u00f3neos, sesgados-, hasta la utilizaci\u00f3n de su infraestructura para prop\u00f3sitos maliciosos como, por ejemplo, el uso de servidores comprometidos para comandar redes de bots o ataques similares.<\/p>\n\n\n\n

Existe una gran variedad de ejemplos de vulnerabilidades a modelos de IA. Algunos muy destacados como el de Tay de Microsoft<\/a> , donde en el a\u00f1o 2016 un chatbot de IA fue manipulado por usuarios para aprender y replicar discursos de odio en menos de 24 horas.<\/p>\n\n\n\n

Por otro lado, el ataque a GPT-3\/OpenAI, donde se identifican intentos de extracci\u00f3n de informaci\u00f3n confidencial<\/a> de modelos de OpenAI, consultas o solicitudes espec\u00edficas que induc\u00edan a revelar datos sensibles utilizados en su entrenamiento. Adem\u00e1s, en 2023, el modelo desarrollado por Meta LLaMA fue filtrado<\/a> antes de su lanzamiento y fue utilizado y accedido por terceros, lo que gener\u00f3 preocupaci\u00f3n sobre la protecci\u00f3n de modelos propietarios en entornos abiertos.<\/p>\n\n\n\n

“Los ataques dirigidos ya han puesto foco en modelos de IA, su funcionamiento e infraestructura. La seguridad debe abordarse desde una perspectiva integral, protegiendo todas las capas del funcionamiento de esta tecnolog\u00eda, partiendo de datos de entrenamiento, implementaci\u00f3n del modelo y luego posteriores fases de acceso o interacci\u00f3n con este”,<\/em>comenta  <\/em>Fabiana Ram\u00edrez Cuenca, Investigadora de seguridad inform\u00e1tica de ESET Latinoam\u00e9rica.<\/p>\n\n\n\n

Para comprender c\u00f3mo la IA podr\u00eda ser objetivo de ataque, el equipo de investigaci\u00f3n de ESET desgrana algunos de sus elementos b\u00e1sicos expuestos y sus vulnerabilidades. Entre lo destacado, se encuentran los datos<\/strong> , todos los modelos son alimentados con datos de entrenamiento que deben tener calidad y confiabilidad para garantizar el correcto funcionamiento de la tecnolog\u00eda. Estos datos podr\u00edan ser vulnerables<\/a> y un ciberatacante podr\u00eda introducir algunos de tipo malicioso<\/a> y de esa manera manipular el comportamiento o las salidas del modelo.<\/p>\n\n\n\n

Por otro lado, est\u00e1n las APIS<\/strong> (Interfaz de programaci\u00f3n de aplicaciones)  que al estar  expuestos tambi\u00e9n se pueden intervenir para manipular<\/a> el modelo o extraer informaci\u00f3n sensible, y la estructura interna<\/strong> del modelo, incluidos sus algoritmos, podr\u00edan ser susceptibles a ataques adversariales<\/a> o extracci\u00f3n de informaci\u00f3n confidencial. Finalmente, losservidores<\/strong> , fuera de ataques al funcionamiento del modelo en s\u00ed, este se podr\u00eda ver afectado en caso de que los servidores o bases de datos donde se almacene su informaci\u00f3n o se procese el modelo sean blanco de diversos ataques que interrumpen el sistema.<\/p>\n\n\n\n

Una vez que se identifican elementos b\u00e1sicos, ESET comparte los principales ataques contra modelos de IA:<\/p>\n\n\n\n

    \n
  1. Data Poisoning (Envenenamiento de Datos):<\/strong>\u00a0consiste en la\u00a0manipulaci\u00f3n de los datos de entrenamiento<\/a>\u00a0con el objetivo de alterar el comportamiento del modelo.<\/li>\n<\/ol>\n\n\n\n
      \n
    1. Ataques adversarios:<\/strong>\u00a0se generan entradas o entradas manipuladas de manera casi imperceptible para los humanos\u00a0,<\/a>\u00a0pero que inducir\u00e1n errores en el modelo. Por ejemplo, la manipulaci\u00f3n de im\u00e1genes para hacer que un modelo de reconocimiento facial confunda identidades.<\/li>\n<\/ol>\n\n\n\n
        \n
      1. Control del Modelo y Explotaci\u00f3n:<\/strong>\u00a0los cibercriminales toman el control del modelo durante su producci\u00f3n aprovech\u00e1ndolo con distintos fines como ejecuci\u00f3n de otros ataques. Por ejemplo, una denegaci\u00f3n de servicio aprovechando para generar comando y control (C&C) e incluso mezclarlo con bots.<\/li>\n<\/ol>\n\n\n\n
          \n
        1. Model Inversi\u00f3n Attack<\/strong>\u00a0(Inversi\u00f3n de Modelo)<\/strong><\/a>\u00a0:<\/strong>\u00a0el objetivo es inferir y obtener informaci\u00f3n sensible a partir de las predicciones del modelo. Por ejemplo, en modelos que identifican datos faciales se podr\u00eda llegar reconstruir los rostros originales tomando como base los resultados del modelo frente a ciertas peticiones.<\/li>\n<\/ol>\n\n\n\n
            \n
          1. Model Extraction Attack<\/strong>\u00a0(\u00a0Extracci\u00f3n de Modelo)<\/strong><\/a>\u00a0:<\/strong>\u00a0En este tipo de ataque se env\u00edan diferentes consultas al modelo para luego analizar las salidas con el objeto de entender y reconstruir su estructura interna, as\u00ed como su l\u00f3gica. De esta manera se podr\u00eda imitar o replicar un modelo sin necesidad de acceso directo al c\u00f3digo fuente o datos de entrenamiento.<\/li>\n<\/ol>\n\n\n\n
              \n
            1. Ataque de Evasi\u00f3n (Evasion Attack):<\/strong>\u00a0para el caso se modifican las entradas de los modelos con el fin de evadir detecci\u00f3n de ciertas actividades o generar una clasificaci\u00f3n incorrecta. Se ha utilizado en sistemas de detecci\u00f3n de fraudes, por ejemplo, y en modelos de seguridad de tipo antimalware y firewalls basados en IA. Los atacantes utilizan c\u00f3digos maliciosos que pueden generar que el modelo v\u00edctima clasifique un archivo como leg\u00edtimo, por ejemplo, y esto mediante generaci\u00f3n de entradas alteradas de forma imperceptible.<\/li>\n<\/ol>\n\n\n\n
                \n
              1. Malware en Infraestructuras:<\/strong>\u00a0fuera de ataques directos al modelo, estos est\u00e1n sujetos a que sus servidores sean infectados con diferentes clases de malware que podr\u00edan interrumpir su operatividad, bloquearlos e incluso lograr filtrar informaci\u00f3n.<\/li>\n<\/ol>\n\n\n\n

                Para saber m\u00e1s sobre seguridad inform\u00e1tica visite el portal corporativo de ESET:https:\/\/www.welivesecurity.com\/es\/seguridad-digital\/cuales-principales-ataques-modelos-inteligencia-artificial\/<\/a><\/p>\n\n\n\n

                Por otro lado, ESET invita a conocer Conexi\u00f3n Segura<\/strong><\/a> , su podcast para saber qu\u00e9 est\u00e1 ocurriendo en el mundo de la seguridad inform\u00e1tica. Para escucharlo ingresa a: https:\/\/open.spotify.com\/show\/0Q32tisjNy7eCYwUNHphcw<\/a><\/p>\n\n\n\n

                Vis\u00edtanos en:<\/strong>  <\/p>\n\n\n\n

                 \"Logotipo  @ESETLA<\/a>     \"http:\/\/www.gedestic.es\/wp-content\/uploads\/2013\/10\/linkedin-logo.png\"  \/compay\/eset-latinoamerica<\/a>    \/esetla<\/a>     \/ESETLA<\/a>        \/@esetla<\/a><\/p>\n\n\n\n

                Acerca de ESET<\/strong><\/p>\n\n\n\n

                ESET\u00ae proporciona seguridad digital de vanguardia para prevenir ataques antes de que ocurran. Al combinar el poder de la IA y la experiencia humana, ESET\u00ae se anticipa a las ciberamenazas conocidas y emergentes, asegurando empresas, infraestructuras cr\u00edticas e individuos. Ya sea protecci\u00f3n de endpoints, nube o dispositivos m\u00f3viles, sus soluciones y servicios nativos de IA y basados en la nube son altamente efectivos y f\u00e1ciles de usar. La tecnolog\u00eda de ESET incluye detecci\u00f3n y respuesta s\u00f3lidas, cifrado ultraseguro y autenticaci\u00f3n multifactor. Con defensa en tiempo real las 24 horas, los 7 d\u00edas de la semana y un s\u00f3lido soporte local, mantiene a los usuarios seguros y a las empresas funcionando sin interrupciones. Un panorama digital en constante evoluci\u00f3n exige un enfoque progresivo de la seguridad: ESET\u00ae est\u00e1 comprometido con una investigaci\u00f3n de clase mundial y una potente inteligencia sobre amenazas, respaldada por centros de I+D y una s\u00f3lida red global de socios. Para obtener m\u00e1s informaci\u00f3n, visite<\/em> https:\/\/www.eset.com\/latam<\/em><\/a> o s\u00edganos en<\/em>LinkedIn<\/em><\/a> ,<\/em> Facebook<\/em><\/a> y<\/em> Twitter<\/em><\/a> .<\/em><\/p>\n","protected":false},"excerpt":{"rendered":"

                <\/div>\n

                <\/path><\/svg><\/i> \"Loading\"<\/p>\n

                <\/div>\n

                ESET advierte  que los modelos de IA son objetivos valiosos para los cibercriminales debido a la informaci\u00f3n sensible que manejan y<\/p>\n","protected":false},"author":1,"featured_media":55987,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"colormag_page_container_layout":"default_layout","colormag_page_sidebar_layout":"default_layout","footnotes":""},"categories":[6973],"tags":[138],"class_list":["post-55986","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia","tag-robo"],"a3_pvc":{"activated":true,"total_views":1401,"today_views":0},"_links":{"self":[{"href":"https:\/\/temucotelevision.cl\/web\/wp-json\/wp\/v2\/posts\/55986","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/temucotelevision.cl\/web\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/temucotelevision.cl\/web\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/temucotelevision.cl\/web\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/temucotelevision.cl\/web\/wp-json\/wp\/v2\/comments?post=55986"}],"version-history":[{"count":1,"href":"https:\/\/temucotelevision.cl\/web\/wp-json\/wp\/v2\/posts\/55986\/revisions"}],"predecessor-version":[{"id":55988,"href":"https:\/\/temucotelevision.cl\/web\/wp-json\/wp\/v2\/posts\/55986\/revisions\/55988"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/temucotelevision.cl\/web\/wp-json\/wp\/v2\/media\/55987"}],"wp:attachment":[{"href":"https:\/\/temucotelevision.cl\/web\/wp-json\/wp\/v2\/media?parent=55986"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/temucotelevision.cl\/web\/wp-json\/wp\/v2\/categories?post=55986"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/temucotelevision.cl\/web\/wp-json\/wp\/v2\/tags?post=55986"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}