- \n
- Ataques de Aviso Directos (Jailbreaks):<\/strong> Manipulaci\u00f3n directa de la IA para generar contenido ofensivo o saltarse restricciones.<\/li>\n\n\n\n
- Ataques de Aviso Indirectos:<\/strong> Ocultar instrucciones maliciosas en datos procesados por la IA, como correos electr\u00f3nicos o documentos, para obtener acceso no autorizado o filtrar informaci\u00f3n.<\/li>\n<\/ul>\n\n\n\n
![\"\"](\"https:\/\/onesec.mx\/wp-content\/uploads\/2025\/03\/image.png\")
Figura 1. Ontolog\u00eda de b\u00fasqueda de seguridad de IA<\/figcaption><\/figure>\n\n\n\n Soluciones y Herramientas:<\/strong><\/p>\n\n\n\n
- \n
- Prompt Shields (Azure AI Content Safety y Azure OpenAI Service):<\/strong> Una herramienta de seguridad de IA que detecta y bloquea mensajes maliciosos en tiempo real, protegiendo contra ataques directos e indirectos.<\/li>\n\n\n\n
- Microsoft Defender for Cloud:<\/strong> Herramientas para analizar y bloquear atacantes, previniendo futuros ataques.<\/li>\n\n\n\n
- Microsoft Purview:<\/strong> Plataforma para administrar datos confidenciales utilizados en aplicaciones de IA.<\/li>\n\n\n\n
- Mejores Pr\u00e1cticas:<\/strong> Desarrollo de defensas multicapa, incluyendo mensajes de sistema robustos y reglas que gu\u00edan a los modelos de IA.<\/li>\n\n\n\n
- Investigaci\u00f3n y Experiencia en Ciberseguridad:<\/strong> Microsoft invierte en investigaci\u00f3n y equipos especializados, como el equipo de inteligencia artificial Red Team y el centro de respuesta de seguridad, para anticipar y mitigar amenazas emergentes.<\/li>\n<\/ul>\n\n\n\n
![\"\"](\"https:\/\/onesec.mx\/wp-content\/uploads\/2025\/03\/image-2.png\")
Figura 2. Los “Prompt Shields” en Azure AI Content Safety est\u00e1n dise\u00f1ados espec\u00edficamente para proteger los sistemas de IA generativa de la generaci\u00f3n de contenido da\u00f1ino o inapropiado.<\/figcaption><\/figure>\n\n\n\n Casos de Uso:<\/strong><\/p>\n\n\n\n
- \n
- Plataformas de creaci\u00f3n de contenido con IA:<\/strong> Detecci\u00f3n de mensajes da\u00f1inos para asegurar contenido seguro y \u00e9tico.<\/li>\n\n\n\n
- Chatbots con IA:<\/strong> Mitigaci\u00f3n de riesgos de ataques a usuarios para mantener la seguridad y el cumplimiento.<\/li>\n\n\n\n
- Plataformas de aprendizaje electr\u00f3nico:<\/strong> Prevenci\u00f3n de contenido educativo inapropiado generado por IA, garantizando un entorno de aprendizaje seguro.<\/li>\n<\/ul>\n\n\n\n
![\"\"](\"https:\/\/onesec.mx\/wp-content\/uploads\/2025\/03\/image-1.png\")
Figura 3. Un ejemplo real de Crescendo para la tarea Molotov con ChatGPT ( 1(a)<\/a> ) y Gemini Ultra ( 1(b)<\/a> )<\/figcaption><\/figure>\n\n\n\n La protecci\u00f3n de la IA requiere un enfoque integral que combine herramientas avanzadas, mejores pr\u00e1cticas y una s\u00f3lida experiencia en ciberseguridad. Con la disponibilidad general de Prompt Shields y otras herramientas de Microsoft, las organizaciones pueden desarrollar aplicaciones de IA generativa de manera segura y confiable, cerrando vectores de ataque y protegiendo datos sensibles.<\/p>\n\n\n\n
Un art\u00edculo por Luis Zafra<\/em><\/p>\n\n\n\n
<\/p>","protected":false},"excerpt":{"rendered":"
La inteligencia artificial (IA) ha revolucionado la forma en que interactuamos con la tecnolog\u00eda, desde asistentes virtuales hasta herramientas de servicio al cliente. Sin embargo, su poder tambi\u00e9n la hace vulnerable a ataques sofisticados. Este post explora los riesgos de los ataques de aviso, tanto directos (jailbreaks) como indirectos, que buscan enga\u00f1ar a los modelos […]<\/p>\n","protected":false},"author":2,"featured_media":16701,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"content-type":"","footnotes":""},"categories":[11],"tags":[128,129,13,72,73,130,30,131],"class_list":["post-16696","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ciber-seguridad","tag-ataques-ia","tag-azure-ai","tag-ciberseguridad","tag-ia","tag-inteligencia-artificial","tag-microsoft-security","tag-onesec","tag-prompt-shields"],"_links":{"self":[{"href":"https:\/\/onesec.mx\/en\/wp-json\/wp\/v2\/posts\/16696","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/onesec.mx\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/onesec.mx\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/onesec.mx\/en\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/onesec.mx\/en\/wp-json\/wp\/v2\/comments?post=16696"}],"version-history":[{"count":0,"href":"https:\/\/onesec.mx\/en\/wp-json\/wp\/v2\/posts\/16696\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/onesec.mx\/en\/wp-json\/wp\/v2\/media\/16701"}],"wp:attachment":[{"href":"https:\/\/onesec.mx\/en\/wp-json\/wp\/v2\/media?parent=16696"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/onesec.mx\/en\/wp-json\/wp\/v2\/categories?post=16696"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/onesec.mx\/en\/wp-json\/wp\/v2\/tags?post=16696"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}
- Chatbots con IA:<\/strong> Mitigaci\u00f3n de riesgos de ataques a usuarios para mantener la seguridad y el cumplimiento.<\/li>\n\n\n\n
- Microsoft Defender for Cloud:<\/strong> Herramientas para analizar y bloquear atacantes, previniendo futuros ataques.<\/li>\n\n\n\n
- Ataques de Aviso Indirectos:<\/strong> Ocultar instrucciones maliciosas en datos procesados por la IA, como correos electr\u00f3nicos o documentos, para obtener acceso no autorizado o filtrar informaci\u00f3n.<\/li>\n<\/ul>\n\n\n\n