Prompt Injection vs. Jailbreaking - Diferencias y Amenazas en Aplicaciones de IA
Ekoparty Security Conference via YouTube
Get 20% off all career paths from fullstack to AI
Build AI Apps with Azure, Copilot, and Generative AI — Microsoft Certified
Overview
AI, Data Science & Cloud Certificates from Google, IBM & Meta — 40% Off
One plan covers every Professional Certificate on Coursera. 40% off Coursera Plus Annual.
Unlock All Certificates
Aprende a distinguir entre dos tipos críticos de ataques en aplicaciones de Inteligencia Artificial basadas en Grandes Modelos de Lenguaje en este webinar de 57 minutos presentado por Cristian Cardelino en la Ekoparty Security Conference. Explora las diferencias fundamentales entre Prompt Injection y Jailbreaking, dos técnicas de ataque que frecuentemente se confunden pero que poseen características únicas y representan amenazas distintas. Analiza ejemplos concretos de cada tipo de ataque para comprender sus mecanismos específicos y las vulnerabilidades que explotan. Examina en detalle las amenazas particulares que representa cada técnica por separado, incluyendo sus métodos de ejecución, objetivos y potencial impacto en sistemas de IA. Desarrolla una comprensión clara de cómo identificar y diferenciar estos ataques para mejorar la seguridad en aplicaciones que utilizan modelos de lenguaje de gran escala.
Syllabus
Ekoparty Webinar: Prompt Injection vs. Jailbreaking I Cristian Cardelino
Taught by
Ekoparty Security Conference