Sombrero negro, eventos, vídeo.
Michael Bargory de Zenity habla sobre los fallos de seguridad de las inyecciones AI Prompt y Copilot
Michael Novinson (Michael Novinson) •
14 de agosto de 2024
A medida que las empresas dependen cada vez más de herramientas de inteligencia artificial como Microsoft Copilot, los líderes de seguridad luchan por abordar nuevas vulnerabilidades de ciberseguridad, como fugas de datos, envenenamiento de modelos y acceso no autorizado a información confidencial, según Michael Bargorie, cofundador y director de tecnología de Zenity. Si bien Copilot y otros asistentes de IA aprovechan las capacidades de búsqueda empresarial existentes, reducen significativamente la barrera para acceder a datos potencialmente confidenciales.
Ver también: Proteja aplicaciones y acelere DevOps con código limpio
Al enviar un correo electrónico, un mensaje de Teams o un evento de calendario, los atacantes pueden usar la inyección instantánea para «tomar el control total de Copilot en su nombre», dijo Bargori. «Esto significa que controlo Copilot. Puedo hacer que busque archivos en tu nombre usando tu identidad, manipular sus resultados y ayudarme a realizar ingeniería social».
Aunque Microsoft tomó medidas para proteger Copilot, incluidos 10 mecanismos de seguridad diferentes que descubrió Bargouri, su equipo pudo eludirlos todos. «Hay que ser persistente», dijo Bargouri, advirtiendo que las medidas de seguridad actuales no son lo suficientemente fuertes para proteger los datos de una organización de los actores amenazantes.
En esta entrevista en video con Information Security Media Group en DEF CON 2024, Bargori también analiza:
- riesgos asociados con la creación de bots utilizando Copilot Studio;
- La importancia de los programas de capacitación para educar a los usuarios sobre la prevención de ataques de ingeniería social a través de herramientas de inteligencia artificial;
- Preocupaciones de seguridad sobre los complementos que amplían las capacidades de Copilot.
Bargouri es un hacker, constructor y gurú de la ciberseguridad. Tiene casi 15 años de experiencia en liderazgo y ha trabajado en organizaciones como Microsoft y la Fundación OWASP. Bargori es un orador habitual en conferencias importantes, incluidas Black Hat, DEFCON y RSAC.
«Organizador. Escritor. Nerd malvado del café. Evangelista general de la comida. Fanático de la cerveza de toda la vida.
