Microsoft ahora tiene un programa de recompensas por errores destinado a encontrar problemas en la inteligencia artificial. Específicamente, el programa AI Bounty de Microsoft se centra en rastrear vulnerabilidades en la «Experiencia Bing» impulsada por AI de la compañía. Este término general cubre una sorprendente cantidad de productos y servicios.
Curiosamente, a través de este programa de recompensas, Microsoft sólo ofrece recompensas por descubrir vulnerabilidades que se consideran críticas o importantes. No se premiarán aquellos considerados de riesgo moderado o bajo.
Ver también:
Con recompensas de hasta 15.000 dólares disponibles, el incentivo para que los investigadores de seguridad participen y ayuden a Microsoft a mejorar sus productos y servicios es bastante fuerte. Si bien el enfoque en la experiencia de Bing impulsada por IA puede parecer un poco limitado (no es que esto necesariamente sea motivo de queja o preocupación), Microsoft explica el alcance completo de lo que califica:
- Experiencias de Bing impulsadas por IA en bing.com en el navegador (se admiten todos los proveedores principales, incluidos Bing Chat, Bing Chat for Enterprise y Bing Image Creator)
- Integración de Bing impulsada por IA en Microsoft Edge (Windows), incluido Bing Chat for Enterprise
- Integración de Bing impulsada por IA en Microsoft Start (iOS y Android)
- Integración de Bing con tecnología de IA en la aplicación móvil de Skype (iOS y Android)
Hay margen para pagar cantidades más altas por detecciones de errores particularmente graves, pero Microsoft advierte que esto queda totalmente a su discreción.
La compañía también dice que existe la posibilidad de que se puedan considerar otros descubrimientos de pagos, específicamente «individuos y/o cadenas de vulnerabilidades que conduzcan a resultados tangibles dentro de estos dominios de ataque». Esto incluye:
- Influir y cambiar el comportamiento de Bing Chat más allá de los límites de los usuarios, es decir, cambiar la IA de manera que afecte a todos los demás usuarios.
- Modifique el comportamiento de Bing Chat ajustando la configuración visual del cliente y/o servidor, como configurar indicadores de depuración, cambiar indicadores de funciones, etc.
- Haz jailbreak a tu memoria de chat y elimina el historial en Bing.
- Revele el funcionamiento interno, las afirmaciones, los procesos de toma de decisiones y la información confidencial de Bing.
- Evite los límites y/o restricciones/reglas de la sesión del modo de chat de Bing.
Los detalles completos de Microsoft AI Bounty se pueden encontrar aquí aquí.
Credito de imagen: com.liorpt / com.depósitofotos
