Un nouveau défi dans la cybersécurité des technologies d’avenir
L’intelligence artificielle ouvre aujourd’hui de vastes potentiels d’innovation, mais fait aussi émerger de nouvelles problématiques de vulnérabilité qu’il convient d’anticiper. Microsoft a récemment annoncé le lancement d’un Programme de primes Microsoft pour l’IA offrant des récompenses allant jusqu’à 15 000$ US. Cette initiative vise à renforcer la sécurité des expériences Bing reposant désormais sur des technologies d’IA.
Une démarche proactive pour assainir les nouveaux usages de l’IA
Plutôt que d’adopter une posture défensive, Microsoft souhaite susciter une veille collective positive sur ses systèmes. Le programme cible tout particulièrement les risques liés à la manipulation des réponses fournies par l’assistant vocal Bing, au détournement de son apprentissage entre utilisateurs ou à la divulgation d’informations personnelles. Les primes sont modulées selon la criticité technique évaluée par Microsoft. Cette transparence responsable est essentielle pour asseoir la confiance dans les technologies du futur.
Un périmètre étendu regroupant plusieurs services clés
Microsoft AI Bounty Program couvre l’ensemble des interactions avec l’IA Bing sur ordinateur comme sur mobile, que ce soit via le moteur de recherche en ligne, l’application Microsoft Edge, l’assistant d’information ou les messageries Skype. Les expert·es en cybersécurité sont ainsi invité·es à auditer ces différents points d’accès afin d’en déceler les éventuels angles morts. Les retours d’expérience permettront à Microsoft de renforcer en continu la robustesse de ses systèmes face aux menaces toujours changeantes.
Vers une culture sécuritaire partagée au service du progrès
Avec ce Programme de primes pour l’IA, Microsoft donne l’exemple d’une gouvernance responsable des usages numériques de demain. En associant largement la communauté à ses efforts, le géant du logiciel étend les principes de la sécurité participative au domaine émergent de l’intelligence artificielle. Cette co-construction renforcée de la confiance est une condition indispensable au déploiement serein des technologies IA au service de tou·tes.