Google renforce la sécurité de ses IA avec un programme de primes inédit

Google intensifie sa lutte contre les vulnérabilités de ses systèmes d’intelligence artificielle. L’entreprise vient d’étendre son programme « bug bounty » dédié aux IA, offrant des récompenses significatives aux chercheurs en cybersécurité qui détectent des failles critiques.

Dorénavant, les vulnérabilités les plus graves peuvent rapporter jusqu’à 30 000 $. Il s’agit de failles capables, par exemple, de compromettre des comptes ou de manipuler des données sensibles. Les failles moins critiques restent éligibles à des primes allant jusqu’à 500 $, selon leur gravité.

Ce programme cible également les « rogue actions », des actions malveillantes pouvant être exécutées sans autorisation sur des appareils connectés, tels que Google Home ou les applications Gemini. Ces vulnérabilités sont particulièrement surveillées, car elles pourraient permettre à un attaquant d’exécuter des commandes non prévues ou d’accéder à des informations privées.

Depuis son lancement en octobre 2023, le programme a déjà permis à Google de verser plus de 430 000 $ à des chercheurs ayant identifié des failles dans ses systèmes d’IA. De plus, si la prime est attribuée à une œuvre caritative, Google double le montant offert, encourageant ainsi l’engagement social.

Cependant, certaines problématiques ne sont pas couvertes par le programme. Les contenus générés par l’IA, comme les discours haineux ou les violations de droits d’auteur, doivent être signalés via les canaux habituels de rétroaction, et non par ce programme de primes.

Cette initiative démontre que la sécurité des systèmes d’IA est devenue une priorité mondiale. En collaborant avec des chercheurs éthiques, Google renforce la confiance des utilisateurs dans ses technologies et réduit les risques de cyberattaques.

Et vous, si vous découvriez un bug critique dans une IA, le signaleriez-vous ?
Restez à l’affût pour les prochaines mises à jour de ce programme.