Glossaire · Sécurité IA
Sécurité des IA génératives
Définition
Ensemble des mesures techniques et organisationnelles destinées à protéger les systèmes fondés sur des modèles de langage (LLM) — copilotes, chatbots, systèmes RAG, agents autonomes — contre le détournement de comportement, la fuite de données, l’empoisonnement et les actions non autorisées. Elle s’appuie sur des référentiels reconnus, notamment l’OWASP Top 10 for LLM Applications et les recommandations de l’ANSSI (ANSSI-PA-102).
Pourquoi c’est important
L’IA générative introduit une surface d’attaque inédite : le comportement du système est probabiliste et pilotable par du langage naturel. Les contrôles classiques (pare-feu, WAF, antivirus) ne couvrent pas des menaces comme l’injection de prompt ou l’agence excessive. Sans référentiel dédié, l’entreprise s’expose à des fuites de données, à des actions destructrices d’agents et à des non-conformités (AI Act art. 15, RGPD, ISO 42001).
Exemple concret
Une entreprise déploie un assistant RAG connecté à sa base documentaire. Un document piégé, ingéré dans la base vectorielle, contient une instruction cachée. Lorsqu’un collaborateur interroge l’assistant, celui-ci exécute l’instruction et divulgue des données d’une autre équipe : c’est une combinaison d’injection de prompt indirecte (LLM01) et de faiblesse d’embeddings (LLM08).
Lien avec SiyadAI
SiyadAI rend cette sécurité opérationnelle en amont : la plateforme cartographie les systèmes d’IA de l’organisation, associe à chacun ses risques (grille OWASP/ANSSI) et son statut de conformité, et maintient un registre vivant partagé entre RSSI et DPO. La condition préalable de toute sécurisation — savoir ce qui existe — devient automatique.
Quels systèmes d’IA tournent vraiment chez vous ?
Révéler mon Shadow AIÀ lire aussi : Guide RSSI : sécuriser vos IA génératives · Gouvernance de l’IA · FAQ