#099Guide4 min
Évaluer les risques des agents d’intelligence artificielle
Examinez les instructions, les outils et les composants avant de leur donner accès à vos systèmes.
Équipe Hackaiz · mis à jour le 21/11/2026

01Partir des actions réellement possibles
Un agent d’intelligence artificielle associe les décisions d’un modèle à des outils et à des instructions. Son risque dépend notamment des pouvoirs de ces outils : lire un fichier local n’a pas les mêmes conséquences que modifier une base de production ou déclencher un déploiement. Dressez vous-même la liste des entrées, des identifiants utilisés, des destinations autorisées et des actions possibles. Indiquez les étapes qui doivent rester soumises à une validation humaine.
Imaginez un agent d’assistance qui lit des messages entrants et dispose d’un outil de gestion des comptes. Un message peut chercher à lui faire abandonner sa mission : c’est une injection d’instructions, où un contenu non fiable tente de devenir une consigne. Si l’outil permet aussi d’exporter des dossiers sans autorisation distincte, les conséquences peuvent dépasser une simple réponse erronée. Cet exemple illustre un scénario de risque, pas une observation attribuée à votre application.
02Examiner le contenu avant installation
Connectez-vous puis ouvrez « Vérifier avant d’installer » à l’adresse /check. Collez les instructions du fichier SKILL.md ou une configuration MCP, ou utilisez « Ou choisir des fichiers ». MCP est un protocole permettant à un assistant de faire appel à des outils externes. Le parcours accepte aussi des éléments tels qu’un fichier package.json, un processus GitHub ou un Dockerfile. Renseignez le nom du composant pour reconnaître le résultat, puis choisissez « Vérifier ».
Cette vérification lit les éléments transmis sans les exécuter. Ne collez pas de véritables secrets dans les instructions ou la configuration ; les fichiers secrets sont exclus lors de la sélection. Consultez la liste « Fichiers exclus, non vérifiés » et tout avertissement de couverture incomplète. Chaque nouvelle vérification utilise des crédits, même pour un contenu identique. Les fichiers ne sont pas conservés par ce parcours ; seul le résumé du résultat reste dans l’historique. Gardez donc votre propre version de référence.
03Relier les alertes à leurs conséquences
Cherchez le comportement concret derrière le signal : commande dissimulée, lecture de secrets, transmission de données ou instruction visant à détourner l’assistant. Pour les détections applicatives, les priorités affichées sont Danger, À corriger et À surveiller. La vérification de composant possède aussi un verdict global, dont « Incomplet » lorsque les éléments n’ont pas pu être entièrement examinés. Un résultat incomplet n’autorise pas l’installation, et une priorité moindre ne dispense pas d’examiner le contexte.
Les correspondances de sécurité de l’intelligence artificielle distinguent plusieurs sujets. Des motifs liés aux outils peuvent être associés à LLM06, qui concerne une autonomie excessive. Des motifs liés à la mémoire peuvent évoquer l’empoisonnement des informations réutilisées par la suite. Le code comporte aussi un signal sur certains appels de modèle sans limite de jetons ni limitation de fréquence reconnaissable. Ces indices orientent la revue ; ils ne prouvent pas que tous les comportements, droits effectifs ou échanges possibles ont été testés.
04Réduire les droits puis revoir la version modifiée
Demandez au responsable du composant de justifier chaque capacité. Parmi les précautions possibles, privilégiez un identifiant en lecture seule lorsque l’écriture est inutile, limitez les destinations, séparez les données des clients et exigez une approbation humaine pour les actions destructrices. Essayez les modifications dans un environnement maîtrisé avec des données non sensibles. Ce sont des recommandations pour votre installation, pas des protections déployées automatiquement par l’analyse statique.
Après modification, vérifiez de nouveau le composant avant d’élargir ses accès. L’écran de résultat peut signaler de nouvelles capacités ou de nouveaux points depuis la vérification précédente : recherchez leur origine plutôt que de réutiliser indéfiniment un ancien résultat. Si vous examinez également un site ou une interface de programmation, Hackaiz exige au préalable une preuve de propriété du domaine, par enregistrement DNS TXT, fichier HTTPS fourni ou création de ce fichier par l’IA du projet. Examiner un composant ne contourne pas cette exigence.
Questions fréquentes
Passer à l’action
Cet article vous a-t-il aidé ?