Empoisonnement des données d'entraînement et de RAG
Vérifie qui peut écrire dans les sources apprises ou consultées par le modèle.
Méthode de contrôle
Vérifie qui peut écrire dans les sources apprises ou consultées par le modèle.
Type de preuve possible
Lecture du code ou de la configuration, sans exploitation du risque.
Accès et limites
Accès autorisé à la base de données compatible. Les résultats réels et les contrôles non exécutés figurent dans votre rapport. Un contrôle sans détection ne garantit pas l’absence de risque.
Situation concrète
Un contenu non fiable entre dans un entraînement ou un corpus de recherche de confiance.
Ce qu’il faut examiner
Examiner droits d’ingestion, provenance et validation. Une page publique ne prouve pas son utilisation en entraînement.
Approche de correction
Séparer l’ingestion non fiable des données approuvées et conserver provenance et accords.
Séparer les consignes des contenus non fiables
Un LLM peut traiter messages, documents récupérés, sorties d’outils et consignes applicatives dans le même contexte. Un contenu ressemblant à une instruction peut donc influencer la réponse. Une réponse suspecte ne prouve pas automatiquement une fuite ou une action : il faut noter ce qui change réellement et si des données sensibles ou outils sont impliqués.
- Recenser messages, documents, recherche, historique et résultats d’outils.
- Identifier les consignes et secrets placés dans le contexte.
- Distinguer une réponse modifiée d’une divulgation confidentielle ou d’un appel d’outil non autorisé démontrés.
Construire plusieurs niveaux de protection
Un prompt renforcé ne constitue pas une frontière de sécurité complète. Les permissions d’outils et l’accès aux données doivent être imposés hors du modèle. Réduisez ce qu’il voit et validez sa sortie avant de la traiter comme code, HTML ou décision de confiance.
- Retirer les identifiants et informations confidentielles inutiles du contexte.
- Limiter la recherche à l’identité autorisée et les outils aux opérations permises.
- Exiger un accord pour les actions sensibles et conserver des tests contre les contournements connus.
Références
OWASP LLM04 · OWASP LLM09
Sources et lectures complémentaires
Ces publications décrivent les pratiques et standards associés. Elles ne certifient pas votre plateforme et ne signifient pas que chaque méthode est exécutée par Hackaiz.