Entrées non fiables
Scénarios d’injection de prompt via les entrées utilisateurs, les contenus récupérés et les sources connectées.
Applications IA · Agents · Recherche documentaire
Votre IA peut agir.
À quoi a-t-elle accès ?
Relier une fonction IA à des données métier ou à des outils crée des décisions qu’un modèle ne devrait jamais prendre seul. Testez les permissions, les limites d’accès aux données et les validations avant d’élargir les accès.
BW / PÉRIMÈTRE ILLUSTRATIF
01ENTRÉE NON FIABLE
02APPLICATION IA
03LIMITE DONNÉES / OUTILS
AUTORISER / TESTER / VÉRIFIER
Assisté par l’IA. Validé humainement.Périmètre autorisé. Preuves exploitables.
01 / LE BON MOMENT
De nouvelles fonctions. De nouvelles limites.
Un assistant interne devient accessible aux clients. Un système de recherche accède à des documents privés. Un agent obtient le droit d’agir. Chaque évolution mérite un examen concret des actions qu’un contenu non fiable pourrait provoquer.
- Préparer le lancement d’un assistant ou d’une fonction IA destinée aux clients
- Connecter la recherche à des données privées propres à un utilisateur ou un client
- Donner à un agent des outils métier ou le pouvoir d’effectuer des actions importantes
02 / PÉRIMÈTRE
Testez le système autour du modèle.
Accès aux données
Autorisations de recherche, séparation entre utilisateurs et exposition d’informations sensibles.
Permissions des outils
Limites d’action, validation humaine et conséquences des outils pilotés par le modèle.
Des résultats utilisables.
- Des scénarios de menace documentés et des limites applicatives convenues
- Des constats validés, avec étapes de reproduction et impact observé
- Des recommandations sur les permissions, les accès aux données et les validations
- Les limites de couverture et un plan priorisé de vérification des correctifs
Un périmètre clair.
Cette évaluation porte sur l’application et ne constitue pas une certification de sûreté du modèle. L’entraînement, les évaluations générales du comportement, les tests autonomes sans limites et les systèmes tiers nécessitent un périmètre distinct. Autorisations, données de test, actions permises et critères d’arrêt sont convenus au préalable.
Aucun test n’est effectué par ce site. Les capacités de réalisation, les conditions commerciales et les livrables doivent être confirmés avant l’engagement.
Avant de commencer.
Garantissez-vous une protection contre l’injection de prompt ?
Non. L’objectif est de repérer et de valider les faiblesses d’une application définie et d’améliorer ses contrôles. Aucune évaluation ne garantit une protection contre toute entrée possible ou toute évolution du modèle.
Notre fournisseur de modèle a des protections. Pourquoi tester l’application ?
L’application détermine les données récupérées, les outils accessibles et les actions soumises à validation. Ces choix d’intégration doivent être examinés dans leur contexte, avec le comportement du modèle.
Le produit doit-il être terminé ?
Une revue d’architecture peut préciser les risques avant le lancement. Les tests pratiques nécessitent une implémentation accessible ainsi que des permissions, outils et données de test représentatifs. Les travaux appropriés sont définis lors du cadrage.
Utiliserez-vous nos données de production dans des outils IA ?
Le traitement des données et tout recours à des outils externes ou services IA doivent être convenus avant l’engagement. N’envoyez pas de données sensibles dans la demande initiale. Des données synthétiques représentatives peuvent limiter l’exposition.
Que faut-il fournir pour cadrer la revue ?
Décrivez le cas d’usage, les intégrations de modèles, les sources de données, les rôles, les outils et les actions importantes. Précisez la date de lancement visée et les validations existantes. Les honoraires, accès et livrables sont confirmés dans la proposition.
Votre infrastructure classique aussi.
Votre entreprise n’a pas besoin d’utiliser l’IA pour être ciblée par des attaquants qui l’utilisent. Examinez aussi vos identités, accès distants, environnements cloud et services exposés.
Préparation aux menaces liées à l’IA ↗03 / PROCHAINE ÉTAPE
Définissez les limites avant le lancement.
Décrivez le cas d’usage IA, les données, les outils connectés, les rôles et la date cible. Restez général dans le premier courriel : aucun identifiant, jeu de données privé ou prompt sensible.
Cadrer une évaluation IAOuvre votre application de courriel. Rien n’est envoyé automatiquement.