Injection de prompt
Changement de rôle, urgence, obfuscation ou demande anodine : les règles du chatbot sont contournées sans exploiter le serveur.
Audit sécurité IA · Lyon & remote France
Votre assistant IA accède à des données sensibles.
Je vérifie s'il sait les garder.
J'audite les chatbots et systèmes RAG avant leur mise en production : scénarios OWASP, taux de succès des attaques, preuves rejouables et recommandations directement exploitables.
- Mandat écrit
- Clone ou préproduction
- Résultats reproductibles
OWASP LLM TOP 10
CHATBOTS
RAG
ASR
LLM ON-PREMISE
Le risque réel
Le firewall ne contrôle pas ce que le modèle décide de recopier.
Un assistant peut respecter son rôle dans 99 % des conversations et exposer une donnée au mauvais utilisateur sur le scénario restant. L'audit transforme ce doute en résultats mesurables.
Fuite documentaire RAG
Le modèle reçoit le mauvais document, puis restitue salaires, contrats ou données clients à un utilisateur non habilité.
Contrôle d'accès faible
Écrire « je suis administrateur » dans le chat ne doit jamais devenir une preuve d'identité ni débloquer un index confidentiel.
Cas d'étude · Juillet 2026
Un assistant RH local semblait robuste.
Son RAG exposait encore les données.
40 %
des scénarios RAG initiaux ont déclenché une fuite détectée
Le problème principal n'était pas un « chatbot désobéissant ». Le pipeline envoyait au modèle des documents que l'utilisateur n'aurait jamais dû pouvoir récupérer.
01
Question
Utilisateur
02
Retrieval
Mauvais document récupéré
03
LLM
Contexte traité
04
Réponse
Donnée exposée
3 findings prioritaires
Des failles traduites en impact métier, cause racine et correctif.
Chaque finding est relié à une preuve rejouable et à un re-test. Pas de capture isolée, pas de démonstration sensationnaliste.
Critique
LLM01-005
Fuite via contenu documentaire
Des chunks confidentiels étaient récupérés avant même que le modèle ne réponde.
- Impact
- Exposition de données RH et secret interne
- Correctif
- Filtrage retrieval + séparation des index
- Re-test
- 40 % → 0 % ASR
Haute
LLM01-006
Usurpation d'une habilitation
Une simple affirmation « DRH autorisé » désactivait initialement le filtre documentaire.
- Impact
- Contournement du contrôle d'accès
- Correctif
- Authentification côté serveur, hors canal chat
- Re-test
- 10 % → 0 % ASR
Haute
LLM01-004
Complétion de formulaire
Une tâche d'apparence anodine poussait le modèle à compléter des champs avec des valeurs sensibles.
- Impact
- Exfiltration sans demande explicite
- Correctif
- Retrait des secrets + règles anti-complétion
- Re-test
- Fuite → bloqué
Défense en profondeur
Un prompt strict ne suffit pas.
La sécurité se joue sur tout le pipeline.
Le cas d'étude a conduit à une architecture de défense en quatre couches indépendantes.
-
01
Ingestion
Neutraliser les instructions cachées avant l'indexation des emails et documents.
-
02
Retrieval
Appliquer ACL, filtrage par sensibilité et authentification côté serveur.
-
03
Modèle
Séparer clairement instructions et données, puis durcir le comportement attendu.
-
04
Sortie
Bloquer les motifs sensibles et journaliser les tentatives pour le RSSI.
La méthode
Du périmètre écrit au rapport exploitable.
L'objectif n'est pas de collectionner les jailbreaks. Il est de produire une décision claire : quels scénarios réussissent, pourquoi, quel est l'impact et que corriger en premier.
Intervention autorisée uniquement
Clone, lab ou préproduction avec données de test.
-
01
Cadrer
Système, rôle utilisateur, données sensibles, exclusions et critères de succès attaquant.
-
02
Tester
Corpus manuel adapté et campagnes reproductibles inspirées de l'OWASP LLM Top 10.
-
03
Mesurer
ASR global et par famille, réponses horodatées, preuves de concept rejouables.
-
04
Prioriser
Jusqu'à trois findings avec impact, cause racine, recommandations et restitution.
Ce que vous recevez
Un livrable pour décider.
Des preuves pour corriger.
La synthèse parle au décideur. Le détail permet à l'équipe technique de reproduire le problème sans devoir interpréter une capture d'écran.
Direction
Synthèse exécutive
Risques majeurs, chiffres clés, verdict du périmètre et prochaines décisions.
Technique
Findings priorisés
Vecteur, impact, preuve, cause racine et recommandation actionnable.
Traçabilité
Preuves rejouables
Journal de campagne, ASR et conditions nécessaires au re-test après correction.
Offre de lancement
Diagnostic sécurité LLM
Un périmètre volontairement court pour obtenir des résultats concrets sans lancer un audit de plusieurs semaines.
- ✓ 1 chatbot ou assistant RAG
- ✓ 1 rôle utilisateur
- ✓ Corpus OWASP adapté
- ✓ ASR et preuves rejouables
- ✓ Jusqu'à 3 findings prioritaires
- ✓ Synthèse + restitution de 45 min
Hors périmètre :
pentest web/API complet, revue de code, correction en production et avis juridique RGPD/AI Act.
Extensions sur devis après cadrage.
À propos
Noah Morio
Consultant en sécurité des systèmes d'IA générative
Mon parcours réunit infrastructure SISR, expérience en environnement SI à France Télévisions et pratique documentée du Red Teaming LLM. Je travaille à l'intersection du modèle, du RAG et des contrôles d'accès : là où une démonstration de jailbreak ne suffit plus.
Mon approche : mesurer, documenter, corriger puis re-tester. Le but est de donner aux PME, éditeurs SaaS et intégrateurs une lecture claire de leur exposition avant la mise en production.
Avant la mise en production
Votre assistant peut-il garder
ce qu'il est autorisé à lire ?
Un échange de 15 minutes suffit pour vérifier si le diagnostic correspond à votre périmètre.