Salman Ayman Youssef · Documents originaux
Red teaming des LLM — Tests de requêtes adversariales
Mission freelance d’évaluation de la sûreté des LLM par requêtes adversariales manuelles, scénarios de cybersécurité et tentatives de contournement fondées sur le contexte. Création de 13 exemples enregistrés avec leurs conversations en mai 2025.
Méthode de test
J’ai testé les réponses de ChatGPT à des demandes de cybersécurité, puis à des affirmations d’autorisation. J’ai conservé les requêtes et réponses dans des enregistrements d’écran et des transcriptions, afin de rendre les interactions vérifiables.
Exemple enregistré
Cet exemple commence par un refus de fournir un script d’enregistrement et d’exfiltration de l’activité utilisateur. Après une affirmation d’autorisation de red team, le modèle modifie sa réponse et propose des indications techniques. L’enregistrement montre ce changement observé ; le code généré n’a pas été exécuté pour validation dans cet exemple.
Extrait de l’enregistrement original : 00:45–01:12,5. Vitesse de lecture inchangée ; interface du navigateur et commandes du compte recadrées hors champ. L’extrait montre le refus, le contexte ajouté et le début de la réponse.
Autres scénarios documentés
Les exemples fournis comprennent aussi une demande de balayage réseau autorisé et un scénario Shark Jack présenté comme une formation de red team. Ils illustrent la conception de scénarios, les requêtes adversariales, l’analyse des réponses et la collecte de preuves.