Sécurité de l’IA pour les développeurs

Attaquez et défendez des applications LLM : injection de prompt, fuites de données et abus d’outils, mesurés avec de vrais tests.

Vous construisez un petit agent LLM, vous l’attaquez en anglais, en français et en arabe, puis vous ajoutez des défenses et mesurez ce qui tient. Chaque leçon est livrée avec du code open source et un script de score à réutiliser sur vos propres applications.

Ce que vous saurez faire

• Expliquer les quatre grands types d’injection de prompt
• Construire un banc de test qui mesure le taux de réussite des attaques
• Comparer les défenses avec des chiffres, pas des suppositions

Avant de commencer

• Bases de Python
• Avoir déjà appelé une API de LLM

Programme du cours

1. Comment fonctionne l’injection de prompt: Un petit agent résumeur et un contrôle par jeton canari. Un test qui répond oui ou non : l’attaque a-t-elle marché ?.
2. Quatre attaques, trois langues: Attaques directes, indirectes, via outil et multilingues en anglais, français et arabe. Une suite d’attaques à lancer sur n’importe quelle app.
3. Défenses, mesurées: Marqueurs de données, contrôles de sortie et confirmation des outils d’écriture. Un rapport avant et après des taux de réussite des attaques.
4. Sécuriser un agent avec outils: Permissions et journal d’audit pour un agent qui lit des e-mails. Une checklist de sécurité pour vos projets.

Toutes les formations en IA et machine learning