Sécurité de l’IA

Injection de prompt et sécurité des LLM : modèles de menaces et défense en profondeur

L'injection de prompt est une catégorie permanente de risque pour la sécurité des LLM, et non une erreur de rédaction de prompt. Un guide de production consacré aux modèles de menaces, aux frontières des données, aux autorisations des outils, aux tests de régression, à la surveillance et à la réponse aux incidents.

RAG sur les connaissances d'entreprise : autorisations, fuites et périmètres des sources

Un assistant exploitant les connaissances de l'entreprise n'est sûr que si la récupération respecte les autorisations. Comment concevoir les périmètres des sources RAG, le filtrage par ACL, la responsabilité documentaire, la journalisation, la gestion des sources obsolètes et les refus ?

11 min de lecture

Ingestion sécurisée de documents pour le RAG : PDF, OCR, métadonnées et conservation

La qualité du RAG se joue avant la recherche documentaire. Ce guide couvre l’ingestion sécurisée des PDF, l’OCR, les métadonnées, les autorisations, la fraîcheur des sources, la suppression, le risque de logiciels malveillants et les responsabilités opérationnelles.

Plus de contenus sur ce thème

7 min de lecture

Webhooks Hermes : agents pilotés par événements sans méga-prompt fourre-tout

Configurez les webhooks de Hermes Agent avec une authentification adaptée au fournisseur, des contrôles de santé sur le port 8644 et de petites routes nommées, afin que les événements deviennent des exécutions ciblées avec une cible de diffusion explicite.

NemoClaw sur DGX Spark : plan de déploiement et de sécurité

Planifier et évaluer OpenClaw, Hermes ou Deep Agents Code dans NVIDIA OpenShell sur DGX Spark : procédure d’installation actuelle, couches de règles, inférence routée et preuves de réception indispensables.

8 min de lecture

OpenClaw : listes d’autorisation, appairage et sécurité des mentions de groupe

Les listes d’autorisation de canaux, l’appairage des messages privés et les règles de mention de groupe sont la véritable frontière de sécurité d’OpenClaw — parce que les outils peuvent inclure le shell, les fichiers et le navigateur. Une liste de contrôle pratique pour tout verrouiller.

9 min de lecture

Configurer une passerelle OpenClaw personnelle : installation, configuration initiale et tableau de bord

Comprendre OpenClaw, installer et configurer sa passerelle multicanal auto-hébergée, ouvrir le Control UI sur le port 18789 et utiliser une version de Node prise en charge sans négliger les bases de la sécurité.

OpenClaw : skills, autonomie du heartbeat et portes d’approbation

Comprendre le chargement des skills OpenClaw et les tours périodiques du heartbeat, contrôler l’exécution du shell de l’hôte et maintenir l’automatisation du navigateur derrière une politique restrictive et une confirmation humaine intégrée au flux de travail.

20 minutes

Autorisations et contrôle d'accès pour RAG - tutoriel approfondi

Paragon. Elle décrit le problème des autorisations dans un RAG en production et compare les appels d'outils, les espaces de noms, les tables de listes de contrôle d'accès et les autorisations fondées sur les relations. Elle appuie directement la règle centrale de l'article : la recherche ne doit restituer que les sources auxquelles l'utilisateur actuel a le droit d'accéder, et les autorisations du système source ne peuvent pas être ajoutées après coup.

69 minutes

Le paysage des agents – enseignements tirés de leur mise en production

MLOps.community. Le vice-président chargé de l'IA chez Prosus et un ingénieur en IA expliquent ce qui a réellement échoué lors du déploiement d'agents dans les entreprises du portefeuille du groupe : tests d'intrusion ciblant l'injection de prompt avant le lancement, écriture dangereuse lorsqu'un agent Jira a mal interprété une abréviation humaine, contexte périmé compensé en obligeant les agents à expliciter leurs hypothèses, et mécanismes de repli consistant à fusionner ou supprimer des agents devenus une source de charge cognitive. C'est presque le registre des défaillances de l'article rejoué sous la forme d'un retour d'incident en direct.

7 minutes

Améliorez votre RAG et vos agents d'IA avec Docling

IBM Technology. Elle présente la phase d'ingestion du RAG et des agents : préparer les PDF et autres fichiers pour préserver la structure du document, les tableaux et la mise en page jusque dans la recherche en aval. Elle confirme l'avertissement de l'article : la qualité et la sécurité d'un RAG se jouent avant la création des embeddings, surtout lorsqu'il faut analyser des documents métier complexes.

Modes de défaillance de l'IA en production : ce qui échoue après la démonstration

Les systèmes d'IA échouent généralement de manière prévisible : hallucinations, contexte obsolète, complaisance, injection de consignes, usage non sûr des outils, dérive de schéma et mécanismes de repli insuffisants. Voici un registre des modes de défaillance pour les équipes qui mettent de véritables processus en production.

Modes de déploiement de l’IA privée : local, VPC, auto-hébergé et hybride

L’IA privée ne se résume pas à une seule architecture. Cette comparaison concrète couvre les modèles locaux, le SaaS d’entreprise, les déploiements dans un VPC, l’inférence auto-hébergée et les architectures hybrides pour les PME soucieuses de la confidentialité et du contrôle.

Connecter l’IA à votre messagerie, votre calendrier et votre CRM en toute sécurité

Un guide fondé sur les risques pour connecter l’IA à la messagerie, au calendrier et au CRM : droits minimaux, étapes d’approbation, preuves d’audit protégées, tests négatifs et procédures de reprise.

8 min de lecture

Protection de la vie privée et hygiène des données lors de l'utilisation de l'IA au travail

Un guide pratique pour réduire les risques liés à la vie privée et à la confidentialité lors de l'utilisation de l'IA au travail. Avant de coller des données, vérifiez le produit, l'offre, la configuration, les données et les règles applicables.

Débutant

25 minutes

Le Top 10 des attaques contre les LLM selon l’OWASP : les vulnérabilités de l’IA révélées

IBM Technology. La vidéo élargit la perspective au-delà de l’injection de prompt et présente les 10 principales vulnérabilités des LLM selon l’OWASP : traitement non sécurisé des sorties, divulgation d’informations sensibles et autonomie excessive. C’est précisément le catalogue de modes de défaillance à garder à l’esprit avant d’accorder à un outil des droits d’accès à Gmail ou à HubSpot.

11 minutes

Qu'est-ce qu'une attaque d'injection de prompt ?

IBM Technology. L’exemple de Jeff Crume, « achetez un SUV pour 1 $ », explique en 10 minutes et avec une grande clarté pourquoi les injections de prompt directes et indirectes constituent deux problèmes différents, et pourquoi le filtrage ne peut résoudre complètement ni l’un ni l’autre. Il rejoint directement l’argument de l’article : il faut des portées limitées au strict nécessaire, un compte d’agent dédié et une validation humaine pour toute action irréversible, pas simplement un prompt système plus ingénieux.

13 minutes

Attaquer les LLM - Injection de prompt

LiveOverflow. Elle présente l'injection de prompt comme une attaque classique contre un système qui mélange instructions et données non fiables. Un exemple concret montre comment, dans un dispositif de modération de contenu, un attaquant peut faire accuser un utilisateur innocent. Passer de « le modèle est la cible » à « l'application est la cible » constitue précisément le changement de perspective qui ouvre l'article.

17 minutes

Défendre les LLM - Injection de prompt

LiveOverflow. Elle détaille les véritables couches de défense : analyse de propagation des données non fiables dans les sorties du LLM, restriction du format de sortie, isolement des utilisateurs, exemples de référence, ajustement fin, température réglée sur 0 pour renforcer le déterminisme et contrôles redondants sur les chemins critiques. Elle correspond presque point par point à la section de l'article consacrée à la pile de défense.