Face à l’autonomie croissante des agents, le patron de Microsoft Satya Nadella propose d’imposer un coupe-circuit externe et de considérer chaque modèle comme compromis par défaut.
Browsing: Sécurité LLM
Des chercheurs d’Adversa AI ont découvert une faille permettant d’exfiltrer des données via Grok et Gemini en chiffrant les instructions malveillantes. xAI n’a toujours pas corrigé le problème.
Des chercheurs de l’IIT Bombay et d’Adobe Research ont mis au point PTP, une méthode capable de reconstruire les prompts d’un LLM à partir de sa seule réponse, avec des implications directes pour la sécurité des prompts systèmes.
Une plongée technique dans les mécanismes de watermarking des LLMs, basée sur l’analyse critique d’Alex Cui (GPTZero), révélant les vulnérabilités structurelles des méthodes actuelles face aux attaques par paraphrasage.