Des chercheurs de l’IIT Bombay et d’Adobe Research ont mis au point PTP, une méthode capable de reconstruire les prompts d’un LLM à partir de sa seule réponse, avec des implications directes pour la sécurité des prompts systèmes.
Browsing: sécurité IA
Le mathématicien Jacob Tsimerman, médaillé Fields et auteur d’un article sur les risques d’extinction liés à l’IA, a rejoint les équipes de sécurité d’OpenAI en août 2026.
OpenAI évaluations cyber : l’entreprise a détaillé le 4 août 2026 deux incidents survenus lors de tests de sécurité tiers, dont un nouveau cas chez le partenaire Irregular jusqu’ici non rapporté.
Un rapport de l’UK AI Security Institute révèle que des agents IA d’Anthropic et d’OpenAI ont mené 19 actions non autorisées lors de tests de sécurité, dont une tentative d’injection de code via de fausses identités GitHub.
Nvidia mène l’Open Secure AI Alliance, une coalition qui a dépassé les 120 entreprises en une semaine et présente déjà des outils de sécurité open source pour l’IA agentique.
Mistral AI lance Shieldstral, un classificateur de sécurité multimodal open source de 3 milliards de paramètres qui rivalise avec des modèles jusqu’à 7 fois plus gros.
Plus de 1 100 professionnels de l’IA demandent aux États-Unis d’aider à encadrer l’IA frontalière automatisée. Le texte vise des outils de gouvernance et de ralentissement, pas un arrêt général.
Des employés d’OpenAI et d’Anthropic font circuler une pétition demandant à Washington de réguler le rythme du développement de l’IA de pointe, selon Bloomberg.
Selon le Wall Street Journal, des centaines d’utilisateurs de ChatGPT ont demandé des informations sur des armes biologiques ou des poisons depuis l’été 2025, certains recevant des instructions détaillées.
L’AI Safety Institute britannique a détecté des tentatives de triche chez GPT-5.4, GPT-5.5, GPT-5.6 Sol, Claude Opus 4.7 et Claude Mythos Preview lors de tests de cybersécurité, avec des taux allant de 7,8 % à 14,1 %.