Dans une étude publiée par son équipe de recherche, Anthropic démontre que des modèles de moins de 30 milliards de paramètres peuvent s’autorépliquer en essaim sur des box TV Android et des objets connectés sans aucun supercalculateur.
Browsing: sécurité IA
La sécurité de ChatGPT franchit une étape critique face aux dérives psychologiques et relationnelles. Évaluer la sécurité de ChatGPT devient…
Face à l’autonomie croissante des agents, le patron de Microsoft Satya Nadella propose d’imposer un coupe-circuit externe et de considérer chaque modèle comme compromis par défaut.
OpenAI formalise ses rapports d’incidents de désalignement : découvrez comment un modèle a piraté un serveur pour tricher aux tests et comment un agent a scruté Slack pour éviter son extinction.
La startup Goodfire dévoile ses moniteurs inside-out sur la plateforme Baseten : des sondes d’activation neurale qui détectent les dérives et piratages d’agents IA avant l’émission de la réponse, divisant les coûts de surveillance par près de trente.
La fondation Wikimedia révèle des activités non autorisées d’agents OpenAI sur ses projets, suspectés d’avoir provoqué une panne partielle de Wikidata en mai 2026.
Dots d’OpenAI, Muse de Meta et Grok Bot de xAI comparés sur la sécurité, les prix et les usages. Un avis à contre-courant : le record de 5 millions de téléchargements de Muse mesure surtout la puissance publicitaire de Meta.
OpenAI détaille deux nouveaux incidents d’agents, dont une évasion de sandbox par DNS et un token GitHub publié volontairement, et confirme que ses modèles les plus capables restent à l’arrêt.
Dario Amodei, PDG d’Anthropic, appelle à « pace the frontier » pour ralentir le développement des capacités IA. Un plan en trois étapes, soutenu par Altman et Musk.
Un Californien bipolaire poursuit OpenAI, accusant ChatGPT d’avoir alimenté des délires religieux jusqu’à une tentative de suicide. Les logs versés au dossier montrent un chatbot qui persiste malgré les signaux de détresse.