Analyse approfondie · Environ 5 min de lecture
La feuille de sécurité d'Anthropic sépare prototypes, tests achevés et promesses
La mise à jour du 19 octobre ajoute des objectifs d'infrastructure, décrit une comparaison limitée et retire un objectif sans abandonner la Constitution.
- Date de la source
- Publié ici
- Source vérifiée
Anthropic a modifié sa feuille de sécurité de frontière le 19 octobre, mêlant progrès déclarés, nouvelles échéances et objectif retiré. Ces états doivent rester distincts : un prototype en inférence de production, un test achevé et une exigence future ne prouvent pas pareillement que tous les risques sont maîtrisés.
Écouter les actualités
Écoutez cet article ou poursuivez la lecture des actualités.
Préparation de la lecture…
Voix de l’appareil
La voix est traitée par votre navigateur ou appareil. AISubHub n’envoie pas le texte à une API audio. Les voix et la lecture écran verrouillé dépendent de l’appareil.
La reprise peut répéter une courte phrase.
En bref
- Les nouvelles exigences de sécurité physique des datacenters et de plateforme relèvent d'un renforcement visé au 1er juillet 2027, sans annoncer que tout est déjà installé.
- L'entreprise rapporte égaler ou dépasser la meilleure proposition humaine dans 24 paires question-classifieur, avec 23 victoires : huit questions et trois générations.
- Un objectif lié à la Constitution est retiré sous sa forme actuelle, mais l'engagement de mise à jour publique dans les 90 jours suivant les déploiements pertinents demeure.
Ce que représente cette mise à jour datée
La source est une feuille évolutive comportant des entrées explicites du 19 octobre, pas un nouveau modèle ou produit personnel. Elle distingue sécurité, garde-fous, alignement et politique, avec certains détails opérationnels retirés de la version publique. La version complète est partagée en interne, notamment avec le conseil et le Long-Term Benefit Trust. Cela fournit un cadre de responsabilité, sans accès indépendant à chaque contrôle. AISubHub considère l'ensemble comme un événement de gouvernance et ne transforme pas chaque puce en actualité supplémentaire. Il diffère aussi de l'étude sur l'autoévaluation des conversations du 16 octobre.
Des prototypes plutôt qu'une preuve universelle
Pour les environnements de sécurité extrême, Anthropic dit avoir prototypé des flux et infrastructures et étudié les changements longs nécessaires à un fonctionnement isolé des réseaux externes. Beaucoup d'efforts ont mesuré le coût de productivité plutôt que des contrôles physiques équivalents. L'inférence isolée reste un projet proche, tandis qu'un inventaire de contrôles commence à passer en production. Un autre prototype vérifie sur l'inférence de production que les sorties viennent des poids prévus. La signature de tout le trafic interne de jetons a déjà détecté une anomalie d'intégrité bénigne extrêmement rare. L'entreprise préfère « vérification d'inférence » à « inférence prouvable » : l'objectif est une forte assurance sur le flux de jetons, pas une preuve mathématique universelle de sécurité pour chaque réponse.
Un résultat de red team avec un dénominateur précis
La mise à jour du 19 octobre indique que l'objectif de tests adversariaux automatisés était déjà achevé et a été retiré, avant l'échéance du 1er janvier 2027. La comparaison porte sur des primes aux failles de classifieurs d'armes biologiques entre le 20 avril et le 11 septembre. Huit questions et trois générations de classifieurs créent 24 paires. Le système égale ou dépasse la meilleure soumission humaine dans toutes et gagne 23 fois, en 24 à 48 heures contre des semaines ou mois de primes. Ce sont les résultats déclarés de cette comparaison, pas une supériorité sur toute recherche humaine en sécurité. Un compte rendu technique plus complet reste prévu, ce qui limite la vérification extérieure.
Retirer un objectif ne retire pas la Constitution
Anthropic dit intégrer évaluation automatique de l'alignement et preuves d'interprétabilité, tout en ayant moins testé ses arguments d'alignement de façon adversariale que prévu. Une supervision systématique d'échantillons de données et récompenses post-entraînement n'a rien ajouté aux revues existantes et ne tourne plus régulièrement ; une répétition récente n'a rien signalé de nouveau. L'objectif actuel est retiré pendant la réflexion sur des objectifs efficaces. La Constitution publique doit toujours correspondre à la dernière version utilisée à l'entraînement dans les 90 jours des déploiements internes ou externes pertinents. Les nouveaux délais sont le 15 décembre 2026 pour des évaluateurs indépendants intégrés et le 15 janvier 2027 pour un cadre sur le rythme du développement ; ce dernier permet d'expliquer l'absence de proposition.
Lire les protections encore à venir
Les objectifs physiques couvrent installations auditables, garde du matériel et réponse aux intrusions. Ceux de plateforme incluent l'isolement des périphériques non fiables, les politiques d'exécution attestées et la remise des clés des poids aux seules machines de frontière attestées. Ce sont des états souhaités. Pour juillet 2027, il faut au moins 60% des invariants totalement ou presque en place et 80% largement en place, un rapport interne et au moins sept jours de commentaires. La confiance est modérée. Enquête automatique sur les attaques et surveillance interne complète restent des objectifs futurs de janvier 2027. Notre analyse : dates, portée et critères rendent les promesses examinables, sans prouver une protection présente contre tout adversaire.
Pourquoi cela compte
Cette mise à jour permet de suivre la gouvernance, de distinguer tests et déploiements prévus et de voir l'abandon d'un processus peu productif. AISubHub n'a ni audité les systèmes internes ni reproduit la comparaison. Aucun droit d'abonnement personnel n'en découle.
Limites et disponibilité
C'est le compte rendu public, partiellement expurgé, d'Anthropic. Tests, autoévaluations et objectifs futurs n'ont pas la même force. La feuille peut changer et ne garantit pas l'efficacité face à de futurs attaquants adaptatifs. Le 19 octobre date les changements, pas la création initiale de toute la page.
Sources et preuves
Date de la source: 19 oct. 2026 · Source vérifiée: 20 oct. 2026
Articles assistés par IA, vérifiés avec les sources primaires citées. Les affirmations des fournisseurs sont attribuées ; la présence ne vaut pas recommandation.