심층 해설 · 약 4분 읽기
Anthropic 10월 안전 로드맵: 시제품, 완료된 시험과 미래 약속을 나눠 읽기
10월 19일 갱신은 인프라 목표와 제한된 레드팀 비교를 제시한다. 한 목표의 종료가 Constitution 포기를 뜻하지는 않는다.
- 원문 게시일
- 사이트 게시일
- 출처 확인일
Anthropic은 10월 19일 Frontier Safety Roadmap에 진척 보고, 새 기한과 종료한 목표를 담았다. 운영 추론의 시제품, 완료한 비교 시험과 미래 요구사항은 서로 다른 상태다. 이를 모두 현재의 위험 통제 완료 증거로 바꾸어 읽어서는 안 된다.
뉴스 듣기
이 기사를 읽어 드리거나 뉴스를 계속 재생합니다.
읽기를 준비하는 중…
기기 음성
읽기는 브라우저나 기기에서 처리합니다. AISubHub는 내용을 오디오 API로 보내지 않습니다. 사용 가능한 음성과 잠금 화면 재생은 기기에 따라 다릅니다.
계속 재생할 때 짧은 구절이 반복될 수 있습니다.
핵심 요약
- 새 데이터센터 물리 보안과 플랫폼 보안 요구는 2027년 7월 1일을 목표로 한 전체 강화의 일부이며 모두 이미 적용됐다는 선언이 아니다.
- 회사는 8개 질문과 분류기 3세대로 만든 24쌍 모두에서 최상위 인간 제출과 동급 이상, 23쌍에서 우세했다고 보고한다.
- Constitution 관련 목표는 현 형태로 종료했지만, 관련 배포 후 90일 이내 공개 Constitution 갱신 약속은 유지한다.
날짜가 붙은 갱신의 성격
출처는 10월 19일 항목을 명시한 지속 갱신 로드맵이며 신규 모델이나 개인용 제품 발표가 아니다. 보안, 보호 조치, 정렬과 정책을 구분하고 일부 운영 정보는 공개판에서 삭제했다고 설명한다. 전체판은 이사회와 Long-Term Benefit Trust를 포함한 내부에 공유한다. 책임을 살필 틀은 되지만 모든 통제를 외부가 독립 확인할 수 있는 자료는 아니다. 본 사이트는 각 항목을 별도 뉴스로 나누지 않고 하나의 거버넌스 갱신으로 센다. 10월 16일의 대화 자기 평가 연구와도 다른 사건이다.
문샷은 범용 증명이 아니라 시제품 단계
극도 보안 작업에서는 업무 흐름과 기반 시설의 시제품을 만들고 망분리 운영에 준비 기간이 긴 변경들을 조사했다고 한다. 작업 상당 부분은 생산성 비용 측정에 쓰였으며 그에 상응하는 물리 보안에 쓰이지 않았다. 격리 추론 배포는 여전히 가까운 미래 계획이고, 통제 목록은 운영에 들어가기 시작했다. 별도 추론 검증 시제품은 운영 추론에서 출력이 의도한 가중치에서 왔는지 검사한다. 내부 모든 토큰 트래픽 서명은 극히 드문 무해한 무결성 이상 한 건을 잡았다. 회사가 ‘증명 가능한 추론’ 대신 ‘추론 검증’을 쓰는 것은 토큰 흐름 무결성의 높은 확신을 목표로 한다는 뜻이지, 모든 답변의 범용 수학적 안전 증명이 아니다.
레드팀 수치에는 정확한 분모가 있다
10월 19일 갱신은 자동 레드팀 목표가 원래 기한인 2027년 1월 1일보다 일찍 완료되어 로드맵에서 제거됐다고 설명한다. 비교 대상은 4월 20일~9월 11일 생물무기 분류기 버그바운티였다. 질문 8개와 운영 분류기 3세대가 24쌍을 만들었다. 모든 쌍에서 최상위 인간 제출과 같거나 나았고 23쌍에서 이겼으며, 소요 시간은 24~48시간으로 바운티의 수주~수개월과 비교됐다. 이 한정된 비교의 회사 보고이지 인간 보안 연구 전체보다 우수하다는 증거가 아니다. 자세한 기술 글은 아직 예정이어서 외부 검증도 제한된다.
목표를 끝내도 Constitution은 유지한다
회사는 자동 정렬 평가와 해석가능성 증거가 실무에 들어갔다고 하지만, 정렬 논거의 레드팀은 계획만큼 광범위하지 않았다고 설명한다. 사후학습 데이터와 보상 표본의 체계적 감독은 기존 검토 이상의 발견이 없어 정기 실행을 중단했고, 최근 반복도 새로운 표시가 없었다. 효과적인 정렬 목표를 다시 생각하는 동안 이 목표를 현 형태로 종료했다. 관련 내부 또는 외부 배포 후 90일 이내 공개 Constitution을 최신 학습 버전에 맞추는 약속은 남는다. 새 정책 기한은 독립 평가자 내재화 제안이 2026년 12월 15일, 개발 속도 체계가 2027년 1월 15일이며 후자는 제안하지 않는 이유를 공개할 수도 있다.
남은 보안 약속을 읽는 기준
물리 목표는 감사 가능한 시설, 하드웨어 관리 이력과 침입 대응을 다룬다. 플랫폼 목표는 신뢰하지 않는 장치 격리, 증명된 실행 정책과 증명된 프런티어 컴퓨터에만 가중치 복호화 키를 주는 방식이다. 이는 희망 상태다. 2027년 7월 강화 목표는 불변 조건 최소 60%가 완전 또는 거의 구현되고 최소 80%가 대체로 구현될 것, 내부 보고와 적어도 7일의 의견 수렴을 요구한다. 회사의 자신감은 중간 수준이다. 자동 공격 조사와 포괄적 내부 감시도 2027년 1월의 미래 목표다. 본 사이트는 날짜·범위·수용 기준이 약속을 점검하기 쉽게 한다고 보지만, 모든 공격자에 대한 현재의 방어 증거로 보지는 않는다.
중요한 이유
고객과 연구자는 시험 결과, 배포 계획과 성과가 낮은 절차의 종료를 나눠 거버넌스를 추적할 수 있다. AISubHub는 내부 시스템을 감사하거나 비교를 재현하지 않았다. 개인 구독 권한이 새로 생긴다는 내용도 아니다.
제한 및 이용 가능성
일부가 삭제된 Anthropic의 공개 자술이다. 벤치마크, 자체 평가와 미래 목표는 증거의 강도가 다르다. 로드맵은 바뀔 수 있고 미래 적응형 공격자에 대한 효과도 보장하지 않는다. 10월 19일은 이 갱신 날짜이며 전체 페이지의 최초 작성일이 아니다.
출처와 근거
원문 게시일: 2026. 10. 19. · 출처 확인일: 2026. 10. 20.
AI 보조 편집 기사를 명시한 일차 출처와 대조합니다. 업체 주장은 출처를 밝히며 게재는 추천을 뜻하지 않습니다.