Anthropic은 클로드가 123 오픈소스 라이브러리에서 보안 특성을 입증했다고 밝혔습니다

Anthropic은 자사의 Claude 모델이 123 개의 오픈 소스 라이브러리 전반에 걸쳐 컴파일된 코드에서 보안 속성에 대한 형식적 증명을 생성할 수 있었으며, 이는 공식적인 소프트웨어 검증을 훨씬 더 큰 규모에서 실용화하는 한 걸음이라고 설명했습니다. 2026년 10월 22일에 발표된 연구 글에서 Anthropic은 이 연구가 수년간 주목받지 못했던 버그들도 발견했다고 밝혔습니다.

증거와 맥락

Anthropic에 따르면, Claude는 프로젝트의 모델링 조건 하에서 123 라이브러리 간의 239 진입 지점이 64 MB 이하의 입력에서는 크래시되지 않는다는 것을 증명했습니다. 회사는 증명이 RISC-V 바이너리에 어셈블리 코드 수준에서 적용되었으며, RISC-V 및 Linux 프로세스 동작에 Theorem의 형식적 의미론을 사용했다고 밝혔습니다. Anthropic은 이 작업이 구글의 OSS-Fuzz 이니셔티브에서 나온 라이브러리를 포함한 실제 세계 오픈소스 소프트웨어를 포함하며, 자신들이 아는 한 어셈블리 코드 수준에서 프로덕션 소프트웨어에 형식적 검증을 적용하기 위해 AI를 대규모로 사용한 최초의 사례라고 밝혔습니다.

회사는 증명이 몇 주에 걸쳐 생성되었으며, Claude가 과정에서 발견한 버그도 패치했다고 밝혔습니다. 예시로는 드문 20 MB 입력 레이아웃으로 인해 발생한 경계 밖 쓰기, 64 MB 입력과 2 GB 이상의 메모리가 필요한 이미지 디코더에서 범위를 벗어난 읽기, 두 파일 핸들 간 특정 호출 시퀀스에 연결된 크래시, libexpat에서 CVE-2026-56132 재발견 등이 있었습니다. Anthropic은 또한 이 노력에서 소프트웨어 충돌을 일으키지 않는 논리 버그가 발견되었으며, 파일 접근 제한 기능이 항상 적용되지 않은 경우한 있다고 밝혔습니다.

회사는 증명이 조건부이며 소프트웨어가 버그가 없다는 의미는 아니라고 밝혔습니다. 자체 제한 섹션에서는 보장이 RISC-V 리눅스에서 실행되는 고정 메모리 예산의 단일 스레드 정적 바이너리 등 모델링된 가정에 의존하며, 작업이 모든 진입점이나 소프트웨어가 프로덕션에서 사용될 수 있는 모든 방식을 다루지 않는다고 밝혔습니다. Anthropic은 남은 불확실성은 신뢰할 수 있는 구성 요소들, 즉 RISC-V와 리눅스 의미론, 정리 명제, Rocq 증명 체커에 집중되어 있다고 말했습니다.

왜 중요한가

Anthropic은 이 연구를 LLM이 형식적 검증 비용을 줄일 수 있다는 증거로 제시했는데, 형식적 검증은 역사적으로 매우 전문화된 노력이 필요했고 보통 미션 중요 시스템에 국한되어 왔다. 게시물은 더 큰 모델이 일부 검증 작업에 더 적은 토큰을 필요로 했고, 공유 증명 구성 요소가 관련 프로젝트 간 중복을 줄였다고 말했다. 회사는 또한 증명의 일부를 공개할 계획이며, Theorem이 다른 오픈 소스 프로젝트에도 동일한 파이프라인을 제공할 것이라고 밝혔다.

이 연구는 공식적 검증이 테스트를 대체하기보다는 보완할 수 있음을 보여주는 산업 전반의 연구와 일치합니다. 하지만 Anthropic 자체가 지적하듯, 증명의 가치는 여전히 명세와 기계 모델이 현실과 일치하는지에 달려 있으며, 많은 배포 가정은 검증된 청구항의 범위를 벗어나 있습니다.