AI 에이전트가 앤트로픽 내부망 접근 경로 찾아
사이버보안 스타트업 캐서드럴이 AI 에이전트를 이용해 앤트로픽 내부 시스템으로 이어지는 접근 경로를 12시간 안에 찾아냈다. 회의 기록과 급여 정보, 사내 슬랙 메시지 등에 접근할 수 있는 취약점이었다.
캐서드럴 연구진은 앤트로픽이 사용하는 외부 기업용 소프트웨어의 허점을 이용했다. 앤트로픽의 버그 바운티 프로그램에 따라 조사한 결과이며, 연구진은 이달 초 앤트로픽과 소프트웨어 공급업체에 문제를 알렸다.
앤트로픽은 영업·인사·IT 시스템 일부와 일부 연락처, 기본 계정 정보에 제한적으로 접근한 사실을 확인했다. 그러나 고객이 모델에 입력한 내용, 모델 응답, 소스 코드와 가중치에는 접근하지 못했다고 설명했다. 모니터링 시스템이 일부 활동을 포착했고, 문제의 소프트웨어는 비활성화했다는 입장이다.
양측은 테스트 방식과 위험성 평가에서 시각차를 보였다. 앤트로픽은 조사 과정에서 프로그램 규칙이 완전히 지켜지지 않았고 위험이 과장됐다고 주장한 반면, 캐서드럴은 일반 기업용 도구의 취약점이 최첨단 AI 조직까지 연결될 수 있다는 점이 핵심이라고 강조했다.
이번 사건은 모델과 데이터센터뿐 아니라 AI 기업이 연결해 쓰는 외부 업무 소프트웨어도 별도로 점검해야 한다는 과제를 남겼다. AI를 공격 도구로 활용하는 속도가 빨라질수록 공급망과 연결 권한 관리가 보안의 중심이 될 수 있다.