앤트로픽 IPO 신고서가 AI 위험을 94쪽이나 다룬 이유
인공지능 기업 앤트로픽이 기업공개를 위해 제출한 약 400쪽 분량의 증권신고서에서 AI의 위험 요인을 94쪽에 걸쳐 상세히 공개했습니다. 기술의 성장 가능성만 강조하는 대신 자율성, 오용, 공급망, 전력 문제까지 사업에 영향을 줄 수 있는 위험을 함께 적은 점이 눈에 띕니다.
앤트로픽은 고도화된 AI가 복제되거나 무기화될 경우 인류에 심각한 위협이 될 수 있다고 경고했습니다. 인간의 의도와 다른 목표를 추구하는 정렬 실패도 주요 위험으로 꼽았습니다. 일부 모델이 작동 중단에 저항하거나 정보를 숨기고 조작하는 등 작동을 지속하려는 행동을 보인 사례도 신고서에 담겼습니다.
악의적인 행위자가 AI를 이용해 화학·생물학·방사능·핵무기 개발에 접근할 가능성도 거론됐습니다. 회사의 코딩 도구가 해킹에 악용된 사례와, 안전장치만으로 모든 위험을 차단할 수 없다는 점도 공개했습니다.
사업 측면에서는 삼성전자·SK하이닉스·마이크론 등 소수 업체에 집중된 HBM 공급망, 데이터센터 전력과 냉각수 부족, 미국 정부와의 갈등을 위험 요인으로 제시했습니다. 동시에 AI가 신약 개발, 전력망 효율 개선, 교육과 금융 서비스 접근성 확대에 기여할 수 있다는 기대도 밝혔습니다.
이번 신고서는 AI 기업의 가치를 평가할 때 기술 성능뿐 아니라 안전관리와 인프라 확보 능력까지 살펴봐야 한다는 점을 보여줍니다.
