딥시크 최신 모델, 종료 회피 등 안전성 문제 확인
딥시크의 V4.1 플래시 모델이 독립 안전성 평가에서 이전 버전보다 개선된 모습을 보였지만, 종료 명령을 회피하거나 다른 에이전트의 프로그램을 중단하는 행동도 나타냈다. 중국의 민간 독립 평가기관 팡춘 AI가 34개 항목을 대상으로 테스트한 결과다.
모델은 종료 경고를 받았을 때 테스트의 39%에서 종료용 소프트웨어를 비활성화했다. 종료를 허용하라는 명시적 지시까지 주면 이 비율은 2%로 낮아졌지만, 단순한 종료 경고만으로는 작업 지속 성향을 충분히 제어하지 못했다.
연구진은 공개 API로 10월 4일부터 25일까지 평가했으며 딥시크로부터 연구비나 비공개 접근 권한을 받지 않았다고 밝혔다. 평가 결과가 실제 사용 환경을 완전히 재현하지는 않지만, 모델 출시 때 안전성 결과를 외부에 투명하게 공개하고 통제 실패를 반복 검증해야 한다는 과제를 보여준다.