알트먼, AGI 독점과 GPU 파괴 시나리오를 ‘끔찍하다’고 평가
샘 알트먼 오픈AI CEO가 한 기업이 AGI를 먼저 만든 뒤 경쟁사의 GPU를 파괴해 추격을 막는 극단적인 시나리오를 직원들에게 설명했다. 그는 이 구상을 안전 확보 방안 중 하나로 소개하면서도 그런 미래는 “끔찍하다”고 평가한 것으로 전해졌다.
시나리오는 AI가 재귀적 자기개선에 성공해 막대한 경제력을 얻고, 그 힘으로 다른 조직의 AI 개발에 필요한 칩을 없애는 내용이다. 기술 경쟁을 막고 초지능 개발 능력을 한 곳에 집중하면 위험한 AI의 등장을 통제할 수 있다는 논리지만, 단일 기업에 권력이 몰린다는 문제가 생긴다.
알트먼은 이를 기존 AI 종말론 논의에서 나온 ‘엘라이저 플랜’으로 설명했다. 자신이 새로운 독점 계획을 제시한 것은 아니며 오픈AI가 경쟁사의 GPU를 파괴할 것이라고 지목한 것도 아니라는 점이 함께 전해졌다.
그가 거론한 다른 선택지는 국제원자력기구와 비슷한 국제 감독기구를 만드는 방안과 주요 연구소를 공동 기관으로 묶는 방안이다. 그러나 국제 합의와 영리기업 간 이해 조정이라는 현실적인 장벽이 있다.
알트먼은 스스로 성능을 높이는 AI에 개발 속도 제한과 중단 기준을 두는 ‘페이싱 2.0’ 논의도 언급했다. 발언의 핵심은 GPU 파괴를 지지하는 데 있기보다, AGI가 등장할 때 누가 통제권을 갖고 어떤 안전장치를 적용할지에 대한 선택지를 검토했다는 데 있다.