엔비디아·오라클, 에이전트용 CPU·GPU 분리 확장 인프라 제시
엔비디아와 오라클이 차세대 베라 루빈 시스템과 독립형 베라 CPU를 오라클 클라우드에 도입한다. 모델 학습·추론을 담당하는 GPU와 코드 실행, 데이터 검색, 외부 도구 호출을 담당하는 CPU를 따로 확장해 에이전트 작업에서 GPU가 대기하는 시간을 줄이겠다는 구상이다.
오라클은 CPU와 GPU 자원을 각각 늘릴 수 있는 OCI 구성을 제시하고, 신뢰할 수 없는 AI 생성 코드를 격리하는 하드웨어 기반 기능도 지원한다. 오픈AI가 초기 베라 CPU 도입 고객으로 언급됐다.
다만 CPU를 바꾼다고 모든 GPU 유휴 문제가 해결되는 것은 아니다. 데이터베이스와 원격 서비스, 애플리케이션 구조가 병목일 수도 있다. 기업은 새 칩의 이론 성능보다 실제 작업 완료율, 응답 시간, 사용률, 총비용을 함께 비교해야 한다.