RTX 30 AI 연산 제한 푸는 도구, 이미지·영상 처리량 향상
엔비디아 RTX 30 시리즈의 일부 AI 연산 제한을 해제하는 오픈소스 도구가 공개됐다. 사용자 테스트에서는 특정 이미지와 영상 생성 작업의 처리량이 최대 약 60% 늘어, 기존 그래픽카드를 AI 작업에 다시 활용할 수 있는 방법으로 관심을 모았다.
‘GPU 언락’은 암페어 기반 RTX 30의 텐서 코어에서 FP16·BF16 계산 결과를 FP32로 누적하는 연산의 처리율을 높인다. 리눅스 커널 모듈 형태로 작동하며, 펌웨어를 영구적으로 바꾸지 않고 드라이버 초기화 전에 설정을 조정하는 방식이다.
RTX 3090 Ti 행렬 곱셈 시험에서는 BF16 성능이 87.5TFLOPS에서 157.4TFLOPS로 상승했다. 실제 ComfyUI 이미지 생성에서는 모델에 따라 처리량이 56~59% 늘었고, 영상 생성 작업은 약 60% 증가했다.
효과가 모든 작업에 같은 것은 아니다. INT8 방식에서는 처리량 향상이 0.3%에 그쳤고, 언어모델이 답변을 한 토큰씩 만들어내는 단계에서도 변화가 거의 없었다. 이 단계는 텐서 연산보다 메모리 대역폭 영향을 크게 받기 때문이다.
현재 도구는 리눅스 환경과 일부 카드에 한정되며, 전력 설정과 모델 형식에 따라 결과가 달라진다. 그래픽 메모리 용량이나 대역폭을 늘리는 도구가 아니라 특정 연산의 병목을 줄이는 도구라는 점도 함께 봐야 한다.