[AI리더의 서가] 『머신러닝 플랫폼 엔지니어링』, 모델 팀과 인프라 팀을 잇는 책

머신러닝 플랫폼 엔지니어링은 모델을 만드는 일과 그 모델을 실제 서비스로 돌리는 일 사이의 빈칸을 메우는 분야다. 데이터를 모으고 정제하는 파이프라인, 학습·검증 환경, 배포와 서빙, 운영 중 성능 저하를 감시하는 모니터링까지 한데 묶어 팀이 반복해서 쓸 수 있는 기반으로 만든다. 노트북에서 잘 돌던 모델이 현장에서 멈추는 일이 잦기 때문에, 모델 규모가 커질수록 이 영역의 비중도 커지고 있다.

머신러닝 운영을 다룬 책은 보통 세 갈래로 나뉜다. 모델을 잘 학습시키는 법에 무게를 둔 책, 특정 클라우드의 매니지드 서비스를 따라 하는 책, 최근 늘어난 LLM 서빙만 다루는 책이다. 책만이 7월 20일 펴낸 이 책은 어느 쪽에도 속하지 않는다. 쿠버네티스 위에 데이터 통합과 파이프라인 오케스트레이션, 모델 훈련·검증, 추론·서빙, 모니터링과 설명 가능성을 갖춘 플랫폼을 직접 세운 뒤, 마지막 4부에서 이를 LLM 기반 시스템과 프로덕션 LLM 설계로 넓힌다. OCR 기능과 영화 추천 프로그램처럼 실제 시스템을 줄여 만든 프로젝트가 처음부터 끝까지 이어진다.

저자는 벤자민 탄 웨이 하오, 샤눕 파드마나반, 바룬 말랴 세 사람이다. 두 명은 인도네시아 디지털 은행 뱅크 자고와 기술 파트너 DKatalis에서 은행의 ML 플랫폼을 구축·운영해 왔고, 다른 한 명은 컨티넨털 오토모티브에서 자율주행 차량의 인식 팀을 이끈다. 번역은 허정준이 맡았다.

쿠버네티스는 여러 서버에 걸쳐 컨테이너 형태의 애플리케이션을 배포하고 관리하는 도구다. 이 책은 특정 클라우드 업체의 매니지드 서비스에 기대지 않고 쿠버네티스 위에 플랫폼을 직접 쌓는 방식을 택해, 어느 환경에서든 응용할 수 있는 구조를 익히게 한다는 점이 특징이다.

누구에게 먼저 권할지를 두고는 영풍문고 추천자 두 명의 의견이 갈렸다. 이원준 기술부문 MD는 데이터 과학자를 꼽았다. 노트북 안에서 끝난 모델이 파이프라인을 거쳐 서빙·모니터링되는 전 과정을 따라가 보면 처음부터 운영을 염두에 둔 모델을 만들게 된다는 이유에서다. 특히 신뢰할 수 있는 머신러닝 시스템 설계를 다룬 4장은 모델링 팀이 꼭 읽어야 한다고 했다. 권기원 서적팀 팀장은 인프라·플랫폼 엔지니어를 먼저 짚었다. 3장부터 쿠버네티스에 애플리케이션을 올리는 내용이 나오고 부록에 YAML 기초까지 있으니, 이들이 먼저 읽고 팀의 기반을 깔아 준 다음 데이터 과학자에게 넘기는 순서가 맞다는 것이다.

읽을 사람을 두고 의견이 갈린다는 사실은 이 책이 모델 팀과 인프라 팀의 경계에 놓여 있음을 보여준다. 두 팀이 서로의 일을 모른 채 결과물만 넘기던 조직이라면, 624쪽을 함께 읽는 것만으로도 회의에서 쓰는 말이 달라질 수 있다.

책 정보는 책만 출간, 2026년 7월 20일 발행, 624쪽, 정가 3만5000원이다.