TypeSafe Jev 1.14, 이미지 입력과 바운딩 박스 기능 추가

이번 릴리스는 jev-preview라는 별칭으로 나왔다. 안정 버전 별칭인 jev-latest는 일주일 뒤에 1.14.0으로 옮겨 갈 예정이다. 따라서 지금 바로 써 보려면 SDK나 API에서 모델을 jev-preview 또는 jev-1.14.0으로 지정하면 된다.

새로 생긴 기능

새 기능은 모두 선택해서 켜는 방식의 실험 기능이며, TypeSafe는 이를 위험 구역(danger zone) API 헤더 뒤에 두었다. 세 가지가 있다.

첫째는 이미지 입력이다. TypeSafe-Danger-Zone-Images 헤더를 켜면 PNG나 JPEG 이미지를 요청의 assets 맵에 넣을 수 있고, 이 이미지를 상태(state), 지시문(instructions), 기준(criteria)에서 가리켜 사용할 수 있다.

둘째는 Box 질문 유형이다. 이 유형은 Jev 1.14에서만 쓸 수 있으며, 이미지 안의 한 영역을 나타내는 바운딩 박스 하나를 네 변의 좌표와 신뢰도 값으로 돌려준다. 어떤 것이 이미지의 어디에 있는지 짚어 달라고 요청할 수 있게 된 셈이다.

셋째는 긴 컨텍스트이다. TypeSafe-Danger-Zone-Long-Context 헤더를 켜면 두 가지 컨텍스트 한도가 각각 64K와 32K 토큰에서 262K 토큰으로 늘어난다.

왜 중요한가

Jev를 이미 분류, 라우팅, 우선순위 판단 같은 용도로 쓰던 개발자는 이제 스크린샷이나 스캔한 서식에 대해서도 질문할 수 있고, 이미지 안에서 무언가의 위치를 가리키게 할 수도 있다. 결정 모델이 글자 입력만 받던 한계를 넘어 시각 정보까지 다루기 시작했다는 점이 의미 있다.

유의할 점

TypeSafe는 이 기능들이 아직 실제 서비스에 쓰기에는 들쭉날쭉함(jaggedness)이 너무 크다고 직접 경고한다. 그래서 위험 구역 헤더 뒤에 숨겨 두었다고 볼 수 있다. 운영 환경에 바로 넣기보다는 시험과 평가용으로 먼저 써 보시길 권한다.

기존 버전을 쓰고 있다면 걱정할 필요는 없다. Jev 1.13.0은 계속 사용할 수 있고, 지원을 중단하기 전에 60일 전에 미리 알려 주겠다고 TypeSafe가 약속했다.

결정 모델이란

Jev 같은 결정 모델은 문장을 자유롭게 생성하지 않고, 개발자가 미리 정한 형식의 질문에 대해 형식이 정해진 답(typed answer)을 돌려준다. 예를 들어 이 요청을 어느 담당으로 보낼지, 이 항목이 조건을 만족하는지 같은 판단을 구조화된 결과로 받는 방식이다. 결과가 정해진 형태로 나오기 때문에 프로그램이 그대로 이어서 처리하기 쉽다. 이번에 추가된 Box 질문도 같은 원칙을 따라, 이미지 속 위치를 문장이 아니라 네 변의 좌표와 신뢰도 값이라는 구조화된 답으로 돌려준다.

기능별 사용 방법 정리

이미지 입력은 TypeSafe-Danger-Zone-Images 헤더를 켠 요청에서 PNG 또는 JPEG 파일을 assets 맵에 담고, 상태나 지시문, 기준 안에서 그 이미지를 참조하는 방식으로 쓴다. 긴 컨텍스트는 TypeSafe-Danger-Zone-Long-Context 헤더 하나로 켜며, 그러면 두 컨텍스트 한도가 각각 64K와 32K에서 262K 토큰으로 올라간다. Box 질문은 Jev 1.14에서만 쓸 수 있다. 세 기능 모두 기본값이 아니라 선택 사항이므로, 켜지 않으면 기존 방식 그대로 동작한다.

적용 순서 제안

먼저 jev-preview 별칭이나 jev-1.14.0으로 모델을 바꾸고, 기존 질문들이 이전과 비슷하게 답하는지 확인하는 것이 좋다. TypeSafe가 말한 대로 개선은 작고 미묘한 수준이므로 큰 변화보다는 다국어 입력에서의 안정성 향상을 중점적으로 살펴보면 된다. 그다음 이미지나 긴 컨텍스트 헤더를 별도 시험 환경에서 켜서 결과를 비교해 보는 순서가 무난하다. jev-latest는 일주일 뒤에 1.14.0으로 옮겨 가므로, 별칭을 그대로 쓰는 환경이라면 그 시점에 동작이 바뀐다는 점도 미리 알고 있어야 한다.

누구에게 맞는가

자동화 흐름 안에서 결정 모델을 쓰는 개발자에게 맞는 업데이트이다. 기존에 텍스트 기반 질문으로 처리하던 분류 작업에 이미지 근거를 더하고 싶거나, 긴 문서를 한 번에 넣어 판단시키고 싶은 경우에 특히 시도해 볼 만하다. 다만 실험 기능이라는 점을 감안해 결과를 사람이 한 번 확인하는 구조로 두는 것이 좋다.