Vercel이 파이썬용 AI SDK 최신판을 내며 실험적 evaluate() API로 Jev를 직접 호출할 수 있게 했다. Jev는 데이터와 객관식 질문을 주면 각 답과 확신도를 돌려주는 분류기형 모델로, LLM을 바탕으로 하지만 작업마다 새로 데이터를 모아 학습시킬 필요 없이 값싸고 빠르게 구조화된 JSON을 낸다. uv add ai로 설치하고 AI Gateway 키를 설정한 뒤 get_model("typesafe-ai/jev")로 쓴다.
고전 머신러닝의 분류기는 작업마다 라벨링된 데이터를 모아 가중치를 다시 학습시켜야 했다. Jev는 이미 넓은 지식으로 학습된 LLM을 분류기처럼 동작하게 만들어, 도메인별 재학습 없이 다지선다 질문에 답과 신뢰도를 반환한다. 분류기답게 값싸고 빠르며, 틀릴 때도 빠르게 틀린다는 게 설계 전제다.
Vercel 파이썬 팀의 역할은 파이썬 개발자가 Jev를 쉽게 붙이게 하는 것으로, 이번 AI SDK 릴리스에 실험적 evaluate() API를 넣었다. uv add ai로 설치하고 AI Gateway 키(AI_GATEWAY_API_KEY)를 설정한 뒤, ChoiceQuestion에 질문과 선택지를 주면 각 항목에 대한 판정을 돌려준다.
정확도가 용도에 맞는지는 직접 테스트해야 하지만, 좁은 판단을 LLM 프롬프트로 즉흥 처리하던 코드를 구조화된 분류 호출로 정리하려는 팀에게는 바로 시험해 볼 수 있는 선택지다.