prismBETA
← 개발자 브리핑
2026-07-27 · 07 / 07

llm 0.32, 기본 모델 Luna로 — 임의 엔드포인트 테스트

Simon Willison의 llm 0.32rc2에서 기본값을 안 정한 사용자의 기본 모델이 GPT-4o mini에서 GPT-5.6 Luna로 바뀌었다(입력 $0.20/출력 $1.20, 더 저렴한 gpt-5-nano로 전환 가능). 새 `llm openai endpoint` 명령으로 모델을 미리 설정하지 않고도 임의의 OpenAI 호환 엔드포인트에 프롬프트·툴 호출·모델 목록을 날릴 수 있으며, uvx 원라이너로 LM Studio 같은 로컬 모델도 바로 테스트할 수 있다.

llm 0.32rc2는 RC1의 의존성 문제를 고치면서 두 가지 변화를 담았다. 첫째, 기본값을 지정하지 않은 사용자의 기본 모델이 GPT-4o mini에서 GPT-5.6 Luna로 승격됐다. Luna는 입력 $0.20·출력 $1.20으로 4o mini($0.15/$0.60)보다 약간 비싸지만 더 최신·고성능이며, `llm models default`로 gpt-4o-mini나 더 싼 gpt-5-nano($0.05/$0.40)로 되돌릴 수 있다.

둘째가 실무적으로 유용하다. 새 `llm openai endpoint` 명령은 모델을 먼저 구성하지 않고도 임의의 OpenAI Chat Completions 호환 엔드포인트에 프롬프트·채팅·모델 목록을 실행한다(이 호출은 로깅되지 않음). 설치조차 필요 없이 uvx 원라이너로 LM Studio 로컬 모델에 툴을 붙여 바로 테스트할 수 있다.

자체 호스팅 모델이나 프록시 게이트웨이를 자주 붙였다 떼는 개발자에게 검증 왕복 시간을 줄여주는 도구다.

투표
커스텀 LLM 엔드포인트, 뭘로 찔러보세요?
이 글이 도움이 되셨나요?
매주 월요일 아침 갱신 · 요약은 AI가 생성하며 출처 원문을 확인하세요.