LLM 도구 호출 · 에이전트
언어 모델이 도구를 호출하고 실제 작업을 수행하기까지의 과정을 다룹니다. 함수 호출을 위한 모델 학습에서 출발해, 추론 파서와 SDK 미들웨어를 거쳐 코딩 에이전트 런타임으로 이어졌습니다.
모델 학습 · 아카이브
함수 호출을 잘하는 모델을 만들기 위한 초기 후속 학습 실험입니다. LoRA 학습 설정, 도구 호출 노트북, Hermes / Llama 채팅 템플릿을 담고 있으며 현재는 개발을 종료했습니다.
Python · vLLM 업스트림 반영
vLLM에서 Llama 모델의 Hermes 형식 도구 호출을 해석하는 파서입니다. 스트리밍 중 도구 호출 태그가 여러 토큰으로 나뉘는 문제를 처리했고, 구현은 vLLM에 반영되었습니다.
TypeScript · Vercel AI SDK
네이티브 함수 호출을 지원하지 않는 모델의 텍스트 출력을 구조화된 도구 호출로 바꾸는 미들웨어입니다. 모델별 형식 파싱, 스트리밍 복원, 스키마에 맞춘 인자 변환을 제공합니다.
TypeScript · 아카이브
Vercel AI SDK 위에 파일·편집·셸 도구와 대화형·헤드리스 실행을 묶은 코딩 에이전트입니다. 현재는 참고용으로 보존하며, 후속 개발은 pss-runtime으로 이어집니다.
TypeScript · Plugsuits의 후속 런타임
스레드, 모델 루프, 훅, 저장소를 담당하는 재사용 가능한 에이전트 런타임입니다. 그 위에 워크스페이스 도구, TUI, 헤드리스 실행기를 갖춘 코딩 에이전트를 분리해 구성했습니다.