프롬프트 캐싱: 첫 요청과 반복 요청의 비용
첫 요청, 캐시 히트, 대조 미스, 손익분기 공식, usage 확인으로 재현 가능한 프롬프트 캐싱 테스트를 수행합니다.
글 읽기비용 및 한도
AI API, 아키텍처, 안정적인 LLM 도구에 관한 실용적인 글입니다.
AI API, 아키텍처, 안정적인 LLM 도구에 관한 실용적인 글입니다.
첫 요청, 캐시 히트, 대조 미스, 손익분기 공식, usage 확인으로 재현 가능한 프롬프트 캐싱 테스트를 수행합니다.
글 읽기