불러오는 중…
AI 도구 · 자동화 · 생산성
3개의 글 · #비용 최적화
500개 프롬프트를 동기 루프로 돌렸더니 6시간이 걸렸어요. 토큰 비용은 똑같이 나가는데 시간만 낭비한 셈이죠. 배치 API로 바꾸니 제출 후 결과만 받으면 끝이었습니다. 이 글을 읽고 나면 대량 요청을 구성하고, 폴링 루프를 직접 짜고, 부분 실패를 재처리하는 방법을 알게 될 거예요.
#LLM API #웹검색 #토큰 비용 #자동화 #비용 최적화웹검색 내장 LLM API, 토큰 87%가 버려진다는 실측 — 직접 조립과 비용 비교r/OpenAI에 올라온 한 개발자 측정 보고가 눈길을 끌었어요. OpenAI의 웹검색 내장 API가 주입한 컨텍스트 토큰 중 약 87%가 최종 답변에 쓰이지 않았다는 겁니다. 제가 직접 써본 경험으로도 내장 웹검색은 편하지만 비용 투명성이 떨어진다는 느낌이 있었는데, 이 수치를 …
#Sonnet 5 #토큰 효율 #비용 최적화 #Claude 가격 #모델 선택Sonnet 5 할인가 함정 — 토큰 2배 생성으로 실비용이 Opus 4.8과 같아지는 이유Sonnet 5 할인가를 보고 바로 구독했더니 첫 주말에 예산이 터졌어요. 같은 코드 리뷰를 Opus 4.8로 돌렸을 때보다 청구액이 거의 같았거든요. 할인가는 분명 절반인데 왜일까요?