AI 도구 · 자동화 · 생산성
1개의 글 · #배치 처리
500개 프롬프트를 동기 루프로 돌렸더니 6시간이 걸렸어요. 토큰 비용은 똑같이 나가는데 시간만 낭비한 셈이죠. 배치 API로 바꾸니 제출 후 결과만 받으면 끝이었습니다. 이 글을 읽고 나면 대량 요청을 구성하고, 폴링 루프를 직접 짜고, 부분 실패를 재처리하는 방법을 알게 될 거예요.