AI 도구 · 자동화 · 생산성
1개의 글 · #TCO분석
RTX 4090에 Llama 3.1 8B를 올려 한 달 돌렸더니 전기 요금이 4만5천원 나왔어요. GPU 감가상각까지 더하면 월 11만원 고정비가 듭니다. 같은 기간 API 청구서는 사용량에 따라 천원에서 수십만원까지 차이가 컸죠. 월 700만 토큰 이상 쓴다면 로컬이 이득이라는 …