블로그

r/OpenAI에 올라온 한 개발자 측정 보고가 눈길을 끌었어요. OpenAI의 웹검색 내장 API가 주입한 컨텍스트 토큰 중 약 87%가 최종 답변에 쓰이지 않았다는 겁니다. 제가 직접 써본 경험으로도 내장 웹검색은 편하지만 비용 투명성이 떨어진다는 느낌이 있었는데, 이 수치를 …

지난 4월, 내부 문서 검색 RAG 시스템을 배포하기 직전에 클라우드 API 로그를 점검하다가 식은땀이 났습니다. 프롬프트에 고객 전화번호와 이메일 주소가 그대로 실려 외부 서버로 올라가고 있었거든요. RAG 보안을 검색 정확도와 환각 방지 중심으로만 생각했는데, 실무에서 진짜 무…

지난주에 회계 소프트웨어로 경비 정리를 했어요. 로그인하고, 메뉴 두 번 클릭하고, 필터 설정하고, 내보내기 옵션 선택하고, 확인 누르고. 5분쯤 걸렸죠. 그런데 이런 생각이 들더라고요. "왜 이렇게 느리지? 이거 깨진 거 아냐?"

지난 4개월간 블로그 자동발행과 유튜브 쇼츠 파이프라인을 돌리면서 자동화가 깨진 횟수를 세어봤어요. 총 127번 실행 중 38번 실패. 실패율 29.9%입니다. 자동화 도구는 '완전 자동'이라 홍보하지만 실무에선 30% 실패가 정상이에요. 저는 이게 오류가 아니라 설계 문제라고 생…

매달 말이 되면 책상 한쪽에 영수증이 쌓입니다. 택시비, 커피값, 주유비까지 일일이 엑셀에 옮기는 작업은 늘 미루게 되죠. 그러다 3월에 Claude Vision을 처음 써봤는데, 놀랍게도 한글 영수증을 거의 완벽하게 읽어냈어요. 그 후 4개월간 월평균 300장의 영수증을 자동 분…

지난주 목요일 저녁 9시, 레거시 코드 리팩토링 작업을 Claude에게 맡기고 퇴근했어요. 다음날 아침 출근해 확인하니 PR이 올라와 있었고, 테스트도 다 통과했습니다. 결과물은 훌륭했는데 이상한 감정이 들더라고요. 뭔가 중요한 걸 놓친 것 같은 찜찜함이요. 제 생각엔 이게 단순한…