블로그

지난 4월, 내부 문서 검색 RAG 시스템을 배포하기 직전에 클라우드 API 로그를 점검하다가 식은땀이 났습니다. 프롬프트에 고객 전화번호와 이메일 주소가 그대로 실려 외부 서버로 올라가고 있었거든요. RAG 보안을 검색 정확도와 환각 방지 중심으로만 생각했는데, 실무에서 진짜 무…

계약서 스크린샷을 ChatGPT에 올리면서 이름 부분을 검은 마커로 칠했습니다. 완벽하게 가렸다고 생각했죠. 그런데 ChatGPT Vision은 제가 가린 이름을 70% 이상 복원했어요. 검은색으로 덮었는데 어떻게 읽을 수 있을까요? AI 비전 모델은 픽셀 잔여와 글자 경계를 분석…