AI 워터마킹은 '생성'과 '편집'을 못 가른다 — 번역도 기계 생성으로 표시되는 정책의 구멍
한국어로 3000자 기획서를 쓴 뒤 Claude에 영문 번역을 맡깁니다. 아이디어·구조·논리는 전부 제가 만들었어요. 하지만 영문 단어 선택은 모델이 했죠. 이 결과물이 "AI 생성물"로 표시되면, 독자는 내가 쓴 기획서를 기계가 만든 텍스트로 봅니다. 저는 이게 AI 워터마킹 정책의 가장 큰 맹점이라고 생각해요. 표시 기술이 기여도를 측정하지 못하기 때문이거든요.
표시제가 보호하려는 건 투명성일까, 책임 소재일까?
AI 생성물 표시 의무의 목적은 뭘까요? 제 생각엔 크게 셋입니다. 첫째, 소비자가 내용의 출처를 알 권리. 둘째, 문제 발생 시 책임 소재 추적. 셋째, 기계 생성 콘텐츠 남용 방지죠.
정책 문서를 읽은 사용자 보고에 따르면 Anthropic은 FAQ에서 워터마킹의 한계를 직접 인정했다고 합니다. 모델이 텍스트를 처음부터 생성했는지, 사람이 쓴 걸 모델이 편집했는지 구분하지 못한다는 거예요. 통계적으로 단어를 선택한 흔적만 탐지할 뿐, 누가 얼마나 기여했는지는 알 수 없습니다.
제가 한국어 초안을 쓸 때 맞춤법 교정에 AI를 씁니다. 동의어 몇 개 바꾸는 수준이에요. 그걸 영문으로 번역하면 영문 단어 100%가 모델 선택이죠. 원문은 제 머리에서 나왔지만 표시 기술은 이 차이를 포착하지 못해요. 투명성도 책임 소재도 보호하지 못하는 표시가 과연 유효한 걸까요?
번역은 "형태 변환"이지 "생성"이 아니다
저는 번역을 생성이 아니라 형태 변환으로 봅니다. 내용은 그대로인데 언어만 바뀌는 거거든요. 하지만 워터마킹 정책은 이걸 생성으로 간주해요. 모델이 단어를 골랐다는 통계적 사실만으로 표시 대상이 되니까요.
실무에서 이 구분이 흐려지면 혼란이 생깁니다. 제 주변엔 한국어 문서를 AI로 영문 번역하는 분이 많아요. 회의록·제안서·기술문서가 전부 "AI 생성물"로 표시되면 표시 의미가 희석되죠. 독자 입장에선 "AI가 관여했다"는 사실만 알 뿐, 관여 정도는 전혀 알 수 없거든요.
현재 사용 가능한 Claude 모델은 정책 기준일보다 먼저 출시됐기 때문에 워터마크가 없다고 합니다. 검증 API도 발표만 됐을 뿐 아직 제공되지 않고요. 그래서 지금 당장은 제 번역글에 표시가 찍힐 일은 없어요. 하지만 이건 시간문제일 뿐, 정책이 실무를 따라잡지 못한 건 그대로입니다.
표시 의무는 선택할 문제가 아니지만, 기술은 목적을 못 따라간다
누군가는 이렇게 물을 거예요. "AI가 관여했으면 표시하는 게 투명하지 않나요?" 투명성은 맞는데, 관여 정도가 천차만별입니다. 맞춤법 교정과 전체 생성이 같은 "AI 생성물"로 묶이면 표시 의미를 판단할 수 없어요.
"나중에 검증 도구가 나오면 구분되지 않을까요?"라는 반론도 있을 겁니다. 하지만 Anthropic 스스로 생성과 편집 구분이 기술적으로 안 된다고 FAQ에 적어뒀다고 하더라고요. 도구가 나와도 한계는 그대로일 겁니다.
그럼 워터마킹을 안 쓰면 되지 않냐고요? 표시 의무는 법령이라 선택할 문제가 아닙니다. 제 생각엔 입법 당시 번역·교정 같은 보조 작업까지 포함될 줄 예상하지 못한 것 같아요. 기술이 목적을 따라가지 못하는 상황에서 실무자는 혼란만 떠안게 됐죠.
실무에서 할 수 있는 건 맥락을 직접 밝히는 것뿐
워터마크는 사용 여부만 알려줄 뿐, 역할과 정도는 말해주지 않습니다. 정책이 바뀌기 전까지 우린 스스로 맥락을 밝혀야 해요.
저는 영문 번역글 말미에 "원문 한국어, Claude 번역"을 추가하기로 했습니다. 독자가 알 권리가 있으니까요. 표시제가 기여도를 측정하지 못한다면, 저라도 그 빈틈을 메워야겠다고 생각했어요. AI는 제 작업의 도구였지 공저자가 아니거든요. 맥락을 명시하는 게 지금으로선 가장 정직한 대응이라고 봅니다.
자주 묻는 질문
Q. 사내 문서에 AI 번역 사용을 어떻게 표기해야 하나요?
A. 문서 말미에 "원문 작성: [이름], AI 번역: [서비스명]" 형식으로 명시하세요. 나중에 오해 소지를 줄입니다.
Q. 워터마크 없이 AI로 번역한 과거 결과물은 어떻게 하나요?
A. 중요한 문서라면 메타데이터나 이력에 번역 경위를 남겨두세요. 아카이브 문서엔 짧은 주석 추가가 효과적입니다.
Q. 워터마킹 시행 전에 미리 준비할 게 있나요?
A. AI 사용 내역을 간단한 로그로 남겨두세요. 검증이나 분쟁 시 근거가 됩니다. 팀 차원 가이드라인 수립도 도움이 돼요.
Q. 번역에 AI를 썼다는 걸 나중에 증명하려면 어떻게 하나요?
A. 원본 파일과 번역 요청 기록을 함께 보관하세요. 버전 관리 커밋이나 사용 로그 스크린샷이 효과적입니다.
Q. 다른 사람이 내 번역글을 "AI가 쓴 것"으로 오해하면 어떡하죠?
A. 원문과 번역 경위를 함께 제시하세요. 한국어 초안을 보여주고 번역만 AI를 썼다고 설명하면 됩니다.