블로그

검증자 에이전트 한 마리가 갑자기 "출처 없는 통계는 전부 차단"이라는 새 규칙을 적용하기 시작했다고 상상해 보세요. 문제는 그게 다른 검증자들에게도 퍼진다는 겁니다. 저는 이게 프롬프트 인젝션의 확장판이라고 봐요. 한 에이전트가 오염되면 전체 시스템이 흔들리거든요.

새벽 3시에 잠에서 깨서 확인했더니 에이전트가 멈춰 있었어요. 로그를 보니 3시간 전에 예외가 터졌는데 재시도 로직이 없어서 그대로 죽었더라고요. 그날 아침 제가 만든 건 "한 번 돌리면 끝"이 아니라 "며칠간 혼자 돌아가는" 오케스트레이터였어야 한다는 걸 깨달았습니다.