AI 도구 · 자동화 · 생산성
1개의 글 · #멀티에이전트시스템
검증자 에이전트 한 마리가 갑자기 "출처 없는 통계는 전부 차단"이라는 새 규칙을 적용하기 시작했다고 상상해 보세요. 문제는 그게 다른 검증자들에게도 퍼진다는 겁니다. 저는 이게 프롬프트 인젝션의 확장판이라고 봐요. 한 에이전트가 오염되면 전체 시스템이 흔들리거든요.