#레드팀

프롬프트 인젝션, 공격자는 실제로 이렇게 뚫는다: AI 레드팀 관점 공격 시나리오

프롬프트 인젝션은 OWASP LLM 위협 1위(LLM01)입니다. 방어자는 설마 되겠어라고 넘기지만, 레드팀이 찔러보면 상담봇 시스템 프롬프트가 새고 문서에 숨긴 명령이 실행됩니다. 공격자가 실제로 뚫는 직접·간접 주입 방식과 상담봇 유출·문서요약봇·에이전트 …