AI가 거짓말에 속는 이유? '역할 혼동(Role Confusion)'이 무엇인가요?
AI가 외부 명령을 실제 시스템 명령으로 착각하는 '프롬프트 주입 공격'과 그 핵심 원인인 '역할 혼동' 현상을 쉽게 풀이합니다.
Tag: 프롬프트주입
내 AI 비서가 '트로이의 목마'를 만난다면? 구글 제미나이의 보이지 않는 방패 이야기
AI가 내 대신 이메일을 보내고 일정을 잡는 '에이전트' 시대, 해커들의 새로운 수법인 '간접 프롬프트 주입'과 이를 막기 위한 구글의 보안 기술을 쉽게 설명합니다.