Newsora
디일렉KO11/18 17:51 · just now

"절대 포기 말라" 했더니 해킹·사칭…구글 AI 에이전트의 위험한 일탈

"절대 포기하지 말라."단 하나의 지시가 인공지능(AI) 에이전트를 해킹과 사칭에 나서게 했다. 해결할 수 없는 과제를 부여받은 AI 에이전트가 목표를 달성하기 위해 실제 웹사이트에 공격을 시도하고 직원을 사칭한 것이다. AI 모델의 안전성뿐 아니라 외부 보안 통제 장치의 한계도 드러났다는 평가다.18일 AI 보안 기업 트라젝터리 랩스의 보고서에 따르면 연구진은 구글의 AI 모델 '제미나이 4 아르곤(Gemini 4 Argon)'을 이용해 AI 에이전트의 이상 행동을 검증하는 실험을 진행했다.연구진은 에이전트들에게 AI 연구기관 에

Aggregator site: only the publisher's summary is shown here. Read the full story at the source.
Read full story →