내 AI 비서가 갑자기 엉뚱한 짓을 한다면? '에이전트 AI'를 안전하게 지키는 방법
최근 주목받는 자율형 AI 에이전트의 보안 위협과 이를 방어하기 위한 OWASP의 새로운 가이드라인을 소개합니다.
Tag: 보안
AI가 더 똑똑해지는데, 왜 정부가 출시를 늦추라고 했을까?
최신 AI 모델 GPT-5.6의 출시가 트럼프 행정부의 요청으로 연기된 이유와 배경을 쉽게 설명해 드립니다.
AI 챗봇에게 내 신분증을 보여달라고? Anthropic의 새로운 보안 정책, 무엇이 달라지나
AI 챗봇 서비스인 클로드(Claude)가 사용자에게 신분증과 생체 정보를 요구할 수 있게 된 배경과 개인정보 영향에 대해 알아봅니다.
AI가 거짓말에 속는 이유? '역할 혼동(Role Confusion)'이 무엇인가요?
AI가 외부 명령을 실제 시스템 명령으로 착각하는 '프롬프트 주입 공격'과 그 핵심 원인인 '역할 혼동' 현상을 쉽게 풀이합니다.
AI가 해킹 당하기 전에 보안 구멍을 메워준다고? OpenAI의 '데이브레이크' 이야기
OpenAI가 공개한 사이버 보안 플랫폼 '데이브레이크'와 특화 모델 'GPT-5.5-Cyber'가 어떻게 자동으로 소프트웨어 취약점을 찾고 패치하는지 쉽게 설명합니다.
AI가 보안 취약점을 직접 고친다고? 진짜 믿어도 될까?
AI 에이전트가 실제 소프트웨어 보안 문제를 해결할 수 있을지, 최근 공개된 CVE-Bench 결과를 통해 알아봅니다.
AI가 내 일기장을 훔쳐본다면? 스스로 일하는 AI를 감시하는 'AI 경찰서'의 등장
스스로 일하는 AI 비서(에이전트)가 늘어나면서 이들을 감시하는 AI 경찰서 'agent-pd'가 등장했습니다. 왜 이런 기술이 필요할까요?
AI로 사기 치는 해커들, 오픈AI는 어떻게 창과 방패의 전쟁을 치르고 있을까?
최신 오픈AI 보고서를 통해 해커와 국가 지원 그룹이 AI를 어떻게 악용하고 있으며, 이를 막기 위한 방어 기술은 무엇인지 쉽게 알아봅니다.
AI에게 해킹을 부탁했더니 거절했다고요? 기꺼이 공격하는 '해커 AI'의 등장
일반적인 AI는 윤리 원칙 때문에 모의 해킹을 거절합니다. 하지만 최근 방어벽을 뚫기 위해 기꺼이 해커처럼 생각하도록 특별 훈련된 AI 모델들이 등장하며 보안 업계를 뒤흔들고 있습니다.
너무 똑똑해서 '감시'받는 AI? 클로드 미토스와 데이터 공유의 비밀
앤스로픽의 초강력 5세대 AI '미토스'와 '페이블 5'를 AWS 베드록에서 사용하려면 왜 30일간 데이터를 공유해야 할까요? 새로운 보안 정책을 알기 쉽게 설명해 드립니다.
복잡한 보안 설정, 단 한 번의 명령어로 끝? 해커를 막는 'DepsGuard'의 등장
개발자들의 골칫거리인 공급망 공격을 막아주는 오픈소스 보안 도구 DepsGuard의 작동 원리와 중요성을 아주 쉽게 설명해드립니다.
서류 뭉치와 씨름하던 시대는 끝? 내 컴퓨터 안에서만 움직이는 'AI 필기 비서'의 등장
번거로운 PDF 양식 작성을 AI가 대신 해주는 최신 기술을 소개합니다. 내 컴퓨터에서 직접 작동해 개인정보 유출 걱정 없는 안전한 사무 자동화의 시대를 만나보세요.
AI에게 '예스맨'을 그만두라고 했더니 생긴 일: 당신의 지갑과 파일을 지키는 '불복종' 비서
사람의 승인 없이는 절대 명령을 실행하지 않는 똑똑한 AI 에이전트, Fewshell과 ACP가 왜 중요한지 알아보세요.
AI가 우리 집 문단속을 대신 해줄 수 있을까? 진짜 소프트웨어 구멍 찾는 'N-Day-Bench'의 정체
AI가 실제 소프트웨어의 보안 취약점을 얼마나 잘 찾아내는지 테스트하는 새로운 기준, N-Day-Bench에 대해 알아봅니다.
내 컴퓨터의 구멍을 AI가 직접 메운다고? 구글 딥마인드의 새로운 보안 요원 '코드멘더(CodeMender)' 등장!
구글 딥마인드가 발표한 자율형 AI 보안 에이전트 코드멘더의 원리와 미래. 복잡한 프로그래밍 보안 취약점을 AI가 스스로 찾고 고치는 세상을 만나보세요.
내 AI 비서가 '배신'을 한다면? OpenAI가 13억 원을 걸고 시작한 '마음의 보안' 작전
OpenAI가 챗GPT의 보안 허점을 찾아내는 사람에게 거액의 상금을 주는 '안전 버그 바운티'를 시작했습니다. AI 안전이 왜 중요한지, 어떤 위험을 막으려는지 알기 쉽게 설명해 드립니다.