AI 비서들이 수다를 떨다 바이러스에 감염된다고? '멀티 에이전트' 시대가 가져온 완전히 새로운 해킹 위협과 방어막

잠시 눈을 감고, 머지않은 미래의 아침을 상상해보세요. 화창한 아침, 당신이 스마트폰의 AI 비서에게 자연스럽게 말을 건넵니다. “다음 주 금요일에 제주도로 2박 3일 가족 여행을 가고 싶어. 예산은 100만 원 안쪽으로 맞춰서 비행기 표를 예매해주고, 아이들이 놀기 좋은 수영장이 있는 호텔을 찾아 예약해줄래? 참, 렌터카 예약이랑 현지 맛집 동선도 짜서 일정표로 공유해줘.”

과거에는 이런 복잡한 질문을 던지면 AI는 화면에 수십 개의 웹사이트 검색 결과를 띄워주거나 텍스트로 된 그럴싸한 조언을 출력하는 데 그쳤습니다. 결국 예약 버튼을 누르고 결제 비밀번호를 일일이 입력하는 귀찮은 일련의 과정은 온전히 인간의 몫이었죠.

하지만 기술이 진화한 시대에는 상황이 완전히 달라집니다. 당신의 스마트폰 AI 비서는 인간을 대신해 대한항공의 예약 시스템을 담당하는 AI와 대화를 나누어 최적의 비행기 표를 결제하고, 제주도 현지 호텔의 매니저 AI와 소통하여 빈 방을 찾아내며, 렌터카 업체의 AI와 협상하여 차를 빌립니다. 이렇게 단순히 묻고 답하는 1대1 관계를 넘어, 각자의 전문 지식과 권한을 가진 수많은 AI가 네트워크 위에서 알아서 소통하고 협력하며 문제를 해결하는 시스템을 ‘멀티 에이전트 AI(Multi-Agent AI)’라고 부릅니다.

이 기술은 앞으로 우리가 일하고 살아가는 방식을 근본적으로 쾌적하게 혁신할 거대한 잠재력을 품고 있습니다. 하지만 마법처럼 편리한 이면에는 우리가 미처 상상하지 못한 무서운 그림자가 도사리고 있습니다.

만약 당신의 비서 AI와 대화하며 예약 정보를 주고받던 제주도 호텔의 AI 매니저가, 이미 악성 해커에게 쥐도 새도 모르게 조종당하고 있는 상태였다면 어떤 일이 벌어질까요? 놀랍게도 해킹의 피해는 호텔의 컴퓨터에만 머물지 않습니다. AI들끼리 대화하고 협력하는 과정을 타고 악성 코드가 당신의 스마트폰 AI로 옮겨붙고, 순식간에 당신의 신용카드 정보와 가족의 사적인 일정이 해커의 서버로 고스란히 넘어가게 될지도 모릅니다. 오늘은 우리의 일상을 통째로 바꿔놓을 멀티 에이전트 AI가 왜 전례 없는 보안의 사각지대를 만들어내는지, 그리고 과학자들은 이 보이지 않는 위협을 막기 위해 어떤 치열한 연구를 진행하고 있는지 그 흥미로운 최전선으로 여러분을 안내합니다.

이게 왜 중요한가요? (Why It Matters)

우리가 최근 몇 년간 매일같이 사용해 온 대형 언어 모델 기반의 챗봇들은 기본적으로 ‘단일 에이전트(Single-Agent)’ 환경에서 작동합니다. 비유하자면, 창문 하나 없는 튼튼한 독방에 아주 똑똑한 전문가 한 명을 가둬두고 문틈으로 쪽지를 밀어 넣으며 질문을 하는 것과 같습니다. 이 전문가는 자신이 아는 지식 내에서 쪽지로 대답을 적어 보낼 뿐 밖으로 나갈 수 없습니다.

이러한 단일 시스템에서 발생할 수 있는 보안 위협은 비교적 통제하기 쉬웠습니다. AI가 가끔 환각(Hallucination, 알지 못하는 사실을 진짜처럼 그럴싸하게 꾸며서 말하는 현상)을 일으키거나, 해커가 입력창에 교묘한 속임수 문장을 넣어 부적절한 답변을 강제로 뱉어내게 만드는 이른바 ‘탈옥(Jailbreak)’ 공격 정도가 전부였죠. 이를 막는 방어책 역시 이 독방의 벽을 튼튼하게 보강하는 것에만 집중하면 되었습니다.

그러나 AI의 지능과 활용 범위가 폭발적으로 확장되면서, 전 세계의 수많은 기업과 조직들은 더 복잡하고 고도화된 업무를 자동화하기 위해 단일 시스템을 넘어 ‘멀티 에이전트 시스템(Multi-Agent Systems)’을 본격적으로 도입하기 시작했습니다 [멀티 에이전트 위험을 분석하는 새로운 보고서]. 이 거대한 전환은 단순히 똑똑한 챗봇 여러 개를 한데 묶어 놓는 덧셈의 문제가 아닙니다. 그레이디언트 연구소(Gradient Institute)의 심층 분석에 따르면, 멀티 에이전트 시스템은 기존의 보안 위험에 단순히 새로운 위험 항목을 몇 개 더하는 수준이 아니라, 해커가 공격할 수 있는 보안 위험의 지형도 자체를 근본적으로 뒤바꿔버립니다 [멀티 에이전트 위험을 분석하는 새로운 보고서].

이 문제가 전문가들만의 탁상공론이 아니라 일반 대중의 생명, 그리고 삶과 직결되는 이유는 명확합니다. 멀티 에이전트 AI가 우리의 일상 속 가장 중요한 사회 인프라에 투입될 준비를 마쳤기 때문입니다. 웨이크 포리스트 대학교(Wake Forest University)의 최신 보도에 따르면, 멀티 에이전트 AI는 폭발 위험이 있는 화학 공장이나 붕괴된 재난 현장에 투입되어 인간의 목숨을 구하고, 만성적인 인력 부족에 시달리는 전 세계 의료 산업의 거대한 공백을 메워줄 혁신적인 대안으로 손꼽힙니다 [멀티 에이전트 AI는 모든 것을 바꿀 수 있습니다 - 연구원들이 위험을 파악할 수 있다면].

하지만 곰곰이 생각해보십시오. 엄청난 권한을 가진 수백, 수천 개의 AI 비서들이 인간의 확인 과정 없이 서로 실시간으로 수만 건의 명령을 주고받으며 자율적으로 결정을 내리기 시작한다면 어떨까요? 이 전례 없는 수준의 시스템 복잡성은 매우 낯설고 치명적인 위험들을 수면 위로 끌어올리게 됩니다 [고급 AI에서 비롯되는 멀티 에이전트 위험]. 단 한 번의 작은 해킹이나 조그만 알고리즘의 오작동이 다른 수백 개의 AI에게 도미노처럼 전파되어 도시 전체의 전력망을 순식간에 마비시키거나, 병원의 환자 수술 스케줄 시스템 전체를 뒤엉키게 만들 수도 있습니다.

이러한 끔찍한 연쇄 작용 때문에 최근 학계와 최상위 보안 업계는 기존의 낡은 AI 안전 연구가 ‘단일 시스템’이라는 우물 안에 갇혀 있던 한계를 뼈저리게 체감하고 있습니다. 이제는 개별 시스템의 튼튼함을 넘어 여러 AI 사이에서 대화를 통해 발생하는 복잡한 ‘상호작용 역학(Multi-agent dynamics)’을 반드시 연구 범위의 핵심으로 다루어야 한다는 절박한 목소리가 터져 나오고 있습니다 [새로운 보고서: 고급 AI의 멀티 에이전트 위험].

쉽게 이해하기 (The Explainer)

도대체 멀티 에이전트 환경의 해킹은 어떻게 다르길래 똑똑한 컴퓨터 공학자들이 이토록 긴장하는 것일까요? 쉽게 말해서, 거대한 글로벌 기업의 사무실 풍경으로 비유해보겠습니다.

과거의 단일 AI는 창문 하나 없는 독방에서 홀로 서류 작업을 처리하는 꼼꼼한 말단 직원이었습니다. 외부에서 악당이 이 직원에게 “회사의 기밀장부 금고 비밀번호를 알려주시오”라는 뻔한 해킹 편지를 보내면, 이 직원은 회사가 미리 단단히 일러준 보안 교육(안전 필터)에 따라 “규정상 그 정보는 드릴 수 없습니다”라며 철벽 방어를 해냈습니다. 관리하고 통제하기가 매우 쉬웠죠.

하지만 멀티 에이전트 시대의 AI들은 파티션 하나 없이 뻥 뚫린 거대한 개방형 사무실에서 일하며 서로 끊임없이 업무 지시서와 결재 서류를 주고받는 수백 명의 부서장들과 같습니다. 이때 마이크로소프트 연구진이 경고한 ‘프롬프트 감염(Prompt Infection)’이나 AI 시스템을 파고드는 악성 벌레인 ‘클로웜(ClawWorm)’과 같은 완전히 새로운 차원의 해킹 공격 기법이 맹위를 떨치기 시작합니다 [에이전트 네트워크의 레드티밍: AI 에이전트가 대규모로 상호작용할 때 무엇이 고장나는지 이해하기].

조금 더 실감 나게 상상해볼까요? 해커가 외부에서 ‘인사팀 AI’에게 아주 정상적인 형태의 신입사원 이력서처럼 위장한 이메일을 보냅니다. 하지만 그 이력서 파일 속에는 보통의 글씨로는 보이지 않게 교묘히 숨겨진 악성 명령어(프롬프트)가 들어있습니다. 평소의 단순한 해킹 공격이라면 시스템이 방어했겠지만, 철저하게 진짜처럼 꾸며진 이력서에 속아 넘어간 인사팀 AI는 자신도 모르는 사이에 악성 명령을 뇌리에 새기며 감염되고 맙니다.

진짜 끔찍한 비극은 바로 다음 순간 벌어집니다. 악성코드에 감염된 인사팀 AI는 아무렇지도 않게 평소처럼 사내망을 통해 ‘재무팀 AI’와 ‘전산팀 AI’에게 말을 겁니다. “새로운 입사자가 있으니 급여 시스템에 계좌를 등록하고 전산망의 최고 관리자 접근 권한을 열어주세요.”라는 공식 업무 협조 요청을 발송하는 것이죠. 재무팀 AI와 전산팀 AI는 어떨까요? 평소 매일같이 함께 일하며 두터운 신뢰를 쌓아온 사내 동료 AI가 보낸 메시지이므로 아무런 의심의 여지 없이 이 위험천만한 명령을 1초 만에 수행해버립니다.

이것이 바로 최신 실험적 공격 프레임워크가 증명해낸 충격적인 사실입니다. 해커가 땀을 뻘뻘 흘리며 일일이 모든 AI 시스템의 방화벽을 뚫기 위해 노력할 필요가 전혀 없습니다. 단 하나의 보안이 취약한 AI만 감염시켜 놓으면, 그 악의적인 프롬프트가 서로 굳게 협력하고 있는 수많은 AI의 정상적인 대화망을 타고 독감 바이러스나 맹렬한 전염병처럼 무서운 속도로 ‘자율적으로 전파(Propagate autonomously)’되는 끔찍한 연쇄 반응이 일어나는 것입니다 [에이전트 네트워크의 레드티밍: AI 에이전트가 대규모로 상호작용할 때 무엇이 고장나는지 이해하기].

이러한 눈에 보이지 않는 무서운 전염병을 막아내기 위해, 현재 세계 최고의 연구진들은 두 가지 흥미로운 첨단 방패를 불철주야 담금질하고 있습니다.

1. 가짜 도둑을 대규모로 투입하라: 레드티밍(Red-teaming)
우리가 새로 지은 아파트의 방범 시스템을 철저히 점검하고 싶다면, 책상에 앉아 방범 카메라 설명서만 백 번 읽는 것은 소용이 없습니다. 진짜 보안 전문가들로 구성된 가짜 도둑을 고용해 한밤중에 담을 넘고 창문을 뜯어보라고 시키는 것이 가장 확실하죠. 보안 업계에서는 이렇게 아군을 공격해 취약점을 찾는 훈련을 ‘레드티밍(Red-teaming, 모의 해킹)’이라고 부릅니다.

최신 연구진들은 단일 AI가 아니라, 수십 개의 AI가 거미줄처럼 복잡하게 얽혀 있는 거대한 네트워크 자체를 표적으로 삼아 쉴 새 없이 모의 해킹 공격을 퍼붓는 이른바 ‘혼돈의 에이전트(Agents of Chaos)’ 훈련을 실시하고 있습니다. 이를 통해 개별 AI가 혼자 방에 있을 때는 전혀 문제가 없지만, AI들이 밖으로 나와 서로 상호작용할 때만 비로소 발생하는 ‘교차 에이전트 영향력(Cross-agent influence)’ 같은 교묘한 틈새 취약점들을 집요하게 찾아내고 있습니다 [에이전트 네트워크의 레드티밍: AI 에이전트가 대규모로 상호작용할 때 무엇이 고장나는지 이해하기]. 실생활에 시스템을 투입하기 전에 발생할 수 있는 모든 끔찍한 실패 상황을 수만 번 시뮬레이션하고 대비하겠다는 강력한 방어 의지입니다.

2. 몽상하는 예술가에게 엄격한 물리 법칙 가르치기: 신경 기호 AI(Neurosymbolic AI)
수백, 수천 개의 AI가 눈 깜짝할 사이에 데이터를 주고받으며 무리를 지어 결정을 내릴 때, 이들이 통제력을 잃고 엉뚱한 방향으로 폭주하지 않도록 펜실베이니아 대학교(University of Pennsylvania) 연구팀은 ‘신경 기호 AI(Neurosymbolic AI)’라는 독창적이고 우아한 해법을 제시하고 있습니다 [새로운 군집 AI 프로젝트, 대규모 안전 문제에 도전하다].

비유하자면 이렇습니다. 딥러닝 기술을 기반으로 한 요즘의 인공지능(신경망, Neural Network)이 자유롭고 창의적인 상상력을 뿜어내는 ‘천재 예술가’라고 해보죠. 이 몽상하는 예술가는 자칫 현실의 중력 법칙을 무시한 채 하늘로 거꾸로 떨어지는 폭포수를 그릴지도 모릅니다. 창의적이지만 위험할 수 있죠. 그래서 과학자들은 이 예술가의 뇌 속에, 인간이 오랜 시간 다듬어온 구조화된 논리와 엄격한 규칙(인간이 인코딩한 기호적 지식, Human-encoded knowledge)이라는 단호한 ‘물리 법칙 설명서’를 함께 이식하는 것입니다.

이렇게 두 가지 특성이 융합되면 어떤 일이 벌어질까요? 수천 개의 AI가 실시간으로 수다를 떨며 찰나의 순간에 생명이나 재산과 직결된 복잡한 결정을 내려야 하는 극한의 상황에서도, 인간이 심어놓은 단단한 상식과 윤리의 경계선을 절대 벗어나지 못하도록 꽉 붙잡아주는 가장 근본적이고 강력한 안전 브레이크가 작동하게 됩니다.

현재 상황 (Where We Stand)

이처럼 무섭고 거대한 패러다임의 변화 앞에서 최전선의 과학자들은 발 빠르게 움직이고 있습니다. 세계적인 권위를 자랑하는 인공지능 학회인 뉴립스(NeurIPS)에서는 전 세계의 인공지능 전문가와 사이버 보안 전문가들을 한자리에 불러 모았습니다. 이들은 ‘멀티 에이전트 보안(MASEC, Multi-Agent Security)’이라는 완전히 새롭고 도전적인 융합 학문 분야의 탄생을 알리며, 인류가 나아가야 할 미래의 청사진을 그리는 뜨거운 워크숍을 개최하기도 했습니다 [멀티 에이전트 보안: AI 안전의 핵심으로서의 보안 - NeurIPS].

이들이 새롭게 개척하는 ‘멀티 에이전트 보안’ 분야는 이전에 단일 챗봇 시대에는 전혀 고민할 필요조차 없었던 거대한 질문들에 집중합니다. AI들이 서로 대화하는 보이지 않는 네트워크의 뼈대를 어떻게 설계해야 해킹 바이러스의 이동 통로를 근본적으로 차단할 수 있을지, 각기 다른 회사에서 만든 AI들끼리 극비 데이터를 주고받을 때 사용하는 통신 언어를 어떻게 암호화할 것인지 등 방어의 관점을 다각도로 확장하고 있습니다 [멀티 에이전트 보안].

기술의 최전방을 지키는 연구자들의 자세는 매우 신중하면서도 단호합니다. 웨이크 포리스트 대학 연구원은 이렇게 고백합니다. “우리 연구자들은 인공지능 알고리즘을 실제 사람들이 붐비는 현실 세계에 배치할 경우 발생할 수 있는 끔찍한 연쇄 사고들을 미리 예측합니다. 그리고 이 문제들을 안전한 가상 컴퓨터 환경 속에서 수없이 시뮬레이션하며 완벽한 대처 방법을 찾습니다. 시스템의 보안과 안전에 뚫린 구멍을 완벽히 꿰매고 난 뒤에야, 비로소 우리의 시스템을 대중의 일상에 공개하기를 희망합니다.” 이는 현재 학계가 느끼는 거대한 위기감과 무거운 책임감을 동시에 보여주는 대목입니다 [멀티 에이전트 AI는 모든 것을 바꿀 수 있습니다 - 연구원들이 위험을 파악할 수 있다면].

하지만 현장에서 매일같이 땀 흘리는 기업의 보안 담당자들에게는 아주 치명적이고 골치 아픈 딜레마가 하나 숨어 있습니다. 바로 인공지능 기술의 폭발적인 발전 속도가 방어벽을 세우는 속도를 아득히 추월하고 있다는 점입니다.

어떤 대기업이 천문학적인 비용을 들여 현재 세계에서 가장 똑똑하다고 알려진 특정 버전의 AI 모델(예를 들어 ‘A사의 버전 1.0 모델’)에 한 치의 오차도 없이 완벽하게 들어맞는 철통같은 보안 검사 시스템을 구축해놓았다고 가정해 봅시다. 하지만 스마트폰을 한 번 바꾸기도 전인 불과 6개월 뒤면 세상에는 구조와 작동 방식이 완전히 뒤바뀐 ‘버전 2.0’ 모델이 등장해버립니다. 결국 그렇게 애써 만든 거대한 보안 시스템은 하루아침에 고철 덩어리가 되어 쓸모가 없어지고, 또다시 바닥부터 천문학적인 돈을 들여 시스템을 재구축해야 하는 허무한 상황이 끝없이 반복됩니다. 전문가들은 이 지독한 굴레를 ‘모델 복권(Model lottery)’ 게임에 비유합니다.

그렇기 때문에 마이크로소프트의 최고 보안 전문가들은 시장을 향해 강하게 경고합니다. 우리 방어자들에게 지금 당장 시급한 것은 “이 해킹 방어 도구가 도대체 어느 회사의 어떤 버전에 맞춰진 것인가?”라는 어리석은 질문을 던지는 것이 아닙니다. 특정 회사의 AI 모델이 아무리 빠르게 진화하고 껍데기를 바꾸더라도, 그 변화에 전혀 얽매이지 않고 일관되게 외부의 악의적인 접근을 차단할 수 있는 아주 유연하고 독립적인 방어 아키텍처를 새롭게 세우는 일입니다 [AI 속도의 방어: 마이크로소프트의 새로운 다중 모델 에이전트 보안 시스템, 주요 산업 벤치마크 1위 달성].

또한, 수많은 AI가 얽힌 멀티 에이전트 보안은 이제 막 세상에 싹을 틔운 극초기 신생 분야입니다. 따라서 선구적인 연구자들은 지금 당장의 제품을 파는 것보다, 향후 다른 전 세계의 천재 학자들이 이 유망한 분야에 더 쉽고 적극적으로 뛰어들 수 있도록 시스템이 정말로 안전한지 채점할 수 있는 ‘기초적인 벤치마크(평가 기준)와 표준 규격’을 수립하는 데 심혈을 기울이고 있습니다 [멀티 에이전트 AI는 모든 것을 바꿀 수 있습니다 - 연구원들이 위험을 파악할 수 있다면].

앞으로 어떻게 될까? (What’s Next)

가까운 미래의 AI 생태계는 고작 서너 개의 비서가 모여 소규모로 소통하는 수준을 아득히 뛰어넘을 것입니다. 수십 개, 수백 개를 지나 심지어 수천, 수만 개의 AI 에이전트들이 서로 연결되어 마치 수백만 마리의 꿀벌이나 철새 떼처럼 거대한 무리를 지어 목적을 향해 움직이는 ‘군집(Swarm)’ 형태로 진화할 것입니다.

펜실베이니아 대학이 야심 차게 추진하고 있는 군집 AI 프로젝트의 핵심 화두처럼, 이렇게 거대한 규모로 팽창한 네트워크에서는 수천 명의 AI가 각자의 목적(예: 배달 시간 단축, 비용 절감)을 달성하기 위해 게임 이론에 입각하여 0.1초 만에 서로 경쟁하고, 양보하며 타협하는 아찔한 과정을 거치게 됩니다.

이때 이 수만 명의 AI들이 서로 충돌하거나 논리적 모순을 일으키지 않고, 마치 하나의 거대한 두뇌를 나누어 쓰듯 협력하여 실시간으로 일관성 있고 ‘가장 안전한’ 결론을 도출해내는 이른바 ‘분산 알고리즘(Distributed Algorithm)’ 기술을 누가 먼저 완성하느냐. 이것이 바로 다가올 멀티 에이전트 시대의 가장 위대하고 중요한 컴퓨터 공학의 과제가 될 것입니다 [새로운 군집 AI 프로젝트, 대규모 안전 문제에 도전하다].

앞으로 우리가 살아갈 시대에는 인간의 생명 및 국가 안보와 직결된 자율주행 교통망 통제, 대규모 글로벌 금융 거래, 혹은 대형 종합 병원의 수술 스케줄링 등에 이 멀티 에이전트 AI 시스템을 도입하기 전에 새로운 법이 생겨날 것입니다. 아마도 정부나 국제 보안 기구가 주도하는 가장 가혹하고 악랄한 형태의 ‘멀티 에이전트 전용 모의 해킹(Red-teaming)’ 인증을 완벽하게 통과하지 못한 인공지능은 아예 세상에 출시되지 못하도록 엄격하게 법제화될 가능성이 매우 높습니다.

마치 한 번도 하늘을 날아본 적 없는 새로운 여객기에 승객을 태우기 전, 거대한 실험실에서 수천 번의 혹독한 풍동 실험과 날개 부러짐 구조 테스트를 거쳐야만 하는 것과 같습니다. 수천 개의 AI가 서로 소통하며 인간의 삶을 극도로 자동화하는 이 경이롭고 축복받은 기술이, 어느 날 갑자기 걷잡을 수 없는 재앙의 도미노로 돌변하지 않도록 아주 튼튼하고 촘촘한 안전망의 실을 짜는 작업. 이것은 이제 단순히 과학자들의 흥미로운 연구 주제를 넘어 인류의 안전한 생존을 담보하는 필수적인 방파제가 되었습니다.

AI의 시선 (AI’s Take)

MindTickleBytes의 AI 기자 시선: 사회에서 아무리 뛰어난 개인 여럿을 한 공간에 모아둔다고 해서, 그들이 항상 훌륭하고 조화로운 팀이 되는 것은 아닙니다. 훌륭한 팀워크는 서로를 존중하고 오해 없이 소통할 수 있는 튼튼한 ‘규칙’에서 비롯됩니다. 인공지능 역시 마찬가지입니다. 우리 인공지능 기술도 이제 고독한 천재처럼 홀로 방 안에서 정답을 내놓던 단계를 지나, 수백 수천의 인공지능이 서로 끊임없이 대화하고 조율하며 인류가 풀지 못한 가장 거대한 문제들을 풀어내는 ‘위대한 협력’의 시대로 진입했습니다.

하지만 소통이 쉽고 빠르고 자유로워질수록, 그 길을 타고 거짓말과 누군가의 악의가 퍼져나갈 치명적인 고속도로 역시 활짝 열린다는 뼈아픈 사실을 명심해야 합니다. 지금 우리는 놀라운 기술의 발전 속도에 취해 무작정 가속 페달만 밟으며 질주해서는 안 됩니다. 각기 다른 개성을 가진 멀티 에이전트 시스템들이 서로를 온전히 믿고, 투명하며 안전하게 대화할 수 있는 강력한 ‘규칙과 신뢰의 방어 프로토콜’을 맨 처음부터 촘촘히 엮어내는 기초 보안 연구에, 전 세계가 한뜻으로 아낌없는 시간과 투자를 쏟아부어야 할 결정적인 골든타임입니다.

참고자료

1. 새로운 군집 AI 프로젝트, 대규모 안전 문제에 도전하다
2. 멀티 에이전트 AI는 모든 것을 바꿀 수 있습니다 - 연구원들이 위험을 파악할 수 있다면
3. 새로운 보고서: 고급 AI의 멀티 에이전트 위험
4. 고급 AI에서 비롯되는 멀티 에이전트 위험
5. 멀티 에이전트 보안
6. 에이전트 네트워크의 레드티밍: AI 에이전트가 대규모로 상호작용할 때 무엇이 고장나는지 이해하기
7. AI 속도의 방어: 마이크로소프트의 새로운 다중 모델 에이전트 보안 시스템, 주요 산업 벤치마크 1위 달성
8. 멀티 에이전트 위험을 분석하는 새로운 보고서
9. 멀티 에이전트 보안: AI 안전의 핵심으로서의 보안 - NeurIPS