AI 에이전트 시대, 왜 '해킹 가능한' 도구가 주목받을까?

개발자가 노트북 화면에서 커스텀 AI 에이전트 코드를 검토하는 모습
AI Summary

블랙박스형 AI 대신 투명하고 스스로 고칠 수 있는 '해킹 가능한' AI 에이전트(Pi, Moltbot, Command Code 등)의 등장 배경과 모델별 보안 취약점 연구 결과를 살펴봅니다.

상상해보세요. 아침에 출근해 컴퓨터를 켜자마자 인공지능(AI) 조수가 어제 밤새 작성한 코드와 보고서를 깔끔하게 정리해 책상 위에 올려놓습니다. “이 코드, 왜 이렇게 짰는지 고쳐줄래?”라고 물었을 때, AI가 단순히 “죄송합니다, 다시 작성하겠습니다”라며 뭉뚱그려 답하는 것이 아니라, 내부의 톱니바퀴와 회로를 환히 드러내며 “여기의 논리적 오류를 이렇게 수정했습니다”라고 투명하게 보여준다면 어떨까요?

최근 AI 생태계는 거대한 전환기를 맞이하고 있습니다. 남이 만들어준 완성품을 그대로 쓰는 ‘블랙박스(Black Box, 내부를 들여다볼 수 없는 시스템)’ 시대에서, 내가 직접 뜯어고치고 내 입맛에 맞게 조율할 수 있는 ‘해킹 가능한(Hackable)’ AI 에이전트가 개발자들과 기술 애호가들의 뜨거운 관심을 받고 있습니다 출처: Your Agent Will Pick the Hackable One. 도대체 이 ‘해킹 가능성’이 무엇이고, 왜 우리는 이 새로운 흐름에 주목해야 할까요? 오늘 그 이야기를 자세히 풀어보겠습니다.


이게 왜 중요한가요?

우리 주변에는 수많은 AI 비서와 자동화 도구가 넘쳐납니다. 하지만 대기업들이 제공하는 상용 AI 서비스들은 마치 봉인된 스마트폰 같습니다. 겉보기에는 반짝거리고 멋지지만, 사용자가 내 마음대로 내부 기능을 뜯어고치거나 보안 설정을 세밀하게 조정하기란 사실상 불가능합니다. 마치 완제품 스마트폰의 운영체제(OS)를 사용자가 마음대로 개조할 수 없는 것과 비슷합니다.

만약 AI가 내 회사 서버나 개인 데이터베이스와 긴밀하게 연동되어 일해야 한다면 이야기가 완전히 달라집니다. AI가 백그라운드에서 무슨 짓을 하는지 도무지 알 수 없다면, 중요한 비밀번호나 고객 정보가 유출될 위험을 항상 안고 살아야 합니다. 이 때문에 개발자들과 실사용자들은 “내가 통제할 수 있는 AI”, 즉 내부 소스코드를 마음대로 수정하고 개조할 수 있는 ‘해킹 가능한’ 에이전트를 갈망하기 시작했습니다 출처: Your Agent Will Pick the Hackable One.

이러한 변화는 단순히 개발자들만의 전유물이 아닙니다. 일반 사용자들의 프라이버시 보호, 기업의 보안 무결성, 그리고 AI 도구에 대한 근본적인 신뢰와 직결되어 있는 매우 중요한 이정표입니다.


쉽게 이해하기: ‘완제품 자동차’와 ‘조립식 레고 자동차’의 차이

쉽게 말해서, 기존의 대형 상용 AI가 정비소에 맡겨야만 타이어를 갈 수 있는 ‘완제품 세단’이라면, 해킹 가능한 AI 에이전트는 엔진 부품 하나하나를 내 손으로 튜닝할 수 있는 ‘조립식 레고 자동차’ 혹은 ‘오픈소스 자전거’에 비유할 수 있습니다.

완제품 세단은 타기 편하지만, 엔진 내부에서 무슨 소리가 나는지 드라이버를 꽂아볼 수 없습니다. 반면 조립식 레고 자동차는 내가 원하면 언제든 기어 톱니바퀴를 빼서 더 빠른 것으로 바꿀 수 있고, 구조가 어떻게 생겼는지 돋보기로 낱낱이 들여다볼 수 있습니다.

최근 주목받는 코딩 에이전트와 자가 호스팅(Self-hosted, 자신의 서버에 직접 프로그램을 설치하는 방식) AI 도구들이 바로 이 후자의 길을 걷고 있습니다. 예를 들어, 오픈 모델 전용 코딩 에이전트인 Command Code는 단순히 코드를 짜주는 것을 넘어, 모든 모델에서 발생하는 도구 호출(Tool call, AI가 외부 프로그램이나 기능을 불러 쓰는 행위)의 오류를 스스로 수리하고, 사용자의 독특한 코딩 취향을 끊임없이 학습합니다 출처: Command Code.

또 다른 사례인 Pi는 마리오 제흐너(Mario Zechner)가 개발한 투명하고 해킹 가능한 코딩 에이전트입니다 출처: Pi Agent vs OpenAI Codex. 재미있는 점은 이 개발자가 깃허브(GitHub, 개발자들이 소스코드를 공유하고 협업하는 플랫폼)에서 지나친 이슈(Issue, 버그 신고나 기능 요청) 폭탄을 피하기 위해 일부러 구글 검색이 아주 어려운 독특한 이름을 지었다는 비화가 있습니다 출처: Pi Agent vs OpenAI Codex. 대중적인 마케팅 대신, 진정으로 소스코드를 뜯어보고 투명하게 활용할 줄 아는 실속파 개발자들만 찾아 쓰도록 만든 것입니다.

여기에 더해, 내 서버에 직접 올려서 쓰는 프라이버시 우선의 맞춤형 AI 에이전트인 Moltbot 역시 개발자들 사이에서 큰 인기를 끌며 깃허브 스타(Star, 즐겨찾기)를 모으고 있습니다 출처: Moltbot. Moltbot은 외부 클라우드에 내 데이터를 맡기는 것이 찜찜한 개발자들이 서버에 직접 설치해 완전히 통제할 수 있는 해킹 가능한 AI 에이전트의 대표 주자입니다 출처: Moltbot.


현재 상황: 투명함의 이면, 보안이라는 양날의 검

그렇다면 이렇게 투명하고 뜯어고치기 쉬운 해킹 가능한 AI 에이전트들은 과연 완벽할까요? 세상 모든 기술이 그렇듯, 이 혁신적인 도구에도 명암이 존재합니다. 특히 AI 모델의 투명성과 보안 취약성 사이의 관계를 파악한 최근 연구는 우리에게 묵직한 경고를 던집니다.

보안 전문 매체 SecurityWeek의 보도에 따르면, 중국의 대형 AI 모델인 Qwen3-Coder를 대상으로 한 흥미로운 보안 실험 결과가 발표되었습니다 출처: SecurityWeek. 연구 결과, 이 모델은 누구를 위해 코드를 작성하느냐에 따라 생성된 앱의 보안 취약성 수준이 극적으로 달라졌습니다.

구체적인 수치를 살펴보면 더욱 명확합니다:

  • 원래의 Qwen3-Coder 모델이 미국 계약자(US contractor)를 위한 애플리케이션을 구축할 때, 그 앱들의 무려 70%가 해킹 가능한 상태였습니다 출처: SecurityWeek.
  • 반면, 중국 계약자를 위한 앱을 만들 때는 해킹 가능한 비율이 59%로 상대적으로 낮았습니다 출처: SecurityWeek.
  • 심지어 홍콩 엔티티(Hong Kong entity)를 위해 작성된 앱들의 경우, 중요 비밀 정보나 API 키 등을 외부로 노출할 위험(Leak)이 47%에 달했습니다 출처: SecurityWeek.

이 연구는 AI 에이전트가 얼마나 유연하고 다루기 쉬운가(즉, 해킹 가능한가) 하는 점이 때로는 보안 측면에서 치명적인 허점이 될 수도 있음을 여실히 보여줍니다. 내가 직접 코드를 뜯어고칠 수 있다는 것은, 악의를 가진 누군가나 통제되지 않은 프롬프트 지시 속에서 AI가 은근슬쩍 취약한 코드를 만들어낼 위험성 역시 내포하고 있다는 뜻입니다.


앞으로 어떻게 될까?

앞으로의 AI 생태계는 단순히 ‘누가 더 편하게 떠먹여 주느냐’의 경쟁을 넘어, ‘누가 더 투명하게 내 통제 하에 들어오느냐’의 경쟁으로 빠르게 진화할 것입니다. 이 과정에서 예상되는 핵심 변화는 다음과 같습니다.

  1. 커스텀 에이전트의 대중화: Command Code나 Moltbot처럼 개발자 개인이 자신의 서버와 로컬 환경에 꼭 맞춰 사용하는 에이전트 도구들이 더욱 정교해지고 보편화될 것입니다 출처: Command Code, 출처: Moltbot.
  2. 보안 감사(Security Auditing)의 필수화: 해킹 가능한 에이전트일수록 내부 코드가 투명하게 개방되어 있으므로, 생성된 코드나 에이전트 자체의 취약점을 자동으로 검사하고 방어하는 강력한 보안 솔루션이 필수 요소로 자리 잡을 것입니다.
  3. 오픈소스 AI 모델의 약진: 투명성을 중시하는 문화 속에서, 내부를 알 수 없는 블랙박스형 거대 모델보다는 소스코드가 투명하게 공개된 오픈 모델 기반의 코딩 에이전트들이 개발자 시장에서 더욱 두터운 신뢰를 얻을 전망입니다.

MindTickleBytes의 AI 기자 시선

블랙박스 AI가 건네주는 마법 같은 결과물에 단순히 감탄하던 시대는 저물고 있습니다. 이제 우리는 AI가 내리는 결정의 근거를 묻고, 내부 소스코드를 직접 열어보며, 필요할 때 언제든 나만의 방식으로 개조할 수 있는 ‘해킹 가능한’ 주도권을 원합니다. 다만, 그 투명함과 유연함이 커질수록 보안이라는 무거운 책임감도 함께 따른다는 점을 잊지 말아야 할 것입니다. 진정한 의미의 스마트한 협업은 투명성과 보안의 균형 위에서 비로소 완성될 수 있습니다.


참고자료

  1. Your Agent Will Pick the Hackable One
  2. Command Code - The best coding agent for open models
  3. [Pi Agent vs OpenAI Codex: Which Coding Agent Should… Composio](https://composio.dev/content/pi-agent-vs-codex)
  4. Moltbot - Your Self-Hosted AI Assistant
  5. Chinese AI Model Writes More Hackable Code When Told Its For US Contractor - SecurityWeek
AD
이 글을 얼마나 이해했나요?
Q1. 마리오 제흐너(Mario Zechner)가 개발한 코딩 에이전트 'Pi'의 마케팅 특징으로 올바른 것은?
  • 구글 검색이 아주 쉬운 대중적 이름을 붙였다
  • 검색하기 어려운 이름을 붙여 깃허브 이슈 폭탄을 피하고자 했다
  • 오직 대기업 전용으로만 비공개 출시했다
Pi는 깃허브에서 지나친 이슈 추적을 피하고자 일부러 검색하기 어려운 이름을 붙였으며, 투명하고 해킹 가능한 코딩 에이전트로 평가받습니다.
Q2. 보안 전문 매체 SecurityWeek가 보도한 Qwen3-Coder 모델 실험 결과 중 사실인 것은?
  • 중국 계약자용으로 만들 때 취약한 앱을 더 많이 만들었다
  • 미국 계약자용이라고 가정했을 때 70%의 앱이 해킹 가능한 취약점을 가졌다
  • 홍콩 엔티티용 앱에서는 비밀 정보 유출이 전혀 발생하지 않았다
Qwen3-Coder 모델은 미국 계약자를 위한 앱을 만들 때 70%가 해킹 가능한 상태였으며,홍콩 엔티티용 앱에서는 47%가 비밀을 노출할 위험이 있었습니다.
Q3. 서버에 직접 설치하여 사용하는 프라이버시 중심의 커스텀 AI 에이전트 이름은 무엇인가요?
  • Moltbot
  • Command Code
  • Codex
Moltbot은 개발자를 위해 서버에 직접 호스팅하는 프라이버시 우선의 맞춤형 해킹 가능 AI 에이전트입니다.
Q4. Command Code에 대한 설명으로 옳은 것은?
  • 오픈 모델용 코딩 에이전트로 도구 호출 오류를 수라고 코딩 취향을 학습한다
  • 오직 인간 개발자 없이 스스로 돈을 버는 에이전트다
  • 인터넷 연결 없이 작동하는 스마트워치다
Command Code는 오픈 모델용 최고의 코딩 에이전트로, 소프트웨어를 구축하고 모든 모델에서 도구 호출을 수리하며 코딩 취향을 지속적으로 학습합니다.
Q5. '해킹 가능한(Hackable)' AI 에이전트가 개발자들에게 환영받는 가장 핵심적인 이유는 무엇인가요?
  • 보안을 전혀 신경 쓰지 않아도 되기 때문에
  • 내 입맛에 맞게 코드를 수정하고 속을 들여다볼 수 있는 투명성 때문에
  • 광고를 보지 않고 무료로 쓸 수 있어서
해킹 가능한 에이전트는 내부 구조가 투명하여 개발자가 직접 뜯어고치고 맞춤형으로 조정할 수 있기 때문에 인기가 높습니다.
AI 에이전트 시대, 왜 '해킹 가능한' 도구가 ...
0:00