AI가 작성한 복지 신청서, 쏟아지는 서류에 공공기관은 왜 비상이 걸렸을까?

상상해보세요. 복지 혜택을 받기 위해 복잡한 서류를 작성해야 하는 상황입니다. 과거에는 수많은 항목을 일일이 읽고 작성하느라 며칠이 걸렸을 텐데, 이제는 생성형 AI(Generative AI, 방대한 데이터를 바탕으로 문장이나 이미지를 만들어내는 인공지능)에게 “나의 상황을 설명하고 복지 신청서를 작성해줘”라고 말하기만 하면 순식간에 완벽한 신청서가 탄생합니다.

이런 기술적 변화는 정보 접근성이 낮거나 복잡한 행정 절차에 어려움을 겪는 분들에게는 분명 축복처럼 느껴질 것입니다. 하지만 최근 공공기관의 사무실 풍경은 이전과는 조금 다른 의미로 분주해졌습니다. AI가 보낸 신청서들이 그야말로 눈덩이처럼 불어나기 시작했기 때문입니다.

왜 주목해야 할까요?

우리는 흔히 기술이 도입되면 공공 서비스가 더 효율적으로 변하고 행정적 낭비가 줄어들 것이라고 기대합니다. 실제로 많은 정부 기관들이 AI를 활용해 생산성을 높이려는 목표를 세우고 있습니다 출처: The Promises and Perils of using LLMs for Effective Public Services.

하지만 이러한 기술 도입이 곧 모든 문제의 해결책은 아닙니다. AI 에이전트(AI Agent, 정해진 목표를 달성하기 위해 스스로 판단하고 행동하는 AI 프로그램)가 작성한 신청서가 폭발적으로 몰려드는 현상은 준비되지 않은 정부 기관에 과도한 부담을 주고 있습니다. 이는 단순히 업무가 느려지는 것을 넘어, 실제 혜택이 절실한 사람들의 신청이 AI가 생성한 대량의 서류에 묻혀버리거나, 시스템이 이를 차단하는 과정에서 진짜 신청자들까지 거부당하는 안타까운 결과를 낳을 수 있습니다 출처: Agent-Written Applications Are Filling Government Desks.

쉽게 풀어보는 현상

최근 연구자들은 이런 현상을 ‘에이전틱 플러딩(Agentic Flooding, AI 에이전트가 만든 서류가 홍수처럼 쏟아지는 현상)’이라고 부르기 시작했습니다. 이 상황을 쉽게 비유하자면 이렇습니다.

유명 맛집 예약이 전화로만 가능했는데, 어느 날부터 누군가 자동으로 전화를 거는 기계를 설치해 1초에 수백 번씩 전화를 걸기 시작한 것과 같습니다. 식당 주인인 공공기관은 끊임없는 전화벨 소리에 정신을 차릴 수 없고, 정작 직접 예약하려는 손님인 실제 신청자는 계속 ‘통화 중’ 신호만 듣다가 예약을 포기하게 됩니다.

전문가들은 이미 11개 관할 구역에서 84건 이상의 사례를 수집하여 이러한 현상이 현실화되고 있음을 확인했습니다 출처: Characterizing Agentic Flooding of Government Services. AI는 지치지 않고 완벽한 문장의 신청서를 만들어내지만, 그 결과물들이 기관의 처리 용량을 초과하면서 시스템이 ‘과부하’를 겪고 있는 것입니다.

더 큰 문제는 대응 방식입니다. 이 홍수를 막기 위해 공공기관들이 가장 먼저 도입하는 것은 더 강력한 ‘기술적 필터’입니다. 하지만 이렇게 만들어진 벽은 AI와 사람을 가리지 않고 차단하는 경우가 많습니다. 비유하자면 식당 주인이 전화벨 소리가 너무 시끄러워 아예 전화선을 뽑아버린 것과 같습니다. 이는 복지라는 본래의 목적을 심각하게 훼손하는 일이 됩니다 출처: Agent-Written Applications Are Filling Government Desks.

현재 우리의 위치

이미 공공 서비스 현장에서는 기술 도입의 이면에 있는 명암이 뚜렷하게 나타나고 있습니다. 일부 국가에서는 신청 과정을 단순화하는 흐름을 보이고 있지만, 이러한 변화가 행정의 질을 완벽하게 담보할 수 있는지에 대해서는 여전히 회의적인 시선도 많습니다 출처: The risks and benefits of government moves to push more appeals through a streamlined written procedure.

게다가 정부의 자원 자체가 부족한 상황에서 기술 도입은 그 자체가 마법 같은 해결책이 되지 못합니다. 오히려 기술을 다루는 복잡한 절차가 추가되면서, 도움이 필요한 사람들이 실제로 혜택에 접근하는 것은 더욱 어려워지고 있다는 보고도 있습니다 출처: “In the last year, it’s gotten a lot worse” A Qualitative Investigation of Barriers to Disability Benefits in 2025. 기술이 우리의 삶을 도와주기는커녕, 복잡한 관료제의 또 다른 장벽이 되어가고 있는 셈입니다 출처: New Technologies, Old Rights: Litigating Public-Benefits Modernization.

앞으로의 과제

앞으로 공공기관은 AI 에이전트와의 공존을 위해 더 정교한 제도적 장치를 마련해야 할 것입니다. 단순히 신청서가 사람이 작성한 것인지 AI가 작성한 것인지 판별하는 수준을 넘어, 시스템이 요구하는 핵심 정보를 얼마나 명확하게 담고 있는지 확인하는 통합된 소통 창구가 필요합니다 출처: Clear Appeal Rights for Public Benefits Agencies.

분명한 것은 기술이 복지 혜택을 받는 절차를 편리하게 바꾸고 있다는 점입니다. 하지만 기술이 행정 업무를 마비시키지 않도록, 그리고 그 벽이 도움을 받아야 할 사람들을 가로막지 않도록 사회적 합의와 제도적 정비가 선행되어야 합니다. 기술은 사람을 돕기 위해 존재해야지, 사람이 기술의 속도를 따라가기 위해 희생되어서는 안 되기 때문입니다.

참고자료

1. Agent-Written Applications Are Filling Government Desks
2. Characterizing Agentic Flooding of Government Services
3. Clear Appeal Rights for Public Benefits Agencies
4. The Promises and Perils of using LLMs for Effective Public Services

5. [How to Appeal

   Health & Human Services](https://hhs.iowa.gov/appeals/how-appeal)

6. [The risks and benefits of government moves to push more appeals through a streamlined written procedure

   Planning Resource](https://www.planningresource.co.uk/article/1925103/risks-benefits-government-moves-push-appeals-streamlined-written-procedure)

7. “In the last year, it’s gotten a lot worse” A Qualitative Investigation of Barriers to Disability Benefits in 2025 - DREDF
8. New Technologies, Old Rights: Litigating Public-Benefits Modernization