단 두 줄의 코드로 AI 성능이 12% 향상? 이게 어떻게 가능할까요?

상상해보세요. 매일 아침 출근길, 가장 빠른 지름길을 찾으려 하지만 도로 사정을 예측하지 못해 엉뚱한 정체 구간으로 들어서느라 매번 10분씩 늦는 상황을 말이죠. 우리 컴퓨터의 두뇌인 CPU도 이와 비슷합니다. CPU는 다음에 어떤 계산 결과가 필요할지 미리 예측해서 준비해두는데, 만약 이 예측이 틀리면(분기 예측 오류, Branch Misprediction) 이미 준비한 작업을 모두 버리고 처음부터 다시 계산해야 해서 엄청난 시간을 낭비하게 됩니다.

최근, 컴퓨터가 이 ‘지름길’을 더 똑똑하게 선택하도록 만드는 단 두 줄의 코드 수정이 전 세계 개발자들 사이에서 큰 화제가 되었습니다. 놀랍게도 이 작은 조정만으로도 최신 CPU의 연산 성능이 12%나 뛰어올랐습니다. 도대체 무슨 일이 일어난 걸까요?

이게 왜 중요한가요?

이번 소식은 일반 소비자에게 당장 새로운 부품을 사지 않아도 소프트웨어의 최적화만으로 시스템 성능을 극대화할 수 있다는 희망을 줍니다. 출처 3 특히 고성능 작업을 수행하는 전문가나 서버 운영자들에게는 하드웨어 업그레이드 없이 성능을 얻는 아주 반가운 소식입니다.

또한, 하드웨어(CPU)가 아무리 발전해도 이를 다루는 소프트웨어인 컴파일러(소스 코드를 CPU가 이해할 수 있는 언어로 번역하는 도구)가 그 구조를 제대로 이해하지 못하면 제 성능을 낼 수 없다는 점을 명확히 보여줍니다. 이번 사례는 하드웨어와 소프트웨어가 얼마나 긴밀하게 소통해야 하는지를 보여주는 좋은 예시입니다. 출처 4

쉽게 이해하기: 요리사의 재료 준비와 분기 예측

앞서 언급한 컴파일러(GNU Compiler Collection, 줄여서 GCC)는 CPU가 길을 잃지 않도록 미리 가이드라인을 제시하는 역할을 합니다.

여기서 ‘분기 예측’은 CPU가 다음에 어떤 명령어를 실행할지 미리 찍어 맞추는 작업입니다. 이를 요리에 비유하면 쉽습니다. 요리사가 요리를 할 때, 다음 단계가 무엇일지 미리 재료를 꺼내 놓는 것과 같습니다. 그런데 만약 다음 메뉴가 예상과 다르면, 이미 꺼내 놓은 재료는 치우고 처음부터 다시 준비해야 하겠죠? 이게 바로 분기 예측 오류입니다.

그동안 GCC는 CPU의 분기 예측 오류에 대한 ‘벌점(비용)’을 너무 낮게 책정하고 있었습니다. 마치 요리사가 재료를 다시 치우고 정리하는 데 드는 시간을 아주 짧게 착각하고 있었던 셈입니다. 출처 7

AMD의 엔지니어들은 이 벌점 수치를 3단위 올렸습니다. 출처 6 이제 컴파일러는 “어, 이 길로 가면 오류가 났을 때 손해가 크네? 차라리 다른 효율적인 방법을 쓰자”라고 판단하게 됩니다. 출처 3 결과적으로 시스템은 훨씬 더 안전하고 빠른 길을 선택하게 된 것입니다. 출처 5

현재 상황

이 패치는 AMD의 Zen 5 아키텍처에서 12%, Zen 4 아키텍처에서 9%의 성능 향상을 증명했습니다. 출처 1, 출처 2 특히 SPEC CPU 544.nab_r이라는 복잡한 연산 작업에서 두드러진 효과를 보였습니다. 출처 7, 출처 8

하지만 당장 오늘 내 컴퓨터가 빨라지는 것은 아닙니다. 이 변경 사항은 GCC 17 버전에 공식적으로 포함될 예정인데, 출시는 2027년으로 계획되어 있습니다. 출처 3

앞으로 어떻게 될까?

컴퓨터의 구조가 매년 깊어지고 복잡해짐에 따라(파이프라인이 길어짐), 앞으로 소프트웨어가 하드웨어의 미묘한 차이를 얼마나 정확히 반영하느냐가 성능의 핵심이 될 것입니다. 출처 7 이번처럼 하드웨어 엔지니어와 소프트웨어 컴파일러 팀이 협력하여 성능을 끌어올리는 사례는 더욱 많아질 것으로 보입니다.

MindTickleBytes의 AI 기자 시선

컴퓨터 성능 향상을 위해 꼭 거대한 칩을 새로 만들 필요는 없다는 점이 흥미롭습니다. 때로는 가장 똑똑한 해결책은 새로운 것을 추가하는 것이 아니라, 이미 존재하는 시스템의 오해를 바로잡는 것에서 시작됩니다. 작은 조정이 모여 큰 차이를 만드는 기술의 세계는 언제나 매력적입니다.

참고자료

1. GCC Patch Adjusting AMD Zen 5 Misprediction Cost Nets 12% Win In Benchmark - Phoronix

2. [News - [Phoronix] GCC Patch Adjusting AMD Zen 5 Misprediction Cost Nets 12% Win In Benchmark

   Linux.org](https://www.linux.org/threads/phoronix-gcc-patch-adjusting-amd-zen-5-misprediction-cost-nets-12-win-in-benchmark.70482/)

3. Someone changed one line in the GCC compiler and scored a 12% improvement on modern Intel and AMD chips
4. One Line x86 Change To GCC Compiler Nets +12% Benchmark Win For Modern Intel/AMD CPUs - NewsBreak

5. [Minor GCC tweak yields double-digit performance boost on Intel and AMD processors

   Noah Intelligence](https://noah-news.com/minor-gcc-tweak-yields-double-digit-performance-boost-on-intel-and-amd-processor/)

6. A new GCC compiler patch has increased the performance of AMD…
7. GCC’s Zen 5 Branch Misprediction Cost Was Too Low, and Fixing It…

8. [GCC-патч от AMD: +12% к производительности Zen 5 за…

   AIKraft](https://aikraft.ru/news/gcc-patch-adjusting-amd-zen-5-misprediction-cost-nets-12-win-in-benchm)