Hacker News 2026.06.28 33

반도체 설계의 '흑마법' RF 회로, 이제 AI가 직접 그린다

반도체 설계의 '흑마법'에 AI가 도전한다

반도체 칩을 설계하는 일 중에서도 유난히 '아무나 못 하는 영역'으로 꼽히는 분야가 있어요. 바로 RFIC, 우리말로 풀면 무선 주파수 집적회로 설계예요. 와이파이, 5G, 블루투스, GPS처럼 공기 중으로 신호를 주고받는 모든 기기 안에는 이 RF 회로가 들어 있는데, 이걸 설계하는 게 워낙 까다로워서 업계에서는 농담 삼아 '흑마법(dark art)'이라고 불러요. 그런데 이번에 이 흑마법을 AI가 직접 배우기 시작했다는 소식이에요.

왜 RF 설계는 '흑마법'이라 불릴까

이게 왜 그렇게 어렵냐면, RF 회로는 우리가 보통 생각하는 디지털 회로와 성격이 완전히 달라요. 디지털 회로는 0과 1만 딱딱 구분하면 되니까 비교적 규칙적인데, RF 회로는 아날로그 세계라서 미세한 물리 현상에 엄청나게 민감하거든요.

예를 들어 회로 안의 전선 두 개가 가까이 지나가기만 해도 서로 영향을 주는 '기생 효과'가 생기고, 신호가 워낙 고주파라서 배선의 길이나 모양 하나하나가 성능을 좌우해요. 이런 건 공식만으로는 깔끔하게 안 풀려서, 결국 수십 년 경력의 베테랑 엔지니어가 '감'과 '직관'으로 이리저리 조정해가며 맞춰야 했어요. 그래서 소수의 전문가에게 지식이 몰려 있고, 칩 하나 설계하는 데 몇 주씩 걸리기도 했죠. '흑마법'이라는 별명이 괜히 붙은 게 아니에요.

AI는 이걸 어떻게 풀어낼까

이번 연구의 핵심은 그 베테랑의 '감'을 머신러닝이 대신 학습하게 만든 거예요. 사람이 손으로 회로의 각 부품 값을 조금씩 바꿔가며 최적점을 찾던 작업을, AI가 수많은 설계 후보를 빠르게 탐색하면서 자동으로 최적의 조합을 찾아주는 식이죠.

방식은 크게 두 갈래예요. 하나는 강화학습처럼 'AI가 직접 설계를 시도해보고, 성능이 좋으면 보상을 받는' 방식으로 점점 더 나은 회로를 스스로 찾아가게 하는 거예요. 다른 하나는 과거의 좋은 설계 데이터를 잔뜩 학습해서, 원하는 성능 목표를 주면 그에 맞는 회로 구조를 곧바로 만들어내는 방식이고요. 핵심 성과는 사람이 몇 주 걸리던 작업을 몇 시간으로 줄이고, 사람은 미처 시도해보지 못한 넓은 설계 공간까지 AI가 탐색해서 더 좋은 결과를 찾아낼 수 있다는 점이에요.

업계 맥락

사실 칩 설계에 AI를 붙이는 흐름은 이미 큰 물결이에요. 가장 유명한 사례가 구글이 2021년에 발표한 연구인데, 칩 위에 부품들을 어디에 배치할지(플로어플래닝이라고 해요)를 강화학습으로 풀어내서 학계를 들썩이게 했죠. 케이던스나 시놉시스 같은 반도체 설계 도구(EDA) 회사들도 앞다퉈 AI 기능을 자사 도구에 넣고 있고요.

다만 지금까지 AI 자동화는 주로 '디지털' 회로 쪽에서 성과를 냈어요. 규칙이 비교적 명확해서 자동화하기 쉬웠거든요. 반면 아날로그·RF 영역은 앞서 말한 그 '감의 영역'이라 자동화가 가장 더디게 진행되던 마지막 보루 같은 곳이었어요. 이번 소식이 의미 있는 건, AI가 드디어 그 가장 어려운 성벽에 발을 들였다는 신호이기 때문이에요.

한국 개발자에게 주는 시사점

한국은 삼성전자, SK하이닉스를 비롯해 세계 반도체 산업의 중심에 있는 나라예요. 그만큼 이런 흐름은 남의 일이 아니에요. 특히 주목할 건, 앞으로 가치가 폭발할 인재가 '반도체라는 도메인 지식'과 'AI/머신러닝 역량'을 동시에 갖춘 사람이라는 점이에요. 둘 중 하나만 잘하는 사람은 많지만, 둘을 연결할 수 있는 사람은 드물거든요.

소프트웨어 개발자 입장에서도 시사점이 있어요. '전문가의 직관이 지배하던 영역'에 머신러닝으로 최적화를 입히는 이 패턴은 회로 설계뿐 아니라 어디든 적용될 수 있어요. 복잡한 파라미터를 사람이 감으로 튜닝하던 작업이 있다면, 그게 바로 AI가 파고들 다음 후보거든요.