구글이 'AI 칩'으로 승부수를 던졌다 - 클라우드 만년 3등 탈출 가능할까

갑자기 분위기가 바뀌었어요

클라우드 시장 얘기를 할 때 보통은 AWS와 Microsoft Azure 두 회사를 먼저 떠올리잖아요. 구글 클라우드(GCP)는 항상 "3등" 자리에 머물러 있었거든요. 그런데 요즘 분위기가 묘하게 바뀌고 있어요. 구글이 AI라는 무기를 들고 본격적으로 추격에 나섰는데, 단순히 따라잡는 수준이 아니라 일부 영역에서는 오히려 앞서나가는 모양새거든요.

구글의 무기는 두 가지예요. 하나는 자체 설계한 AI 전용 칩인 TPU(Tensor Processing Unit) 이고, 다른 하나는 자기들이 직접 만든 거대 모델인 Gemini 시리즈예요. 이게 뭐냐면, 보통 AI 회사들은 NVIDIA GPU를 빌려 쓰고 OpenAI 모델 API를 호출해서 서비스를 만들거든요. 그런데 구글은 "칩부터 모델까지 우리가 다 만든다"는 풀스택 전략을 밀고 있어요. 마치 애플이 아이폰의 칩(A시리즈)부터 OS(iOS)까지 직접 만드는 것처럼요.

TPU가 왜 갑자기 주목받을까

사실 TPU는 새로운 칩이 아니에요. 구글은 2015년부터 내부에서 써왔거든요. 검색 알고리즘이나 번역 같은 자기네 서비스를 돌릴 때 NVIDIA GPU를 쓰는 게 너무 비싸서 "우리가 직접 만들자" 하고 시작한 프로젝트였어요. 그러다가 LLM 시대가 오면서 상황이 완전히 달라진 거죠.

요즘 GPU 한 대 구하기가 얼마나 어려운지 한국에서 AI 스타트업 해본 분들은 다 아실 거예요. NVIDIA H100은 주문해도 6개월~1년씩 기다려야 하고, 가격도 한 대에 4천만 원이 넘어요. 이런 상황에서 구글은 "우리는 자체 칩으로 만들었으니까 이 가격에 줄게" 라고 제시하니까 가격 경쟁력이 생기는 거예요. 실제로 Anthropic 같은 거대 AI 회사도 구글 TPU를 대규모로 쓰기로 계약했어요. 이게 상징적인 사건인 게, Anthropic은 OpenAI의 라이벌이고 자체 모델 'Claude'를 학습시키는 데 어마어마한 컴퓨팅 파워가 필요한 회사거든요. 그런 회사가 NVIDIA가 아닌 구글 TPU를 골랐다는 건, 가격 대비 성능이 진짜로 경쟁력이 있다는 뜻이에요.

Gemini라는 양날의 검

구글의 또 다른 카드는 Gemini 모델이에요. ChatGPT가 워낙 강해서 가려져 있긴 하지만, Gemini도 벤치마크에서는 GPT나 Claude와 어깨를 나란히 해요. 특히 컨텍스트 윈도우(한 번에 처리할 수 있는 텍스트 양)가 200만 토큰까지 늘어나면서, 책 한 권을 통째로 던져넣고 분석시키는 게 가능해졌거든요. 이건 코드베이스가 거대한 기업 환경에서 진짜 강력한 무기가 돼요. 우리가 회사 코드 전체를 한 번에 보여주고 "여기서 버그 찾아줘" 시킬 수 있다는 거니까요.

다만 구글의 약점도 분명해요. 개발자 경험(DX) 면에서는 AWS와 Azure에 비해 한 박자 느리다는 평가가 많아요. AWS는 콘솔이 복잡해도 문서가 압도적으로 많고, Azure는 마이크로소프트의 엔터프라이즈 영업력이 워낙 강하잖아요. 구글은 기술은 좋은데 "어떻게 팔지"에서 매번 약했어요. AI라는 새로운 판이 깔리는 지금이 그 약점을 만회할 마지막 기회라는 분석이 많은 거죠.

한국 개발자 입장에서는

실무 관점에서 보면 선택지가 늘어나는 건 좋은 일이에요. 지금까지 한국 스타트업이 AI 모델 학습이나 추론 인프라를 짜려면 사실상 AWS + NVIDIA 조합 외에는 답이 없었거든요. 그런데 GCP의 Vertex AI에서 TPU를 빌려 쓰는 옵션이 점점 현실적인 대안이 되고 있어요. 특히 PyTorch에서도 XLA 컴파일러를 통해 TPU를 지원하기 때문에, 코드를 거의 안 고치고 옮길 수 있어요.

그리고 한 가지 더, 멀티 클라우드 전략이 점점 중요해질 거예요. 한 회사에 락인되면 가격 협상력이 사라지잖아요. 그래서 큰 기업들은 이미 "학습은 GCP, 서빙은 AWS, 사내용은 Azure" 같은 식으로 쪼개서 쓰고 있어요. 주니어 개발자분들도 한 클라우드만 깊게 파지 말고, 적어도 두 개는 기본기를 익혀두시면 커리어에 도움이 될 거예요.