이제 로컬 LLM, 진짜 쓸 만합니다 — 클라우드 없이도 충분한 시대
불과 1~2년 전만 해도 내 노트북에서 돌리는 모델은 '장난감' 취급이었지만, 지금은 상황이 완전히 달라졌다. Qwen, Gemma, Llama 같은 소형 오픈 모델의 품질이 급격히 좋아졌고, 양자화 기술 덕분에 7B~30B급 모델도 일반 PC나 애플...
Cohere의 개발자용 첫 모델 'North Mini Code', 엔터프라이즈를 정조준하다
## 익숙한 이름들 틈에서 다른 길을 가는 회사 ChatGPT, Claude, 제미나이... AI 모델 이야기를 할 때 떠오르는 이름들은 어느 정도 정해져 있죠. 그런데 그 틈에서 조용히, 그러나 확실한 색깔로 자기 길을 가는 회사가 있어요. 바...
또 수십억 달러짜리 데이터센터? AI 인프라 전쟁의 속살
## 데이터센터 짓는 뉴스가 왜 이렇게 자주 나올까요 아마존이 또 거대한 데이터센터를 짓는다는 소식이에요. 이번엔 미국 미주리주에 수십억 달러 규모로요. 그런데 솔직히 요즘 이런 뉴스가 한두 개가 아니죠. 아마존, 마이크로소프트, 구글, 메타까지...
API 청구서 걱정 없이 내 방에 AI 개발 서버 차리기 — 홈랩 AI 플랫폼 이야기
## 클라우드 API 청구서에 놀란 적 있다면 요즘 코딩할 때 AI 도움 안 받는 분 거의 없죠. 그런데 ChatGPT나 클로드 API를 본격적으로 쓰기 시작하면 월 청구서가 만만치 않아요. 게다가 회사 코드나 민감한 데이터를 외부 API로 보내...
테크 뉴스를 읽는 당신,
직접 만들어볼 준비 되셨나요?
17가지 수익 모델 실습 · 144+ 강의 · 자동화 소스코드 제공
유럽은 자기 컴퓨터만으로 최첨단 AI를 학습시킬 수 있을까?
## ‘AI 주권(sovereignty)’이라는 질문 요즘 최첨단 AI 모델 하나 학습시키려면 어마어마한 컴퓨팅 파워, 그러니까 엄청난 수의 GPU가 필요해요. 그런데 이 GPU 칩(거의 다 엔비디아 제품이죠)도, 그걸 잔뜩 모아둔 대형 클라우드...
안전이 곧 경쟁력이 됐다 — 앤트로픽의 '안전 초능력' 이야기
## '안전' 강조하던 회사가 어떻게 가장 강해졌나 AI 회사 앤트로픽(Anthropic, 클로드Claude를 만든 곳이에요)을 떠올리면 많은 분이 '안전(safety)을 유난히 강조하는 회사'라는 이미지를 먼저 떠올려요. 실제로 이 회사는 오픈...
모델 하나에 올인하지 마세요 — OpenRouter가 내놓은 'Fusion' 이야기
## '어떤 모델 쓰지?'라는 고민, 다들 한 번씩 해보셨죠 요즘 AI API 붙여서 서비스 만드는 분들 정말 많아졌어요. 그런데 막상 해보면 은근히 답답한 순간이 와요. 코드 짜는 건 이 모델이 잘하는데 긴 글 쓰는 건 저 모델이 낫고, 수학 ...
[심층분석] AI, 정말 '모두가' 쓰고 있을까? — 숫자가 말해주는 의외의 현실
## "이제 다들 AI 쓰잖아"라는 말, 진짜일까요? 요즘 개발자 커뮤니티든 회사 회의든, AI 얘기가 안 나오는 자리가 없어요. "이제 ChatGPT 없으면 일 못 한다", "AI가 모든 걸 바꿔놨다" 같은 말을 너무 자주 들어서, 어느새 우리...
'그냥 ChatGPT에 넣으면 되잖아?' — 번역가의 항변이 개발자에게도 남 일이 아닌 이유
전문 번역가로 일하는 한 블로거가 요즘 지겹도록 듣는 질문이 있대요. '그거 그냥 ChatGPT에 올리면 되는 거 아니에요?' 번역을 의뢰하려던 고객도, 가격을 듣고 망설이는 사람도, 심지어 지인들도 똑같이 묻는다는 거죠. 이 질문에 대한 번역가의...
AI 에이전트에게 네트워크 탐사를 맡겼다가 통장이 텅 비어버린 이야기
요즘은 AI 에이전트한테 일을 맡겨두고 자리를 비우는 게 별로 낯설지 않은 풍경이 됐는데요. 오늘 소개할 이야기는 그 '자율성'이라는 게 잘못 풀리면 어떤 일이 벌어지는지 보여주는 아주 생생한 사례예요. 한 네트워크 엔지니어가 자신의 AI 에이전트...
앤트로픽, 클로드에 비공개로 넣었던 '증류 방지' 가드레일 사과
AI 회사 앤트로픽이 최신 모델 '클로드 파블(Claude Fable)'에 사용자에게 알리지 않은 가드레일을 적용했던 사실에 대해 공식 사과했어요. 가드레일이 뭐냐면, AI 모델이 특정한 행동을 하지 못하도록 막아두는 일종의 안전장치예요. 보통은 ...
AI 에이전트, 직접 만들어보면 '긴 작업'에서 무너지는 이유가 보여요
## 에이전트, 프레임워크 없이 바닥부터 만들어보면 보이는 것들 요즘 어딜 가나 AI 에이전트 얘기뿐이죠. LangChain이나 LangGraph 같은 프레임워크를 쓰면 몇 줄 만에 그럴듯한 에이전트가 돌아가긴 해요. 그런데 막상 '오래 걸리는 복잡...
샤오미도 코딩 AI 경쟁에 참전했어요 — 'MiMo Code' 오픈소스 공개
## 폰 만드는 회사가 코딩 AI를 공개했다고요? 샤오미가 코딩 특화 AI 모델 'MiMo Code'를 오픈소스로 공개했어요. 샤오미라고 하면 스마트폰이나 로봇청소기, 전기차를 먼저 떠올리실 텐데요. 사실 샤오미는 'MiMo'라는 이름으로 자체 AI...
보안 연구자들이 화났다 — AI의 안전장치는 어디까지가 보호이고 어디부터가 방해일까
## 무슨 논쟁이냐면요 AI 모델에는 '가드레일(guardrail)'이라는 게 있어요. 위험하거나 해로운 요청은 거절하도록 만들어 둔 **안전장치**예요. 폭탄 제조법이나 악성코드를 그냥 뱉지 않게 막는 거죠. 그런데 이번엔 한 AI 제품에 걸린...
공원 지으라고 기부한 땅이 데이터센터가 됐다 — AI 인프라 붐이 만든 씁쓸한 풍경
## 무슨 일이 있었냐면요 미국에서 좀 황당하면서도 생각할 거리가 많은 일이 하나 벌어졌어요. 어떤 농부가 "우리 동네 주민들이 산책하고 쉴 수 있는 공원을 만들어 달라"면서 시(市)에 땅을 단돈 10달러, 우리 돈으로 만 몇천 원에 넘겼거든요....
트랜스포머의 어텐션은 왜 '집중'을 못 할까? 인간 뇌와 비교한 연구
## 무슨 일이 있었냐면요 ChatGPT 같은 거대 언어 모델의 심장에는 **트랜스포머(Transformer)**라는 구조가 있고, 그 핵심엔 **어텐션(Attention)**이라는 메커니즘이 있어요. 이게 뭐냐면, 문장을 읽을 때 모든 단어를 똑같...
Claude 3.5, 3.7, 4.5... 앤트로픽 모델 이름은 대체 어떤 규칙으로 붙는 걸까?
## 도입: 버전 숫자가 점점 미궁 속으로 AI 모델 이름을 보다가 "잠깐, 이게 3.5였나 3.7이었나?" 하고 헷갈려본 적 있으신가요? 특히 앤트로픽(Anthropic)이 만드는 Claude 시리즈는 이름 붙이는 방식이 묘하게 독특한데요. 누군가...
강화학습의 대부 리치 서튼이 말하는 "진짜 창의적인 AI"란 무엇인가
## 누가 한 이야기냐면요 리처드 서튼(Rich Sutton)이라는 이름, AI에 관심 있으신 분이라면 한 번쯤 들어보셨을 거예요. 강화학습(Reinforcement Learning) 분야를 사실상 만든 사람 중 한 명이고, 2024년에 그 공로로 ...
「AI가 한 말도 결국 구글이 한 말이다」 독일 법원의 의미심장한 판결
## 무슨 일이 있었냐면요 요즘 구글에서 뭔가 검색하면 맨 위에 'AI 개요(AI Overviews)'라는 게 뜨죠. 검색 결과 링크들을 일일이 안 눌러봐도, AI가 알아서 요약해서 답을 딱 보여주는 기능인데요. 편하긴 한데, 가끔 이 AI가 사...
AI로 코드를 쏟아내는 '록스타 개발자', 그 뒤를 치우는 사람들 이야기
## 무슨 이야기냐면요 요즘 팀에 이런 동료 한 명쯤 있지 않나요? AI 코딩 도구를 쓰면서 엄청난 속도로 코드를 뽑아내는 사람이요. 하루에 PR(코드 변경 요청)을 수십 개씩 올리고, 새 기능을 며칠 만에 뚝딱 만들어내요. 겉으로 보면 '와, ...
