[심층분석] AI를 화면에 그려주는 프론트엔드, CopilotKit과 AG-UI 프로토콜 이야기
## 챗봇은 이제 기본, 진짜 승부는 '화면'에서 갈려요 요즘 AI 기능 하나쯤 안 붙인 서비스를 찾기가 더 어렵죠. 그런데 막상 만들어보면 다들 비슷한 벽에 부딪혀요. "챗봇 창 하나 띄우는 건 했는데, 그 다음은?" 하는 거죠. 생각해보면 우리...
오픈AI도 앤트로픽도 S&P 500에 못 들어간다? 'AI는 돈을 못 번다'는 불편한 진실
## 무슨 일이 있었냐면요 S&P 500이라는 이름, 한 번쯤 들어보셨죠? 미국 증시를 대표하는 500개 우량 기업을 묶은 지수예요. 이 안에 들어간다는 건 '미국 경제의 핵심 기업으로 공인받았다'는 일종의 명예 훈장 같은 거죠. 그런데 최근, ...
트랜스포머는 왜 '짧게 압축해서' 표현을 잘할까 — 이론으로 파고든 연구
## 무슨 이야기냐면 요즘 ChatGPT나 Claude 같은 AI의 심장에는 **트랜스포머(Transformer)**라는 구조가 들어가 있어요. 2017년에 구글이 발표한 "Attention is All You Need" 논문에서 시작된 이 구조는,...
LLM은 도대체 어떻게 다음 단어를 알까? 챗봇 속을 한 꺼풀씩 벗겨봤어요
## 들어가며 ChatGPT 같은 걸 매일 쓰면서도 "얘는 도대체 어떻게 말을 만들어내는 거지?" 하고 한 번쯤 궁금했을 거예요. 막연히 "엄청 똑똑한 AI"라고만 알고 넘어가기엔 좀 아쉽잖아요. 그래서 오늘은 LLM(대형 언어 모델, Large...
테크 뉴스를 읽는 당신,
직접 만들어볼 준비 되셨나요?
17가지 수익 모델 실습 · 144+ 강의 · 자동화 소스코드 제공
[심층분석] PDF랑 이미지를 AI가 읽을 수 있는 데이터로 바꿔주는 PaddleOCR, 도대체 뭐가 다를까?
## 요즘 왜 다들 'OCR'을 다시 보기 시작했을까요? 혹시 이런 경험 있으세요? 스캔한 PDF 계약서를 받았는데, 분명 글자가 보이는데도 복사가 안 돼요. 마우스로 드래그하면 글자가 잡히는 게 아니라 그냥 사진 한 장이 통째로 잡히죠. 컴퓨터 입...
[심층분석] 구글 노트북LM이 부럽지만 내 데이터는 지키고 싶다면? 오픈소스 'Open Notebook' 파헤치기
## 들어가며: "AI한테 내 자료 다 줘도 괜찮은 걸까?" 혹시 구글의 **NotebookLM** 써보셨어요? PDF나 웹페이지, 영상 자료를 잔뜩 넣어두면 AI가 그 내용을 바탕으로 질문에 답해주고, 심지어 두 명의 진행자가 대화하는 **팟캐...
사람한테는 안 쓰던 문서를, AI한테는 쓴다고요? 'AI가 바꾼 개발 문화'에 대한 뼈 때리는 이야기
## 어쩐지 뜨끔한 이야기 개발하면서 우리가 제일 안 하는 일 중 하나가 뭘까요? 바로 **문서화(documentation)**예요. "코드만 깔끔하면 됐지, 주석이나 README는 나중에 쓰지 뭐" 하다가 결국 안 쓰고 넘어가는 거, 다들 한 ...
"1995년 그 시절 문서처럼 써줘" — LLM을 직접 파인튜닝해본 실험 이야기
## 챗봇한테 시키는 거랑 뭐가 다른데요? 요즘은 문서 쓰는 일도 챗GPT한테 부탁하면 뚝딱 나오잖아요. 그런데 한 기술 문서 작성자(테크니컬 라이터)가 좀 다른 실험을 했어요. 그냥 프롬프트로 부탁하는 게 아니라, **LLM(거대 언어 모델)을...
트랜스포머에 Q·K·V 세 개가 정말 다 필요할까? — 어텐션 다이어트 실험 이야기
## 모두가 당연하게 여겨온 'QKV 세 쌍둥이' 요즘 AI 모델의 심장이라고 불리는 게 '트랜스포머(Transformer)'예요. ChatGPT든 클로드든, 안을 열어보면 이 구조가 돌아가고 있거든요. 그 핵심이 바로 '어텐션(Attention...
뉴욕타임스는 왜 'AI와의 전쟁'에 사활을 걸었나 — 그리고 그게 당신의 ChatGPT 기록까지 건드린 이유
## 신문사가 AI를 고소한 사건 요즘 기술 업계에서 가장 상징적인 법정 싸움 중 하나가 **뉴욕타임스(NYT) vs OpenAI** 소송이에요. NYT는 "OpenAI가 우리 기사 수백만 건을 허락도 없이 긁어가서 ChatGPT를 학습시켰다"며 저...
구글이 싫다면? EU 기반 유료 검색엔진 Uruky가 이미지 검색과 URL 재작성을 더했다
## 검색엔진에 돈을 낸다고요? 우리는 검색이 공짜인 게 너무 당연하잖아요. 근데 공짜인 이유는 우리가 광고를 보고, 검색 기록이 광고용 데이터로 쓰이기 때문이거든요. 이게 싫은 사람들을 위해 등장한 게 '돈 내고 쓰는 검색엔진'이에요. 대표적으...
버클리 CS 강의실의 경고음 — AI를 쓸수록 학점이 떨어진다?
## 무슨 일이냐면요 미국 명문 UC 버클리의 컴퓨터과학(CS) 수업에서 좀 불편한 통계가 나왔어요. 학생들의 AI 사용이 늘면서 동시에 **낙제(F 학점) 비율이 눈에 띄게 올라가고**, 기본적인 수학 실력은 오히려 떨어지고 있다는 거예요. "AI...
"걔네는 weight(숫자 덩어리)로 만들어졌어" — LLM의 정체를 가장 솔직하게 말하면
## 외계인이 인간을 보고 "얘넨 고기로 만들어졌어"라고 했듯이 혹시 테리 비슨의 단편 SF "They're Made Out of Meat"를 아세요? 외계 탐사선 둘이 지구 생명체를 관찰하고는 충격받아서 나누는 대화예요. "걔네는... 고기로 ...
LLM에게 '기억'을 심어주는 로컬 메모리 레이어, Mnemo (Rust + SQLite + 그래프)
## ChatGPT는 왜 자꾸 까먹을까 LLM(거대 언어 모델)을 써본 분들은 다 느끼셨을 거예요. 어제 길게 설명해 준 내 프로젝트 상황을 오늘 새 대화 창에서는 까맣게 잊고 있다는 걸요. 이건 버그가 아니라 구조적인 특성이에요. LLM은 기본...
구글 Gemma 4 12B 공개 — '인코더 없는' 멀티모달, 이게 왜 중요할까
## 무슨 발표였냐면요 구글이 오픈 가중치(weight) 모델 라인업인 Gemma의 새 버전, **Gemma 4 12B**를 공개했어요. 여기서 '오픈 가중치'라는 건, 모델의 학습된 알맹이를 누구나 내려받아 자기 서버나 노트북에서 돌릴 수 있게...
"고민을 AI한테 털어놨어요" — 10명 중 6명이 정신 건강을 AI에게 의지하는 시대
## 무슨 일이 있었나요? 글로벌 보험사 AXA가 발표한 정신 건강(Mind Health) 리포트에서 꽤 인상적인 숫자가 나왔어요. **10명 중 6명 이상이 심리적인 어려움을 겪을 때 AI에 도움을 구한다**는 거예요. 불안하거나 우울할 때, ...
[심층분석] AI 토큰값이 무섭다면? LLM에 보내기 전에 데이터를 60~95% 압축하는 Headroom 이야기
## 요즘 AI 개발자들의 진짜 고민, '토큰값' AI 에이전트를 직접 만들어본 분이라면 아마 한 번쯤 이런 경험 있으실 거예요. 잘 돌아가는 챗봇이나 코딩 에이전트를 만들었는데, 월말에 API 청구서를 보고 깜짝 놀라는 거죠. "내가 이렇게 많이 ...
우버, 직원 AI 예산 4개월 만에 소진… 결국 한도를 걸었다
## 'AI 마음껏 쓰세요'의 청구서가 도착했어요 많은 회사들이 요즘 직원들에게 "AI 도구 마음껏 써서 생산성 올려라"고 권하고 있죠. 우버도 그랬어요. 직원들이 ChatGPT, Claude, 각종 코딩 AI 같은 도구를 자유롭게 쓰도록 예산을...
마이크로소프트가 직접 만든 코딩 모델, MAI-Code-1-Flash가 노리는 것
## 마이크로소프트가 '자기 모델'을 내놓기 시작했어요 그동안 마이크로소프트하면 OpenAI의 가장 든든한 파트너로 알려져 있었잖아요. Copilot도, Azure OpenAI도 결국 GPT 계열을 빌려다 쓰는 구조였거든요. 그런데 최근 들어 마...
스탠포드 CS336 강의가 공개한 AI 에이전트 사용 가이드라인, 우리가 배울 점
## 무슨 일이 있었나 스탠포드 대학의 CS336 "Language Modeling from Scratch" 강의가 GitHub에 흥미로운 파일을 공개했어요. `CLAUDE.md`라는 이름의 파일인데, 학생들이 과제를 할 때 Claude나 다른 ...
