32GB 맥에서 1조 파라미터 모델을 돌린다고? — NVMe 텐서 스트리밍의 마법
## 무슨 일이 있었나요? AI 모델을 로컬에서 돌려보신 적 있으시죠? 요즘 Llama나 Mistral 같은 오픈소스 모델을 내 컴퓨터에서 실행하는 게 꽤 흔해졌는데요, 여기엔 항상 큰 벽이 하나 있었어요. 바로 메모리예요. 모델이 클수록 더 많...
[심층분석] 소프트웨어 개발자 채용 공고, 2025년 중반 이후 15% 증가 — AI 시대에도 개발자는 필요하다
## 들어가며: "개발자 시대는 끝났다"는 말, 정말이었을까? 2023년부터 2025년 초까지, 개발자 커뮤니티에서 가장 많이 들었던 말이 있어요. "AI가 코딩을 대체한다", "개발자 채용이 얼어붙었다", "테크 버블이 꺼졌다." 실제로 그 기간 ...
LLM 추론 비용을 확 줄이는 Memory Sparse Attention(MSA), 어떻게 동작할까
## LLM의 고질적 문제, 긴 컨텍스트 처리 비용 요즘 LLM(대규모 언어 모델)을 써보면 컨텍스트 윈도우가 점점 길어지고 있죠. GPT-4o는 128K 토큰, Claude는 200K 토큰까지 지원하고, Gemini는 백만 토큰을 넘기기도 해요...
LiteLLM 패키지가 공급망 공격에 뚫렸습니다 — 내 프로젝트는 괜찮을까?
## 무슨 일이 있었나요? LLM(대규모 언어 모델) 프록시 도구로 많이 쓰이는 Python 패키지 **LiteLLM**이 공급망 공격(supply-chain attack)에 노출된 사실이 확인됐어요. 공급망 공격이 뭐냐면, 우리가 평소에 `pi...
테크 뉴스를 읽는 당신,
직접 만들어볼 준비 되셨나요?
17가지 수익 모델 실습 · 144+ 강의 · 자동화 소스코드 제공
[심층분석] AI 트레이더 군단이 회의를 한다? TradingAgents가 보여주는 멀티에이전트 금융 트레이딩의 현재
## 진짜 트레이딩 회사처럼 AI를 조직한다면? 요즘 AI 업계에서 가장 뜨거운 키워드 중 하나가 바로 **멀티에이전트(Multi-Agent)** 시스템이에요. 하나의 거대한 AI가 모든 걸 다 하는 게 아니라, 여러 AI가 각자 전문 분야를 맡...
GPT-5.4 Pro가 미해결 수학 난제를 최초로 풀었다 — AI 수학 추론의 새로운 이정표
## AI가 수학 난제를 풀었다는 게 무슨 뜻일까요? AI 벤치마크 연구기관인 Epoch AI가 운영하는 **FrontierMath** 벤치마크에서, OpenAI의 GPT-5.4 Pro 모델이 **미해결 수학 문제(Open Problem)**를 ...
바이브코딩에서 컨텍스트와 토큰이란? #바이브코딩 #코딩 #부업
## 바이브코딩에서 컨텍스트와 토큰이란? #바이브코딩 #코딩 #부업 컨텍스트와 토큰은 LLM과 바이브코딩에서 알고있어야할 개념인데요, 컨텍스트는 프롬프트와 달리 단순 명령이아니라 AI에게 정확한 ... --- 이 주제에 대해 더 배우고 ...
AI가 만드는 '가짜 정상' 과학: 논문은 쏟아지는데 과학은 진보하는가
## 논문 공장 시대의 새로운 국면 과학계에서 AI 도구의 활용이 급속히 확산되면서, 흥미로운 역설이 발생하고 있습니다. 연구 논문의 생산 속도는 전례 없이 빨라졌지만, 과학적 발견의 질과 재현성은 오히려 의문시되고 있다는 것입니다. Asimov...
AI에게 예전 연구 아이디어를 맡겨봤더니: 자동 연구(Autoresearch)의 가능성과 한계
## 연구자의 오래된 아이디어, AI가 되살리다 연구자라면 누구나 서랍 속에 묵혀둔 아이디어가 있을 것입니다. 시간이 없어서, 다른 프로젝트가 더 급해서, 혹은 당시 기술 수준으로는 실험이 어려워서 미뤄둔 것들이죠. 최근 한 연구자가 이런 오래된 연...
동네 자동차 정비소에 AI 접수원을 만들어 준 이야기 — 소규모 비즈니스 AI 자동화의 현실
## 무슨 일이 있었나 한 개발자가 자동차 정비소를 운영하는 형제를 위해 AI 전화 접수 시스템을 직접 만들어 적용한 경험을 공유했습니다. 거창한 엔터프라이즈 프로젝트가 아니라, 실제 동네 정비소의 구체적인 문제를 해결하기 위해 만든 실용적인 프로젝...
DSPy, 왜 아직도 현장에서 안 쓰일까? — LLM 프로그래밍 프레임워크의 이상과 현실
## 프롬프트 엔지니어링의 한계를 넘으려는 시도 LLM 기반 애플리케이션을 만들어본 분이라면 한 번쯤 느꼈을 겁니다. 프롬프트를 한 글자 바꿨더니 출력이 완전히 달라지고, 모델을 GPT-4에서 Claude로 교체하면 기존 프롬프트가 제대로 동작하...
iPhone 17 Pro에서 4000억 파라미터 LLM을 돌렸다 — 모바일 AI의 새로운 이정표
## 스마트폰에서 400B 모델이 돌아간다고? 최근 ANEMLL 팀이 iPhone 17 Pro에서 400B(4000억) 파라미터 규모의 대규모 언어 모델을 실행하는 데모를 공개했습니다. 400B 파라미터라는 숫자가 어느 정도인지 감을 잡아보면, Me...
[심층분석] AI로 '돈 버는 과정'을 자동화한다는 MoneyPrinterV2, 자동화 수익의 현실과 윤리적 경계
GitHub에서 스타 2만 개 이상을 기록하며 꾸준히 주목받고 있는 오픈소스 프로젝트가 있다. 이름부터 도발적인 **MoneyPrinterV2** — '온라인으로 돈 버는 과정을 자동화한다'는 것이 프로젝트의 공식 설명이다. Python 3.12 기...
[심층분석] 바이트댄스가 공개한 DeerFlow 2.0, 'AI 에이전트'의 다음 단계를 제시하다
AI 챗봇에게 "코드를 리팩터링하고, 관련 논문을 조사한 뒤, 보고서로 정리해줘"라고 요청한다고 상상해보자. 기존 단일 LLM 기반 도구로는 이런 복합 작업을 처리하기 어렵다. 코드 작성은 잘하지만 리서치는 부족하고, 리서치 도구는 코드를 모르며,...
[심층분석] "No Comment" — AI에 대한 대중의 반응이 말해주는 것들, 그리고 ChatGPT 담론의 현재
## 말하지 않아도 알 수 있는 것들 Reddit의 r/ChatGPT 커뮤니티에 올라온 "no comment"라는 제목의 게시글이 개발자와 일반 사용자 모두의 시선을 사로잡았다. 제목 그대로 별다른 설명 없이 올라온 이 게시글은, 역설적으로 AI...
[심층분석] "절대 바이럴되지 않을 이미지" — AI에게 역설을 던졌을 때 벌어지는 일
## 도입: 역설이 만들어낸 완벽한 바이럴 콘텐츠 "절대 바이럴되지 않을 이미지를 만들어줘." 한 Reddit 사용자가 ChatGPT에게 던진 이 단순한 요청이 인터넷에서 폭발적인 반응을 얻었다. 바이럴되지 않을 이미지를 요청했는데, 그 요청 ...
트랜스포머 회로를 직관적으로 이해하기: 블랙박스 안을 들여다보는 법
## 트랜스포머, 왜 회로 수준에서 이해해야 할까 GPT, Claude, Gemini 같은 대형 언어모델의 핵심 아키텍처인 트랜스포머(Transformer)는 놀라운 성능을 보여주고 있지만, 정작 "왜 이렇게 동작하는지"에 대한 이해는 여전히 부...
LLM으로 내 커피 취향을 예측할 수 있을까? — 실험과 그 교훈
## 일상의 질문에서 시작된 실험 기술 블로그에서 가장 재미있는 글은 종종 거창한 프로젝트가 아니라 소소한 궁금증에서 출발한 실험입니다. "오늘 내가 어떤 커피를 마실지 LLM이 예측할 수 있을까?"라는 질문도 그런 종류입니다. 언뜻 보면 장난 ...
Claude에게 모바일 앱 QA를 가르치다 — AI 기반 E2E 테스트 자동화의 현주소
## 모바일 QA, 여전히 고통스러운 영역 모바일 앱 개발을 해본 사람이라면 QA가 얼마나 손이 많이 가는 작업인지 잘 알고 있을 것입니다. 웹 애플리케이션은 Selenium이나 Playwright 같은 도구로 비교적 안정적인 E2E 테스트 파이...
OpenClaw, AI 에이전트 프레임워크의 보안 취약점이 드러나다
## AI 에이전트 시대, 보안은 준비되었나 AI 에이전트 프레임워크가 빠르게 확산되고 있습니다. LLM에 도구 사용 능력을 부여해서 코드를 실행하고, 파일을 읽고, API를 호출하는 자율적 에이전트를 만드는 것이 최근의 가장 뜨거운 트렌드입니다...
