GPU, TPU, NPU 상태를 한번에 — zml-smi가 nvidia-smi를 대체할 수 있을까
## nvidia-smi만으로는 부족한 시대 ML 엔지니어라면 nvidia-smi를 안 써본 분이 없을 거예요. GPU 메모리 사용량 확인하고, 어떤 프로세스가 GPU를 잡고 있는지 보고, 온도 체크하고. 그런데 요즘 AI 하드웨어가 NVIDIA G...
Rust로 만든 실시간 대위법 하모니 생성기, Contrapunk 이야기
## 기타를 치면 바흐 스타일 화음이 실시간으로 따라온다? 음악과 프로그래밍의 접점에서 꽤 흥미로운 프로젝트가 하나 등장했어요. **Contrapunk**이라는 프로젝트인데요, 기타 입력을 실시간으로 분석해서 **대위법(counterpoint)** ...
구글의 벡터 양자화 기술, 이제 브라우저에서 바로 돌린다 — TurboQuant-WASM
## 벡터 양자화가 브라우저 안으로 들어왔어요 요즘 AI 모델을 다뤄본 분이라면 '양자화(quantization)'라는 단어를 한 번쯤 들어봤을 거예요. 거대한 모델을 작은 기기에서도 돌릴 수 있게 모델의 숫자 정밀도를 줄이는 기술인데요. 그런데...
아이디어를 쏘아 맞히는 건 실력이 아닙니다 — 개발팀 회의 문화에 대한 이야기
## 회의실에서 가장 빛나는 사람은 누구인가요? 팀 회의 시간에 누군가 새로운 아이디어를 꺼내면, 곧바로 "그건 안 될 거야"라고 말하는 사람이 꼭 한 명쯤 있지 않나요? 재밌는 건, 그런 사람이 종종 '분석력이 뛰어나다'거나 '현실적인 사람'이...
테크 뉴스를 읽는 당신,
직접 만들어볼 준비 되셨나요?
17가지 수익 모델 실습 · 144+ 강의 · 자동화 소스코드 제공
Claude 에이전트 100개를 동시에 돌려서 테스트한다면? Imbue의 대규모 AI 에이전트 병렬 테스트 사례
## AI 에이전트가 실무에 들어오면 테스트는 어떻게 해야 할까요? AI 에이전트를 실제 업무에 투입하는 회사가 점점 늘고 있어요. 코드 리뷰, 버그 수정, PR 생성 같은 작업을 AI가 알아서 처리하게 만드는 거죠. 그런데 여기서 한 가지 큰 ...
Linux 7.0으로 올렸더니 PostgreSQL 성능이 반토막? AWS 엔지니어가 발견한 심각한 문제
## 무슨 일이 일어났나요? Linux 커널을 최신 버전인 7.0으로 업그레이드했더니 PostgreSQL의 성능이 거의 절반 가까이 떨어졌다는 보고가 나왔어요. 이 문제를 발견한 건 AWS에서 일하는 엔지니어인데요, 단순한 벤치마크 오류가 아니라 실...
Karpathy의 LLM 아이디어 파일 — AI 연구자의 머릿속을 들여다보다
## Andrej Karpathy가 자기 아이디어를 정리한 문서를 공개했어요 **Andrej Karpathy**라는 이름, AI에 관심 있는 분이라면 한 번쯤 들어보셨을 거예요. Tesla의 AI 디렉터를 지냈고, OpenAI 초기 멤버이기도 했...
정말 가치 있는 지식은 왜 말로 설명할 수 없을까 — 암묵지와 개발자 성장
## 설명할 수 없는 앎이 있다 개발을 몇 년 하다 보면 신기한 경험을 하게 되는데요. 코드를 딱 보면 "이거 뭔가 냄새나는데"라는 감이 오는 순간이 있어요. 어디가 문제라고 콕 집어 말하기는 어려운데, 뭔가 잘못됐다는 걸 직감적으로 아는 거죠....
GPU 한 대를 여러 개발자가 나눠 쓴다 — sllm으로 LLM 추론 비용 줄이기
## GPU 비용, 개발자의 영원한 고민 LLM(대규모 언어 모델)을 다뤄본 분이라면 공감하실 텐데요, GPU 비용이 정말 어마어마해요. OpenAI나 Anthropic의 API를 쓰면 토큰당 과금이 되니까 프로토타이핑할 때는 괜찮지만, 본격적으로 ...
AI 코딩 에이전트는 어떻게 만들어질까? 핵심 구성 요소 완전 해부
요즘 Cursor, GitHub Copilot, Claude Code 같은 AI 코딩 도구를 써보신 분 많으시죠? 코드를 짜달라고 하면 알아서 파일을 읽고, 수정하고, 심지어 터미널 명령어까지 실행하는 모습을 보면 "이거 어떻게 만든 거지?" 하는...
Apple이 드디어 NVIDIA eGPU를 허락했다 — Arm Mac에서 NVIDIA 외장 GPU 사용 가능
## Mac에서 NVIDIA를? 진짜요? Mac 사용자, 특히 개발자나 크리에이터라면 한 번쯤 이런 생각을 해보셨을 거예요. "Mac에 NVIDIA GPU를 달 수 있으면 얼마나 좋을까." Apple Silicon(M1, M2, M3, M4 칩)...
Microsoft 'Copilot'이 대체 몇 개야? — 이름은 하나, 제품은 산더미
## Copilot, Copilot, Copilot… 다 같은 거 아니었어? Microsoft 제품을 쓰다 보면 요즘 여기저기서 'Copilot'이라는 이름을 마주치게 되는데요, 처음에는 GitHub Copilot 하나만 있던 것 같았는데 어느새 W...
GPU를 직접 설계해보는 브라우저 게임, 'Mvidia'를 아시나요
## GPU가 뭔지, 게임으로 배운다고? 요즘 AI 시대를 맞이하면서 GPU라는 단어를 정말 많이 듣게 되죠. NVIDIA 주가가 오르네 내리네, GPU 클러스터가 필요하네… 그런데 정작 "GPU가 정확히 어떻게 동작하는 건데?"라고 물으면 명확하게...
Claude Code가 리눅스 커널에 숨어있던 23년 된 취약점을 찾아냈다
## AI가 사람 대신 보안 취약점을 찾는 시대 리눅스 커널에 23년 동안 숨어있던 보안 취약점을 AI 코딩 도구가 발견했다는 소식이 전해졌어요. Anthropic의 AI 코딩 에이전트인 Claude Code를 활용해 코드를 분석하던 중, 수십 ...
CMS는 죽었다, CMS 만세! — 전통적 CMS의 종말과 새로운 시대
## 우리가 알던 CMS, 정말 끝난 걸까요? 웹 개발을 해본 분이라면 CMS라는 단어를 수도 없이 들어봤을 거예요. CMS는 Content Management System, 그러니까 콘텐츠 관리 시스템인데요. 쉽게 말하면 코딩을 잘 몰라도 웹사...
성당, 시장, 그리고 윈체스터 미스터리 하우스 — 소프트웨어 개발 방법론의 세 번째 모델
## 에릭 레이먼드의 비유를 넘어서 소프트웨어 개발 방법론 이야기를 할 때 빠지지 않는 고전이 있어요. 에릭 레이먼드(Eric Raymond)의 1997년 에세이 《성당과 시장(The Cathedral and the Bazaar)》이에요. 이 에...
알고리즘 면접에서는 안 나오지만, 현실에서 쓰이는 독특한 트리 자료구조 이야기
## 트리, 이진 탐색 트리 말고 뭐가 있을까요? 개발자라면 누구나 트리(Tree) 자료구조를 배워요. 이진 탐색 트리(BST), 힙(Heap), AVL 트리 정도는 알고리즘 공부하면서 한 번쯤 만나보셨을 거예요. 그런데 컴퓨터 과학의 세계에는 ...
코드 생성 AI, 스스로를 가르치면 더 똑똑해진다 — Self-Distillation 기법 해부
## 무슨 일이 있었나요? 코드를 생성하는 AI 모델을 더 잘 만들려면 보통 어떻게 할까요? 더 큰 모델을 쓰거나, 더 많은 데이터로 학습시키거나, 사람이 직접 피드백을 주는 RLHF 같은 복잡한 파이프라인을 돌리는 게 일반적이에요. 그런데 최근...
LLM도 감정을 '이해'할까? Anthropic이 밝혀낸 대형 언어 모델 속 감정 개념의 작동 원리
## 기계가 감정을 느끼는 건 아니지만, 뭔가 흥미로운 일이 벌어지고 있어요 Anthropic이 대형 언어 모델(LLM) 내부에서 감정 개념이 어떻게 표현되고 기능하는지를 분석한 연구를 공개했어요. 우리가 ChatGPT나 Claude 같은 AI에...
라즈베리 파이로 나만의 다이얼업 ISP 만들기 — 모뎀 소리 기억나시나요?
## 삐-삐리릭-쮸쮸쮸, 그 시절의 인터넷 2000년대 초반 인터넷을 경험한 분이라면 전화선으로 인터넷에 접속하던 시절을 기억하실 거예요. 전화기를 들고 ISP(인터넷 서비스 제공업체) 접속 번호를 누르면, 모뎀이 "삐이이-쮸르르르륵" 하는 특유의 ...
