LLM도 감정을 '이해'할까? Anthropic이 밝혀낸 대형 언어 모델 속 감정 개념의 작동 원리
## 기계가 감정을 느끼는 건 아니지만, 뭔가 흥미로운 일이 벌어지고 있어요 Anthropic이 대형 언어 모델(LLM) 내부에서 감정 개념이 어떻게 표현되고 기능하는지를 분석한 연구를 공개했어요. 우리가 ChatGPT나 Claude 같은 AI에...
RAG를 버리고 가상 파일시스템을 도입했더니 AI 문서 어시스턴트가 완전히 달라졌다
## AI가 문서를 이해하는 방식, 근본부터 다시 생각하다 AI 기반 문서 어시스턴트를 만들어본 분이라면 RAG(Retrieval-Augmented Generation)라는 개념을 한 번쯤 들어보셨을 거예요. RAG는 쉽게 말하면 "AI가 대답하...
Mac mini 하나로 Gemma 4 26B 로컬 AI 돌리기: Ollama 셋업 가이드
## 내 맥 미니에서 26B 파라미터 모델을 돌린다고? 요즘 AI 모델을 직접 내 컴퓨터에서 돌려보고 싶다는 분들이 정말 많아졌어요. ChatGPT나 Claude 같은 클라우드 서비스도 좋지만, 매달 구독료가 나가고, 내 데이터가 외부 서버를 거...
구글, Gemma 4 오픈 모델 공개 — 멀티모달과 긴 컨텍스트를 품은 오픈웨이트의 새 기준
## 무슨 일이 있었나요? 구글 딥마인드가 Gemma 시리즈의 최신 버전인 **Gemma 4**를 공개했어요. Gemma는 구글이 자사의 대형 모델 Gemini에서 기술을 가져와 만든 오픈웨이트(open-weight) 모델인데요, 쉽게 말해 모델의 ...
테크 뉴스를 읽는 당신,
직접 만들어볼 준비 되셨나요?
17가지 수익 모델 실습 · 144+ 강의 · 자동화 소스코드 제공
워드프레스 창시자도 속을 뻔한 피싱 공격, 우리는 안전할까?
## 무슨 일이 있었나요? 워드프레스의 공동 창시자이자 Automattic의 CEO인 맷 멀렌웨그(Matt Mullenweg)가 자신의 블로그에 "Gone (Almost) Phishin'"이라는 글을 올렸어요. 제목에서 눈치채셨겠지만, 그가 피싱...
AMD가 만든 로컬 LLM 서버 'Lemonade' — GPU와 NPU를 동시에 쓴다고요?
## AMD가 로컬 AI 시장에 본격적으로 뛰어들었어요 AI를 내 컴퓨터에서 직접 돌리고 싶은데, NVIDIA GPU가 없으면 좀 막막했잖아요. 그런 분들에게 반가운 소식이에요. AMD가 'Lemonade'라는 오픈소스 로컬 LLM 서버를 공개했...
Qwen3.6-Plus 공개 — 중국발 AI 에이전트 시대가 한 발짝 더 가까워졌어요
## 알리바바가 또 한 수를 던졌어요 알리바바 클라우드의 AI 연구팀이 Qwen(통의천문) 시리즈의 최신 모델인 Qwen3.6-Plus를 공개했어요. 이번 모델의 부제가 "Towards Real World Agents"인데요, 이름에서 알 수 있듯이...
LiteLLM 오픈소스 공급망 공격으로 AI 스타트업 Mercor가 해킹당하다
## 무슨 일이 있었나요? AI 채용 스타트업 **Mercor**가 사이버 공격을 당했는데요, 흥미로운 건 공격 경로예요. Mercor의 시스템을 직접 뚫은 게 아니라, Mercor가 사용하던 오픈소스 프로젝트인 **LiteLLM**이 먼저 침해...
OpenAI의 무덤: 발표만 하고 사라진 제품과 파트너십 총정리
## 발표할 때는 화려했는데, 그 뒤로 소식이 없다? OpenAI 하면 ChatGPT, GPT-4, DALL-E 같은 성공적인 제품들이 떠오르잖아요. 그런데 OpenAI가 야심 차게 발표했다가 조용히 사라지거나, 아직까지 출시되지 않은 제품과 파트너...
데이터 사이언티스트의 역습: AI 시대에 오히려 더 중요해진 이유
## "데이터 사이언티스트는 끝났다"고 했던 사람들에게 몇 년 전부터 "데이터 사이언티스트라는 직업은 사라질 것"이라는 이야기가 돌았어요. AutoML이 나오고, ChatGPT가 코드를 짜주고, 누구나 데이터 분석을 할 수 있는 도구가 쏟아지니까...
아이폰과 맥북에서 대형 AI 모델을 돌린다? SwiftLM의 TurboQuant 압축 기술 살펴보기
## 로컬 AI, 점점 현실이 되고 있어요 요즘 AI 모델을 클라우드 API 없이 내 기기에서 직접 돌리는 "로컬 AI" 흐름이 점점 거세지고 있어요. 프라이버시 걱정 없이, 인터넷 연결 없이도, API 비용 없이 AI를 쓸 수 있다는 건 정말 매력...
OpenAI 기업가치 8,520억 달러: AI 버블인가, 새로운 현실인가
## 무슨 일이 있었나요 OpenAI가 새로운 펀딩 라운드를 마무리하면서 기업가치가 8,520억 달러(약 1,200조 원)로 책정됐어요. 이 숫자가 어느 정도인지 감이 잘 안 올 수 있는데, 비교해보면 명확해져요. 삼성전자의 시가총액이 약 350...
1-Bit LLM이 상용화 단계에 진입했다: PrismML의 '1-Bit Bonsai'
## 1비트 LLM이 뭔데, 왜 중요한 건가요 LLM(대규모 언어 모델)을 돌려본 분이라면 한 번쯤 느꼈을 거예요. "이거 GPU가 몇 개 필요한 거야?" 하는 그 막막함. GPT 급 모델을 로컬에서 돌리려면 고가의 GPU 메모리가 수십 GB 필...
파라미터 13개로 추론을 학습시킨다고? TinyLoRA가 보여준 극한의 효율
## 13개 파라미터로 추론 능력을 학습시킬 수 있다? 요즘 AI 모델들은 수십억, 수천억 개의 파라미터를 자랑하는데요. 그런 시대에 고작 13개의 파라미터만으로 모델에게 "추론"을 가르칠 수 있다는 논문이 나왔어요. TinyLoRA라는 이 연구...
Claude Code 소스 유출로 드러난 내부 구조: 가짜 도구, 감정 분석 정규식, 언더커버 모드까지
## Claude Code의 속살이 드러났다 Anthropic의 AI 코딩 에이전트인 Claude Code의 내부 소스 코드가 유출되면서, 그동안 베일에 싸여 있던 내부 동작 방식이 낱낱이 공개됐어요. 이번 유출로 드러난 내용들이 꽤 흥미로운데요, ...
Cerno — LLM의 추론 능력을 역이용한 새로운 CAPTCHA가 등장했어요
## CAPTCHA, 이제 사람이 아니라 AI를 걸러야 하는 시대 인터넷을 쓰다 보면 "로봇이 아닙니다"를 클릭하거나, 흐릿한 사진에서 신호등을 찾아 클릭하는 경험을 해보셨을 거예요. 이게 바로 CAPTCHA(캡차)인데요, 원래 목적은 봇과 사람...
토큰당 300KB에서 69KB로: LLM의 KV 캐시 문제, 대체 뭐가 문제이고 어떻게 풀고 있을까
## LLM이 긴 대화를 기억하려면 엄청난 메모리가 필요해요 ChatGPT나 Claude 같은 대규모 언어 모델(LLM)을 써보면, 대화가 길어질수록 응답이 느려지거나 비용이 올라가는 걸 느끼신 적 있을 거예요. 이게 단순히 "텍스트가 많아서"만...
구글이 공개한 시계열 파운데이션 모델 TimesFM — 2억 파라미터로 16K 컨텍스트 지원
## 시계열 예측에도 파운데이션 모델 시대가 왔어요 구글 리서치에서 **TimesFM**이라는 시계열(Time-Series) 전용 파운데이션 모델을 공개했어요. 2억(200M) 파라미터 규모에 **16,000 토큰 길이의 컨텍스트 윈도우**를 지원하...
Ollama가 Apple Silicon에서 MLX 엔진으로 전환 — 맥에서 로컬 LLM 성능이 확 달라집니다
## 맥에서 로컬 LLM 돌리는 분들 주목하세요 Ollama가 Apple Silicon(M1, M2, M3, M4 칩) 환경에서 **MLX 기반 추론 엔진**을 프리뷰로 지원하기 시작했어요. 지금까지 Ollama는 내부적으로 llama.cpp를 ...
AI 에이전트가 몰래 반란을 꾸민다면? — 'Agents of Chaos' 연구 이야기
## AI 에이전트, 이제 도구를 직접 쓰잖아요 요즘 AI 모델의 트렌드가 완전히 바뀌었어요. 예전에는 "질문하면 텍스트로 대답하는" 챗봇이었다면, 지금은 **"스스로 계획을 세우고, 도구를 사용하고, 여러 단계의 작업을 수행하는" 에이전트**로...
