지금 LLM 요금이 너무 싼 이유 — 그리고 곧 끝날 잔치

지금 우리가 쓰는 LLM API 가격은 사실 '진짜 원가'가 아닙니다. 거대 투자금과 출혈 경쟁이 만든 보조금 위에 얹힌 임시 가격이죠. 글쓴이는 과거 클라우드 시장이 걸어온 길에 빗대 이 구조를 설명합니다. 초기엔 시장 점유를 위해 손해를 보며 싸게 풀지만, 결국 GPU 구매·전력·냉각·인프라 같은 막대한 고정비가 청구서로 돌아온다는 것입니다. 추론(inference) 비용은 토큰 사용량에 비례해 끝없이 늘어나는데, 모델은 점점 커지고 사용자는 더 긴 컨텍스트와 더 많은 호출을 요구합니다. 즉 매출이 늘수록 적자도 같이 커지는 구조입니다. 한국 IT 종사자에게 주는 시사점은 분명합니다. 첫째, 지금의 저렴한 API 단가를 전제로 사업 모델을 설계하면 가격 인상 시 무너질 수 있습니다. 둘째, 프롬프트 캐싱·소형 모델 라우팅·토큰 최적화 같은 비용 효율 설계를 지금부터 내재화해야 합니다. 셋째, 특정 벤더 종속을 줄이고 온디바이스·오픈모델 같은 대안을 함께 검토할 때입니다. 잔치가 끝나기 전에 준비한 팀만 살아남습니다.