연속 확산 언어모델의 부활: 왜 지금 다시 주목받는가

거대 언어모델(LLM)은 지금까지 사실상 자기회귀(autoregressive) 방식이 지배해 왔다. 토큰을 하나씩 순차적으로 생성하는 이 방식은 어려운 생성 과제를 작은 단계로 쪼개고, 각 단계가 '앞선 토큰들을 보고 다음 토큰을 예측한다'는 동일한 과제이기에 파라미터를 공유할 수 있다. 트랜스포머 구조는 교사강요(teacher forcing)를 통해 모든 위치를 병렬로 학습할 수 있어, 이 조합은 극도로 확장성 좋은 레시피로 자리 잡았다. 그러나 순차 생성만이 유일한 길은 아니다. 이미지·오디오 영역의 성공에 자극받아 연구자들은 확산(diffusion) 모델을 언어에 적용하려 했고, 최근 수년간 잠잠하던 '연속 확산' 계열이 다시 활기를 띠기 시작했다. 구글에서 Imagen, Veo 등 생성 모델을 만들어 온 연구자 산더 디엘레만은 자신의 글에서 이 흐름을 정리하며, 왜 하필 지금 이 부활이 일어나는지를 짚는다.

이산 확산이 밀어낸 연속 확산

확산 모델의 생성 과정은 정보를 점진적으로 파괴하는 손상(corruption) 과정을 거꾸로 되돌리는 방식으로 정의된다. 가장 전형적인 손상은 가우시안 노이즈를 조금씩 더해 신호를 완전히 덮어버리는 것이다. 문제는 언어가 범주형(categorical) 데이터라는 점이다. 토큰들 사이에는 순서나 크기 같은 관계가 없어 연속 노이즈를 곧바로 얹기 어렵다. 이를 해결하는 두 갈래가 등장했다. 하나는 손상 과정 자체를 이산적으로 바꾼 이산 확산(D3PM, 멀티노미얼 확산, SUNDAE 등, 2021년)이고, 다른 하나는 2022년 Diffusion-LM이 제시한 방식으로, 토큰을 연속 임베딩 벡터로 표현한 뒤 이미지에서 검증된 가우시안 확산 기법을 그대로 적용하는 것이다. 후자 계열에서는 DiffuSeq, SSD-LM, GENIE, 그리고 저자가 참여한 SED와 CDCD 등 여러 논문이 2022년 말 쏟아졌다.

연속 확산의 매력은 분명했다. 오디오·영상 생성에서 축적된 방대한 샘플링·증류(distillation) 기법과 도구를 그대로 물려받을 수 있었기 때문이다. 반면 이산 확산에는 이런 기법을 옮기는 일이 훨씬 까다롭거나 아예 불가능한 경우가 많았다. 그럼에도 2023년 이후 신규 연구는 거의 전부 이산 확산으로 몰렸고, 언어용 연속 확산은 사실상 '멸종'했다. 2025년의 한 서베이 논문에 실린 도표는 2023년에서 2024년으로 넘어가는 시점의 급격한 전환을 뚜렷이 보여준다.

무엇이 흐름을 뒤집었나

저자는 원인을 단정하지 않되 몇 가지 요인을 제시한다. 첫째는 'ChatGPT 모멘트'다. 연구의 초점이 이론적 우아함에서 자기회귀 모델과의 성능 격차를 좁히는 쪽으로 옮겨갔고, 개념적으로 자기회귀에 더 가까운 이산 방식이 그 목표에 유리해 보였다. 둘째는 학습 효율이다. 2023년 5월 Gulrajani와 Hashimoto는 우도 기반 연속 확산 모델(Plaid-1B)의 학습 효율이 자기회귀 기준선보다 무려 64배 떨어진다고 정량화했다. 학습 연산 대 퍼플렉시티의 파레토 경계, 즉 친칠라 최적성에 온 커뮤니티가 몰두하던 시기에 두 자릿수 가까이 비효율적인 접근을 진지하게 받아들이기는 어려웠다. 추론 예산까지 고려하자고 주장한 첫 LLaMA가 나온 지 몇 달밖에 지나지 않아, 그 관점이 아직 내면화되지 않았을 것이라는 해석이다. 저자 자신은 이 시기 이미 이미지·영상 생성으로 옮겨가 이 변화를 관망하는 입장이었다고 밝힌다.

연속 확산을 성립시키는 재료들

최근의 반등을 이해하려면 연속 확산이 범주형 데이터에 실제로 어떻게 적용되는지를 알아야 한다. 핵심은 손상 과정을 이산 입력 공간이 아니라 연속 임베딩 공간으로 '들어올리는' 것이다. 이산 확산이 손상 후 임베딩 순서라면, 연속 확산은 먼저 임베딩하고 그 위에서 연속 손상을 가하는 식으로 연산 순서만 바꾼 셈이다. 다만 임베딩 공간의 모양과 구조가 손상 과정의 성격을 근본적으로 좌우한다는 점이 결정적이다. 저자는 필요한 재료로 임베딩 전략, 손실 함수, 합리적인 노이즈 스케줄을 꼽고, 여기에 거의 모든 논문에 등장하며 성능에 큰 영향을 주는 '자기조건화(self-conditioning)' 기법을 덧붙인다.

임베딩 전략은 크게 세 갈래다. SSD-LM처럼 원-핫 등 명시적 표현을 쓰는 방식은 단순하지만 어휘 크기 V가 큰 현대 모델에서는 다루기 번거로워, Analog Bits 같은 이진 패턴이 대안으로 제시된다. SED처럼 BERT나 자기회귀 모델에서 사전학습된 임베딩을 빌려오거나 문맥 의존적으로 만드는 방식도 있다. 마지막으로 CDCD처럼 임베딩과 디노이저를 한 번의 학습으로 함께 맞추는 공동 학습 방식이 있는데, 이는 이산 확산이나 자기회귀 LLM에서 통하는 방법이자 오늘날 선호되는 단일 단계 종단간 학습에 가장 부합한다. 문제는 연속 확산에서 임베딩 공간의 역할이 유독 크다는 데 있다. 순진하게 설계하면 모든 임베딩이 같아져 디노이징 오차가 병리적으로 최소화되는 붕괴가 일어나거나 임베딩이 통제 불능으로 커질 수 있어, 손실 항들 사이의 균형이 필요하다.

한국 실무자에게 주는 함의

실무 관점에서 이 논의의 가치는 '연속이냐 이산이냐'라는 이분법 자체보다, 확산 언어모델이 자기회귀의 대안으로 다시 검토될 만한 조건이 무르익고 있다는 신호에 있다. 저자가 연속 확산의 장점으로 든 토큰 단위 불확실성 표현 능력과 풍부한 샘플링 도구상자는, 제어 가능한 생성이나 채워넣기(infilling)처럼 자기회귀가 약한 과제에서 여전히 매력적이다. 다만 이 글은 최신 연구 동향의 구체적 성과나 벤치마크 수치를 제시하기보다, 역사적 맥락과 기술적 전제 정리에 무게를 둔 서문 성격의 글임을 감안해야 한다. 저자 스스로 주관적 서술이며 원인 분석은 다분히 추측이라고 못 박은 만큼, 실제 도입을 검토하려는 팀이라면 64배 학습 효율 격차 같은 과거 수치가 최근 연구에서 얼마나 좁혀졌는지를 후속 자료로 직접 확인할 필요가 있다. 결국 지금 주목할 점은 오랫동안 이산 확산에 눌려 있던 접근이 다시 살아나고 있으며, 그 성패가 임베딩 공간 설계라는 미묘한 지점에 달려 있다는 사실이다.