Theseus: 윈도우 없이 윈도우 프로그램을 돌리는 정적 에뮬레이터 이야기

윈도우 실행 파일을 리눅스에서 돌린다고?

요즘은 웬만한 개발이 웹이나 맥, 리눅스 환경에서 이뤄지다 보니 윈도우용 .exe 파일을 만날 일이 점점 줄고 있어요. 그런데 오래된 게임이나 레거시 업무 프로그램, 혹은 윈도우에서만 배포되는 툴을 꼭 써야 하는 순간이 있거든요. 이럴 때 우리가 흔히 떠올리는 해결책은 Wine이에요. Wine은 윈도우 API를 리눅스에서 흉내 내주는 호환 레이어로, 꽤 오래전부터 존재해왔습니다.

그런데 이번에 소개할 Theseus라는 프로젝트는 Wine과 접근 방식이 완전히 달라요. 윈도우 실행 파일을 실행 시점이 아닌, 빌드 시점에 통째로 변환해버리는 "정적 에뮬레이터"라는 거죠. 이게 뭐냐면, 기존에 실행 중간중간 윈도우 호출을 가로채서 처리하던 방식 대신, exe 파일을 분석해서 네이티브 바이너리로 아예 다시 만들어버리는 방식이에요.

어떻게 동작하는 걸까

Theseus의 핵심 아이디어는 이래요. 먼저 윈도우 PE(Portable Executable, 윈도우 실행 파일 포맷) 구조를 파싱해서 그 안에 들어있는 기계어 코드를 추출합니다. 그다음 이 x86 코드를 분석해서 함수 경계를 찾아내고, 윈도우 API 호출 부분은 미리 준비된 대체 구현으로 연결해줘요. 마지막으로 이걸 다시 리눅스용 ELF 바이너리나 심지어 WebAssembly로 뽑아내는 거죠.

이 방식의 가장 큰 장점은 런타임 오버헤드가 거의 없다는 것이에요. Wine처럼 실행 중에 계속 "이 호출은 윈도우용이니까 내가 가로채서 처리해야지" 하는 과정이 없거든요. 이미 변환이 끝난 상태이기 때문에, 변환된 바이너리는 그냥 네이티브 프로그램처럼 돌아갑니다. 또 한 가지 재밌는 건, 출력 타깃을 WebAssembly로 삼으면 브라우저 안에서도 윈도우 프로그램이 돌아갈 수 있다는 점이에요. 박물관에서 오래된 윈도우 게임을 웹페이지로 박제하는 식의 활용도 가능한 거죠.

물론 이 방식에 한계도 명확해요. 정적 분석만으로는 동적으로 코드를 생성하거나(JIT 컴파일러를 쓰는 프로그램), 런타임에 DLL을 불러오는 복잡한 프로그램은 처리하기 어렵습니다. 그래서 Theseus는 지금 단계에서는 비교적 단순한 구조의 옛날 실행 파일, 특히 레트로 게임이나 작은 툴을 대상으로 잡고 있어요.

비슷한 기술들과 비교하면

비슷한 철학을 가진 프로젝트로는 게임 리버스 엔지니어링 쪽의 static recompilation(정적 재컴파일) 작업들이 있어요. 닌텐도 64용 마리오 64를 PC용 네이티브 포트로 만들었던 작업이나, Zelda: Ocarina of Time의 N64Recomp 프로젝트가 대표적이죠. 이 프로젝트들도 기존 바이너리를 분석해서 현대 플랫폼용 코드로 다시 뽑아내는 방식이에요. Theseus는 이런 기법을 특정 게임 하나가 아니라, 윈도우 전반의 실행 파일에 적용해보려는 일반화된 시도라고 보면 됩니다.

반면 Wine이나 Proton(밸브가 Wine을 기반으로 만든 게이밍 호환 레이어)은 여전히 동적 방식이에요. 새로운 윈도우 API가 나와도 호환 레이어만 업데이트하면 대응이 가능하다는 유연성이 있죠. 둘 중 어느 쪽이 절대적으로 낫다기보다는, 목적에 따라 선택지가 생기는 거라고 볼 수 있어요.

한국 개발자가 얻을 수 있는 인사이트

당장 실무에 도입하기엔 이르지만, Theseus가 보여주는 기술적 접근은 배울 가치가 큽니다. 바이너리 분석, 코드 변환, 컴파일러 인프라 같은 주제가 하나의 프로젝트에 다 녹아있거든요. 특히 요즘 국내에서도 리버스 엔지니어링이나 보안 연구에 관심 있는 분들이 늘고 있는데, 이런 프로젝트의 소스를 뜯어보는 것만으로도 좋은 공부가 돼요.

또 실용적으로는, 사내에 오래된 윈도우 기반 레거시 툴이 남아있는 회사라면 장기적인 이전 전략으로 고려해볼 만한 방향이기도 해요. 가상머신을 계속 굴리기엔 유지 비용이 부담스럽고, 소스 코드는 이미 사라진 상황에서, 바이너리만 남은 프로그램을 현대 환경으로 옮겨오는 수단이 될 수 있거든요.

마무리

Theseus는 "실행 파일은 빌드의 최종 산출물이 아니라 또 다른 입력일 뿐이다"라는 관점을 잘 보여주는 프로젝트예요. 여러분이라면 오래된 윈도우 전용 프로그램을 살리기 위해 Wine 같은 동적 방식과 Theseus 같은 정적 재컴파일 방식 중 어느 쪽을 택하실 건가요?