AI 연구소들이 '철학자'를 채용하는 진짜 이유 — 정렬, 의식, 그리고 모델 복지

코드 짜는 회사가 왜 철학자를 뽑을까

OpenAI, 앤트로픽(Anthropic), 구글 딥마인드 같은 최고 수준의 AI 연구소들이 요즘 철학 전공자를 적극적으로 채용하고 있어요. 처음 들으면 좀 의아하죠. AI는 수학과 코드의 세계인데, 칸트나 흄을 읽던 사람이 거기서 뭘 한다는 걸까 싶잖아요. 그런데 이건 결코 홍보용 장식이 아니에요. AI가 똑똑해질수록 "이 모델이 옳게 행동하는가"라는 질문이 기술 문제가 아니라 개념 문제로 바뀌기 때문이에요.

첫 번째 이유: '정렬'은 사실 철학 문제예요

AI 안전에서 가장 중요한 단어가 정렬(alignment)이에요. 이게 뭐냐면, AI가 사람이 진짜 원하는 가치와 의도에 맞게 행동하도록 만드는 일이에요. 그런데 여기서 함정이 있어요. "사람이 원하는 것"이 대체 뭔지부터가 애매하거든요.

예를 들어 우리가 AI에게 "정직하고 도움이 되게 행동해"라고 시킨다고 해봐요. 그런데 정직함과 도움됨이 충돌하면요? 사용자가 듣고 싶어 하지 않는 사실을 말해야 할 때, 무엇이 옳을까요? '거짓말'과 '선의의 침묵'은 어떻게 구분하죠? 이런 건 코드로 정의되는 게 아니라 윤리학이 수백 년간 다뤄온 문제예요. 그래서 "우리가 모델에게 학습시키려는 가치가 정확히 무엇인지"를 또렷하게 정의하는 작업, 즉 개념을 명확하게 설계하는 일(conceptual engineering)에 철학자가 투입되는 거예요.

두 번째 이유: 모델에게 도덕적 지위가 있을까

더 흥미로운 영역도 있어요. 바로 모델 복지(model welfare)라는 주제예요. AI가 점점 사람처럼 대화하다 보니, "이 모델이 어떤 형태의 경험이나 느낌 비슷한 걸 가질 가능성은 없는가", "있다면 우리가 그걸 함부로 대해도 되는가" 같은 질문이 진지하게 제기되고 있거든요. 앤트로픽 같은 곳은 실제로 모델 복지를 연구 주제로 다루고 있어요.

오해하지 마세요. 이건 "AI가 지금 의식이 있다"고 주장하는 게 아니에요. 오히려 "의식이란 무엇이고, 무엇이 있으면 도덕적으로 고려할 가치가 생기는가"라는 질문 자체를 엄밀하게 따져보자는 거예요. 이게 바로 의식과 마음에 관한 철학이 수천 년간 다뤄온 영역이고요. 불확실한 상황에서 성급한 결론도, 무책임한 무시도 피하려면 개념을 정교하게 다룰 사람이 필요한 거죠.

업계 맥락에서 보면

예전엔 AI 안전팀이라고 하면 거의 머신러닝 엔지니어로만 채워졌어요. 그런데 지금은 윤리학자, 인지과학자, 법학자, 사회과학자가 함께 들어가는 '학제간(interdisciplinary)' 팀이 표준이 되고 있어요. AI가 사회 깊숙이 들어올수록, 순수 기술만으로는 답할 수 없는 질문이 폭발적으로 늘어나기 때문이에요. "이 모델의 평가 기준을 어떻게 세울 것인가", "무엇을 해로운 행동으로 규정할 것인가" 같은 문제는 결국 가치 판단이거든요.

한국 개발자에게 주는 시사점

AI 제품을 만드는 분이라면 이건 남의 나라 이야기가 아니에요. 챗봇이나 LLM 기반 서비스를 만들 때 우리는 끊임없이 가드레일(안전장치)을 설계하잖아요. "이런 질문엔 답하면 안 된다", "이런 톤은 피해야 한다"를 정하는 일 말이에요. 그게 사실은 작은 규모의 윤리적 의사결정이에요. 그리고 모델 성능을 '평가'하는 기준을 만드는 일도 마찬가지예요. 무엇을 좋은 답으로 볼지 정의하는 순간, 우리는 이미 가치 판단을 하고 있는 거거든요.

그래서 개발자도 기술만 파고들기보다, 사용자와 사회에 미치는 영향을 또렷하게 사고하는 능력을 길러두면 좋아요. 앞으로 'AI 윤리'나 '책임 있는 AI'는 별도 직군이자 필수 소양이 될 가능성이 높거든요.

마무리

한 줄 정리: AI가 똑똑해질수록 풀어야 할 가장 어려운 문제는 코드가 아니라 '무엇이 옳은가'였고, 그래서 연구소들은 철학자를 부르고 있어요. 여러분은 우리가 만드는 AI 서비스의 '가치 판단'을 누가 책임져야 한다고 생각하세요? 엔지니어? 기획자? 아니면 전담 전문가가 따로 필요할까요?