기억은 한 곳에 저장되지 않는다 — 뇌과학이 밝혀낸 기억의 정체, 그리고 AI 신경망의 뿌리

기억은 도대체 어디에 들어 있을까

여러분, 어릴 적 처음 자전거를 탔던 순간이나 시험 전날 밤새 외웠던 영어 단어를 한번 떠올려 보세요. 그 기억이 뇌 어딘가에 파일처럼 "저장"돼 있다고 막연히 생각하잖아요? 사실 오랫동안 과학자들도 비슷하게 봤어요. 특정 기억은 특정 뇌세포 하나에 콕 박혀 있을 거라고요. 농담처럼 "할머니 세포(grandmother cell)"라는 말도 있었는데요, 할머니를 떠올리게 하는 뉴런이 딱 하나 있다는 식의 발상이었죠.

그런데 지난 수십 년의 연구가 이 그림을 완전히 바꿔놨습니다. 기억은 어느 한 칸에 들어 있는 "파일"이 아니라, 수많은 뉴런들이 서로 이어진 연결 패턴 그 자체였던 거예요. 이게 왜 중요하냐면, 우리가 지금 매일 쓰는 AI 신경망이 바로 이 발견 위에 서 있거든요.

핵심: 기억은 '시냅스의 세기'에 새겨진다

뇌에는 약 860억 개의 뉴런이 있고, 이 뉴런들은 시냅스(synapse)라는 연결 지점으로 서로 신호를 주고받아요. 이게 뭐냐면, 뉴런과 뉴런 사이의 "악수하는 손" 같은 거예요. 핵심 발견은 이 손의 "악력", 즉 연결의 세기가 경험에 따라 변한다는 거였어요.

두 뉴런이 자주 같이 활성화되면 둘 사이 연결이 점점 강해지는데요, 이걸 장기 강화(LTP, Long-Term Potentiation)라고 불러요. 신경과학자 도널드 헵이 정리한 유명한 문장이 있어요. "Neurons that fire together, wire together" — 같이 불붙는 뉴런은 같이 엮인다. 즉 무언가를 반복해서 학습하면, 관련된 뉴런들의 연결이 물리적으로 두꺼워지면서 기억이 "하드웨어에 새겨지는" 셈이에요.

더 놀라운 건 하나의 기억이 한 곳이 아니라 뇌 전체에 흩어진 특정 뉴런 집합에 분산 저장된다는 점이에요. 이 집합을 엔그램(engram)이라고 부르는데, 실험에서는 이 엔그램 세포들만 인위적으로 자극해서 "가짜 기억"을 떠올리게 만드는 것까지 성공했어요. 기억이 추상적인 게 아니라 만질 수 있는 물리적 회로라는 걸 보여준 거죠.

업계 맥락: 이 발견이 곧 딥러닝의 설계도였다

여기서 개발자라면 무릎을 칠 부분이 나와요. 인공 신경망에서 우리가 학습시키는 그 가중치(weight)가 바로 생물학적 시냅스의 세기를 본떠 만든 거거든요. 모델을 학습한다는 건 결국 "어떤 연결을 강하게, 어떤 연결을 약하게" 조정하는 과정인데, 이게 LTP가 시냅스 악력을 조절하는 것과 개념적으로 똑같아요.

특히 존 홉필드가 만든 홉필드 네트워크(Hopfield Network)는 대놓고 "연상 기억(associative memory)"을 수학으로 모델링한 거예요. 일부만 보여줘도 전체를 떠올리는, 우리가 노래 앞 소절만 듣고 전곡을 기억해내는 그 능력을 흉내 낸 거죠. 2024년 노벨 물리학상이 홉필드와 제프리 힌턴에게 돌아간 것도 결국 "뇌의 기억 원리를 기계로 옮긴" 공로였어요. 뇌과학의 기억 연구와 오늘날의 AI가 한 뿌리에서 자란 형제라는 게 이렇게 드러납니다.

한국 개발자에게 주는 시사점

당장 코드에 쓸 건 아니지만, 이 배경을 알면 보이는 게 달라져요. 왜 신경망이 "조금 틀린 입력"에도 그럴듯한 답을 내는지, 왜 과적합이 "통째로 외워버리는" 문제인지 같은 게 생물학적 직관으로 이해되거든요. 요즘 뜨거운 RAG나 벡터 임베딩도 결국 "비슷한 걸 가까이 둬서 연상으로 꺼낸다"는 점에서 연상 기억과 닮았어요. 신경과학 개념 몇 개만 챙겨둬도 모델이 왜 그렇게 동작하는지 설명할 때 깊이가 달라집니다.

마무리

결국 기억은 "어디에 저장됐나"가 아니라 "어떻게 연결됐나"의 문제였고, 그 통찰이 지금의 AI를 만들었어요. 여러분은 인공 신경망이 인간의 기억 방식에 얼마나 더 가까워질 수 있다고 보세요? 아니면 둘은 겉만 닮은 전혀 다른 길일까요?