'나쁜 기억력'이 지능에 좋은 이유 - Andrej Karpathy 최근 AI 씬에서 가장 주목받는 인물 중 한 명인...

우리가 아는 최고의 학습자인 '아이들'을 떠올려 봅시다. 아이들은 스펀지처럼 세상을 배우지만, 정작 어린 시절의 구체적인 정보는 거의 기억하지 못합니다. 모든 걸 잊어버리는 '기억상실증' 환자에 가깝죠. 반면, LLM(거대 언어 모델)은 위키피디아의 문장을 토씨 하나 안 틀리고 외울 수 있을 정도로 기억력이 뛰어납니다.
하지만 바로 이 지점에서 지능의 역설이 발생합니다. 아이들은 '나무'가 아닌 '숲'을 보는 방식으로, 즉 세부 정보를 잊어버리는 대신 세상이 작동하는 일반적인 '패턴'과 '추상적 개념'을 놀랍도록 빠르게 학습합니다. 반면, LLM의 뛰어난 기억력은 오히려 추상적 사고의 '방해물'이 되기도 합니다.
.
.
.
(아래 이어서)
Karpathy는 단언합니다. 인간의 '나쁜 기억력'은 지능의 결함(bug)이 아니라, 오히려 핵심적인 기능(feature)이라고 말입니다. 우리는 무작위로 나열된 숫자를 한 번 보고 외울 수 없지만, AI는 가능합니다. 이것이 AI의 우월함을 증명하는 것일까요?
그는 정반대로 해석합니다. 완벽하게 기억할 수 없기 때문에, 우리의 뇌는 정보를 '압축'하고 '일반화'하여 핵심 패턴을 추출하도록 강요받습니다. 즉, 불완전한 기억력이 오히려 고차원적인 '이해'와 '통찰'을 이끌어내는 엔진 역할을 한다는 것입니다. 기억에 의존하는 대신 원리를 파악하게 되는 것이죠.
.
.
.
(아래 이어서)
그렇다면 이 통찰을 AI에 어떻게 적용할 수 있을까요? Karpathy는 미래 AI가 나아갈 방향으로 '기억을 제거하는 것'이라는 파격적인 아이디어를 제시합니다. AI 모델에서 방대한 기억(데이터)을 분리하고, 순수한 '사고 알고리즘'과 '인지적 접착제' 역할만 남기는 '인지 핵(Cognitive Core)' 개념입니다.
이러한 AI는 사실을 암기하는 대신, 필요할 때마다 외부 정보를 '찾아보는' 방식으로 작동합니다. 이는 AI가 사전 훈련된 데이터의 기억에 방해받지 않고, 오직 일반화 가능한 '생각의 원리'에만 집중하게 만듭니다. 이는 마치 우리가 모든 것을 외우지 않고, 필요할 때 책이나 인터넷을 찾아보는 것과 같습니다.
.
.
.
(아래 이어서)
오늘 내용 어떻게 보셨나요? Karpathy의 메시지는 분명합니다. 진정한 지능은 '얼마나 많이 기억하는가'가 아니라, '얼마나 잘 일반화하는가'에 달려있습니다. 우리는 정보를 '수집'하고 '암기'하는 것을 지능이라 착각하는 시대에 살고있습니다.
하지만 AI 시대의 핵심은 정반대일지 모릅니다. 무엇을 기억할지보다 무엇을 잊을지가 더 중요해지는 것이죠. 지금 스스로에게 질문을 던져보십시오. "나는 정보를 수집하는 데만 급급하지 않았는가? 진정한 '통찰'을 위해 무엇을 버리고, 무엇에 집중해야 하는가?" 이 질문에 대한 답을 찾는 과정이, AI 시대를 살아가는 우리 모두에게 가장 중요한 지적 여정이 될 것입니다.
.
.
.
(아래 이어서)
저는 미국 이커머스 분야와 AI 분야에 있습니다. 앞으로도 계속 제가 개인적으로 공부하는 내용들을 공유할 예정입니다. SNS에서 지식도 함께 챙기시려면 @AIBopyo 팔로우 해주시길 긴 글 읽어주셔서 감사합니다. 다음 메모로 찾아올게요!
*오늘 글이 도움이 되셨나요? 이런 글을 타래 형식이 아닌 긴 글로 편하게 이메일로 전달 받고 싶은 분들은 프로필 보표레터 링크를 클릭해서 유료(월/5.19$) 구독해놓으세요. 베스트 글만 정리해서 보내드립니다. 커피 한잔 값으로 남들보다 앞서가세요.
bopyoletters.com
*영상 출처 링크가 필요하신 분들은 댓글로 요청해주시면 대댓글로 남겨드리겠습니다. 좋은 하루 되세요.
