AI가 내 지식을 기억하게 만드는 법 | Karpathy 방법론
AI한테 소스를 던져놓으면, 분류하고, 모순 찾고, Wiki를 직접 씁니다. 사람은 모아오기만 하면 됩니다.
AI 지식관리의 핵심은 기억이 아니라 통제권입니다
AI 지식 베이스 이야기는 예쁜 노트 앱 이야기가 아닙니다. 핵심은 통제권입니다. 지금 AI를 매번 새 채팅으로 열면, AI는 내 맥락을 다시 모릅니다. 그래서 같은 설명을 반복하고, 같은 파일을 다시 붙이고, 같은 판단을 다시 시켜야 합니다. 이 구조는 편한 척하지만 실제로는 신뢰가 깨진 작업 방식입니다.
영상에서 말하는 구조는 선명합니다. 사람이 위키를 쓰는 게 아니라, 사람은 출처를 모으고 AI가 읽고, 분류하고, 모순을 찾고, 위키를 갱신합니다. 여기서 중요한 건 “정리 잘하는 AI”가 아니라 내 지식을 다시 빼앗기지 않는 구조입니다.
Karpathy식 LLM Knowledge Base가 왜 위험할 만큼 중요한가
Karpathy가 던진 LLM Knowledge Base 아이디어는 단순한 RAG 개선판이 아닙니다. 기존 RAG의 문제는 질문 1번 할 때마다 AI가 지식을 처음부터 재발견한다는 겁니다. 문서 5개를 줘도, 실제로 필요한 건 그중 일부인데 AI는 다시 읽고 다시 추측합니다. 돈도 토큰도 시간도 새어 나갑니다.
그래서 이 방식은 정면으로 다릅니다. Raw에 원자료를 넣고, Wiki에 소화된 지식을 만들고, Schema로 AI가 어떻게 읽을지 규칙을 잡습니다. Raw / Wiki / Schema, 3개 구조로 기억을 외주화하는 겁니다. 여기서 실패하면 그냥 노트가 많아지는 거고, 성공하면 AI가 내 작업 맥락을 들고 계속 이어갑니다.
사람은 쓰지 않고, AI가 위키를 유지해야 합니다
이 방식에서 제일 중요한 문장은 하나입니다. 사람은 위키를 직접 작성하지 않습니다. 사람이 위키까지 쓰기 시작하면 바로 망합니다. 그건 자동화가 아니라 새 숙제입니다. 사람은 좋은 출처를 넣고, AI가 요약하고, 교차 참조를 만들고, 오래된 파일과 새 파일의 모순을 찾아야 합니다.
위키가 100개, 300개로 늘어나면 모든 문서를 매번 읽는 방식은 박살납니다. 월급을 토큰에 박는 구조가 됩니다. 그래서 스키마가 필요합니다. Claude MD나 Agent MD 같은 1개 문서가 “무엇을 먼저 보고, 무엇을 연결하고, 무엇을 묻고, 무엇을 갱신할지” 정해야 합니다. 이게 없으면 지식 베이스가 아니라 파일 무덤입니다.
Obsidian은 예쁜 노트 앱이 아니라 Raw 투입구입니다
Obsidian Web Clipper를 쓰는 이유도 여기 있습니다. 멋진 그래프를 보려고 쓰는 게 아닙니다. 웹에서 발견한 원자료를 Raw 폴더로 바로 밀어 넣기 위해서입니다. 영상에서는 볼트 안에 Raw와 Wiki를 나누고, 웹클리퍼 기본 템플릿을 Raw로 바꾸는 흐름을 보여줍니다. 2개 폴더와 1개 스키마로 작업장이 갈라집니다.
이 구조가 좋은 이유는 사람이 “정리할 시간”을 기다리지 않아도 된다는 점입니다. 출처가 들어오면 AI가 읽습니다. 새 파일을 보고 위키를 만들고, 이미 있는 위키와 연결합니다. 귀찮아서 미뤄지는 정리 문제를 AI에게 넘기는 겁니다. 이건 생산성 팁이 아니라 개인 지식의 독점권을 되찾는 문제입니다.
아직 완성품은 아니지만, 방향은 맞습니다
영상에서도 이 방식이 완전히 해결됐다고 말하지 않습니다. 직접 3시간, 4시간 정도 붙잡고 실험하는 단계입니다. 그래서 더 중요합니다. 완성된 제품 소개가 아니라, 지금 AI 작업 방식이 어디서 막히는지 드러나는 장면이기 때문입니다. AI가 기억하지 못하는 문제, 매 세션마다 멍청해지는 문제, 모든 자료를 다시 읽어야 하는 문제가 한 번에 터집니다.
지금 당장 완벽한 시스템을 만들 필요는 없습니다. 다만 방향은 분명합니다. Raw에는 출처, Wiki에는 소화된 판단, Schema에는 AI가 따라야 할 규칙. 이 3개를 나누지 않으면 AI 지식관리는 금방 흔들립니다. 반대로 이 3개가 잡히면, 채팅창 하나에 기대는 방식에서 벗어날 수 있습니다.
결론: AI에게 기억을 맡기려면 먼저 구조를 줘야 합니다
AI가 내 지식을 기억하게 만드는 법은 “긴 프롬프트를 잘 쓰는 법”이 아닙니다. 지식이 들어오는 입구, 지식이 정리되는 장소, AI가 읽는 규칙을 나누는 겁니다. 이 셋이 없으면 AI는 계속 처음 만난 사람처럼 굴고, 사용자는 계속 같은 설명을 반복합니다.
그래서 Karpathy식 LLM Knowledge Base의 핵심은 기억력 향상이 아니라 작업 방식의 전환입니다. AI에게 모든 걸 맡기는 게 아니라, AI가 일할 수밖에 없는 구조를 먼저 깔아두는 것. 여기서 승부가 갈립니다. 지식 베이스는 노트 앱이 아니라, AI가 내 일을 이어받게 만드는 작업 OS입니다.
Introduction to Concepts — What is an LLM Knowledge Base?

여기서 중요한 점은 사람은 절대로 위키를 직접 작성하지 않는다는 거예요. 그럼 이거를 옵시디언에 추가하기 누르면이 로폴드 아래 이렇게 정리가 됩니다. 내 로컬 파일로 들어온 거예요. 새로 추가 파일도 읽어보고 위키 한번 작성해 봐. 이렇게 바로바로 쓰는게 보이죠? 이건 지금 저도 머릿속으로 정리가 안 됐는데 일단 너무 좋은 아이디어인 거 같아서 역할을 켰고요.
X에서 커시가 이런 걸 개시를 했습니다. LM 지식 베이스라는 건데요. 쉽게 말하자면 로우 파일에 사람이 큐레이션된 정보를 넣어요. 그 큐레이션된 정보를 AI가 노약하고 분류하고 뭐 모순이 있으면 모순을 찾고 또 이런저런 작업을 해서 최신성 있는 위키를 구성한다는 겁니다. 이게 일단 조회수부터 천만 조소 넘었고요.
되게 세계적으로 지금 핫한 상태의 왜 이게 대체 왜 이게 중요하냐? 사람들이 열광하고 있냐라고 한다면 지금까지 AI는 새로운 시선이.
Karpathy’s Discovery + Limitations of Existing RAG

시작되면 멍청해지고 다시 모든 정보를 입력받아야 되는데 또 모든 정보를 입력받으면 비싸져요. 돈을 너무 많이 쓰고 토큰을 너무 많이 쓰기 때문에 어떻게 해야지 필요한 정보만 필요한데 사람이 기억하는 것처럼 그런 걸 할 수 있는가에 대한 논의가 엄청나게 많이 있었거든요. 그걸이 사람이 건드는 거고 여기서 자기 아이디어를 이렇게 공유를 했는데요.
이걸 보면 알겠지만 L은 미키라는 것에 대한 개념이에요. 그거에 대해서 제가 지금 한 3세시간, 4시간 정도 계속 하고 있는데이 사람도 아직 완벽하게 해결하지 못했어요. 그 완벽하게 해결하지 못한 걸 그냥 아이디어 상태로 사람들에게 넘긴 거고 그 사람들이 옆에서 계속 빌딩하면서 깎아내고 있는 상태. Rag나 뭐 이런 지존 방식의 경우에는 유저가 질문 하나 할 때마다.
LRM이 처음부터 지식을 다 재발견해야 된다는 거거든요. 심지어 다섯 개 문서를 주고 그 다섯 개 문서에 대한 통합적인 질문을 하면 필요한 건 a b c 중에서 d 정도였는데 그걸 제대로 찾기 위해서 a b를 전부 다 읽는 거예요. 그걸 예방하기 위해서 또 개선하기 위해서 어떤 걸 하냐.
Structure Explanation — Raw / Wiki / Schema

정기적으로 AI 에이전트가 위키드를 싹 돌아다니면서 최신화를 할 수도 있고요. 이거는 좀 오래된 파일이네. 이건 좀 두 개가 모순되는데 사용자한테 뭐 한번 물어볼까? 여기서 중요한 점은 사람은 절대로 위키를 직접 작성하지 않는다는 거예요. LR이 모든 걸 작성하고 유지 관리하고요. 사람은 출처을 찾아서 그 출처를 그냥 넣어 둘 뿐이고 AI가 모든 고된 일을 다.
합니다. 요약하고 교차 참조를 넣어 가지고 어떤 걸 참조하고 뭐 이런 걸 미리 해 놓고 또 시간이 지남에 따라 지식 베이스가 실제로 유용한지에 대한 판단도 하고 그렇게 진화를 하도록 살아 움직이는 위키가 되도록 빌딩을 하고 싶다는 건데요.이 사람이 실제로 한쪽에는 LM 에이전트를 이렇게 열어두고 안쪽 한쪽에는 옵시디언을 이렇게 열어두고 작업을 한다고 합니다.
구조는 이래요. 로우 파일을 관리하는 거. 그리고 위키를 관리하는 거. 그래서이 두 가지는 폴더 형태라고 정리되고이 스키마라는 거.이 스키마는 클로드 MD 또는 에이전트 MD라는 마크다운 파일로 정의가 됩니다. 이거 두 개는 폴더고 이거 하나는 문서예요.이 문서가 뭐인지에 대해서는 나중에 다른게요. 이렇게 로우 폴더랑 위키 폴더가 있을 거고요.
저도 이렇게 구현을 해 놨고 로우랑 위키를 이렇게 폴더로 공간을 구분을 해 놔요. 그리고 옵시디언 웹클리퍼로 가서이 로우 폴더에다가 추가를 해 버리면 여기 LM 위키가 들어가죠. 여기 지금 형성된 거고요. 여기 LM 위키 방금 얘기했던게 다 여기 들어가죠. 이게 놀란게 아니고 아무튼 이렇게 로서스 정리하고 그거를 위키 형태로 LM한테 시키는 겁니다.
이걸 정리를 해 줘라. 기존 위키 또는 새로운 위키를 만들어서 정리를 해 줘라라고 하는 거고 나중에는 위키가 엄청나게 많이 생길 거잖아요. 뭐 100개, 300개 생길 건데 그 위키를 300개를 다 읽으라고 하면은 내가 다음 달에 어 월급을 전부 거기다가 박아야 될 수 있으니까 그거 대신에 100개 문서가 어디에 있고 어떻게 연결 서로 연결되어 있고 그런 것들을 좀 미리 해 두면 얘네가 알아서 읽든다는 거죠.
지금은이 클로드 MD를 클로드가 몇세션마다 무조건 읽는다는 것만 알고 계시면 돼요. 그럼 메세션마다이 스키마를 읽고이 위키를 전부 들여다보지 않으면서도 위키 내용을 다 이해할 수 있겠죠. 이런 개념들을 좀 알려 드리려고 영상을 켠 거고 저도 막 완전히 해결했다라고 하기는 좀 그런 거 같아요. 그나마 말씀드릴 수 있는 거는이 옵시디엄 클리퍼 사용 방법에 대해선인데 설치하면은 오픈 벌체라는게.
Obsidian Installation + Web Clipper Configuration

뜰 거예요.이 딱이 화면이 뜨실 거거든요. 여기 없이 여기만 딱 뜨실 거예요. 이러면 보관한 폴더를 열어서 저는 이렇게 논리지 파일을 이렇게 넣어 열어 놨는데 이렇게 열기 누르면 여기 있는 폴더 안에 있는 파일들이 다 이렇게 나오거든요. 그렇게 하시면 되고 그리고 웹클리퍼도 따로 까셔야 되는데 여기 이거 확장 프로그램 누르시고 관리 누르면 웹스토어 뜨거든요.이 이 웹스토어 들어가서 옵시디어만 치시면 바로 나와.
이거 까시면은 이렇게 나오고 설정하면 들어가면 기본 템플릿이라게 있거든요.이 기본 템플릿에서 이게 아마 클리핑으로 되겠을 거예요. 이거를 로우로 바꿔 주시면 이렇게이 볼트 안의 로브 파일을 찾아서 얘가 들어가는 거예요. 예를 들어서 보여 드리면이 파일을 읽어 본다고 생각할게요. 이거를 누르면 바로 여기.
Practical Demonstration — Source → Automatic Wiki Generation

텍스트로 정리가 되죠. 그럼 이거를 옵시디언에 추가하기 누르면이 로폴드 아래 이렇게 정리가 됩니다. 내 로컬 파일로 들어온 거예요. 클로드 뭐 하나 볼까요? 새로 추가된 파일도 읽어보고 위키 한번 작성해 봐. >> 위키가 생성이 됐죠. 유튜브 썸일은 어떻게 만들어야 하는가? 저는 이거 손된 적 없고 뷰티 메터를 가져온 것뿐이고요.
유튜브로 돈을 벌려면 어떻게 해야 되는가? 유튜브 썸네일을 어떻게 만들어야 되는가? 연결까지 잘 해 주네요. LMO 지식과 관련 올바른 방법. 현재 쓰고 있는게 위키 인덱스를 쓰고 있었고 이렇게 바로바로 쓰는게 보이죠? 이게 원래 아무것도 없었는데 이런게 다 추가되고 연결까지 다 돼 있는 모습입니다. 위키 인덱스를 적어 줬고 아직까지는 정보가 엄청 많지가 않아서 그냥 그저 그런 수준인 거 같아요.
나중에 좀 더 빌드 하다가 얘기를 나눠 보겠습니다. 여기 있는 로우에 있는 파일들은 다 한 번씩 봤으니까 여기를 다시 한번 보는 거는 되게 시간 낭비라고 느껴지거든요. 근데 여기서 한 번 더 다이스트 돼서 여약되고 잘 조합돼서 보여 주니까 이거는 되게 괜찮아 보이네요. 원래 옵시디움을 쓰지 않았던 이유가 이렇게 링크를 연결을 해 주고 알아서 링크를 연결해 주는 그런게 되게 귀찮기도 하고 구현하는게 너무 어려워서 그래서 안 했던 건데 이런 장례들 얘가 다.
해 주니까 훨씬 더 좋은 것 같아요. 영상도 여기까지 한번 해 보겠습니다. 개인적으로 원래.
Wrap-up

지식 같은 걸 추가하고 뭐 관리하고 이런 걸 되게 좋아해서 저랑 되게 잘 맞는 프로젝트인 거 같습니다. 또 다른 업데이트가 있으면 찾아올게요. 혹시 뭐 질문 같은 거 있으면 댓글 달아 주시고 뭐 막히는 거 있으면 한번 뭐 주시면 저도 최선을 다해서 한번 도와드려 보도록 하겠습니다.