Karpathy ha dejado de usar LLMs para escribir código. Ahora la mayor parte de sus tokens van a otra cosa: construir bases de conocimiento personales. Y lo cuenta en un tweet que ya tiene 83K bookmarks.
Te explico su sistema 🧵
El proceso:
1. Guarda todo (papers, artÃculos, repos, imágenes) en un directorio raw/
2. Un LLM "compila" esos datos en una wiki de archivos .md organizados
3. La wiki genera resúmenes, backlinks, artÃculos por concepto y enlaces cruzados
Él casi no la toca. El LLM la mantiene sola.
1. Guarda todo (papers, artÃculos, repos, imágenes) en un directorio raw/
2. Un LLM "compila" esos datos en una wiki de archivos .md organizados
3. La wiki genera resúmenes, backlinks, artÃculos por concepto y enlaces cruzados
Él casi no la toca. El LLM la mantiene sola.
Para hacer preguntas no necesita RAG.
Con ~100 artÃculos y ~400K palabras, el LLM lee todo directamente. Mantiene Ãndices y resúmenes automáticamente. Funciona a pequeña escala sin infraestructura compleja.
Con ~100 artÃculos y ~400K palabras, el LLM lee todo directamente. Mantiene Ãndices y resúmenes automáticamente. Funciona a pequeña escala sin infraestructura compleja.
Las respuestas no van a terminal. El LLM renderiza:
- Archivos markdown
- Presentaciones (Marp)
- Gráficos matplotlib
Todo se ve en Obsidian. Y cada output se archiva de vuelta en la wiki. Tus consultas siempre suman al conocimiento.
- Archivos markdown
- Presentaciones (Marp)
- Gráficos matplotlib
Todo se ve en Obsidian. Y cada output se archiva de vuelta en la wiki. Tus consultas siempre suman al conocimiento.
Lo más interesante: el LLM también lintea la wiki.
Busca datos inconsistentes, imputa lo que falta (con web search), descubre conexiones entre documentos y sugiere nuevas preguntas. La base de conocimiento mejora sola.
Busca datos inconsistentes, imputa lo que falta (con web search), descubre conexiones entre documentos y sugiere nuevas preguntas. La base de conocimiento mejora sola.
Karpathy dice que esto merece un producto serio, no una colección de scripts sueltos.
Y la extrapolación natural: cada pregunta a un LLM frontier spawna un equipo que construye una wiki efÃmera entera, la linteada y escribe un reporte completo.
Y la extrapolación natural: cada pregunta a un LLM frontier spawna un equipo que construye una wiki efÃmera entera, la linteada y escribe un reporte completo.
View Tweet
Generated by Thread Navigator
Press ⌘ + S to quick-export