Как обойти Llama-3 70B моделью в 600 раз меньше: Теорема Платона, JEPA и революция Моделей Мира
- Words
- 76
- Chars
- 670
- AI summary
- Yes
New research by Randall Balestriero and Yann LeCun is titled “Proving and Improving the Platonic Representation Hypothesis with JEPAs.” It argues that chasing universal intelligence, or AGI, only by scaling next-token prediction is a dead end. The authors work from the empirical Platonic representation hypothesis and try to prove and improve it with JEPAs. Public remarks by LeCun back the paper’s argument.
Новое исследование Рэнделла Балестриеро и Яна ЛеКуна «Proving and Improving the Platonic Representation Hypothesis with JEPAs» , подкрепленное публичными выступлениями ЛеКуна, доказывает: стремление достичь универсального интеллекта (AGI) исключительно за счет масштабирования предсказания следующего токена — это тупиковый путь. Авторы превратили эмпирическую Гипотезу платоновского представления (Platonic Representation Hypothesis) в строгую математическую теорему и доказали, что компактная архитектура Joint-Embedding Predictive Architecture (JEPA) с «хорошими видами» выравнивает представление о реальном мире в десятки раз эффективнее гигантских LLM. Читать далее
Open article