Монтируем LLM как жесткий диск. Бесконечная файловая система на Python + FUSE
The project mounts an LLM as a hard drive, building an endless file system with Python and FUSE. It starts from the fact that language models lie convincingly and often with details. A year ago, asking an LLM for a research link returned an article nobody had written, and asking about a library method produced arguments for a method that did not exist. Efforts to combat this continue worldwide, including tying models to knowledge bases.
Ни для кого не секрет, что языковые модели врут, и врут очень убедительно, часто даже с подробностями. Еще год назад если бы вы попросили у LLM ссылку на исследование, то получили бы статью, которую никто не писал. Спросили бы про метод библиотеки, и модель расписала бы его аргументы, хотя такого метода там не было. С этим продолжают бороться всем миром: привязывают модели к базам знаний, обвешивают скиллами, пишут в промпте «отвечай только по контексту». Помогает это отчасти. Выдумка все равно просачивается туда, где модели не хватило фактов. А теперь давайте вывернем вопрос наизнанку. Бывают ли задачи, где правдоподобная выдумка нужна сама по себе? Бывают, и их немало, например: тестовые данные для программ, наполнение игровых миров, ловушки для взломщиков. На последних остановлюсь подробнее. Читать далее