Руководство по сборке локального AI-стека. Часть 3. Наполнение моделями

habrahabr.ru · tech
Full story

This is Part 3 of a guide to building a local AI stack. It covers filling the models/ folder with models for different tasks and organizing them by rules, either flat or in subfolders with mmproj. It also describes making an HTML cheat sheet, a static page that shows which model suits which task without requiring users to dig into configs or documentation.

На этом шаге мы наполняем папку models/ моделями под разные задачи, раскладываем их по правилам (плоско vs подпапки с mmproj ) и делаем HTML-шпаргалку — статическую страницу, которая отвечает на вопрос «какая модель для какой задачи», не требуя лезть в конфиги или документацию. Читать далее

Read full article → Compare