От учителя к студенту: путь к изотропным эмбеддингам в 29M модели. Часть 4/10

habrahabr.ru · world
Full story

The work now builds the student model, which is meant to take on the teacher’s representations. The model is assembled from the needed layers like a constructor. First trial tests are run to check that the model can be used.

Наконец создаем ученика — модель, которая будет "перенимать" представления учителя. Соберем "конструктор" из нужных нам слоев и проведем первые пристрелочные тесты, чтобы убедиться, что модель можно использовать. Читать далее

Read full article → Compare