[Перевод] Возможно, самый гениальный код на python на сегодня: разбираем 200-строчный microgpt от Андрея Карпаты
newsare.net
Буквально на днях Андрей Карпаты, один из ранних сооснователей OpenAI, покинувший компанию, исследователь нейросетей, опубликовал на Гитхаб фан[Перевод] Возможно, самый гениальный код на python на сегодня: разбираем 200-строчный microgpt от Андрея Карпаты
Буквально на днях Андрей Карпаты, один из ранних сооснователей OpenAI, покинувший компанию, исследователь нейросетей, опубликовал на Гитхаб фантастическую вещь: чистый (без специализированных библиотек) 200-строчный python-код трансформера, аналога GPT-2, для изучения всеми желающими. И написал в блоге статью для понимания этого кода (и работы трансформеров). Я перевёл статью, комментарии к коду и дополнил своими комментариями для лучшего понимания — ведь этот код (я уверен!) войдёт в ИТ-историю...Присоединяйтесь к этому завораживающему сеансу разоблачения gpt-магии, за считанные годы овладевшей миром!.. Читать далее Read more












