[Перевод] Новая модель OpenAI достигла предела
Последняя модель OpenAI показала ограничения традиционного подхода к масштабированию, что заставило компанию разделить разработку ИИ на специализированные направления. По информации источников, знакомых с вопросом, новая модель OpenAI демонстрирует меньшие приросты производительности по сравнению с предшественниками, пишет The Information. Тестирование среди сотрудников показало, что Orion достиг уровня GPT-4, пройдя всего лишь 20% своего обучения, сообщает The Information. Однако прирост качества от GPT-4 до текущей версии GPT-5 оказался скромнее, чем переход от GPT-3 к GPT-4. «Некоторые исследователи компании считают, что Orion не всегда лучше справляется с задачами по сравнению с предшественником, особенно в кодировании, хотя он показывает более высокие результаты в языковых задачах», — говорится в отчете.Хотя достижение уровня GPT-4 на ранних этапах обучения впечатляет, важно понимать, что начальные стадии ИИ-обучения, как правило, дают самые значительные улучшения, после чего темпы прироста замедляются. Таким образом, оставшиеся 80% времени обучения вряд ли дадут такой же прогресс, как в предыдущих версиях, утверждают источники. Читать далее