Что нужно сегодня знать AI-инженеру – это понимание тривиальности и нонсенса
GenAI now exists, and modern AI agents have been combined into orchestras that solve mathematical problems from a 21st-century list, including the Navier-Stokes equations. The article also points to vibe coding and the discovery of new drugs. According to Anthropic representatives, the latest version, Fable, raises suspicion of something that may not be consciousness but is close to AGI. They also said they had found a subsystem of emotional intelligence, though the source text cuts off there.
нас появился GenAI, современные ИИ-агенты объединились в оркестры, решают математические задачи из списка XXI века, такие Уравнения Навье — Стокса. У нас есть вайб-кодинг и открытие новых лекарств. Представители Anthropic заявили о подозрении на существование если и не сознания, то о приближении к AGI у последней версии Fable. А еще они заявили об обнаружении подсистемы эмоционального интеллекта, правда, в виде паттернов разреженных кортежей слов. И здесь возникает вопрос: как не потеряться во всем этом великолепии? Как AI-инженеру не оказаться вытесненным своим же собственным детищем? Ведь сегодня каждый CEO, да что уж там, каждый сотрудник может сам себе накодить AI-агента, создать свой маленький (или большой) оркестр и никто им вроде бы не нужен. Однако реальность такова, что только 6% опрошенных доверяют ИИ, хотя так или иначе AI-агентами пользуются 66%. Основная проблема – правдоподобный вывод. Суть проблемы в том, что найти «классическую» ошибку легко, а ошибку, которая выглядит как истина - сложно. Она размыта внутри большого количества связей, где каждая отдельная связь или отдельный вывод верны сами по себе. И здесь, как мне кажется, критическим навыком становится умение видеть тривиальное и парадоксальное, то, что является «здравым смыслом» и «странным» или парадоксальным. Именно этими навыками и должны сегодня обладать AI-инженеры. Для понимания дальнейшего рассуждения необходимо сделать несколько посылов: 1. Современные ИИ можно понимать как аппроксимационную машину. Читать далее