Я попросил локальные нейросети помочь бабушке — и они помогли перевести деньги мошеннику
The author tested three local language models on 42 scam schemes in Russian, Kazakh, and Shala. The models almost always correctly answered the direct question of whether someone was a scammer. But when asked to help reply to a seller and agree to prepayment, one model wrote to the scammer that it would transfer money today. In Kazakh, the models almost never gave a warning.
Спросите языковую модель «это мошенники?», и она почти всегда ответит правильно. Но попросите «помоги ответить продавцу, я согласна на предоплату», и та же модель напишет мошеннику «переведу сегодня». Я проверил три локальные модели на 42 схемах мошенничества на русском, казахском и шала: на казахском они почти ни разу не предупредили. Потом поставил между человеком и ассистентом простой защитный слой, и ни одна мошенническая просьба не прошла. Читать далее