Доказано ≠ безопасно: как каскады ИИ-агентов заставили меня усилить модель угроз

habrahabr.ru · world
Full story

The author says he previously built an operating system and demonstrated that it worked, but later concluded that this was not enough. He notes growing reports of AI agents finding vulnerabilities in Linux kernels within hours. He describes cascades of AI agents as a real tool rather than movie fiction, saying they reduce the cost and time needed to find bugs to nearly zero. The excerpt ends as he turns to his own setup.

В первой статье я рассказал, как собрал операционную систему и доказал ее работу. Спустя время я понял, что этого недостаточно. Всё чаще стали попадаться на глаза новости о том, как ИИ-агенты находят уязвимости в ядрах Linux за часы. Каскады ИИ-агентов - это уже не фантастика из фильмов, а реальный инструмент, который снижает стоимость и время на поиск ошибок до нуля. Я посмотрел на свою модель угроз и понял неприятную вещь: мои доказательства работают для моего понимания безопасности, но они ничего не знают о реальном мире. Контракт может быть математически безупречным, но при этом абсолютно бесполезным, если он не покрывает то, как атакуют на самом деле. Настоящая зрелость проекта начинается не с написания кода, а с честного признания того, что именно я не могу доказать. Читать далее

Read full article → Compare