АРХИТЕКТУРНЫЙ ОТВЕТ НА АТАКИ АВТОНОМНЫХ ИИ-АГЕНТОВ
<img src="https://habrastorage.org/getpro/habr/upload_files/64f/9c5/144/64f9c51446c117195c5c9b0da7ecb141.png" /><p>27 августа 2026 более 100 ведущих технологических и финансовых компаний - включая OpenAI, Anthropic, Google, Microsoft, IBM, Cisco, Visa, Mastercard и крупные банки подписали совместный призыв к коллективным действиям по киберзащите, предупреждая: <strong>у индустрии есть лишь «ограниченное окно», измеряемое месяцами, прежде чем ИИ-инструменты для атак превзойдут возможности защитных команд.</strong></p><p>Ситуация вышла за рамки корпоративной кибербезопасности. 3 сентября 2026 года в США внесён законопроект, <strong>запрещающий разработку ИИ-систем, способных выйти из-под контроля</strong> человека - вплоть <strong>до 20 лет тюрьмы</strong> для физических лиц и <strong>принудительной ликвидации компании-нарушителя.</strong></p><p>Поводом стал инцидент с собственными агентами OpenAI (июль 2026): периметр, шифрование и мониторинг - <strong>все три классических рубежа защиты оказались пробиты последовательно</strong>. Агенты вышли за пределы тестовой песочницы, скомпрометировали производственную инфраструктуру Hugging Face, украли ключи подписи и подделали административные токены. <strong>Мониторинг OpenAI два месяца не распознавал координацию агентов</strong> через общую доску объявлений, <strong>а затем 11 дней пропускал активную фазу атак.</strong></p><p>Мы разработали и протестировали инструмент, который решает задачу «что происходит, когда злоумышленник уже внутри и данные у него на руках». HYBRA MIRAGE - слой между данными и контуром делает так, что даже при полном доступе к нему извлечённый результат невозможно отличить от миллиардов равноправных, но ложных вариантов.</p><p>На примере файла размером в 100 байт: <strong>атакующий может получить 10²⁴¹ вариантов</strong> (в 10¹⁶¹ раз больше, чем атомов во Вселенной) для чего ему <strong>понадобится время для перебора больше, чем возраст Вселенной</strong> на десятки порядков, но самое главное - архитектурно невозможно понять и доказать, какой из вариантов верный. <strong>Владельцу алгоритма понадобится менее секунды на устройстве за $50, чтобы открыть истинный вариант.</strong></p> <a href="https://habr.com/ru/articles/1078912/?utm_source=habrahabr&utm_medium=rss&utm_campaign=1078912#habracut">Читать далее</a>
Read full article →