Сегодня Google Threat Intelligence Group выкатил крайне интересный отчёт.
Он напрямую не касается внедрения AI, но несет в себе интересные следствия
Если коротко:
Они зафиксировали первый в истории случай, когда атакующая группа использовала LLM и AI-агентов для поиска и эксплуатации zero-day в реальной атаке.
Не PoC(Proof of concept), не тестовый прогон.
Реальная атака против инструмента, которым пользуются тысячи компаний.
Готовилась как массовая атака, GTIG вскрыл и остановил.
Тонкий момент вот в чём.
John Hultquist, главный аналитик GTIG, бросил одну фразу: tip of the iceberg, taste of what's to come.
Верхушка айсберга - и я с ним согласен, эта атака одна из первых которые попали на радар.
Что я из этого читаю.
Граница AI находит уязвимости автономно официально пробита вне тестовых сред.
Раньше об этом писали как о теоретическом риске. Теперь это реальные инциденты.
Для небольших компании в 10-200 человек статистика может поменяться.
Если вчера им нужно было постараться что бы вляпаться в инцидент связанный с безопасностью, то завтра это станет обыденностью.
AI-инструменты у вас уже есть. А вот команды безопасников, скорее всего, нет.
Дыр всегда становилось больше быстрее, чем рук их закрывать. А теперь у атакующих ещё и 10× ускоритель.
Google умышленно не назвал инструмент, в котором нашли дыру - да и на сегодня это не так и важно.
Важна не сама атака, не инструмент на который она проводилась, а скорость, с которой нарратив AI пока не умеет превратился в AI уже сделал.
Может быть проблема не в том что AI не умеет, а в том что не эффективно подготовлен и внедрен? Может проблема в том кто внедряет AI?
Он напрямую не касается внедрения AI, но несет в себе интересные следствия
Если коротко:
Они зафиксировали первый в истории случай, когда атакующая группа использовала LLM и AI-агентов для поиска и эксплуатации zero-day в реальной атаке.
Не PoC(Proof of concept), не тестовый прогон.
Реальная атака против инструмента, которым пользуются тысячи компаний.
Готовилась как массовая атака, GTIG вскрыл и остановил.
Тонкий момент вот в чём.
John Hultquist, главный аналитик GTIG, бросил одну фразу: tip of the iceberg, taste of what's to come.
Верхушка айсберга - и я с ним согласен, эта атака одна из первых которые попали на радар.
Что я из этого читаю.
Граница AI находит уязвимости автономно официально пробита вне тестовых сред.
Раньше об этом писали как о теоретическом риске. Теперь это реальные инциденты.
Для небольших компании в 10-200 человек статистика может поменяться.
Если вчера им нужно было постараться что бы вляпаться в инцидент связанный с безопасностью, то завтра это станет обыденностью.
AI-инструменты у вас уже есть. А вот команды безопасников, скорее всего, нет.
Дыр всегда становилось больше быстрее, чем рук их закрывать. А теперь у атакующих ещё и 10× ускоритель.
Google умышленно не назвал инструмент, в котором нашли дыру - да и на сегодня это не так и важно.
Важна не сама атака, не инструмент на который она проводилась, а скорость, с которой нарратив AI пока не умеет превратился в AI уже сделал.
Может быть проблема не в том что AI не умеет, а в том что не эффективно подготовлен и внедрен? Может проблема в том кто внедряет AI?