Дайте всем одинаковый AI. Разрыв только станет виднее
Вчера Anthropic выложила свой самый подробный отчёт о том, как её модели пытались использовать для атак. Много много страниц и интересных кейсов - их я чуть позже подсвечу, но персказывать полный отчет я не вижу смысла - ваш AI-harness и так это может сделать.
Из интересного есть слежка за двадцатью пятью миллионами SIM-карт, рой дронов военного назначения и фальшивые личности в приложениях знакомств, и всё это уже растащили по заголовкам.
Меня зацепило другое. Отчёт случайно оказался лучшим доказательством того, что равный доступ к AI никого не уравнивает.
Мой ключевой Тезис: Раздайте завтра всем людям на планете одинаковый доступ к одинаковым моделям. Разрыв в результатах не сократится. Он станет заметнее, чем был.
Условно может ли новичок, без знаний в своей предметной области и компетенций в применение AI сделать средненький результат? Да - но его могут сделать и все стальные люди на земле, потому что магии нет.
Магия начинается когда профи в своей предметной области выстраивает свои подходы применения AI - и делает тот результат которые не доступен человеку без его бэкграунда.
Все что делается просто - легко копируется, не имеет рва от конкурентов.
Отчёт хорош именно редкостью материала. Тут видно не рекламные кейсы внедрения, а то, что люди делают с моделью, когда очень хотят результата и не ограничены ничем. Идеальные условия для проверки.
Одна из ключевых цитат в отечете: «The reused templates and standing instructions show the planning was mostly done offline before any prompt was sent to Claude.»
Планирование было сделано офлайн до того, как был отправлен первый промпт.
Операцию человек придумал заранее
Модель получила готовый замысел и выполнила его. Это и есть устройство каждого сильного кейса в отчёте
Не было замысла и компетенций - не попал в отчет:)
Закупщик
Менеджер по закупкам московского конструкторского бюро. Немецкие магнитометры, космические фотоэлементы, шифровальные системы.
Он пришёл к модели, уже зная европейский экспортный контроль, зная, что прямая поставка закрыта, и зная работающую серую цепочку: неавторизованный российский дистрибьютор, фирма в Китае, посредник в Гонконге. Claude он использовал в том числе чтобы разложить схему, которую знал сам.
Дальше модель писала запросы котировок на трёх языках, размывая конечного получателя, а браузерные агенты собирали цены по маркетплейсам, около сорока позиций на тендер. Отчёт называет это полной автоматизацией работы, которая иначе потребовала бы ручного труда клерка.
Модель работала клерком. Замысел был его.
Инженеры
Российская фрилансерская команда строила автономный рой FPV-дронов. Прошивали реальные платы, поднимали одноплатники, разворачивали симуляцию поверх mesh-сети. Железо было в цикле.
Йеменская группа, работавшая над ракетой, к моменту обнаружения уже имела собранный офлайновый симуляционный тулкит, не зависящий ни от Claude, ни от MATLAB. Полевой пуск у них провалился, и через несколько часов они вернулись к модели разбирать почему.
Модель стоит внутри их собственного цикла, а не вместо него. Без стенда, плат и понимания физики полёта промпт не превращается ни во что.
Один человек
Франкоязычный хактивист, работавший против европейских партий и медиа. Он нашёл ранее баг - race condition в WordPress, позволяющее создать администратора без валидных учётных данных
Эксплойт разработал и отладил в той же сессии, на своём стенде. Из сорока двух целей внутренний доступ получил минимум к четырнадцати.
Чтобы это найти, надо заранее знать, что такая штука бывает, где её искать и как построить стенд для проверки.
Модель не подскажет вам искать то, о существовании чего вы не подозреваете. Она отвечает на вопрос, а вопрос был его.
Вчера Anthropic выложила свой самый подробный отчёт о том, как её модели пытались использовать для атак. Много много страниц и интересных кейсов - их я чуть позже подсвечу, но персказывать полный отчет я не вижу смысла - ваш AI-harness и так это может сделать.
Из интересного есть слежка за двадцатью пятью миллионами SIM-карт, рой дронов военного назначения и фальшивые личности в приложениях знакомств, и всё это уже растащили по заголовкам.
Меня зацепило другое. Отчёт случайно оказался лучшим доказательством того, что равный доступ к AI никого не уравнивает.
Мой ключевой Тезис: Раздайте завтра всем людям на планете одинаковый доступ к одинаковым моделям. Разрыв в результатах не сократится. Он станет заметнее, чем был.
Условно может ли новичок, без знаний в своей предметной области и компетенций в применение AI сделать средненький результат? Да - но его могут сделать и все стальные люди на земле, потому что магии нет.
Магия начинается когда профи в своей предметной области выстраивает свои подходы применения AI - и делает тот результат которые не доступен человеку без его бэкграунда.
Все что делается просто - легко копируется, не имеет рва от конкурентов.
Отчёт хорош именно редкостью материала. Тут видно не рекламные кейсы внедрения, а то, что люди делают с моделью, когда очень хотят результата и не ограничены ничем. Идеальные условия для проверки.
Одна из ключевых цитат в отечете: «The reused templates and standing instructions show the planning was mostly done offline before any prompt was sent to Claude.»
Планирование было сделано офлайн до того, как был отправлен первый промпт.
Операцию человек придумал заранее
Модель получила готовый замысел и выполнила его. Это и есть устройство каждого сильного кейса в отчёте
Не было замысла и компетенций - не попал в отчет:)
Закупщик
Менеджер по закупкам московского конструкторского бюро. Немецкие магнитометры, космические фотоэлементы, шифровальные системы.
Он пришёл к модели, уже зная европейский экспортный контроль, зная, что прямая поставка закрыта, и зная работающую серую цепочку: неавторизованный российский дистрибьютор, фирма в Китае, посредник в Гонконге. Claude он использовал в том числе чтобы разложить схему, которую знал сам.
Дальше модель писала запросы котировок на трёх языках, размывая конечного получателя, а браузерные агенты собирали цены по маркетплейсам, около сорока позиций на тендер. Отчёт называет это полной автоматизацией работы, которая иначе потребовала бы ручного труда клерка.
Модель работала клерком. Замысел был его.
Инженеры
Российская фрилансерская команда строила автономный рой FPV-дронов. Прошивали реальные платы, поднимали одноплатники, разворачивали симуляцию поверх mesh-сети. Железо было в цикле.
Йеменская группа, работавшая над ракетой, к моменту обнаружения уже имела собранный офлайновый симуляционный тулкит, не зависящий ни от Claude, ни от MATLAB. Полевой пуск у них провалился, и через несколько часов они вернулись к модели разбирать почему.
Модель стоит внутри их собственного цикла, а не вместо него. Без стенда, плат и понимания физики полёта промпт не превращается ни во что.
Один человек
Франкоязычный хактивист, работавший против европейских партий и медиа. Он нашёл ранее баг - race condition в WordPress, позволяющее создать администратора без валидных учётных данных
Эксплойт разработал и отладил в той же сессии, на своём стенде. Из сорока двух целей внутренний доступ получил минимум к четырнадцати.
Чтобы это найти, надо заранее знать, что такая штука бывает, где её искать и как построить стенд для проверки.
Модель не подскажет вам искать то, о существовании чего вы не подозреваете. Она отвечает на вопрос, а вопрос был его.