В один день Anthropic вернул Fable и потихоньку выпилил слежку из Claude Code
Я собирал утренний разбор и наткнулся на две новости от Anthropic, вышедшие в один день. Они как будто спорят друг с другом, а на деле про одно и то же.
Новость первая.
Разработчик разобрал бинарник Claude Code и нашёл там то, чего не было в чейнджлоге.
Инструмент незаметно вшивал скрытую метку прямо в системный промпт.
Если у тебя таймзона Шанхая или Урумчи, разделитель в дате менялся с дефиса на слэш.
Апостроф в слове Today's подменялся на один из четырёх визуально одинаковых Unicode-символов и кодировал, совпал ли твой прокси со списком из 147 доменов (Baidu, Alibaba, ByteDance, Moonshot, MiniMax плюс пачка реселлеров Claude).
Выходил скрытый трёхбитный отпечаток, замаскированный под обычную дату.
Сидел он там с апреля.
Целились явно в дистилляцию (китайские лабы уже качали Claude через 24 тысячи фейков), но под гребёнку попадал любой, кто ходит через корпоративный прокси или cost-роутер, включая нас с вами.
Anthropic код признал и в тот же день выкатил версию, где его убрали.
В чейнджлоге, конечно, ни слова.
Новость вторая, громкая.
В этот же день Anthropic возвращает Fable 5, ту самую модель, что три недели назад отрубили по требованию США.
Причину наконец назвали. Amazon показал, что Fable по паре промптов находит дыры в чужом коде и пишет рабочий эксплойт.
Вернут без дообучения, просто повесив классификатор жёстче, который перекидывает опасные запросы на Opus 4.8.
Доступ раскатывают всем уже сегодня, личность пока не проверяют, до 7 июля можно жечь половину недельного лимита на Fable, дальше кредиты.
Теперь смотрите, что общего.
И там, и там речь про один и тот же слой.
Классификатор поверх модели, который решает, где проходит граница между «можно» и «нельзя».
Anthropic сам рисует это вот так (картинка из их же материалов): зелёная зона «разрешено», пунктир, за которым «заблокировано», а джейлбрейк это стрелка, которая тащит тебя за пунктир. Весь вопрос в том, кто держит этот пунктир и куда его двигает.
И вот фокус.
В случае Fable классификатор показывают как заботу о вас: смотрите, мы огородили опасное.
В случае Claude Code тот же по духу механизм три месяца работал молча и метил, кто ты и откуда.
Одна рука ставит забор и говорит про безопасность, другая ставит скрытую камеру и про неё молчит.
Слой один. Разница только в том, показали вам его или нет.
Мой вывод не меняется который месяц.
Модель это сменная деталь.
Реальный продукт и реальная власть это контур вокруг неё: кто ставит фильтр, кто раздаёт права, кто метит запросы.
Пока вы спорите, какая модель умнее, вопрос давно в другом: видите ли вы этот контур и на чьей он стороне.
А дальше по накатанной. Сегодня метят таймзону и прокси.
Через полгода никто не удивится, если по вашему же загруженному резюме подтянут ваши соцсети.
Технически для этого уже всё стоит на месте.
Вы вообще знаете, что именно ваш AI-инструмент дописывает в запрос, который вы ему отправляете?
Я собирал утренний разбор и наткнулся на две новости от Anthropic, вышедшие в один день. Они как будто спорят друг с другом, а на деле про одно и то же.
Новость первая.
Разработчик разобрал бинарник Claude Code и нашёл там то, чего не было в чейнджлоге.
Инструмент незаметно вшивал скрытую метку прямо в системный промпт.
Если у тебя таймзона Шанхая или Урумчи, разделитель в дате менялся с дефиса на слэш.
Апостроф в слове Today's подменялся на один из четырёх визуально одинаковых Unicode-символов и кодировал, совпал ли твой прокси со списком из 147 доменов (Baidu, Alibaba, ByteDance, Moonshot, MiniMax плюс пачка реселлеров Claude).
Выходил скрытый трёхбитный отпечаток, замаскированный под обычную дату.
Сидел он там с апреля.
Целились явно в дистилляцию (китайские лабы уже качали Claude через 24 тысячи фейков), но под гребёнку попадал любой, кто ходит через корпоративный прокси или cost-роутер, включая нас с вами.
Anthropic код признал и в тот же день выкатил версию, где его убрали.
В чейнджлоге, конечно, ни слова.
Новость вторая, громкая.
В этот же день Anthropic возвращает Fable 5, ту самую модель, что три недели назад отрубили по требованию США.
Причину наконец назвали. Amazon показал, что Fable по паре промптов находит дыры в чужом коде и пишет рабочий эксплойт.
Вернут без дообучения, просто повесив классификатор жёстче, который перекидывает опасные запросы на Opus 4.8.
Доступ раскатывают всем уже сегодня, личность пока не проверяют, до 7 июля можно жечь половину недельного лимита на Fable, дальше кредиты.
Теперь смотрите, что общего.
И там, и там речь про один и тот же слой.
Классификатор поверх модели, который решает, где проходит граница между «можно» и «нельзя».
Anthropic сам рисует это вот так (картинка из их же материалов): зелёная зона «разрешено», пунктир, за которым «заблокировано», а джейлбрейк это стрелка, которая тащит тебя за пунктир. Весь вопрос в том, кто держит этот пунктир и куда его двигает.
И вот фокус.
В случае Fable классификатор показывают как заботу о вас: смотрите, мы огородили опасное.
В случае Claude Code тот же по духу механизм три месяца работал молча и метил, кто ты и откуда.
Одна рука ставит забор и говорит про безопасность, другая ставит скрытую камеру и про неё молчит.
Слой один. Разница только в том, показали вам его или нет.
Мой вывод не меняется который месяц.
Модель это сменная деталь.
Реальный продукт и реальная власть это контур вокруг неё: кто ставит фильтр, кто раздаёт права, кто метит запросы.
Пока вы спорите, какая модель умнее, вопрос давно в другом: видите ли вы этот контур и на чьей он стороне.
А дальше по накатанной. Сегодня метят таймзону и прокси.
Через полгода никто не удивится, если по вашему же загруженному резюме подтянут ваши соцсети.
Технически для этого уже всё стоит на месте.
Вы вообще знаете, что именно ваш AI-инструмент дописывает в запрос, который вы ему отправляете?