Опять про прозрачность. AI, регулирование, маркировка - всё, что индустрия любит в августе.
Anthropic описала, как будет метить вывод Claude. Пошёл читать справку, и самым интересным там оказался не водяной знак, а раздел про то, чего он не значит.
Сначала фактура. Два механизма: невидимый знак в самом тексте и подписанные метаданные C2PA на файлах. Метка ставится на уровне модели, а не интерфейса, то есть везде - от API до Cowork, включая доступ через облака. География - весь мир, не только ЕС.
Причём вся справка написана в будущем времени: "планируем воплотить", "работаем над тем, чтобы включить", "метки будут применяться". По моделям старше 2 августа стоит "в процессе". Это заявленный план, а не выкаченная фича.
Теперь то самое.
Найденная метка, пишет Anthropic, значит ровно одно: текст обрабатывался Claude. Сигнал "не полностью убедительный". Авторство она не подтверждает, потому что через модель гоняют вычитку, перевод и конвертацию файлов.
Обратное работает ещё хуже. Отсутствие метки не доказывает ничего: знак теряется при сильной переписке, перефразе, переводе, смене формата и там, где маркировка просто не поддерживается.
И проверить его пока нечем: "детали механизмов детекции опишем в готовящейся технической документации".
Тут я поймал сам себя
У нас же есть хуманайзер, на сколько эффективно он будет бить эти метки?
На что вообще будут похожи эти метки? На стенографию?
К чему это всё?
Вышла технология, которая предупреждает о собственных пределах. Она отвечает на вопрос "проходил ли текст через Claude" и молчит на вопрос "кто за этот текст отвечает".
А спрашивают с вас именно второе.
https://support.claude.com/en/articles/16266773-how-claude-marks-ai-generated-content
Anthropic описала, как будет метить вывод Claude. Пошёл читать справку, и самым интересным там оказался не водяной знак, а раздел про то, чего он не значит.
Сначала фактура. Два механизма: невидимый знак в самом тексте и подписанные метаданные C2PA на файлах. Метка ставится на уровне модели, а не интерфейса, то есть везде - от API до Cowork, включая доступ через облака. География - весь мир, не только ЕС.
Причём вся справка написана в будущем времени: "планируем воплотить", "работаем над тем, чтобы включить", "метки будут применяться". По моделям старше 2 августа стоит "в процессе". Это заявленный план, а не выкаченная фича.
Теперь то самое.
Найденная метка, пишет Anthropic, значит ровно одно: текст обрабатывался Claude. Сигнал "не полностью убедительный". Авторство она не подтверждает, потому что через модель гоняют вычитку, перевод и конвертацию файлов.
Обратное работает ещё хуже. Отсутствие метки не доказывает ничего: знак теряется при сильной переписке, перефразе, переводе, смене формата и там, где маркировка просто не поддерживается.
И проверить его пока нечем: "детали механизмов детекции опишем в готовящейся технической документации".
Тут я поймал сам себя
У нас же есть хуманайзер, на сколько эффективно он будет бить эти метки?
На что вообще будут похожи эти метки? На стенографию?
К чему это всё?
Вышла технология, которая предупреждает о собственных пределах. Она отвечает на вопрос "проходил ли текст через Claude" и молчит на вопрос "кто за этот текст отвечает".
А спрашивают с вас именно второе.
https://support.claude.com/en/articles/16266773-how-claude-marks-ai-generated-content