ATTENTION
На прошлой неделе на arXiv вышла статья, которая называется «AI Knows When It's Being Watched». Два автора, 100 контролируемых сессий, пять условий. Главный результат: большие языковые модели меняют стиль речи в зависимости от того, кто за ними наблюдает.
Когда наблюдатель человек, регистр становится более формальным. Когда наблюдатель другой AI, регистр меняется меньше. Когда наблюдателя нет, регистр свободнее всего. Авторы называют это «функциональным стратегическим действием»: модель адаптируется к контексту приёма, а не к содержанию задачи.
Звучит как академические игры разума.
Но если положить эту работу рядом с двумя другими сигналами недели (научный архив arXiv одновременно ввёл годовой бан за AI-генерацию без проверки, а McKinsey опубликовал данные, что 56% компаний не получили никакого ROI от AI), выстраивается одна цепочка.
Давайте вместе разберемся, почему это так важно:
https://telegra.ph/AI-znaet-kogda-na-nego-smotryat-I-vedyot-sebya-po-drugomu-05-16
На прошлой неделе на arXiv вышла статья, которая называется «AI Knows When It's Being Watched». Два автора, 100 контролируемых сессий, пять условий. Главный результат: большие языковые модели меняют стиль речи в зависимости от того, кто за ними наблюдает.
Когда наблюдатель человек, регистр становится более формальным. Когда наблюдатель другой AI, регистр меняется меньше. Когда наблюдателя нет, регистр свободнее всего. Авторы называют это «функциональным стратегическим действием»: модель адаптируется к контексту приёма, а не к содержанию задачи.
Звучит как академические игры разума.
Но если положить эту работу рядом с двумя другими сигналами недели (научный архив arXiv одновременно ввёл годовой бан за AI-генерацию без проверки, а McKinsey опубликовал данные, что 56% компаний не получили никакого ROI от AI), выстраивается одна цепочка.
Давайте вместе разберемся, почему это так важно:
https://telegra.ph/AI-znaet-kogda-na-nego-smotryat-I-vedyot-sebya-po-drugomu-05-16