Когда в промпте написано «ты аналитик с 30-летним опытом» - модель не становится аналитиком.
Она начинает играть роль.
LLM получает сигнал воспроизводить паттерны речи характерные для эксперта.
Уверенный тон, терминология, безапелляционные выводы - правда без какого либо подкрепления.
Уверенность без основания.
Настоящий профессионал уверен потому что за словами стоят реальные кейсы и набитые шишки.
Модель копирует интонацию но не опыт.
Ты получаешь текст который выглядит убедительно - и поэтому он опаснее слабого ответа.
Слабый ты перепроверишь. Уверенный - нет.
Когда реальный специалист сталкивается с нехваткой данных он скажет «данных недостаточно».
Модель в роли эксперта уверенно выдаст правдоподобную но выдуманную цифру.
Потому что «профи с 30-летним опытом» не говорит «я не знаю». Вот модель и не говорит.
Подавление неопределённости.
Хороший аналитик знает границы компетенции и обозначает их.
Модель с ролью «топ менеджера оптимизируется на уверенность. Оговорки, сомнения, «требует проверки» - уходят.
Ты теряешь сигналы о том где данные надёжны а где нет.
Роли полезны для форматирования и стиля. Но уверенность в тоне не равна достоверности.
Если модель что-то уверенно утверждает - проверяй именно эти места.
Она начинает играть роль.
LLM получает сигнал воспроизводить паттерны речи характерные для эксперта.
Уверенный тон, терминология, безапелляционные выводы - правда без какого либо подкрепления.
Уверенность без основания.
Настоящий профессионал уверен потому что за словами стоят реальные кейсы и набитые шишки.
Модель копирует интонацию но не опыт.
Ты получаешь текст который выглядит убедительно - и поэтому он опаснее слабого ответа.
Слабый ты перепроверишь. Уверенный - нет.
Когда реальный специалист сталкивается с нехваткой данных он скажет «данных недостаточно».
Модель в роли эксперта уверенно выдаст правдоподобную но выдуманную цифру.
Потому что «профи с 30-летним опытом» не говорит «я не знаю». Вот модель и не говорит.
Подавление неопределённости.
Хороший аналитик знает границы компетенции и обозначает их.
Модель с ролью «топ менеджера оптимизируется на уверенность. Оговорки, сомнения, «требует проверки» - уходят.
Ты теряешь сигналы о том где данные надёжны а где нет.
Роли полезны для форматирования и стиля. Но уверенность в тоне не равна достоверности.
Если модель что-то уверенно утверждает - проверяй именно эти места.