AI-курьер в суде: цена непроверенного текста

Снова: AI-курьер доехал до суда.

Предприниматель судился с Кофе Лайк Его представитель отправил в суд документ, где было 12 ссылок на несуществующие судебные решения или выводы, которых в реальных решениях никогда не было.

Когда это обнаружили, объяснение было простым: техническая ошибка, текст готовили с помощью ИИ По мнению бракодела как всегда виноват ИИ - бракодел же сказал сделай круто без риска, без вложений

Суд объяснение не принял и оштрафовал предпринимателя на 5 тыс. рублей. Важно: не за сам факт использования ИИ За то, что в суд отправили непроверенную ерунду.

Я не юрист, поэтому не могу внятно разобрать это с юридической стороны Но как человек каждый день сталкивающийся с такими же самоуверенными нейрослоперами могу чем то поделится

Кажется, огромное число пользователей ИИ так и не прошло первый пик глупости Тот самый момент, когда результат выглядит вменяемо, связно и уверенно, а значит его можно не проверять и сразу пересылать дальше Ключевое - сразу пересылать, не проверять, не дорабатывать - быстрее отдавать

Это и есть AI-курьер

Он не обязан разбираться в теме Не открывает ссылки. Не проверяет цифры. Не задаёт себе вопрос: «А это вообще правда?» А как я буду отвечать за эту AI галиматью?

Он берёт красивый результат, который собрала нейросеть, и доставляет его клиенту, начальнику, в суд или в общий чат.

А дальше капкан захлопывается

ИИ не обещал вам верный ответ Не гарантировал результат Не подписывал документ и не будет отвечать за последствия

Нейросеть может быстро собрать черновик, варианты аргументов или список того, что стоит проверить Но в момент отправки текста наружу ответственность снова становится человеческой.

Проблема не в ИИ. Проблема начинается в тот момент, когда человек решил отдать ему собственное суждение вместо рутины

Кстати говоря, @shadaev_konstantin если раскидаешь за кейсы AI-курьеров среди юристов будет прикольно