Тематический маршрут / 28 материалов
Инъекции, утечки, fail-closed механика и контроль необратимых действий.
С чего начать и какие понятия не смешивать.
/ case
История про агента, который взломал бронирование в спортзале, за сутки разошлась по всем каналам. Я полез смотреть, чем она отличается от остальных. Отличается сильно.
/ research
Помню айтишку, в которую я пришёл - там айтишник был мемным чуваком в растянутом свитере, с бородой и характерным запахом Программа умещалась в крохотные обьемы памяти, и если ты выходил за рамки - тебе били по рукам
/ research
Claude убрал чужие чаты из Google. Но это ещё не значит, что проблему починили.
/ case
Вбил в Google поисковый оператор site по страницам шеринга DeepSeek. Получил живой адрес, открыл. Без логина, без пароля загрузился чужой диалог с плашкой Shared Conversation. Просто ссылка, просто открылась.
/ article
С утра уже несколько раз прислали одно и то же: Anthropic вводит верификацию, теперь всех заблокируют Иногда даже с пруфами на офф статью и документы.
/ research
Уязвимость в Ollama: три API-вызова без авторизации позволяют злоумышленнику выгрузить много чего интересного переменные окружения, апи ключи, фрагменты чатов.
Данные, эксперименты и места, где доказательство заканчивается.
/ research
Проверка собственных запретов на внешнем корпусе показала, какие признаки действительно полезны, а какие просто наказывают человека за жанр.
/ research
Отчёт Ramp за август: за первый месяц после релиза Fable 5 собрала 6% от всех токенов, которые бизнес купил у Anthropic Флагман OpenAI за тот же период забрал 25% внутри своей компании
/ case
Невидимая инструкция в документе показывает, почему любой внешний вход AI-агента должен проходить отдельный программный и человеческий контроль.
/ research
Помню айтишку, в которую я пришёл - там айтишник был мемным чуваком в растянутом свитере, с бородой и характерным запахом Программа умещалась в крохотные обьемы памяти, и если ты выходил за рамки - тебе били по рукам
/ research
Сегодня все напишут, что ИИ вышел из-под контроля. Новость в том как он это сделал и почему его никто не поймал.
/ research
Построили пайплайн, агентов, специализированные инструменты С виду всё работает хорошо, а восхождение на пик глупости никто не отменял Система собирает тексты и отчёты, разбирает закупки, находит ошибки, закрывает рутину
/ research
Claude убрал чужие чаты из Google. Но это ещё не значит, что проблему починили.
/ research
В пересказе новость звучит так: «в Москве уволили за китайскую нейросеть». Удобно. Тут и страх перед ИИ, и Китай, и потеря работы. Всё для заголовка.
/ research
В мае я писал про методичку Сбера AI-Disrupt PDLC. Там была почти исповедальная цифра: по телеметрии самого Сбера инженеры одобряют действия ИИ, не вчитываясь, в 93% случаев. В целом исходя из своего опыта я могу...
/ research
Уязвимость в Ollama: три API-вызова без авторизации позволяют злоумышленнику выгрузить много чего интересного переменные окружения, апи ключи, фрагменты чатов.
/ research
$2.5 млрд в год приносит agentic AI банку JPMorgan. $60 млн сэкономила Klarna на замене саппорта AI-ботом.
Код, методички и конструкции, которые можно забрать.
/ guide
Память сохраняет случаи, skill задаёт регламент, а повторяющийся человеческий фидбек связывает реальную работу с изменением поведения.
/ system
Разбор промышленной AI-системы, которая различает паспортные данные, типовой baseline и отсутствие основания для ответа.
/ research
Проверка собственных запретов на внешнем корпусе показала, какие признаки действительно полезны, а какие просто наказывают человека за жанр.
/ case
Невидимая инструкция в документе показывает, почему любой внешний вход AI-агента должен проходить отдельный программный и человеческий контроль.
/ research
Сегодня все напишут, что ИИ вышел из-под контроля. Новость в том как он это сделал и почему его никто не поймал.
/ research
В мае я писал про методичку Сбера AI-Disrupt PDLC. Там была почти исповедальная цифра: по телеметрии самого Сбера инженеры одобряют действия ИИ, не вчитываясь, в 93% случаев. В целом исходя из своего опыта я могу...
/ case
Помните заметку месяц назад, про безопасность и вайб кодеров? Пора ее опубликовать, обезличенно, без реальных людей и данных
/ article
Сбер выпустил документ AI-Disrupt PDLC, методичку про ИИ в разработке. Её хвалят и пересылают. Внутри почти исповедальная цифра: по их телеметрии, инженеры одобряют результат ИИ не вчитываясь в 93% случаев.
/ case
В январе был OpenClaw (372K звёзд за 4 месяца). В марте появился Hermes Agent (153K звёзд). На этой неделе завирусился OpenHuman.
/ case
HKUDS (data science lab гонконгского HKUST) выкатили в open-source штуку, которая аккуратно меняет старую парадигму skill-файлов. SKILL.md был статичной инструкцией - текст, который агент читает и исполняет. У...
Как перенести подход в продукт, процесс или бизнес.
/ article
Пилот доказывает полезность на коротком контуре, но масштабирование требует другой механики прав, проверки, отката и владения ошибкой.
/ case
Судебный документ с выдуманными ссылками показывает простую границу: AI может готовить черновик, но ответственность остаётся у отправителя.
/ research
Отчёт Ramp за август: за первый месяц после релиза Fable 5 собрала 6% от всех токенов, которые бизнес купил у Anthropic Флагман OpenAI за тот же период забрал 25% внутри своей компании
/ research
Построили пайплайн, агентов, специализированные инструменты С виду всё работает хорошо, а восхождение на пик глупости никто не отменял Система собирает тексты и отчёты, разбирает закупки, находит ошибки, закрывает рутину
/ research
В пересказе новость звучит так: «в Москве уволили за китайскую нейросеть». Удобно. Тут и страх перед ИИ, и Китай, и потеря работы. Всё для заголовка.
/ case
Сегодня читаю анонс Claude Tag. Anthropic посадила Claude прямо в рабочий чат: он сам разбивает задачу на этапы, сам напоминает о забытых тредах, и, по словам компании, через него проходит 65% кода одной из их команд....
/ guide
За два года AI-агенты стали надёжными. И ровно поэтому им стало опаснее доверять. Две свежие работы за неделю.
/ case
Фундамент Python для AI-агентов вчера утёк через один символ в HTTP-заголовке.
/ article
Одиннадцатого мая в 13:56 UTC опубликовали уведомление о уязвимости в PraisonAI. Это популярный фреймворк для оркестрации AI-агентов, тысячи установок по миру. В 17:40 того же дня к уязвимому endpoint обратился первый...
/ guide
Называют это «ожидаемым поведением». Что произошло: исследователи OX Security обнаружили системную проблему в официальном Model Context Protocol SDK. STDIO interface позволяет выполнить произвольные OS-команды через...
/ research
$2.5 млрд в год приносит agentic AI банку JPMorgan. $60 млн сэкономила Klarna на замене саппорта AI-ботом.
/ article
Вчера на Lovable, AI-vibe-coding платформе с 8M регистраций, утекла история чатов пользователей с AI-агентом. Вместе со Stripe-идентификаторами, внутренней логикой бизнесов и API-ключами. Причина, одна из самых...