Как заставить ИИ соблюдать закон, не трогая веса. Выкладываем в открытый доступ внешний фильтр для LLM

Дата публикации: 07-07-2026 13:10:22

В прошлом году я уже рассказывал об AVI (Aligned/Agreement Validation Interface) — концепции внешнего, гибкого и независимого от модели фильтра, который работает как умный файрвол для LLM: отбивает промпт-атаки на входе, проверяет ответы модели на токсичность, этичность и нарушение закона — на выходе. Недавно мы доработали свою концепцию с точки зрения архитектуры, реализовали и выложили на GitHub рабочий сервис на Python и FastAPI: входной и выходной фильтры, RAG-модуль, докер-сборку с мониторингом (Prometheus, Grafana, Jaeger), а также инструментарий для воспроизведения экспериментов на FinanceBench. Под катом расскажу, к какой архитектуре системы мы пришли, как сделали так, чтобы новые правила для фильтрации можно было добавлять одной фразой на естественном языке, как AVI показал себя в тестах и как помогает экономить на обучении ИИ-моделей. А по-научному и подробно все описано в журнале MDPI.Electronics (на английском).   Поехали!

Схожие новости

#	Наименование новости	Тональность	Информативность	Дата публикации
1	Как я собрал корпоративного AI‑ассистента в Mattermost для девопс‑задач	0	8.29	22-07-2026
2	[Перевод] Когда ИИ-агент ошибается молча: 6 отказов, которые не видно по ответу	0	7	07-07-2026
3	Теперь вы можете защититься от утечки данных при работе с любыми языковыми моделями	0	9.5	22-07-2026
4	Как желание быстрее читать чужой код превратилось в войну с недетерминизмом LLM	0	5	28-06-2026
5	X. Главное происходит здесь.	0	8	27-06-2026
6	Как я искал себе читалку и придумал новый формат электронных книг для изучающих язык	0	5	08-07-2026
7	Figma больше не первый инструмент дизайнера. И это не выбор	-5	6	07-07-2026
8	[Перевод] Как на самом деле работают LLM	0	7	07-07-2026
9	Открытые LLM в продакшене: 8 выводов о llama.cpp, Gemma и Qwen	0	7	14-07-2026
10	Мой бот назвали «очередным поделием с ИИ». Комментатор прав	-2	6	07-07-2026

Классификация: Пресс-релизы. Схожих патентов: 0. Схожих новостей: 10. Тональность: 5. Информативность: 7. Источник: habr.com.