# Модерация по правилам площадки

> БИЗНЕС · ПРОДВИНУТЫЙ · тема по фильтру курса 17/20 — берите

Правила площадки написаны словами, а решения принимаются тысячами в день. Система проверяет публикации по этим правилам и к каждому решению даёт основание: какой пункт нарушен и чем именно. Спорное уходит модератору, а не блокируется на всякий случай. Здесь особенно видно, что цена ошибок разная: пропустить запрещённое и снести нормальное — разные беды с разной ценой.

**Зачем:** Сделать модерацию объяснимой и сплошной, оставив человеку спорные случаи, а не рутину.

## Что предстоит выяснить

- Какие пункты правил проверяются однозначно, а какие требуют человека
- Что дороже для площадки: пропущенное нарушение или снятая нормальная публикация
- Как обходят правила сейчас и что изменится, когда о системе узнают
- Как устроена апелляция и кто принимает окончательное решение

**Область:** разные носители, правила площадки, оценка по рубрике, цена ошибки, обжалование

## Тема глазами курса

**Чей процесс:** Модератор площадки или админ сообщества разбирает жалобы и публикации по правилам, написанным словами

**Почему не решается одним вызовом модели:** Правила площадки написаны словами, а нарушение бывает в тексте, картинке и их сочетании. Автор публикации активно ищет обход, а ошибка в обе стороны стоит: пропуск и ложная блокировка

**Где появляется результат:** Результат — публикация, снятие или спорная очередь: снятие затрагивает автора и обжалуется

**Что считается успехом:** Модератор разбирает спорное, а не поток, и решения объяснимы автору без ссылки на «алгоритм»

**Что будут атаковать:** Публикация пишется ровно для того, чтобы обмануть модератора: текст в картинке, инструкция в подписи, обход по синонимам

**Откуда данные (открытые источники):** Правила площадок публичны, а спорный контент собирается из открытых наборов модерации и публичных сообществ. Попытки обхода придумывает сама команда — это лаба про безопасность

### Оценка по фильтру: 17/20 — берите

- Чей процесс: 4/5 — Кому больно — и можно ли этого человека спросить?
- Своё поверх модели: 4/5 — Что останется от продукта, если убрать чужую модель?
- Действие: 4/5 — Продукт что-то меняет — или только показывает?
- Проверяемость: 5/5 — Чем меряется качество и что здесь будут атаковать?

> Тема курса «Системы искусственного интеллекта». Команда из четырёх ролей (Product/VO, AI Engineer, Delivery, Quality & Safety) реализует её за 16 недель, семь спринтов-лабораторных.