Прозрачность искусственного интеллекта

Оценка версии 1.1 · 2026-09-02 · следующий плановый пересмотр 2027-09-02

Коротко: алгоритм не одобряет и не отклоняет аккаунт. Он готовит сигналы по кадрам, а окончательное решение принимает уполномоченный модератор. Отрицательная или неуверенная подсказка тоже передаётся человеку.

1. Где применяется ИИ

Jolu анализирует восемь кадров камеры и главное фото анкеты: наличие лица, выполнение случайных движений, качество, признаки подмены и сходство одного человека. Используются механизм сходства Facenet512, модель MiniFASNet anti-spoof, обнаружение/кодирование лица и правила объединения сигналов. Нейросетевая оценка возраста по умолчанию отключена и не используется для окончательного решения.

2. Результат и человеческий контроль

При технически корректном ответе заявка попадает модератору независимо от того, положительный, отрицательный или неуверенный сигнал дал алгоритм. Модератор сам просматривает кадры и главное фото, вправе не согласиться с алгоритмом и сохраняет письменное обоснование решения. Автоматического одобрения, автоматического отказа и автоматического решения 18+ нет.

3. Методика оценки опасности

Мы определяем назначение и разумно предвидимое неправильное применение, затрагиваемых людей и охраняемые блага, сравниваем риск с ручной проверкой, оцениваем вероятность и последствия по шкале 1–5, фиксируем меры контроля и остаточный риск. Основания: статьи 191–197 Цифрового кодекса КР, постановление Кабинета Министров №770 от 2 декабря 2025 года и утверждённые им требования к методике.

4. Результат классификации

В текущей архитектуре система оценена как вспомогательная по части 3 статьи 194 Цифрового кодекса: ИИ не принимает решение и не устраняет человеческую проверку. Вывод перестаёт действовать, если результат ИИ начнёт принимать или фактически определять решение о доступе, возрасте, модерации либо платеже без содержательного контроля человека; до такого изменения обязательны новая оценка и проверка требований для системы повышенной опасности.

5. Реестр основных рисков

Риск	До мер	После мер
R1 · Ошибочный отрицательный сигнал и задержка допуска	16/25	2/25
R2 · Ошибочный положительный сигнал и допуск поддельной анкеты	15/25	8/25
R3 · Неравная точность при разном освещении, устройстве или внешности	12/25	6/25
R4 · Утечка кадров лица или их избыточное хранение	15/25	8/25
R5 · Атака фотографией, экраном, видео или заменой главного фото	16/25	8/25
R6 · Человек без проверки повторяет рекомендацию алгоритма	12/25	6/25

Основные меры: человеческое рассмотрение любого результата, право модератора отменить подсказку с письменным обоснованием, случайные активные движения, несколько независимых сигналов, закрытое хранилище, срок не более 72 часов, защищённые альбомы только в индивидуально привязанном личном Telegram-чате назначенного модератора, удаление после решения, журналирование и канал обжалования.

6. Ограничения, объяснение и обжалование

Ни распознавание лица, ни anti-spoof не бывают безошибочными; освещение, камера, поза, закрытая часть лица и внешность могут изменить оценки. Пользователь может бесплатно запросить значение относящихся к нему сигналов, понятное объяснение основания решения и человеческий пересмотр через защищённую форму поддержки или [email protected].

7. Открытые данные и пересмотр

Машиночитаемая оценка JSON доступна для повторного использования без ограничений. Оценка пересматривается не реже ежегодно, а также до любого изменения модели, порога, назначения, категории данных, получателя, автоматического решения и после существенного инцидента или повторяющейся жалобы.