Закрепить решающую роль человека при применении ИИ в социально значимых сферах предложили в России

В РФ предложено законодательно закрепить правило сохранения решающей роли человека при применении искусственного интеллекта (ИИ) в социально значимых сферах – в здравоохранении, судопроизводстве, образовании и общественной безопасности. Как "Известия", это следует из материалов правительства, где собраны предложения к законопроекту по регулированию искусственного интеллекта.

Подготовленный с учетом поступивших предложений документ Минцифры должно направить на согласование в правительство, сообщил источник, близкий к нескольким профильным ведомствам.

Отсутствие требования о решающей роли человека при использовании ИИ несет системные риски, считает член комитета Госдумы по информполитике, федеральный координатор партийного проекта "Цифровая Россия" Антон Немкин.

"Во-первых, это угроза дискриминации и алгоритмических искажений, если модель обучена на неполных или предвзятых данных. Во-вторых, размывание ответственности: в случае ошибки возникает вопрос – кто отвечает: разработчик, оператор или государство? В-третьих, снижение доверия граждан к цифровым сервисам, если решения, влияющие на их судьбу, будут восприниматься как автоматические и безапелляционные", – отметил он.

Проверку заданий в школах и вузах, по мнению директора Института исследований интернета Карена Казаряна, ИИ доверять нельзя: как показал опыт, нейросети допускают массу ошибок.

Аналогичные ограничения уже вводятся в странах с наиболее передовыми технологиями ИИ. В ноябре 2025 года американская компания OpenAI и запретила нейросети ChatGPT консультировать пользователей по вопросам медицины и юриспруденции.

Пользователь не может применять сервисы компании для ряда предметных областей. Речь идет о "предоставлении специализированных консультаций, требующих лицензии, таких как юридические или медицинские консультации, без соответствующего привлечения лицензированного специалиста".