Игорь Волынец предостерёг о риске слепого доверия к нейросетям

Эксперт по нейросетям Игорь Волынец рассказал о рисках использования ИИ, подчеркнув опасности излишнего доверия и возможные ошибки в финансовых, медицинских и юридических сферах. Также указаны проблемы с обработкой данных и правами доступа.

Специалист в области интеграции нейросетей Игорь Волынец обсудил угрозы, возникающие при использовании приложений с искусственным интеллектом. В интервью для «Газеты.Ru» он отметил, что основным риском остаётся чрезмерная доверчивость пользователей к таким технологиям.

Основной опасностью является излишнее доверие пользователей к результатам деятельности ИИ. Растущая популярность нейросетей формирует впечатление точности и надёжности, однако внутри самих моделей отсутствует механизм, обеспечивающий проверку истинности ответов

— подчеркнул Волынец. Эксперт пояснил, что ошибки особенно опасны в финансовой, медицинской и юридической сферах, где неточности способны привести к серьёзным последствиям.

С технической стороны большинство приложений, построенных на базе LLM, не имеют системы валидации ответов. Модель создаёт результаты на основе вероятностей, фактически оставляя данные непроверенными перед выдачей ответа

— разъяснил специалист. Он также указал на дополнительный риск, связанный с обработкой персональной информации, так как многие приложения запрашивают чрезмерные права доступа.

Ранее врач-терапевт и иммунолог Ирина Ярцева в ходе беседы с НСН заявляла, что нейросети в медицине способны ускорять обработку данных, но не могут заменить врача при постановке диагноза.