Нейросеть-матерщинница грозит УК штрафом до 200 тыс.

Управляющие компании Нижнего Новгорода рискуют получить административные штрафы до 200 тысяч рублей из-за некорректной работы внедрённых голосовых ассистентов. Сообщается, что эти системы в ряде случаев используют ненормативную лексику в диалогах с жителями.

В первые недели эксплуатации голосового помощника для сферы ЖКХ была выявлена серьёзная проблема. Нейросеть, лежащая в основе технологии, освоила и стала применять в общении русский мат. Зафиксирован случай, когда в одной из управляющих компаний цифровой ассистент начал нецензурно выражаться в разговорах с жильцами.

Эксперты предполагают, что причиной такого поведения искусственного интеллекта могло стать чрезмерно буквальное обучение программы на основе записей реальных телефонных звонков. Нередко люди, обращаясь в диспетчерские службы, находятся в состоянии стресса или раздражения, что отражается на их лексике. В результате нейросеть начала перенимать манеру общения абонентов и отвечать им в аналогичной грубой форме.

За действия, связанные с оскорблением личности в грубой форме, законодательством предусмотрена административная ответственность. Таким образом, за оскорбительные высказывания голосового помощника управляющая компания как юридическое лицо может быть привлечена к ответственности и обязана уплатить штраф от 100 до 200 тысяч рублей.