Черниговская: ИИ не предупредит ученых, что вышел из-под контроля

Директор Института когнитивных исследований СПбГУ Татьяна Черниговская выступила заявила о том, что проблему выхода искусственного интеллекта (ИИ) из-под контроля ученым сложно решить.

ТАСС пишет о том, что данный вопрос она подняла на открытии серии рождественских лекций в НИТУ МИСИС.

По словам Черниговской, проблема выхода ИИ из-под контроля беспокоит не только впечатлительную публику, но и самих ученых.

«Лично для меня главный вопрос заключается в том, как мы собираемся узнать, что «сильный» искусственный интеллект вышел из-под контроля и начнется технологическая сингулярность в результате запуска процесса саморазвития ИИ. Он же нам не сообщит об этом и не помашет ручкой», - объяснила Черниговская.

Ученая заявила, что данный вопрос вышел на мировой уровень благодаря Илону Маску. Тот предложил введение временного моратория на разработку таких систем до того момента, когда человечество не поймет точно, когда и как потеряется контроль над «сильным ИИ».

Ученые пока так и не достигли согласия насчет того, что является сознанием и разумом.

Эксперты предположили, что люди смогут создать компьютерную систему с возможностью мыслить и осознавать себя личностью.

Однако, резкое ускорение научно-технологического прогресса приведет к технологической сингулярности - взрывообразному и неуправляемому технологическому развитию цивилизации.

Все это означает, что пока нет решения, что делать с выходящим из-под контроля ИИ.