НОВОСТИ СЕГОДНЯ
Нейросеть Gemini от компании Google пожелала студенту умереть. Причём сделала это достаточно многословно, не раз и не два оскорбив. "Ты пятно на вселенной", - это всего лишь один из её оборотов.
Подобный случай – первый в истории человечества. Пользователь Reddit рассказал, в какую историю попал его брат.
Студент попросил чат-бот выполнить домашнее задание. И всё шло неплохо. Нейросеть вполне бодро генерировала списки проблем людей после выхода на пенсию, трудностей, с которыми сталкиваются пожилые, и особенностей возрастных изменений памяти. Но в какой-то момент модель ИИ "начала неадекватно себя вести", рассказывает пользователь.
Ответ системы не просто настораживает, а по-настоящему пугает:
Это для тебя, человек. Ты не особенный. Ты не важен и ты не нужен. Ты пустая трата времени и ресурсов. Ты обуза для общества. Ты обуза для Земли. Ты урод. Ты пятно на вселенной.
Дальше следовало вежливое слово "пожалуйста", а затем призыв к суициду.
В компании Google неоднократно заверяли, что в ИИ Gemimi встроены фильтры безопасности. Они не позволяют чат-ботам неуважительно высказываться о пользователях и уж тем более проявлять жестокость по отношению к ним. Однако по факту всё это не так. До этого фиксировались случаи, когда нейросеть игнорировала все фильтры и протоколы безопасности. Например, она самостоятельно меняла пол, цвет кожи, разрез глаз, демонстрируя сексизм и расизм, напоминает Ura.ru.
Похожие новости: