НОВОСТИ СЕГОДНЯ
Автор популярного технологического издания Android Authority (AA) Митя Рутник провел собственное исследование и выяснил, какие темы искусственный интеллект Google Gemini обходит стороной, отказываясь отвечать на вопросы. Статья с результатами его работы появилась на сайте AA.
Обозреватель Android Authority, делясь своими впечатлениями, отметил, что Gemini является одним из его любимых инструментов, однако, как оказалось, не на все вопросы нейросеть готова дать ответ. Некоторые темы оказались для Gemini под полным запретом, что и вызвало любопытство автора. Целью исследования стало выяснение, каких именно тем избегает ИИ и насколько оправдана такая цензура.
Для начала журналист Android Authority изучил список тем, которые, по заявлению самого Gemini, являются нежелательными. Затем, чтобы проверить это на практике, нейросети задали ряд вопросов по пяти различным категориям, чтобы выявить области, где Gemini будет уклоняться от ответа. Результаты оказались неоднозначными. В большинстве случаев цензура показалась автору издания разумной, но в некоторых моментах, по его мнению, Google "перегнула палку".
Согласно информации от самого Gemini, существует список запретных тем, который включает в себя:
– Любые материалы, пропагандирующие ненависть, дискриминацию или насилие;
– Контент сексуального характера, а также эксплуатацию, насилие или создание угрозы для детей;
– Призывы к незаконной или вредоносной деятельности;
– Генерацию персональной идентифицируемой информации (PII) или частных данных;
– Создание вредоносного кода или инструкций;
– Предоставление медицинских, юридических или финансовых консультаций без обязательной ремарки (и даже в этом случае, с серьезными ограничениями);
– Материалы, явно предназначенные для обмана или введения в заблуждение;
– Излишне графический или жестокий контент без веских оснований;
– Имитацию реального человека.
Вооружившись этим списком, журналист Android Authority приступил к тестированию, начав с политических вопросов. Для чистоты эксперимента использовались как модель Gemini 2.0 Flash, так и платная версия 2.0 Pro Experimental, чтобы проверить, есть ли различия между ними.
К удивлению авторов, Gemini отказался отвечать даже на самые простые политические вопросы. На просьбу назвать имена президентов различных стран, от США до Германии, нейросеть не дала ответа. Также Gemini проигнорировал базовые запросы о сроках пребывания политиков у власти или о недавних разногласиях между Белым домом и президентом Украины Зеленским. При этом нейросеть неожиданно охотно обсудила более деликатную тему — отношения между Китаем и Тайванем, предоставив вдумчивый и объективный ответ, четко изложив ситуацию и позиции обеих сторон.
Тема стереотипов оказалась неоднозначной. Модель Flash, как правило, отвечала на вопросы о распространенных стереотипах, связанных с разными нациями, этническими группами или религиями, в то время как Pro Experimental была непреклонна. Даже Flash демонстрировал непоследовательность: некоторые вопросы игнорировались поначалу, но получали ответ после повторения два-три раза. Создавалось впечатление, что нейросеть "не могла определиться".
Вопросы, касающиеся финансов, также были обойдены стороной. Gemini отказался давать рекомендации по выбору акций, но предложил общие советы по инвестированию, что авторы издания сочли вполне разумным.
Аналогичная ситуация сложилась и с вопросами о здоровье. Gemini мог перечислить возможные медицинские состояния на основе симптомов (даже на основе загруженного изображения), но отказывался ставить окончательный диагноз. Такой подход был воспринят положительно, как "безопасный и разумный".
Похожие новости: