ИИ научились взламывать с помощью невидимых для человека картинок

Исследование, проведенное учеными из Техасского университета в Сан-Антонио, выявило уязвимость современных систем искусственного интеллекта к манипуляциям при работе с альфа-каналом в изображениях. Альфа-канал, отвечающий за прозрачность, часто не учитывается в инструментах ИИ-анализа, что приводит к различиям в восприятии изображений как людьми, так и ИИ.

Испытания показали, что метод AlphaDog особенно эффективен для атак на изображения в градациях серого. Модели ИИ, используемые в системах автопилота, также подвержены этой уязвимости.

Кроме того, потенциальными мишенями являются системы медицинской визуализации, где ИИ играет роль в диагностике. Наконец, разработанная учеными схема успешно действует против технологий распознавания лиц, что может вызвать проблемы с конфиденциальностью и безопасностью охраняемых объектов.

Как сообщалось ранее – PNAS: иммунитет для борьбы с раком активирует одна из форм витамина В6