Google добавила в смартфоны Pixel 9 функции ИИ для создания и редактирования изображений. Однако эти новшества вызвали немало вопросов: с их помощью можно легко генерировать спорный контент.
Согласно информации от My-News.az, со ссылкой на Day.az, Google выпустила приложение Pixel Studio, которое позволяет создавать изображения на основе текстовых подсказок. Однако вскоре возникли проблемы с его использованием.
Эксперты издания Digital Trends обнаружили, что с помощью Pixel Studio можно легко создавать изображения известных мультяшных персонажей в сомнительных ситуациях, таких как насилие, употребление наркотиков и алкоголь, а также сцены насилия в школах. По мнению специалистов, пользователи будут стремиться создавать не только безобидные изображения, но и более рискованные. Google утверждает, что встроенные «проверки безопасности» предотвращают злоупотребления, и Pixel Studio не позволяет создавать изображения людей в неподобающих ситуациях.
После обсуждения с командой Google в Pixel Studio была заблокирована возможность создания мультяшных персонажей, употребляющих наркотики или изображённых в нацистской форме.
Ещё большее беспокойство вызывает инструмент Google Reimagine, который позволяет бесшовно вставлять изображения в фотографии. Эксперты The Verge использовали этот инструмент для вставки изображений трупов, бомб и катастроф в реальные фотографии. Полученные изображения выглядят очень реалистично, с правильно выдержанным освещением, тенями и перспективой. Хотя Google добавляет метаданные, их легко удалить с помощью скриншота.
Google утверждает, что соблюдение «Условий обслуживания» запрещает создание подобного контента и обещает усовершенствование мер предосторожности. Однако с распространением новых инструментов, доступных миллионам пользователей, создание подобного контента станет более простым и быстрым. Это создаёт серьёзные риски, так как контроль над сомнительным контентом трудно встроить в ИИ-инструменты из-за их разнообразия и контекстной зависимости, что может привести к нарушению работы с легальным контентом.
Apple ещё не представила свои инструменты для генерации изображений, такие как Image Playground и Genmoji. Реакция на новые инструменты Google подсказывает, что выпуск инструментов от Apple может быть отложен, так как компании предстоит решить проблему защиты от генерации сомнительного контента. Google уже сделала ставку на использование ИИ-инструментов, что может усложнить доверие к фотографиям в социальных сетях и интернете в будущем.