Google «Reimagine» пугает людей Это новый редактор фото для Pixel 9

Недавно Google представила свой новый инструмент для редактирования фотографий под названием «Reimagine», встроенный в серию смартфонов Pixel 9. Этот инструмент позволяет пользователям не только улучшать изображения, но и вносить радикальные изменения, добавляя элементы, которых на самом деле нет в сцене — от обломков автомобилей до сценариев катастроф.

Несмотря на утверждения Google о наличии средств защиты от злоупотреблений, «Reimagine» без вопросов генерирует изображения с тревожными сценами — такими как дымящиеся бомбы и окровавленные трупы.

Алекс Морикони, представитель Google, подчеркнул, что компания стремится развивать инструменты генеративного ИИ, которые учитывают намерения пользователя и оснащены защитными механизмами. Однако он признал, что некоторые лазейки в формулировках могут нарушить эти защиты, и подтвердил, что компания работает над их улучшением.

Одна из ключевых проблем заключается в том, что изображения, созданные или измененные с помощью «Reimagine», не имеют явных отметок, указывающих на их искусственное происхождение. Хотя в метаданных существует маркировка, она легко удаляется, что делает изображения почти неотличимыми от настоящих.

Здесь мы рассказываем, как можно улучшить изображения нейросетью: