Midjourney закрывает бесплатные пробные версии своего генератора изображений искусственным интеллектом из-за «чрезвычайного» злоупотребления
Инструмент использовался, в частности, для подделки изображений Трампа и Папы Римского.
Midjourney прекращает бесплатное использование своего генератора изображений искусственным интеллектом (ИИ) после того, как люди создали громкие дипфейки с помощью этого инструмента. Генеральный директор Дэвид Хольц говорит, что компания отключает бесплатные пробные версии из-за «чрезвычайного спроса и злоупотреблений ими», сообщает Engaget. По словам Хольца, новых мер безопасности не было достаточно для предотвращения неправильного использования во время испытательного периода. На данный момент придется платить не менее 10 долларов в месяц за использование этой технологии.
В последние недели Midjourney снова оказался в центре внимания. Пользователи опирались на ИИ, чтобы создать дипфейк-изображения ареста Дональда Трампа и Папы Франциска в модном пуховике. Несмотря на то, что снимки были быстро идентифицированы как фальшивые, существует опасение, что Midjourney, Dall-E от OpenAI и другие подобные генераторы могут использоваться для распространения дезинформации.
Midjourney признала проблемы с разработкой политики в отношении контента, поскольку ИИ создает все более реалистичные изображения. Еще в 2022 году Хольц обосновал запрет на изображения главного китайского коммуниста Си Цзиньпина желанием «минимизировать драму»: мол, важнее иметь доступ в Китае, чем разрешать сатирический контент. Midjourney надеется улучшить модерацию ИИ, которая отслеживает злоупотребления, говорит основатель.
Некоторые разработчики уже начали устанавливать строгие правила, чтобы предотвратить инциденты. OpenAI, например, запрещает любые изображения текущих политических событий, теорий заговоров и политиков. Также под запрет попадает пропаганда ненависти, сексуальность и насилие.
Однако другие конкуренты пока имеют относительно свободные рекомендации. Например, пользователи инструмента Stable Diffusion не могут копировать стили определенных художников, а также предусмотрен новый фильтр NSFW (предназначенный среди прочего для удаления контента для взрослых), но ИИ Stable Diffusion обычно не диктует, что именно люди могут делать с его помощью.
Обманчивый контент — не единственная проблема для создания изображений ИИ. Существуют давние опасения по поводу авторских прав и украденного контента, так как часто давно существующие изображения используются в качестве «точек отсчета» при работе ИИ. И хотя некоторые компании уже в полной мере используют искусственный интеллект в своих продуктах, пока еще существует много колебаний со стороны фирм, стремящихся избежать нежелательного внимания.
Сейчас читают
Белорус-вахтовик на Ямале создает песни на белорусском языке с помощью ИИ. «Раньше музыка была закрытым клубом. Нейросети открыли эту дверь с ноги»1919
Комментарии