Онлайн-генератор изображений Midjourney, созданный на базе искусственного интеллекта (ИИ), станет платным. Разработчики приняли решение отменить бесплатную тестовую версию после того, как на этой неделе появились поддельные снимки публичных личностей. Фотографии арестованного Дональда Трампа и Папы Франциска в пуховике люкс-бренда быстро разошлись по сети и стали «вирусными».
Генеральный директор Midjourney Дэвид Хольц сообщил в Discord-канале компании, что некоторые пользователи злоупотребляют пробной версией для создания подобных изображений.
До сегодняшнего дня ИИ-генератор предлагал пользователям создать 25 изображений бесплатно. Затем взималась плата в размере $10.
Midjourney стали использовать для распространения поддельных фото
Эксперты неоднократно предупреждали, что подобные ИИ-системы могут быть использованы злоумышленниками для распространения «дипфейков». Это вид манипуляции, при которой с помощью нейросетей создаются поддельные видео и фотографии. Фальшивый материал может использоваться для распространения дезинформации.
В какой-то момент эти опасения считались преувеличенными, поскольку качество изображений было довольно низким, и поддельные снимки можно было легко распознать. Однако последние достижения в области ИИ, включая ChatGPT, показали, что теперь может быть сложнее различить сгенерированные изображения.
Чтобы предотвратить распространение так называемых «дипфейков», Midjourney запретил использовать несколько ключевых слов для создания изображения. Однако эти запреты легко обойти, используя синонимы или другие формулировки для подсказок.
В беседе с журналистами издания The Verge Хольц сказал, что команда открыла пробную версию с новыми средствами защиты. Однако их оказалось недостаточно, поэтому теперь Midjourney будет платным.
Эксперты обеспокоены возможностями ИИ
Ситуация с Midjourney показала, что регулирующие органы должны начать контролировать искусственный интеллект. На этой неделе группа общественных деятелей из технологической отрасли опубликовала заявление, призывающее лаборатории ИИ прекратить разработку моделей по крайней мере на шесть месяцев. Обращение подписали 1100 человек, включая Илона Маска и Стива Возняка.
Вам также может быть интересно: Илон Маск и Стив Возняк призывают к немедленной остановке разработок в области искусственного интеллекта
Кроме того, эксперты по этике, специализирующиеся на технологической индустрии, призвали Федеральную торговую комиссию США (FTC) наложить временный запрет на деятельность OpenAI.
Новую модель GPT-4 от OpenAI сравнивают с человекоподобным интеллектом благодаря ее способности сдавать сложные экзамены. Недавно компания уточнила, что не работает над более мощными версиями своей технологии генеративного ИИ.
Вам также может быть интересно: Сможет ли ChatGPT заменить рекламные агентства – чат-бот создал маркетинговую стратегию за 30 минут
В начале этого месяца лаборатория выпустила плагины для своего чат-бота. ChatGPT сможет подключаться к Интернету и использовать веб-страницы и другие базы данных, чтобы вносить предложения и отвечать на запросы пользователей.
Представители OpenAI заявили, что разработали ряд мер предосторожности, которые должны предотвратить использование ChatGPT в незаконных целях.
Несмотря на понимание возможных рисков, связанных с использованием ИИ, многие компании, такие как Microsoft (MSFT) и Alphabet (GOOG), выпустили своих чат-ботов.
Похожие статьи:
- ChatGPT и Midjourney – не единственные нейросети, которые могут пригодиться вам в работе
- Canva получила обновление и теперь может составить конкуренцию Adobe
- Криптовалюта AI: Обзор Лучших Проектов в 2023
Love Hate Inu - Растущая Мемная Криптовалюта
- Первая Web3 платформа с механикой Vote-To-Earn (голосуй, чтобы зарабатывать)
- Голосуйте на актуальные темы и зарабатывайте токены $LHINU
- Безопасное, надежное и анонимное голосование, стейкинг
- Rug Pull Proof - 90% токенов доступны в предварительной продаже