CivitAI, возможно, самый популярный репозиторий ИИ-моделей в интернете, наконец уступил давлению со стороны платежных систем MasterCard и Visa и радикально пересмотрел свою политику относительно контента для взрослых. Особенно затронуты правила использования знаменитостей в LoRA-моделях – одном из самых популярных типов пользовательского контента на сайте, который позволяет создавать ИИ-изображения (включая видео) известных людей.
Вынужденные изменения в политике CivitAI
Менеджер по работе с сообществом CivitAI, Аласдер Николл, сам являющийся создателем моделей на платформе, в прямом эфире на Twitch признал, что изменения были навязаны сайту платежными процессорами, обеспокоенными контентом для взрослых и изображениями реальных людей. Он также отметил вероятность того, что Visa и MasterCard могут потребовать еще более серьезных изменений в будущем.
“Это не те изменения, которые мы хотели внести. Все сводится к новому и ожидаемому законодательству. Существуют законы о дипфейках, законы о порнографии с ИИ… платежные процессоры, а в конечном счете Visa и MasterCard напуганы; они не хотят быть объектами судебных исков и фактически требуют эти изменения.”
По словам Николла, среди других вариантов, предложенных платежными системами, были: полное удаление контента для взрослых, перенос такого контента на отдельную платформу с географической блокировкой (учитывая, что более половины штатов США, многие азиатские страны и Великобритания требуют геоблокировки порнографического контента), или переход исключительно на криптовалютные платежи.
Новые правила модерации контента
Домен CivitAI периодически не работал в последние дни, предположительно для внесения изменений. Хотя сайт уже запретил использование тем 18+ в изображениях знаменитостей с помощью LoRA-моделей, теперь при просмотре раздела моделей невозможно увидеть превью LoRA-моделей знаменитостей рядом с многочисленными моделями 18+.
Официальное объявление гласит:
“Контент с тегами реальных людей (например, ‘Том Круз’) или помеченный как ресурс, связанный с реальными людьми, будет скрыт из лент.”
В Twitch-сессии Николл раскрыл дополнительные детали мер, призванных защитить известных личностей. CivitAI всегда позволял реальным людям запрашивать удаление моделей, изображающих их, но теперь Николл упоминает систему, способную предотвращать повторную загрузку таких изображений после первоначального отклонения и даже идентифицировать “защищенную” личность в изображениях, которые система никогда раньше не видела.
Для этих целей сайт теперь сотрудничает с системой модерации ИИ Clavata, хотя степень, в которой Clavata будет обеспечивать новые функции, пока не ясна.
Автоматическая защита знаменитостей
Николл упомянул, что многие знаменитости уже заявили права на свои изображения:
“Том Хэнкс заявил права на свой образ, к примеру. Довольно много актрис из фильмов для взрослых сделали это; много актеров и актрис категории A…”
Тенденции развития законодательства в этой области показывают, что глобальные законы и рыночное давление скорее всего обеспечат защиту и средства правовой защиты, а не коммерческие решения этого типа.
Расширение ограничений
В 2023 году отчет 404 Media привлек внимание к распространенности моделей знаменитостей и контента 18+ на CivitAI, хотя основатель сайта Джастин Майер преуменьшал связь между пользовательскими моделями знаменитостей и их использованием для создания контента для взрослых.
Николл ясно дал понять, что основное беспокойство Visa и MasterCard вызывает не функция генерации на сайте:
“Некоторые говорят, что мы в этой ситуации из-за того, что позволяем генерацию. Но дело не в этом. Хостинг этих моделей, размещение такого контента – уже достаточная причина, чтобы привлечь нежелательное внимание.”
Многие в сообществе AI агенты и энтузиасты годами удивлялись, что CivitAI разрешали размещать образы знаменитостей. Осознавая возможность ограничений, были предложены различные инициативы по сохранению LoRA-моделей, удаляемых с CivitAI или их создателями.
В Twitch-сессии Николлу предположили, что ограничения будут только усиливаться, на что он ответил:
“‘Они не остановятся на этом, они будут требовать все больше и больше’ – абсолютно! Да, абсолютно. Таков мир, в котором мы живем. Единственная надежда – что мы станем достаточно большими и влиятельными, чтобы иметь больше голоса в том, что нам диктуют…”
Обязательные метаданные и новые правила
По словам Николла, платежные процессоры также требуют, чтобы все изображения на сайте теперь содержали метаданные. Когда изображение или видео создается генеративной моделью на платформе вроде ComfyUI, результат обычно содержит метаданные, указывающие использованную модель (её хэш и название) и множество других настроек.
Любые изображения или видео без таких данных будут, как объявил CivitAI, удалены в течение тридцати дней. Пользователи могут добавить такие данные вручную на сайте CivitAI.
Основные новые правила CivitAI:
- Контент с тегами реальных людей или идентифицированный как ресурс с реальными людьми не будет отображаться в публичных лентах.
- Контент с детской/несовершеннолетней тематикой будет отфильтрован из лент.
- Контент категорий X и XXX без метаданных генерации будет скрыт от публичного просмотра с предупреждением.
- Изображения, созданные с помощью функции “Принеси своё изображение” (BYOI), теперь должны применять минимум 50% шумового изменения во время генерации.
- При просмотре контента категорий X или XXX поиск по именам знаменитостей не даст результатов.
- Реклама не будет отображаться на изображениях или ресурсах, созданных для копирования внешности реальных людей.
- Пожертвования будут отключены для изображений или ресурсов, изображающих реальных людей.
- Модели, созданные для копирования реальных людей, не будут иметь права на ранний доступ.
- Добавлено заявление о соответствии требованиям раздела 2257, подтверждающее, что платформа не разрешает неискусственный контент.
- Новая страница запросов на удаление контента позволяет сообщать о незаконных материалах без необходимости входа в систему.
- CivitAI представил новую систему модерации в партнерстве с Clavata.
Что дальше?
До этого объявления наблюдалось, что CivitAI уже удалял загрузки, подпадающие под некоторые категории и типы контента, которые теперь запрещены. Очевидно, что опасения платежных процессоров связаны не с тем, что производится с помощью LoRA на самом CivitAI или что там публикуется, а с тем, что делается с этими моделями в других сообществах, которые либо закрыты, либо вообще менее регулируются.
Если вы интересуетесь технологиями искусственного интеллекта и хотите создать собственного умного AI-ассистента или изучить, как работают AI агенты, рекомендуем обратить внимание на специализированные курсы, которые помогут разобраться в этой сложной, но перспективной области.
По мере развития ситуации становится ясно, что индустрия генеративного ИИ находится на перепутье, где пересекаются технологические возможности, этические соображения и правовые ограничения. Только время покажет, как будет развиваться баланс между творческой свободой и защитой личных прав в мире искусственного интеллекта.