В последние недели произошли значительные изменения в сфере регулирования искусственно созданного контента с использованием технологии дипфейков. Президент США подписал закон TAKE IT DOWN Act, криминализирующий сексуальные дипфейки на федеральном уровне, а платформа CivitAI столкнулась с кризисом после отказа платежных систем работать с сайтом из-за NSFW-контента, созданного с помощью искусственного интеллекта.
Закрытие крупнейших платформ с дипфейками
За относительно короткий период произошло несколько знаковых событий в индустрии дипфейков. Крупнейший в мире сайт с порнографическими дипфейками знаменитостей, получавший более 5 миллионов посещений ежемесячно, внезапно прекратил свою работу. Официальной причиной закрытия называется отказ “критически важного поставщика услуг”, хотя совпадение этого события с журналистским расследованием, раскрывшим личность ключевой фигуры за проектом, даёт основания предполагать и другие мотивы.
Примерно в то же время платформа CivitAI, известная как популярный ресурс для LoRA-моделей, используемых для создания контента со знаменитостями и NSFW-материалов, ввела ряд необычных мер самоцензуры. Эти меры затронули генерацию дипфейков, хостинг моделей и привели к более широким ограничениям, включая полные запреты на определённые маргинальные NSFW-фетиши и так называемые “экстремистские идеологии”.
Кризис платёжных систем для AI-платформ
Несмотря на предпринятые CivitAI попытки ограничить и модерировать контент, платформа столкнулась с серьезными проблемами. Платежные системы VISA и Mastercard объявили о прекращении обслуживания сайта, что фактически лишает платформу возможности принимать оплату за подписки через банковские карты.
В официальном заявлении представитель CivitAI пояснил: “Некоторые платежные компании маркируют платформы генеративного AI как высокорисковые, особенно когда мы разрешаем пользовательский контент для взрослых, даже если он легален и модерируется. Именно это политическое решение, а не действия пользователей, привело к отключению”.
Руководство платформы подчеркнуло, что сознательно выбрало путь сохранения NSFW-контента вместо полного устранения такого материала с сайта: “Нас отключают от платежного процессора, потому что мы решили не удалять NSFW и контент для взрослых с платформы. Мы остаемся приверженными поддержке создателей всех видов и работаем над альтернативными решениями”.
Традиционная модель и её крах
Исторически сложилось так, что NSFW-контент часто использовался для первоначального привлечения интереса к новым технологиям и платформам. После достижения определенной критической массы “легитимных” пользователей многие проекты отказывались от своих корней в сфере “контента для взрослых” — как это произошло, например, с Tumblr.
Казалось, что CivitAI может пойти по тому же пути, “очистив” свой продукт. Однако растущая стигматизация любого AI-генерируемого контента, вместе с новым законодательством, создала критическую массу проблем, которая, похоже, не позволит осуществить такой переход.
Новое федеральное законодательство против дипфейков
Федеральный закон TAKE IT DOWN Act, подписанный президентом, криминализирует распространение изображений интимного характера без согласия изображённых лиц, включая AI-сгенерированные дипфейки. Закон обязывает платформы удалять помеченный контент в течение 48 часов под надзором Федеральной торговой комиссии.
Уголовные положения закона вступают в силу немедленно, что позволяет преследовать лиц, которые сознательно публикуют или угрожают опубликовать интимные изображения без согласия (включая AI-дипфейки) в юрисдикции США.
Хотя закон получил редкую двухпартийную поддержку, а также поддержку технологических компаний и правозащитных групп, критики утверждают, что он может подавлять законный контент и угрожать инструментам для обеспечения приватности, таким как шифрование.
Электронный фонд защиты информации (EFF) высказал опасения, что механизмы удаления, предусмотренные законом, нацелены на более широкий спектр материалов, чем узкое определение NCII (Non-Consensual Intimate Imagery), содержащееся в других частях законопроекта:
“Положение о удалении в TAKE IT DOWN применяется к гораздо более широкой категории контента — потенциально к любым изображениям, содержащим интимный или сексуальный контент. В положении также отсутствуют важные гарантии против несерьезных или недобросовестных запросов на удаление. Сервисы будут полагаться на автоматизированные фильтры, которые печально известны как грубые инструменты.”
Применение закона к AI-контенту со знаменитостями
TAKE IT DOWN Act действует на всей территории США, но не обязательно запрещает весь AI-контент со знаменитостями. Закон криминализирует распространение интимных изображений без согласия, включая AI-дипфейки, только когда изображенное лицо имело обоснованные ожидания приватности.
Закон содержит несколько ключевых условий, которые должны выполняться одновременно:
- Интимное изображение было получено или создано в обстоятельствах, когда человек знал или должен был знать, что идентифицируемый человек имел разумные ожидания конфиденциальности
- То, что изображено, не было добровольно раскрыто идентифицируемым лицом в общественной или коммерческой обстановке
- Изображенное не является предметом общественной значимости
- Публикация изображения предназначена для причинения вреда или причиняет психологический, финансовый или репутационный вред идентифицируемому лицу
“Разумное ожидание конфиденциальности” традиционно не работало в пользу знаменитостей. В зависимости от судебной практики, возможно, что даже откровенный AI-генерируемый контент с участием публичных фигур в общественных местах может не подпадать под запреты закона.
Если вы интересуетесь развитием технологий искусственного интеллекта и хотите глубже понять, как работают AI агенты и как создать собственного умного помощника, рекомендуем обратить внимание на специализированные курсы.
Мозаика законодательства по дипфейкам
Хотя TAKE IT DOWN Act предлагает широкие федеральные запреты, он может не применяться в каждом случае, связанном с AI-симуляцией, оставляя определенные сценарии на рассмотрение в рамках растущей мозаики законодательства на уровне штатов, где принятые законы часто отражают “местные интересы”.
Например, в Калифорнии California Celebrities Rights Act ограничивает исключительное использование личности знаменитости ими самими и их наследниками, даже после их смерти. В Теннесси ELVIS Act фокусируется на защите музыкантов от несанкционированных воспроизведений голоса и изображений, созданных AI.
Большинство штатов теперь имеют законы, направленные против сексуальных дипфейков, хотя многие не уточняют, распространяется ли эта защита в равной степени на частных лиц и публичных фигур. Тем временем, политические дипфейки, которые, по сообщениям, способствовали поддержке нового федерального закона, могут на практике столкнуться с конституционными барьерами в определенных контекстах.
Заключение: будущее AI-контента
Новое законодательство и давление на платформы, специализирующиеся на AI-контенте, знаменуют важный поворотный момент в регулировании технологий искусственного интеллекта. С одной стороны, очевидна необходимость защиты личности от злоупотреблений с помощью дипфейков. С другой стороны, возникают вопросы о балансе между защитой и возможным чрезмерным регулированием, которое может сдерживать инновации.
Технологический сектор и законодатели находятся на ранней стадии определения границ допустимого для AI-генерируемого контента. Судьба платформ вроде CivitAI покажет, возможно ли существование сайтов, поддерживающих свободу творческого самовыражения с помощью AI, при соблюдении этических норм и законодательных требований.
Остаётся открытым вопрос: как будет выглядеть ландшафт AI-контента через несколько лет? Произойдёт ли полная “санитизация” генеративных моделей, или появятся новые подходы, балансирующие между свободой творчества и защитой прав личности?