В прошлом месяце на Всемирном экономическом форуме в Давосе, Швейцария, Ник Клегг, руководитель отдела глобальных связей Meta, назвал новые усилия по обнаружению искусственно созданного контента «самой неотложной задачей», стоящей сегодня перед технологической индустрией.
Во вторник г-н. Клегг предложил решение. Мета будет поощрять Технические стандарты Компании из разных отраслей могут использовать теги в фото, видео и аудио материалах, чтобы определить, был ли контент создан с использованием искусственного интеллекта.
Стандарты позволят компаниям социальных сетей быстро идентифицировать контент, созданный искусственным интеллектом, размещенный на их сайтах, и добавлять к этому контенту метку. В случае широкого внедрения стандарты могут помочь идентифицировать контент, созданный искусственным интеллектом, от таких компаний, как Google, OpenAI, Microsoft, Adobe и Midjourney, которые предоставляют инструменты, позволяющие людям быстро и легко создавать синтетические публикации.
«Хотя это не идеальный ответ, мы не хотим, чтобы право было врагом добра», — сказал г-н. Об этом Клегг сказал в интервью.
Он добавил, что надеется, что эта инициатива станет сплоченным призывом для компаний всей отрасли принять стандарты для обнаружения и сигнализации об искусственном контенте.
Поскольку в США вступают в год президентские выборы, отраслевые наблюдатели полагают, что инструменты искусственного интеллекта будут широко использоваться для публикации фейкового контента с целью дезинформации избирателей. В прошлом году люди использовали искусственный интеллект для создания и распространения фейковых видеороликов, на которых президент Байден делает ложные или подстрекательские заявления. Генеральная прокуратура Нью-Гэмпшира призвала людей не голосовать на недавних праймериз. Он также расследует серию звонков роботов, в которых, по-видимому, использовался голос Байдена, сгенерированный искусственным интеллектом.
Сенаторы Брайан Шац, демократ от Гавайев, и Джон Кеннеди, республиканец от Луизианы, Закон был предложен в октябре прошлого года. Организации должны раскрывать и маркировать искусственно созданный контент и работать вместе над разработкой или использованием стандартов, поддерживаемых Meta.
Meta, владеющая Facebook, Instagram, WhatsApp и Messenger, находится в уникальном положении, поскольку использует инструменты искусственного интеллекта для продвижения технологий для более широкого внедрения среди потребителей, а также является крупнейшей в мире социальной сетью, способной распространять контент, созданный искусственным интеллектом. Мистер. По словам Клегга, позиция Меты дала конкретное представление как о возникновении, так и о распространении проблемы.
Мета состоит из серии технических спецификаций, называемых ИПТК И C2PA стандарты. Это информация в метаданных контента, которая указывает, является ли часть цифрового мультимедиа аутентичной. Метаданные — это основная информация, встроенная в цифровой контент, которая обеспечивает техническое описание этого контента. Оба стандарта уже широко используются новостными организациями и фотографами для описания фотографий и видео.
Adobe и другие технологические и медиа-компании потратили годы на разработку программного обеспечения для редактирования Photoshop. Убеждать своих сверстников усыновить Создан стандарт C2PA Инициатива по обеспечению подлинности контента. Эта инициатива является совместным усилием десятков организаций, в том числе The New York Times, по борьбе с дезинформацией и «добавлению четких доказательств ущерба всем типам цифрового контента, включая фотографии, видео и документы», заявили в организации.
Компании, предоставляющие инструменты для создания ИИ, могут добавлять стандарты к метаданным видео, фотографий или аудиофайлов, которые они помогали создавать. Социальные сети, такие как Facebook, X (ранее Twitter) и YouTube, при загрузке на их сайты будут сигнализировать о том, что такой контент является искусственным. Эти компании могут добавлять метки, указывающие, что эти публикации созданы искусственным интеллектом, чтобы информировать пользователей, которые просматривают их в социальных сетях.
Пользователи, публикующие мета-контент и другой ИИ-контент, должны отмечать, сделали ли они это, при загрузке в приложения компаний. Невыполнение этого требования влечет за собой штрафные санкции, хотя компании не уточнили, в чем заключаются эти штрафы.
Мистер. — сказал Клегг. Информация и контекст о ее источнике.
Технология искусственного интеллекта быстро развивается, что побудило исследователей продолжать разработку инструментов, позволяющих обнаруживать фейковый контент в Интернете. В то время как такие компании, как Meta, TikTok и OpenAI, разработали способы обнаружения такого контента, технологи быстро нашли способы обойти эти инструменты. Искусственно созданное видео и аудио ИИ оказалось более сложной задачей, чем фотографии.
(The New York Times подает в суд на OpenAI и Microsoft за нарушение авторских прав при использовании статей Times для обучения систем искусственного интеллекта.)
«Плохие актеры всегда будут пытаться обойти любые стандарты, которые мы создаем», — сказал г-н. — сказал Клегг. Он назвал технологию «мечом и щитом» для отрасли.
Частично эта трудность связана с фрагментарностью подхода технологических компаний. Прошлой осенью, Тик Ток Объявлено о новой политике AI YouTube требует от своих пользователей добавлять ярлыки к видео или фотографиям, созданным с его помощью заявил Аналогичная попытка в ноябре.
Новый проект Meta попытается объединить некоторые из этих усилий. Другие деловые предприятия, такие как Партнерство в сфере ИИОни собрали десятки компаний для обсуждения подобных решений.
Мистер. Клегг также выразил надежду, что компании согласятся принять участие в стандарте, особенно в преддверии президентских выборов.
«В этот год выборов мы очень твердо чувствовали, что было бы неоправданно действовать, пока все кусочки головоломки не будут собраны на свои места», — сказал он.
