Компания Meta✴ освободила некоторых ведущих рекламодателей на её платформах от стандартных способов модерации контента. Она пошла на эту меру, чтобы защитить свой многомиллиардный бизнес, опасаясь, что её автоматизированные системы модерации могли неправомерно применять санкции к ведущим брендам, пишет Financial Times (FT).
Источник изображения: Christin Hume / unsplash.com
Согласно внутренним документам Meta✴, с которыми ознакомились журналисты FT, в Facebook✴ и Instagram✴ были введены «защитные механизмы», работающие в пользу клиентов, которые тратят на платформах значительные суммы. Эти механизмы имеют более высокий приоритет, чем автоматизированные средства модерации на платформах — публикации ведущих рекламодателей проверяются только людьми. К примеру, существует термин «покупатели P95», обозначающий клиентов с расходами более $1500 в день. Такие клиенты освобождаются от действия системы автоматизированной модерации, и их публикации отправляются на ручную проверку человеком. Информация появилась ещё до того, как на этой неделе глава Meta✴ Марк Цукерберг (Mark Zuckerberg) сообщил, что компания реорганизует программу проверки фактов и снизит строгость инструментов автоматизированной модерации.
В Meta✴ обнаружили, что системы автоматизированной модерации ошибочно помечали учётные записи с высокими расходами на рекламу как нарушающие действующие в соцсетях правила, гласят внутренние документы компании от 2023 года. Число ложных срабатываний систем автоматизированной модерации было непропорционально высоким для аккаунтов с высокими расходами, сообщили FT в Meta✴; в компании, однако, не ответили, были ли какие-либо из «защитных механизмов» временными, или они продолжают действовать на постоянной основе. Представитель Meta✴ назвал представленные FT сведения «просто неточными» и «основанными на выборочном прочтении документов, в которых ясно указывается на то, о чём мы заявляли публично: предотвращение ошибок в применении правил». Рекламная выручка составляет значительную часть доходов Meta✴, которые по итогам 2023 года составили почти $135 млрд.
Источник изображения: Corinne Kutz / unsplash.com
В стремлении не допустить появления на платформе мошеннических или вредоносных материалов компания проверяет рекламные объявления, используя средства модерации на основе искусственного интеллекта и привлекая людей для выполнения этой задачи. В одном из внутренних документов Meta✴ говорится, что действуют семь механизмов, направленных на защиту бизнес-аккаунтов, которые приносят более $1200 дохода за 56 дней, и учётных записей частных лиц, которые тратят на рекламу более $960 за тот же период. В нём также указано, что такие механизмы помогают компании принимать решения о действиях при поступлении сигналов от систем ИИ-модерации — они были разработаны для «подавления» сигналов с учётом таких критериев как уровень расходов на рекламу.
Некоторые учётные записи с высокими расходами на рекламу отключаются от автоматизированной модерации и передаются на обслуживание профильным специалистам, признали в Meta✴, но подчеркнули, что ни один рекламодатель не освобождается от обязанности соблюдать действующие на платформах правила. Категории защитных барьеров для рекламодателей с высокими расходами подразделяются на «низкие», «средние» и «высокие» с точки зрения того, насколько они «оправданы». Основанные на уровне расходов механизмы имеют «низкий» приоритет, а критерий надёжности бизнеса у рекламодателя соответствует «высокому». Учитывая указанные в документах пороговые значения, от стандартных средств модерации могли быть освобождены несколько тысяч рекламодателей. По оценкам аналитиков Sensor Tower, в десятку крупнейших рекламодателей Facebook✴ и Instagram✴ входят Amazon, Procter & Gamble, Temu, Shein, Walmart, NBCUniversal и Google.
В одном из документов сотрудники Meta✴ предлагают активнее предлагать защиту от ИИ-модерации клиентам, отнесённым к категориям «платиновых и золотых покупателей» рекламы — чрезмерная строгость автоматизированных систем, по их мнению, «стоит Meta✴ доходов и вредит нашей репутации». Их предложили вывести из-под действия ряда систем за исключением «очень редких случаев», но и полностью освобождать категорию «платиновых и золотых» клиентов от модерации не стали — в 73 % случаев действия автоматизированных систем оказались оправданными.