Mozilla, разработчик браузера Firefox, будет бороться с фальшивыми отзывами в интернете. Компания анонсировала функцию, способную распознавать фальшивые отзывы на товары и услуги. В основе этого инструмента лежит технология стартапа Fakespot, приобретённого Mozilla в мае этого года. Нововведение обещает существенно затруднить манипуляции с рейтингами на таких платформах, как Amazon и Yelp, особенно для тех, кто применяет ИИ для создания фальшивых отзывов. Появление функции ожидается 21 ноября текущего года.

Источник изображения: Mozilla

С приобретением стартапа Fakespot компания Mozilla сделала значимое вложение в свою технологическую экосистему. Fakespot уже успел зарекомендовать себя как надёжный инструмент в борьбе с фальшивыми отзывами и манипуляциями в интернете. Этот стартап предлагает веб-сервис и браузерное расширение, которые анализируют отзывы на платформах типа Amazon, Yelp, TripAdvisor, Walmart и eBay, применяя для этого оценочную шкалу от «A» до «F».

Согласно источнику, функция распознавания фальшивых отзывов, получившая название Review Checker, будет интегрирована в браузер Firefox версии 120. Пользователям десктопов и Android эта функция станет доступна 21 ноября. Эта инновация представляет угрозу для всех, кто планировал использовать ИИ для создания фальшивых отзывов. Это особенно актуально для генеративных ИИ-технологий вроде ChatGPT.

Основатель Fakespot Сауд Халифа (Saoud Khalifah) подчеркнул, что при покупке товаров онлайн, когда покупатель не может посмотреть товар «вживую», отзывы приобретают критическую важность. Стив Тейшейра (Steve Teixeira), директор по продуктам в Mozilla, добавил, что алгоритмы ИИ и машинного обучения, применяемые в Fakespot, обеспечивают высокую точность в выявлении поддельных или искажённых отзывов.

Разработчики Mozilla с гордостью доложили, что браузер Firefox оказался быстрее Google Chrome в JavaScript-тесте SunSpider, хотя этот результат по-прежнему компенсируется проигрышем в другом тесте — JetStream.

Источник изображений: arewefastyet.com

«Теперь мы явно превосходим Chrome в JavaScript-тесте SunSpider!» — говорится в блоге разработчиков Firefox Nightly. Заявление подтверждается скриншотом JavaScript-теста десятилетней давности, в котором Firefox действительно с лёгкостью вырвался вперёд и обогнал Chrome в быстродействии.

Тест был сделан на платформе AreWeFastYet.com. Команда разработчиков Mozilla умолчала, что на той же платформе приводятся результаты более нового и более требовательного теста JetStream 2.0, в котором браузер Google Chrome оказывается значительно быстрее Firefox.

Разработчики независимого браузера также доложили, что за последний месяц они провели работу по улучшению скорости загрузки по протоколу HTTP/2 и предложили ряд других нововведений для предварительной версии продукта.

Ранее стало известно, что настольная версия браузера лишилась поддержки Windows 7, 8 и 8.1, а также старых версий macOS; тем временем Firefox для Android вскоре обзаведётся полноценной поддержкой сторонних расширений.

Проект MDN Web Docs (ранее Mozilla Developer Network) представляет собой репозиторий документации для веб-разработчиков, помогающей обучаться созданию сайтов и реализовать различные сетевые проекты. Хотя сайт считается надёжным источником информации, подключение к нему компанией Mozilla ИИ-инструмента AI Help привело к настоящему скандалу.

Источник изображения: Alexandra_Koch/unsplash.com

Инструмент AI Help на основе генеративного ИИ разработан Mozilla для того, чтобы стать «компаньоном для решения проблем» веб-разработчиков, ищущих ответы в MDN Web Docs. На сайте имеется информация о CSS, HTML, JavaScript и других веб-технологиях. До недавних пор он был авторитетным ресурсом, информацию на который вносили как волонтёры, так и корпорации вроде Microsoft и Google и, конечно, сама Mozilla. MDN также содержит веб-документацию Samsung после того, как южнокорейская компания решила отключить собственные проекты — агрегаторы соответствующей документации. Как выяснилось, попытка Mozilla внести изменение в виде ИИ-инструмента вызвала негативную реакцию пользователей.

По данным представителей проекта MDN, AI Help должен был оптимизировать поиск информации разработчиками, сделав его «быстрым и лёгким». Известно, что используется API компании OpenAI для того, чтобы ИИ выдавал подходящую информацию из репозитория в ответ на запросы. На деле всё оказалось намного хуже.

В посте на GitHub в разделе проекта Yari, на основе которого построен сервис MDN, имеется немало отзывов, касающихся функции AI Help. Один из пользователей получил неверный ответ на вопрос, после чего опубликовал описание ситуации на GitHub — пост сопровождался многочисленными гневными отзывами, в которых новая функция называлась «хуже, чем бесполезной», подчёркивалось, что человекоподобные ответы «могут быть случайно верными, но могут содержать и убедительные фальшивки».

Многие комментаторы признали, что новинка наносит больше ущерба, чем способна принести пользы, и признали, что ИИ страдает галлюцинациями, характерными для LLM-решений. В итоге один из ключевых разработчиков-добровольцев MDN под ником sideshowbarker пообещал «поднять» проблему в самой Mozilla «настолько высоко, насколько сможет». Неизвестно, удалось ли ему преуспеть в этом, но сообщается, что кнопка AI Help более недоступна.

Некоммерческая организация Mozilla Foundation, ответственная за разработку браузера Firefox, запустила новый проект по разработке системы искусственного интеллекта — это будет «заслуживающая доверия» платформа с открытым исходным кодом.

Источник изображения: mozilla.ai

Глава стартапа Mozilla.ai Марк Сурман (Mark Surman) уточнил, что в последние месяцы появилось множество ИИ-моделей, которые, хотя и поражают своими широкими возможностями, но представляют определённую угрозу для всего мира. Ставший отраслевым стандартом OpenAI ChatGPT может писать вредоносное ПО, выявлять уязвимости в открытом исходном коде и создавать фишинговые сайты, копирующие внешний вид проектов с высокой посещаемостью. Предназначенный для создания изображений ИИ Stable Diffusion используется для генерации картинок непристойного содержания, дипфейков и сцен насилия. Создатели этих моделей уверяют, что предпринимают какие-то шаги по пресечению злоупотреблений, но в Mozilla уверены, что этих усилий недостаточно.

Mozilla Foundation выделила $30 млн на создание стартапа Mozilla.ai. Господин Сурман охарактеризовал новую компанию как организацию, сочетающую черты исследовательской фирмы и сообщества. На начальном этапе будет набрана команда из 25 человек, в которую войдут инженеры, учёные и менеджеры по продуктам; но в итоге планируется создание целой сети связанных компаний и исследовательских групп — стартапов и академических учреждений, разделяющих ценности проекта. В Mozilla.ai считают, что на рынке есть спрос на безопасные ИИ-системы, и технологическая отрасль сможет использовать наработки стартапа как стандартный набор инструментов по аналогии с Linux и Apache. Ожидается также, что поддержку проекту будут оказывать как научные организации, так и коммерческие компании.

При этом Mozilla.ai не является некоммерческой организацией — она придерживается определённых этических принципов, но нацелена на расширение сферы деятельности. Такая модель обеспечивает ей определённую гибкость и позволяет использовать опыт других проектов. К примеру, OpenAI в 2015 году была создана как некоммерческая организация, но она была вынуждена кардинально сменить стратегию, чтобы иметь возможность продолжать исследования, и это тревожный прецедент.

В ближайшей перспективе Mozilla.ai планирует разработать систему, позволяющую пользователям уточнять источники ответов, которые даёт ИИ, а также систему, которая обеспечит пользователям контроль над алгоритмами рекомендации контента — теми, что работают на YouTube, в Twitter и TikTok. Быстрого результата разработчики не обещают, но первые продукты могут появиться уже до конца года.

Некоммерческая организация Mozilla Foundation обвинила Google в неправильной маркировке раздела «Безопасность данных» в описаниях приложений магазина Play Маркет в 80 % случаев. Не соответствуют действительности, в частности, описания TikTok, Facebook✴ и Twitter.

Источник изображения: Mohamed Hassan / pixabay.com

Данные из раздела гласят, что TikTok и Twitter не передают персональные данные пользователей третьим лицам, но в политиках конфиденциальности этих служб указано, что они делятся информацией с рекламодателями, интернет-провайдерами, различными платформами и прочими компаниями.

Исследователи Mozilla изучили 40 приложений (всего их в Play Маркете около 2,7 млн) и проверили информацию, указанную разработчиками в разделе «Безопасность данных». Выяснилось, что четыре из пяти сводок неточны, 40 % имеют серьёзные расхождения, и только в 15 % случаев информация соответствует действительности. Плохую оценку получили, в частности, приложения Facebook✴, Messenger, Samsung Push Services, SnapChat, Facebook✴ Lite и Twitter. Платные приложения «врут» ещё чаще бесплатных — в недостоверной информации уличили половину приложений из топовой двадцатки, в том числе Minecraft, Hitman Sniper и Geometry Dash.

Эксперты Mozilla отметили, что в предлагаемых разработчикам компанией Google определениях «поставщиков услуг», «сбора» и «обмена» данными используются недостаточно чёткие формулировки, что создаёт возможности для злоупотреблений. Кроме того, данные, считающиеся «анонимными», вообще не рассматриваются. Хотя при всём несовершенстве существующей модели она всё-таки отражает стремление раскрывать пользователям информацию о конфиденциальности.

И Google, и разработчики приложений, делают вывод в Mozilla, разделяют ответственность за предоставление недостоверной информации, хотя ответственность Google в данном случае больше: владеющая магазином приложений компания должна гарантировать, что недобросовестные элементы не будут процветать за счёт рядовых потребителей. Однако компания, преследующая цель извлечения прибыли, «не выделила ресурсов, необходимых для противодействия угрозе». В Google с выводами Mozilla предсказуемо не согласились, обвинив исследователей в использовании ошибочной методологии и отсутствии доказательств.

Mozilla в закрытом режиме разрабатывает предназначенную для Apple iOS версию браузера Firefox на собственном движке Gecko — ссылка на это была обнаружена в репозитории проекта на GitHub. Опубликовать такое приложение в App Store не получится, поскольку все браузеры на iOS, по правилам Apple, должны работать на WebKit.

Источник изображения: Gerd Altmann / pixabay.com

Apple, Google и Mozilla, три крупнейших разработчика браузеров, работают на собственных движках, то есть механизмах прорисовки: у Apple Safari это WebKit, у Google Chrome — Blink, который ответвился от WebKit десять лет назад, а Mozilla Firefox основан на Gecko. Собственный движок Trident был и у Microsoft — он использовался в устаревшем Internet Explorer, а его форк EdgeHTML применялся в ранних версиях Edge, прежде чем его перевели на базу Chromium.

Механизмы рендеринга отвечают за вывод текста и изображений на экран. При добавлении новых функций или реализации поддержки новых API соответствующие изменения вводятся и в движок. Иногда Apple, Google и Mozilla удаётся договориться и совместными усилиями решить ту или иную проблему, а иногда к общему мнению им прийти не удаётся. Safari имеет репутацию отстающего от Chrome и Firefox, и в Apple это понимают, поэтому команда WebKit расширяется. А когда Apple допустит в экосистему iOS и другие движки, Chrome и Firefox смогут конкурировать с Safari на техническом уровне — в сегменте настольных браузеров разница уже очевидна.

В обсуждении исходного кода Firefox для iOS говорится о функции, позволяющей подключать движок GeckoView, о том, что она предназначена для внутреннего тестирования браузера, а также о том, что правила App Store могут измениться. По неподтверждённой информации, в iOS 17, которая дебютирует в III квартале 2023 года, появится поддержка сторонних магазинов приложений — это делается для соблюдения принятого в ЕС Закона о цифровых рынках (DMA). Он может заставить Apple отказаться и от доминирования WebKit в iOS. Официальных заявлений по этому поводу пока не было, но один из бывших инженеров Mozilla отметил, что попытки портировать Gecko на iOS предпринимались уже дважды: в 2010 и 2015 гг.

Пока в компании говорят, что работа носит исследовательский характер — инженеры хотят понять, какие проблемы ждут браузеры на Gecko, если политика Apple изменится. Накануне стало известно, что аналогичный проект разрабатывает и команда Google Chrome.

Вышедший накануне обновлённый браузер Firefox 109 получил по умолчанию поддержку расширений нового поколения Manifest V3 — эта система вызвала резко негативную реакцию, когда Google сообщила о намерении внедрить её в Chrome, потому что из-за неё могут прекратить работать блокировщики рекламы. Однако в Mozilla сообщили, что теперь такой угрозы нет.

Источник изображения: mozilla.org

Спецификация Manifest Version 3 была реализована в Firefox , чтобы поддержать разработчиков, создающих расширения также для Chrome. Но радоваться преждевременно: реализация от Mozilla хотя и была добавлена для повышения совместимости, но она отличается от версии Google в «некоторых критических областях», касающихся преимущественно безопасности и конфиденциальности. Эти же области упомянула и Google в 2021 году, когда добавила поддержку Manifest V3 в Chrome, но при этом была нарушена работа некоторых функций, отвечающих за блокировку сетевых запросов — они использовались расширениями с блокировкой рекламы и трекеров. В Mozilla же предложили компромисс, сохранив работу данной функции, но при этом обеспечив поддержку Manifest V3, чтобы разработчики продолжили создание мультиплатформенных расширений.

Google после критики со стороны пользователей решила повременить с отключением Manifest V2, которое первоначально планировалось уже в январе, а затем должно было произойти грядущим летом — сейчас сроки отказа от устаревшего стандарта не указываются.

Ещё одним нововведением Firefox 109 стали дополнительные инструменты контроля расширений: пользователь получил возможность увидеть список расширений, имеющих доступ к определённой странице, и управлять ими в индивидуальном порядке, если это поддерживается самими расширениями.