Instagram✴ внедряет новую систему на основе искусственного интеллекта, которая сможет выявлять подростков, пытающихся скрыть свой настоящий возраст. Алгоритм будет анализировать фотографии, подписки и публикации друзей, чтобы определить реальный возраст пользователя.

Источник изображения: Luke van Zyl / Unsplash

Как пишет Bloomberg, это решение связано с давлением со стороны родителей и законодательных органов, обеспокоенных влиянием платформы на психическое здоровье подростков. С помощью нового ИИ-инструмента под названием Adult classifier (идентификатор возраста) Meta✴ будет автоматически переводить пользователей младше 18 лет в аккаунты с более строгими настройками конфиденциальности, независимо от того, какие данные они указали при регистрации.

Ранее Meta✴ уже начала переводить пользователей на подростковые аккаунты на основании их заявленного возраста. Однако новый алгоритм, который будет запущен в начале следующего года, призван выявлять тех, кто пытается обойти правила. При этом пользователи в возрасте 16 и 17 лет смогут изменять настройки конфиденциальности самостоятельно, но для подростков младше 16 лет потребуется согласие родителей на отключение разного рода ограничений. Это решение было положительно воспринято сторонними экспертами, которые давно призывали компанию к более существенным изменениям для защиты молодых пользователей.

В последние годы Meta✴ столкнулась с многочисленными обвинениями в том, что все её платформы способствуют ухудшению психического здоровья подростков. В частности, против компании подали иск десятки генеральных прокуроров в разных штатах США, утверждающих, что Meta✴ сознательно «подсаживала» детей на свои сервисы, что привело к кризису психического здоровья среди подростков. На компанию также ополчились родители, которые утверждают, что их дети умерли от наркотиков или совершили самоубийство из-за контента, который они видели, или разговоров, которые они вели с использованием продуктов Meta✴. Также в 2021 году бывший сотрудник компании Фрэнсис Хауген (Frances Haugen) раскрыла внутренние документы, которые показали, что Instagram✴ может негативно влиять на психику девочек-подростков.

В связи с таким серьёзным набором претензий Meta✴ решила усложнить процесс определения возраста при его указании. Например, будет проверяться совпадение электронной почты или уникального идентификатора устройства, с которого подросток попытается создать новый аккаунт. Для подтверждения возраста также придётся предоставить официальные документы или пройти проверку через видеоселфи с помощью приложения Yoti — инструмента для цифровой идентификации личности по фотографии. В случае ошибки можно будет подать апелляцию, правда, эта возможность пока находится на стадии разработки.

Стартап Worldcoin, одним из основателей которого является глава OpenAI Сэм Альтман (Sam Altman), объявил о смене названия на World. Из названия исчезло слово «coin», поскольку компания решила уйти с криптовалютного рынка и теперь намерена сосредоточиться на создании устройств для идентификации людей. Вместе с этим стартап представил новое устройство для сканирования радужной оболочки глаза под названием Orb.

Источник изображения: World

Напомним, что в июле 2023 года криптовалютный стартап Worldcoin начал оказывать услуги по всему миру и глобально запустил одноимённую криптовалюту, которую можно использовать только после того, как пользователь подтвердит свою личность. Центральным элементом проекта стала сфера Orb, которая предназначена для сканирования глаз пользователя для подтверждения личности и отличия его от роботов. Похоже, криптовалюта не снискала популярности, и теперь стартап решил перепрофилироваться.

В заявлении World сказано, что компания намерена использовать Orb для предоставления услуг по идентификации, поскольку эта задача будет становиться всё более актуальной по мере развития технологий искусственного интеллекта и расширения возможностей в плане имитации человека. «Сейчас перед человечеством стоит новый экзистенциальный вопрос: Как будут сосуществовать люди и ИИ», — говорится в заявлении компании.

Компания World, которую возглавляет Алекс Блания (Alex Blania), продолжит работать в направлении создания устройств для сканирования радужной оболочки глаза для биометрической идентификации. Согласно имеющимся данным, в новой модели Orb используется вычислительный модуль Nvidia Jetson. Вместе с этим было объявлено о начале продаж устройств Orb, которые могут использоваться для идентификации людей в режиме онлайн.

Сам же сервис идентификации людей под названием Deep Face, по заявлениям World, должен решить проблему дипфейков, созданных с помощью ИИ, а также предложит «новый мощный способ борьбы с мошенничеством». В рамках мероприятия, посвящённому ребрендингу и презентации нового устройства, было объявлено, что стартап подарит Orb всем присутствующим.

Китайское правительство объявило о внедрении новой системы национального интернет-ID. Эта инициатива, разработанная в ответ на растущие проблемы с безопасностью и контролем в онлайн-пространстве, предполагает обязательную регистрацию пользователей в интернете с использованием уникального идентификатора, выданного государственными органами.

Источник изображения: Gundam/Unsplash

Как сообщает The New York Times, главной целью новой системы является борьба с анонимностью в интернете, которая, по мнению китайского правительства, способствует распространению дезинформации, мошенничества и киберпреступности. По словам официальных представителей, такая мера «призвана повысить уровень ответственности пользователей и укрепить общественный порядок».

В рамках нового законодательства все интернет-платформы будут обязаны проверять личность пользователей при регистрации и связывать аккаунты с уникальными идентификационными номерами, выданными государственными органами. При этом «национальный интернет-ID сократит чрезмерный сбор и хранение личной информации граждан интернет-платформами на основании государственного идентификатора», — заявили представители ведомств.

Китай уже много лет жёстко контролирует информацию и тщательно следит за поведением пользователей в интернете. Социальные сети, такие как Weibo, Xiaohongshu и Douyin, стали показывать местоположение пользователей в их постах. Однако контроль до сих пор был фрагментирован, а для полного отслеживания граждан необходимо учитывать данные с разных онлайн-платформ. Внедрение единого интернет-ID этот процесс сделает централизованным.

Реакция на эту новость в обществе была неоднозначной. С одной стороны, сторонники новой системы утверждают, что она поможет улучшить безопасность в интернете и ограничит сбор личных данных различными приложениями. Однако критики выражают опасения по поводу потенциальных нарушений конфиденциальности и свободы слова. Многие пользователи боятся, что такая система может привести к усилению государственного контроля над интернетом и ограничению доступа к информации.

«С этим интернет-ID каждый ваш шаг в сети, все ваши цифровые следы будут контролироваться регуляторами», — отметила Роуз Лукью (Rose Luqiu), доцент журналистики университета Hong Kong Baptist University. «Это определённо повлияет на поведение людей».

Профессор права, Шэнь Куй (Shen Kui) из Пекинского университета, в своем комментарии отметил, что централизованный интернет-ID может вызвать у людей страх перед использованием интернета. «Потенциальные риски и вред от единого интернет-ID огромны», — написал он.

По предварительным данным, на первом этапе использование новой системы будет добровольным, а предложение открыто для общественного обсуждения до конца августа.

Конфиденциальность в условиях метавселенной может оказаться невозможной без мер безопасности нового поколения, гласят результаты исследования, проведённого учёными Калифорнийского университета в Беркли.

Источник изображения: Gerd Altmann / pixabay.com

Самым удивительным аспектом исследования стал тот факт, что для идентификации пользователя в виртуальном пространстве требуется чрезвычайно малый объём данных, поэтому настоящая анонимность в метавселенной может быть вообще исключена. Современные гарнитуры виртуальной реальности оборудуются многочисленными камерами, микрофонами и сенсорами, собирающими различные данные: черты лица пользователя, тембр голоса, движения глаз, а также окружающие его объекты в доме или офисе. В перспективе допускается даже установка ЭЭГ-сенсоров, считывающих показатели активности мозга через кожу головы. И даже если удалить весь этот комплект, анонимность обеспечить всё равно не получится — для идентификации человека достаточно проанализировать простые данные о его движении.

Под «простыми данными» подразумеваются движения трёх базовых точек, отслеживаемых гарнитурами виртуальной реальности: одной на голове и двух на руках пользователя — это минимальный набор данных, необходимых для работы в виртуальной среде. Учёные из Беркли проанализировали 2,5 млн анонимных записей от более чем 50 тыс. пользователей VR-приложения Beat Saber и обнаружили, что для идентификации человека с точностью 94 % необходимы данные о его движении, которые записывались всего 100 секунд. При этом половину пользователей можно было идентифицировать по 2-секундному фрагменту данных. Исследование потребовало работы алгоритмов искусственного интеллекта, но нужно учесть, что данные были крайне скудными — 2 секунды движения всего трёх точек.

Источник изображения: dlohner / pixabay.com

Это представляет серьёзную угрозу конфиденциальности пользователей — в исходом виде анонимность в метавселенной оказывается невозможной. Помимо идентификации личности, этих же скудных данных достаточно, чтобы определить конкретную информацию о человеке: рост, пол и преобладающую руку. А в сочетании с данными других датчиков идентификация может быть ещё более точной. Если человек подключается к метавселенной и посещает виртуальный мебельный магазин, он с большой вероятностью будет производить простые движения: брать виртуальные предметы с виртуальных полок или отступать на несколько шагов, чтобы увидеть, как они смотрятся. Учёные Беркли подчёркивают, что все эти повседневные движения уникальны для каждого человека так же, как и его отпечатки пальцев.

Защитить же конфиденциальность пользователей в метавселенной будет намного сложнее. В качестве одного из вариантов исследователи предлагают передачу данных с сенсоров на промежуточные ресурсы, которые будут их искажать. Но это означает появление информационного шума, снижение точности гарнитур виртуальной реальности и потерю удовольствия от игры, в которой требуются физические навыки. Есть и альтернативный вариант — ввести отраслевые нормативы, запрещающие платформам метавселенной хранить и анализировать данные о движениях человека. Такие нормативы будут призваны защитить общественность, но исполнение подобных требований будет непросто обеспечить — отрасль обязательно будет им противостоять. Хотя если потребители не будут чувствовать себя в безопасности в метавселенной, то сделать виртуальные пространства важной частью повседневной жизни человека будет затруднительно.