Облачное подразделение Amazon Web Services (AWS) представило на мероприятии re:Invent 2024 систему Automated Reasoning. Эта система предназначена для борьбы с «галлюцинациями» — сбоями в моделях искусственного интеллекта, при которых они дают не соответствующие действительности ответы.

Источник изображений: BoliviaInteligente / unsplash.com

Система проверок Automated Reasoning направлена на сокращение числа потенциально опасных ошибок, вызванных «галлюцинациями» — такие сбои угрожают безопасности служб ИИ и могут привести к финансовым потерям для компаний. Они могут возникать из-за ошибок в массивах данных, на которых обучались модели ИИ. AWS характеризует Automated Reasoning как «первую и единственную защиту генеративного ИИ, которая помогает предотвращать фактические ошибки из-за галлюцинаций модели». Система пытается решить проблему путём перекрёстной сверки генерируемых моделью ответов с предоставленной клиентом информацией. Если ей не удаётся определить, совпадает ли ответ в точности, он направляется обратно в ту же модель для проверки собственными силами.

Automated Reasoning входит в пакет инструментов Amazon Bedrock Guardrails — новая система проверки пытается отследить, каким образом модель пришла к данному ей ответу, и если в цепочке обнаруживается ошибка, его сверяют с предоставленным клиентом массивом данных. Система предлагает собственный ответ на запрос, позволяя клиенту увидеть возможный фактический разрыв и при необходимости провести дополнительную настройку модели. В качестве примера AWS привела поставщика медицинских услуг — он применяет инструмент, чтобы убедиться, что на запросы клиентов о политиках работы компании даются ответы, которые не вводят в заблуждение.

«Яндекс» отмечает десятилетие использования нейросетей в поиске. 5 декабря 2014 года служба представила функцию поиска по картинке, которая начала понимать суть изображения, предлагая похожие варианты и альтернативные версии. Далее нейросети стали участвовать в ранжировании сайтов, переводе текстов, ответе на дополнительные запросы пользователей и во многих других областях. Сегодня они генерируют тексты, изображения и видео.

Источник изображений: «Яндекс»

Первые эксперименты с нейросетями компания проводила еще в 2012 году — для прогнозирования дорожных пробок, а затем для распознавания речи в продукте SpeechKit. В 2015 году нейросеть расширила возможности поиска, позволив искать изображения по тексту и помещать картинки в семантическое пространство.

С 2016 года нейросети стали использоваться для ранжирования сайтов в поисковой выдаче. Алгоритмы «Палех» (2016) и «Королёв» (2017) последовательно улучшали качество поиска, оценивая семантическую близость запросов. В 2020 году для ранжирования был внедрен трансформер YATI (Yet Another Transformer with Improvements), который адаптировали под рабочую среду «Яндекса».

Значительный прогресс произошел в машинном переводе. С 2017 года нейросети интегрировались в поиск, а к 2021 году позволили включать в выдачу англоязычные сайты при отсутствии русскоязычных результатов. Появился также перевод видео в «Поиске» и «Браузере».

Сегодня «Яндекс Поиск» не только показывает сайты, но и отвечает на пользовательские вопросы благодаря функции «Поиск с Нейро» и нейросети YandexGPT. В текущем году к сервису подключили мультимодальную VLM-нейросеть, которая позволяет осуществлять поиск с использованием текста и изображений.

Китайский технологический гигант Tencent анонсировал HunyuanVideo — передовую модель искусственного интеллекта для генерации видео, опубликованную с открытым исходным кодом. Впервые код вывода и веса модели ИИ с такими возможностями доступны всем желающим.

Источник изображения: Tencent

HunyuanVideo, как утверждает Tencent, способна генерировать видеоролики на уровне ведущих мировых систем с закрытым исходным кодом — эти видео отличают высокое качество картинки, разнообразие движений объектов в кадре, способность синхронизировать визуальный и звуковой ряд, а также стабильность генерации. Это крупнейшая модель для генерации видео — у неё 13 млрд параметров. Пакет HunyuanVideo включает в себя фреймворк с инструментами для управления данными; инструментами для совместного обучения моделей, работающих с изображениями и видео; а также инфраструктуру с поддержкой крупномасштабного обучения моделей и их запуска.

Tencent протестировала модель при поддержке профессионального сообщества, которое установило, что HunyuanVideo превосходит по качеству закрытые проекты Runway Gen-3 и Luma 1.6. Чтобы добиться такого результата, разработчик обратился к гибридной архитектуре передачи «двойного потока в одинарный» (Dual-stream to Single-stream). На начальном этапе видео- и текстовые токены обрабатываются независимо несколькими блоками модели-трансформера, благодаря чему данные разных форматов преобразуются без помех. На этапе единого потока видео- и текстовые токены передаются в последующие блоки трансформера, обеспечивая эффективное слияние мультимодальных данных. Это позволяет зафиксировать сложные отношения между визуальной и семантической информацией, а общая производительность модели повышается.

Выпустив HunyuanVideo, компания Tencent сделала значительный шаг к демократизации технологий создания видео при помощи ИИ. Благодаря открытому исходному коду модель способна произвести революцию в экосистеме генерации видео.

Команда Google DeepMind представила Genie 2 — вторую версию фундаментальной модели ИИ, способной на лету генерировать новые интерактивные цифровые окружения, или игровые миры.

Источник изображений: Google

Напомним, оригинальная Genie была выпущена в феврале и могла генерировать виртуальные 2D-миры из синтезированных изображений. Genie 2 способна делать это в 3D и на основе текстовых команд.

Пользователь может описать желаемый мир, выбрать подходящий рендеринг и ступить в новое окружение. На каждом шагу человек/агент совершает действие (движение мыши, нажатие клавиши на клавиатуре), а Genie 2 имитирует его последствия.

В основе каждого примера — изображение, сгенерированное ИИ-моделью Imagen 3 на основе текстовой подсказки

По словам Google DeepMind, Genie 2 может генерировать последовательные интерактивные миры продолжительностью около минуты, хотя большинство показанных (см. видео ниже) примеров длятся 10−20 секунд.

По сравнению с первой версией Genie 2:

• может запоминать элементы мира, которые не находятся в поле зрения;
• может создавать окружение с разными перспективами (от первого или третьего лица, изометрическая камера и так далее);
• может создавать комплексные трёхмерные сцены;
• может моделировать разнообразные взаимодействия с объектами вроде лопания воздушных шаров, открытия дверей или подрыва взрывоопасным бочек выстрелом;
• научилась анимировать персонажей разных типов;
• научилась моделировать NPC и взаимодействия с ними;
• научилась моделировать эффекты воды, дыма, гравитацию, освещение, отражения;
• научилась моделировать интерактивное окружение на основе реальных фотографий.

По мнению Google DeepMind, Genie 2 демонстрирует потенциал фундаментальных моделей мира для создания разнообразных трёхмерных окружений и ускорения тренировок/тестирования ИИ-агентов (вроде того же SIMA).

Google DeepMind уточняет, что исследование находится на ранней стадии и требует значительных улучшений в областях возможностей агентов и генерации среды, но уже видит в Genie 2 решение структурной проблемы безопасной тренировки ИИ-агентов.

Издание The Information вчера сообщило, что попытки Apple интегрировать функции искусственного интеллекта при поддержке Baidu в свою экосистему для китайских пользователей сталкиваются с определёнными сложностями, и в конечном итоге это может негативно повлиять на объём продаж iPhone в КНР.

Источник изображения: Apple

Apple при помощи Baidu пытается адаптировать большие языковые модели последней для работы в системе Apple Intelligence для китайского рынка. Однако в числе прочего компании столкнулись с проблемами понимания запросов и точности в ответах на типовые запросы.

Проблемой стали также и расхождения Apple и Baidu в вопросе работы с пользовательскими данными. Действующая политика Apple не позволяет собирать данные с пользователей, которые делают запросы, связанные с работой систем искусственного интеллекта. Baidu же подобные данные хотела бы сохранять и анализировать, как отмечает источник. Китайский партнёр намерен позволить Apple внедрить на своих устройствах сервисы, основанные на новейшей большой языковой модели Ernie 4.0. Голосовой ассистент Siri американской компании также будет полагаться на языковые модели Baidu при работе с запросами китайских пользователей.

В третьем квартале, по данным IDC, объёмы продаж iPhone в Китае сократились на 0,3 %, хотя продукция Huawei продемонстрировала рост на 42 %. Представив семейство смартфонов iPhone 16 в сентябре, Apple не стала спешить с выпуском функций искусственного интеллекта, адаптированных под китайский рынок. Местным клиентам было предложено подождать до весны следующего года.

Подразделение Amazon Web Services (AWS) компании Amazon объявило на проводимой им конференции re:Invent, что клиенты её облачной платформы теперь могут пользоваться системами с ускорителями Trainium2, предназначенными для обучения и запуска больших языковых моделей искусственного интеллекта.

Источник изображения: aws.amazon.com

Представленные в прошлом году чипы работают в четыре раза быстрее предшественников: один инстанс EC2 с 16 ускорителями Trainium2 предлагает производительность до 20,8 Пфлопс. Это значит, что при развёртывании масштабной модели Meta✴ Llama 405B на платформе Amazon Bedrock клиент получит «трёхкратный прирост скорости генерации токенов по сравнению с другими доступными предложениями крупных облачных провайдеров». Можно будет также выбрать систему EC2 Trn2 UltraServer с 64 ускорителями Trainium2 и производительностью 83,2 Пфлопс. Отмечается, что показатель 20,8 Пфлопс относится к плотным моделям и точности FP8, а 83,2 Пфлопс — к разреженным моделям и FP8. Для связи между ускорителями в системах UltraServer используется интерконнект NeuronLink.

Совместно со своим партнёром в лице Anthropic, основным конкурентов OpenAI в области больших языковых моделей, AWS намеревается построить крупный кластер систем UltraServer с «сотнями тысяч чипов Trainium2», где стартап сможет обучать свои модели. Он будет в пять раз мощнее кластера, на котором Anthropic обучала модели текущего поколения — по оценке AWS, он «станет крупнейшим в мире вычислительным кластером для ИИ, о котором сообщалось до настоящего времени». Проект поможет компании превзойти показатели, которые обеспечиваются актуальными ускорителями Nvidia, которые по-прежнему пользуются высоким спросом и остаются в дефиците. Хотя в начале следующего года Nvidia готовится запустить ускорители нового поколения Blackwell, которые при 72 чипах на стойку предложат до 720 Пфлопс для FP8.

Возможно, поэтому AWS уже сейчас анонсировала ускорители нового поколения Trainium3, которые предлагают ещё один четырёхкратный прирост производительности для систем UltraServer — ускорители будут производиться с использованием техпроцесса 3 нм, а их развёртывание начнётся в конце 2025 года. Потребность в системах нового поколения в компании обосновали тем, что современные модели ИИ по масштабам подходят к триллионам параметров. Инстансы Trn2 пока доступны только в регионе US East инфраструктуры AWS, но скоро появятся и в других; системы UltraServer в настоящее время работают в режиме предварительного доступа.

Amazon представила на своей конференции AWS re:Invent серию больших языковых моделей искусственного интеллекта под брендом Nova — они будут доступны для клиентов облачной платформы AWS в библиотеке моделей Amazon Bedrock.

Источник изображения: BoliviaInteligente / unsplash.com

Клиентам в настоящее время доступны три «понимающие» модели ИИ:

• Amazon Nova Micro — «оптимизированная по скорости и цене» модель для работы с текстом;
• Amazon Nova Lite — «очень недорогая» мультимодальная модель, которая генерирует текст, принимая в качестве запросов не только текст, но также изображения и видео;
• Amazon Nova Pro — «наиболее способная» мультимодальная модель.

В процессе обучения находится модель Amazon Nova Premier — она, по словам разработчика, получит способность рассуждать и решать наиболее сложные задачи. Компания также представила две «творческие» системы: Amazon Nova Canvas генерирует изображения, а Amazon Nova Reel — видеоролики. Создаваемые ими материалы получают соответствующие отметки в метаданных — мера направлена на «ответственное использование ИИ». В 2025 году Amazon выпустит ещё две модели: предназначенную для голосового взаимодействия и ориентированную на мультимодальные запросы и ответы.

На мероприятии AWS re:Invent компания Amazon сообщила, что в партнёрстве с Anthropic строит огромный вычислительный кластер для систем ИИ на ускорителях Trainium 2 — здесь стартап, в который она вложила $8 млрд, сможет создавать и развёртывать свои проекты. Ранее в конференции приняла участие компания Apple, которая, как оказалось, также использует в работе с ИИ чипы разработки Amazon. Amazon продолжает работать над обновлённой версией голосового помощника Alexa — по неофициальным данным, его выпуск планировался на минувшую осень, но теперь его, вероятно, перенесли на будущий год.

Не всем разработчикам систем искусственного интеллекта нравится высокая зависимость от аппаратных решений Nvidia. Компания Apple, например, использует для развития собственных систем как свои процессоры семейства M, так и ускорители альтернативных поставщиков, среди которых есть и Amazon. Представители компаний признались в этом на текущей неделе.

Источник изображения: Amazon

Весьма необычный рассказ о сотрудничестве между технологическими гигантами на таком уровне состоялся на площадке ежегодной конференции AWS Reinvent, проводимой облачным подразделением Amazon. Интересы Apple, как одного из клиентов AWS, на сцене представлял старший директор по машинному обучению и искусственному интеллекту Бенуа Дюпен (Benoit Dupin), который до 2014 года работал как раз в Amazon.

«У нас налажено прочное сотрудничество, а инфраструктура надёжна и позволяет обслуживать наших клиентов по всему миру», — заявил Дюпен о взаимодействии Apple и AWS. Как он добавил, первая из компаний использует инфраструктуру второй на протяжении более десяти лет, чтобы обеспечить работу голосового ассистента Siri, а также сервисов Apple Maps и Apple Music. Поисковые сервисы Apple строила на чипах Amazon Inferentia и Graviton, и переход на них обеспечил повышение эффективности на 40 %.

Собственные языковые модели Apple хочет предварительно обучать на чипах Amazon Trainium2. Как ожидается, это позволит поднять эффективность процесса с точки зрения соотношения производительности и энергозатрат на величину до 50 %. По словам представителей AWS, компания Apple оказалась в числе первых клиентов, приступивших к тестированию процессоров Trainium. Впрочем, из открытых источников известно, что она также применяла для обучения своей системы Apple Intelligence процессоры Google семейства Tensor.

В отличие от ведущих чат-ботов, таких как OpenAI ChatGPT, подход Apple к искусственному интеллекту не основан на больших кластерах на ускорителях Nvidia. Вместо этого Apple использует чип iPhone, iPad или Mac для выполнения максимально возможного числа задач локально на устройстве, а сложные запросы на серверы Apple, использующие её собственные чипы M-серии.

Данные берутся из публикации Нейроморфные вычислители «в металле»: приземление интеллекта

Microsoft, похоже, столкнулась с некоторыми трудностями при реализации ИИ-функций для компьютеров класса Copilot+ PC на Intel и AMD. На недавней конференции Ignite 2024 было объявлено, что поддержка ИИ-функций для систем с AMD и Intel всё ещё находится в стадии разработки. Ранее Microsoft обещала развернуть ИИ-функции на этих системах в ноябре, но видимо не успела с подготовкой. Однако ждать осталось недолго, заверили в Microsoft.

Источник изображений: Microsoft

Компьютеры Copilot+ PC отличаются поддержкой локальной обработки задач ИИ. Первыми устройствами этой категории стали ноутбуки с процессорами Qualcomm Snapdragon X, представленными на конференции Microsoft Build в мае 2024 года. Этот процессор первым в своём классе получил нейропроцессорный блок (Neural Processing Unit, NPU) с производительностью 40 TOPS. Компьютеры Copilot+ PC поддерживают такие ИИ-функции, как Cocreator в Paint и Live Captions, которые демонстрируют потенциал использования ИИ непосредственно на ПК.

Microsoft готовит поддержку ИИ-функций для систем Copilot+ PC с процессорами AMD Ryzen AI HX (известного как Strix Point) с производительностью 55 TOPS и Intel Core Ultra (кодовое название Lunar Lake) с производительностью 45 TOPS. Эти процессоры призваны расширить возможности Copilot+ PC, предоставляя новые перспективы для локальной обработки данных. Но пока что компания продолжает проверять совместимость функций Copilot, чтобы обеспечить их стабильную работу на новых архитектурах.

ИИ-функция Recall стала одним из самых обсуждаемых нововведений. Она позволяет пользователям находить файлы, приложения, веб-страницы или изображения, описывая их содержимое на естественном языке. Эта технология уже проходит тестирование на устройствах с процессорами Snapdragon в рамках программы Windows Insider. Тем не менее её внедрение на устройства с процессорами AMD и Intel пока задерживается. Для защиты конфиденциальности Microsoft использует зашифрованные снимки экранной активности пользователей, доступ к которым возможен только через систему аутентификации Windows Hello, включая авторизацию с помощью лица, отпечатков пальцев или PIN-кода.

ИИ-функция Recall дополнительно усилена внутренними мерами безопасности. Она автоматически распознаёт и исключает конфиденциальную информацию, например пароли и номера кредитных карт, из сохранения. Пользователи могут вручную удалять снимки экрана, которые они не хотят сохранять, или исключать определённые приложения и сайты из мониторинга этой функции. Кроме того, Microsoft добавила специальный значок Recall, который уведомляет пользователей о процессе анализа и позволяет приостанавливать его или просматривать текущий статус.

На конференции Ignite 2024 Microsoft также представила обновления Windows Search для устройств Copilot+ PC. Новая версия поиска позволяет находить не только точные совпадения текста, но и связанные концепции, а также проводить поиск изображений. Эти функции будут тестироваться в Windows Insider Program для устройств с процессорами Snapdragon в начале 2025 года, после чего они станут доступны для других платформ. Также для клиентов Microsoft 365 Copilot будет доступна функция федеративного семантического поиска, охватывающая локальные файлы и данные в OneDrive.

ИИ-функция Click to Do предоставляет пользователям инструменты для выполнения задач, основанных на содержимом экрана. С её помощью можно выделить текст и получить рекомендации по пересказу, редактированию или составлению списка связанных материалов. Эта функция интегрирована с инструментами, такими как Snipping Tool, что обеспечивает удобство использования. Вся обработка данных выполняется локально, что исключает риски утечки информации в облако и гарантирует высокий уровень конфиденциальности.

Copilot+ PC включает дополнительные функции, такие как Teams Super Resolution, которая улучшает качество видеозвонков даже при слабом интернет-соединении, и Narrator, упрощающий работу с текстовыми материалами. Эти возможности интегрированы через Copilot Runtime API, что позволяет организациям и сторонним разработчикам внедрять их в собственные приложения. Вдобавок устройства поддерживают Live Captions, которые переводят видео с более чем 40 языков на английский.

Одним из ключевых нововведений, представленных на Ignite, стала инициатива Windows Resiliency Initiative. Её цель — повысить надёжность системы и минимизировать последствия сбоев. Одной из функций, предложенных в рамках этой инициативы, стала Quick Machine Recovery. Она позволяет администраторам устранять ошибки через Windows Update даже на устройствах, которые не загружаются. Эта функция была разработана после сбоя обновлений Crowdstrike в июле 2024 года, который серьёзно повлиял на работу корпоративных ПК.

Стоявший у истоков стартапа OpenAI миллиардер Илон Маск (Elon Musk) уже давно выступает с критикой его деятельности, а после запуска им конкурирующей компании xAI и вовсе готов защищать собственные интересы в суде. Недавно он предпринял попытку обвинить OpenAI в незаконном ограничении доступа xAI к капиталу.

Источник изображения: OpenAI

Это уже четвёртое исковое заявление, которое представители Илона Маска подают в американском суде. К нему присоединились также руководители xAI и бывший член совета директоров OpenAI Шивон Зилис (Shivon Zilis). Данный иск, как поясняет CNBC, преследует две основные цели: предотвратить превращение OpenAI в полноценную коммерческую организацию и не позволить OpenAI вступать в сговор с инвесторами, который удерживает их от финансирования других компаний такого типа, включая xAI.

Напомним, основанная в 2015 году OpenAI изначально была некоммерческой организацией, но реструктуризация 2019 года ввела элементы коммерческой выгоды в цели и миссии компании, чему тот же Маск впоследствии противился, хотя уже не имел отношения к стартапу. Сейчас некоммерческая часть OpenAI формально руководит коммерческой, и такая структура смущает инвесторов, которые не рискуют из-за этого вкладывать серьёзные средства в её капитал.

Маску не нравится стремление OpenAI полностью перейти на коммерческие рельсы, а также ввести представителя Microsoft в состав совета директоров. Последняя из корпораций является крупнейшим инвестором OpenAI, но Маску не нравится этот альянс, поскольку он считает, что обе компании смогут злоупотреблять конкурентным преимуществом, полученным за счёт раннего доступа к информации, критичной для успешного развития на рынке ИИ. В середине ноября законные представители Маска также обвинили OpenAI в попытках запретить своим потенциальным инвесторам вкладывать деньги в капитал xAI.

Представители OpenAI отметили, что «четвёртая попытка Илона (подать на OpenAI в суд) повторно использует те же самые безосновательные упрёки». Собственный стартап Маска xAI был основан в июле 2023 года и уже достиг капитализации на уровне $50 млрд. Это меньше тех $157 млрд, которые приписывают OpenAI, но темпы роста капитализации самой молодой компании Илона Маска впечатляют. Адвокаты миллиардера в своём иске против OpenAI заявили, что эта компания «не может загромождать собой рынок как Франкенштейн, сшитая из разных корпоративных форм, которые в конечном итоге преследуют финансовые интересы Microsoft».

Сращивание OpenAI и Microsoft через введение поста в совете директоров первой из компаний, который будет занимать представитель второй, также настораживает американских антимонопольных регуляторов, так что не только Илон Маск выражает обеспокоенность данным явлением. Сама Microsoft уже вложила в OpenAI около $14 млрд, но пока это направление деятельности ей приносит одни убытки.

Традиционный веб-поиск всё больше становится прерогативой представителей старшего поколения, что создаёт ощутимую угрозу для основного бизнеса Google. Компания рискует утратить доминирующее положение в области веб-поиска, а с ним и в сегменте цифровой рекламы, пишет The Wall Street Journal.

Источник изображений: BoliviaInteligente / unsplash.com

Угрожающие благополучию Google негативные факторы настолько многочисленны и взаимосвязаны, что требование Минюста США о принудительном разделении компании может оказаться меньшей из её проблем. Над поисковым бизнесом Google, который она рассматривает как основной, нависла ощутимая угроза: для поиска информации люди всё чаще обращаются к системам искусственного интеллекта. При этом качество поисковой выдачи постоянно ухудшается из-за того, что активно растёт присутствие сайтов, которые наполняются материалами, созданными тем же ИИ. Эта тенденция может привести к долгосрочному сокращению поискового трафика Google и сопутствующей ему колоссальной прибыли, благодаря которой поддерживаются многочисленные убыточные проекты владеющего компанией холдинга Alphabet, в том числе подразделение беспилотного транспорта Waymo.

Первая опасность, с которой столкнулась Google, очевидна и реальна: когда люди хотят что-то купить или найти информацию о товарах в интернете, они сразу идут к конкурентам, а вслед за ними уходят и средства от рекламы. Уже в 2025 году доля Google на рынке поисковой рекламы США впервые за всю историю наблюдений может упасть ниже 50 %, гласит прогноз eMarketer. На эту угрозу сослалась и сама компания, которую привлекли к суду по антимонопольному делу. К примеру, для поиска товаров на Amazon люди больше не открывают Google. Доля TikTok на рынке цифровой рекламы США составляет всего 4 %, но у службы коротких видео есть значительный потенциал для роста: по данным самой платформы, в первые 30 секунд после запуска приложения 23 % пользователей открывают поиск, и по всему миру она обрабатывает 3 млрд запросов в день.

Вторая непосредственная угроза — рост популярности систем, которые просто дают ответы на вопросы, а не выступают в качестве традиционных поисковых служб. OpenAI добавила функцию поиска в ChatGPT, о собственном поисковике нового поколения задумались в Meta✴. Чат-боты с ИИ становятся всё более доступными практически: Microsoft и Apple интегрируют их в свои операционные системы. Эту ситуацию аналитики сравнивают с вытеснением традиционных гипермаркетов представителями сектора электронной коммерции или с тем, как Microsoft недооценила потенциал смартфонов с выходом iPhone. Google начала показывать в выдаче подготовленные генеративным ИИ сводки, но этот шаг, по её собственному признанию, стал ответом на действия конкурентов — стартапов и технологических гигантов.

Третья неблагоприятная для Google тенденция, с которой компания едва ли может что-то сделать — деградация экосистемы веб-сайтов, которую она сама сформировала, и от которой она зависит. Из-за распространения созданных ИИ материалов снижается качество поисковых результатов, а Google ответила на это ИИ-сводками в выдаче без необходимости открывать ссылки на сайты, и это лишь ускоряет упадок интернета в его привычном виде. Интернет представляет собой экосистему, в которой Google является одним из ведущих поставщиков трафика, а значит, и дохода. Без трафика с Google будут снижаться стимулы и ресурсы для дальнейшего запуска сайтов, привлекательных для поискового алгоритма Google.

Этот процесс уже начался. Google продолжает докладывать о росте доходов по итогам квартала, но скорость, с которой пользователи нажимали на рекламу в поисковой выдаче, сократилась на 8 % за год — возможно, дело как раз в ИИ-сводках, которые избавляют пользователей от необходимости не только переходить на сайты в результатах поиска, но и даже прокручивать страницу до конца. Когда этот механизм развернётся в полной мере, изменения в поиске Google обойдутся владельцам сайтов в $2 млрд потерянной выручки, подсчитали в компании Raptive. Впрочем, и быстрого развития событий ожидать не стоит, уверены эксперты: люди склонны придерживаться определённых привычек, и пока ИИ не покажет значительного качественного превосходства над поиском Google, большинство так и будет пользоваться привычной системой.

Минюст США потребовал, чтобы Google отказалась от соглашений о выборе поисковой системы по умолчанию на платформах, устройствах и других продуктах партнёров, а также чтобы компания продала проекты браузера Chrome и ОС Android. Есть мнение, что Google сумеет договориться с администрацией избранного президента США Дональда Трампа (Donald Trump), который придерживается консервативных взглядов, и до столь радикальных мер не дойдёт. Но конкуренция в области, которая является для компании основным бизнесом, может оказаться более ощутимой угрозой её благополучию.

Разработанная в «Сбере» большая языковая модель GigaChat MAX дала правильные ответы на 83 % вопросов в тесте, который необходимо пройти при получении первичной аккредитации для участковых врачей-терапевтов.

Источник изображения: sber.ru

Чтобы успешно пройти тестирование, выпускники медицинских вузов должны правильно ответить на 70 % вопросов. Но этим модель GigaChat MAX не ограничилась — она правильно решила 20 ситуационных задач при норме в минимум 17 правильных ответов, пишет «Коммерсантъ» со ссылкой на пресс-службу «Сбера». Исследовательский проект проводился на базе аккредитационного центра в Сеченовском Университете.

Это уже не первый успех нейросети «Сбера» в области медицины — в феврале этого года модель GigaChat сдала экзамен для студентов шестого курса, необходимый при присвоении молодому специалисту квалификации «врач-лечебник». В последние девять месяцев обучение нейросети производилось при участии нескольких сотен врачей, отметили в «Сбере».

Активный сбор информации большими языковыми моделями из открытых источников уже давно нервирует правообладателей, а уж чувствительные к подобным проблемам средства массовой информации и вовсе при первой возможности пытаются защитить свои авторские права в суде. Теперь пришла очередь для канадских издательств подать в суд на OpenAI.

Как отмечает Bloomberg, с иском в Верховный суд Онтарио обратились Torstar Corp., Postmedia Network Canada Corp., Globe and Mail Inc., Canadian Press и CBC/Radio-Canada. Они требуют неустановленного пока возмещения ущерба, причинённого деятельностью OpenAI по обучению своих языковых моделей с использованием опубликованных ими текстовых материалов. В заявлении истцов говорится: «OpenAI зарабатывает и получает выгоду от использования этого контента, не получая официального разрешения и не компенсируя затраты правообладателей». По словам истцов, на их публикации приходится основная часть создаваемого журналистами контента в Канаде.

Представители OpenAI успели возразить, что её модели обучаются на «публично доступных данных по принципам честного использования и с учётом признанных на международном уровне принципов защиты авторских прав». Компания также работает с новостными издательствами над устраивающими их методами отображения и обработки контента, стремясь упоминать первоисточник и при необходимости удалять материалы по просьбе правообладателей.

В конце прошлого года OpenAI пришлось столкнуться с иском The New York Times, который одновременно обвинял и корпорацию Microsoft, являющуюся близким партнёром стартапа. Ответчики обвинялись в использовании миллионов защищённых авторским правом статей истца для обучения своих языковых моделей. Глава медиагруппы News Media Canada Пол Диган (Paul Deegan) обвинил OpenAI в том, что она «обдирает журналистов, при этом незаконно и неоправданно в существенной мере себя обогащая».

Исследование американских учёных показало, что современные системы искусственного интеллекта, способные анализировать картинки, уязвимы для манипуляций при помощи альфа-канала в файлах изображений — набора данных, который отвечает за их прозрачность.

Источник изображения: Google DeepMind / unsplash.com

Исследователи из Техасского университета в Сан-Антонио установили, что управляющий прозрачностью изображения альфа-канал зачастую игнорируется при создании средств анализа с ИИ. И он может стать средством для кибератак на системы в области медицины и автопилота. Чтобы подтвердить свой тезис, группа учёных под руководством доцента Гвиневры Чэнь (Guenevere Chen) разработала метод атаки AlphaDog, эксплуатирующий эту уязвимость в системах ИИ. Из-за альфа-канала люди и ИИ могут воспринимать изображения совершенно по-разному.

Учёные создали 6500 изображений и протестировали их на 100 моделях ИИ, включая 80 систем с открытым исходным кодом и 20 облачных платформ, таких как ChatGPT. Как показали испытания, схема AlphaDog особенно эффективна при атаках в областях изображений в оттенках серого. Уязвимости подвержены модели ИИ, лежащие в основе систем автопилота — альфа-канал позволяет манипулировать алгоритмами распознавания дорожных знаков, которые содержат фрагменты в оттенках серого. В результате дорожные знаки могут распознаваться неверно, и возникает угроза тяжёлых последствий.

Ещё один потенциальный объект атаки — системы медицинской визуализации, в которых ИИ помогает с постановкой диагноза. Здесь в оттенках серого часто представляются рентгеновские снимки, результаты МРТ и КТ, и ими тоже можно манипулировать с помощью AlphaDog, что грозит постановкой заведомо неверного диагноза. Наконец, предложенная учёными схема атаки эффективна против систем распознавания лиц — это может повлечь проблемы с конфиденциальностью людей и безопасностью охраняемых объектов. Авторы исследования поделились своими выводами с крупными технологическими компаниями, в том числе Google, Amazon и Microsoft, чтобы оказать помощь в устранении обнаруженных уязвимостей в системах ИИ.