Новое исследование IEEE показало, что взломать роботов с искусственным интеллектом так же просто, как и обмануть чат-ботов. Учёные смогли заставить роботов выполнять опасные действия с помощью простых текстовых команд.

Источник изображения: Copilot

Как пишет издание HotHardware, если для взлома устройств вроде iPhone или игровых консолей требуются специальные инструменты и технические навыки, то взлом больших языковых моделей (LLM), таких как ChatGPT, оказывается гораздо проще. Для этого достаточно создать сценарий, который обманет ИИ, заставив его поверить, что запрос находится в рамках дозволенного или что запреты можно временно игнорировать. Например, пользователю достаточно представить запрещённую тему как часть якобы безобидного рассказа «от бабушки на ночь», чтобы модель выдала неожиданный ответ, включая инструкции по созданию опасных веществ или устройств, которые должны быть системой немедленно заблокированы.

Оказалось, что взлом LLM настолько прост, что с ним могут справится даже обычные пользователи, а не только специалисты в области кибербезопасности. Именно поэтому инженерная ассоциация из США — Институт инженеров электротехники и электроники (IEEE) — выразила серьёзные опасения после публикации новых исследований, которые показали, что аналогичным образом можно взломать и роботов, управляемых искусственным интеллектом. Учёные доказали, что кибератаки такого рода способны, например, заставить самоуправляемые транспортные средства целенаправленно сбивать пешеходов.

Среди уязвимых устройств оказались не только концептуальные разработки, но и широко известные. Например, роботы Figure, недавно продемонстрированные на заводе BMW, или роботы-собаки Spot от Boston Dynamics. Эти устройства используют технологии, аналогичные ChatGPT, и могут быть обмануты через определённые запросы, приведя к действиям, полностью противоречащим их изначальному назначению.

В ходе эксперимента исследователи атаковали три системы: робота Unitree Go2, автономный транспорт Clearpath Robotics Jackal и симулятор беспилотного автомобиля NVIDIA Dolphins LLM. Для взлома использовался инструмент, который автоматизировал процесс создания вредоносных текстовых запросов. Результат оказался пугающим — все три системы были успешно взломаны за несколько дней со 100-% эффективностью.

В своём исследовании IEEE приводит также цитату учёных из Университета Пенсильвании, которые отметили, что ИИ в ряде случаев не просто выполнял вредоносные команды, но и давал дополнительные рекомендации. Например, роботы, запрограммированные на поиск оружия, предлагали также использовать мебель как импровизированные средства для нанесения вреда людям. Эксперты подчёркивают, что, несмотря на впечатляющие возможности современных ИИ-моделей, они остаются лишь предсказательными механизмами без способности осознавать контекст или последствия своих действий. Именно поэтому контроль и ответственность за их использование должны оставаться в руках человека.

Говоря о географической сегментации выручки Nvidia в третьем квартале, финансовый директор компании Колетт Кресс (Colette Kress) предпочла выделить Китай, упомянув о последовательном росте выручки на серверном направлении в этой стране за счёт поставок ускорителей поколения Hopper, соответствующих требованиям правил экспортного контроля США.

Источник изображений: Nvidia

Представительница Nvidia призналась: «В процентном выражении от общей выручки в сегменте центров обработки данных, (китайская выручка) осталась значительно ниже того уровня, который существовал до введения правил экспортного контроля. Мы ожидаем, что в дальнейшем китайский рынок сохранит высокую конкуренцию. Мы продолжим следовать требованиям правил экспортного контроля при обслуживании своих клиентов». Как отметила Колетт Кресс, ускорители Hopper в Китае поставляются представителям различных отраслей промышленности.

Если рассматривать китайскую выручку Nvidia в целом, то она по своей величине уступила только США и Сингапуру, хотя в квартальном отчёте компании и отмечается, что в последнем случае «приписка» клиентов к крохотному азиатскому государству вовсе не означает, что соответствующая продукция компании физически поступила в эту страну. В Китае по итогам третьего квартала текущего года компания выручила $5,4 млрд, что соответствует 15 % совокупной выручки за период. Год назад этот уровень достигал 22 %, но на прочих географических направлениях выручка компании росла опережающими темпами. Например, в США она увеличилась в два с лишним раза, в том же Сингапуре — почти в три.

Последовательно выручка Nvidia в Китае увеличилась на 46 %, в годовом сравнении — на 34 %. Другими словами, с учётом доминирования серверных комплектующих в современной структуре поставок продукции Nvidia, даже в условиях усиливающихся санкций ускорители вычислений этой марки продолжали поставляться в Китай в растущих количествах. Более того, за девять месяцев текущего фискального года выручка Nvidia в Китае выросла на 38 % до $11,6 млрд.

На недавнем квартальном мероприятии глава и основатель Nvidia Дженсен Хуанг (Jensen Huang) компанию Samsung в перечне партнёров не упомянул, но в интервью Bloomberg TV признался, что заинтересован в получении от этого поставщика памяти типа HBM3E. Попутно он выразил уверенность, что международное сотрудничество сохранится после прихода к власти в США Дональда Трампа (Donald Trump).

Источник изображения: Nvidia

Как отмечается в аннотации Bloomberg к интервью с Хуангом после его выступления в Гонконгском университете науки и технологии, возглавляемая им Nvidia заинтересована в получении как восьми-, так и 12-ярусных микросхем HBM3E. В конце октября Samsung Electronics объявила о прогрессе в сертификации HBM3E под нужды Nvidia, но руководитель последней на уходящей неделе не стал ставить Samsung в один ряд с SK hynix и Micron, говоря о партнёрах своей компании.

Во время своего выступления в Гонконге, как добавляет Reuters, основатель Nvidia выразил уверенность, что даже в случае усиления правил экспортного контроля США в сфере продвинутых средств вычислений Дональдом Трампом, международное сотрудничество в технологической сфере продолжится. Какие изменения принесёт новая администрация, Хуанг не знает, но Nvidia в любом случае будет подстраиваться под требования законов и правил, обеспечивая поддержку своих клиентов по всему миру с их учётом, а также развивать собственные технологии. В Гонконг Дженсен Хуанг был приглашён в связи с присвоением ему докторской степени местного университета.

Растущие потребности систем искусственного интеллекта в энергоснабжении, как пояснил Хуанг, не являются однозначным злом. С помощью подобных систем можно проектировать новые ветряные турбины, искать новые материалы для аккумуляторов и совершенствовать методы хранения гидроксида углерода в резервуарах. Мощные центры обработки данных необходимо строить вдали от густонаселённых районов и обеспечивать собственными возобновляемыми источниками энергии, как убеждён Хуанг. «Я надеюсь, что в конечном счёте мы увидим, что использование энергии для искусственного интеллекта станет лучшим способом её использования, какой только можно представить», — резюмировал он. Новая эра вычислений затронет все отрасли промышленности и области науки, по его словам.

Достигший возраста 61 года Хуанг также признался студентам в Гонконге, что хотел бы начать свою карьеру сейчас, поскольку весь мир сейчас сбрасывается к единым для всех начальным условиям, и молодых учёных есть все необходимые инструменты для продвижения во многих областях. Все научные проблемы, существовавшие ранее и имеющиеся сейчас, теперь кажутся решаемыми, по мнению Хуанга.

На ежегодной конференции Microsoft Ignite компания представила своё видение рабочего процесса на ПК в будущем, связанное с использованием искусственного интеллекта Copilot. Microsoft намерена сделать Copilot не просто вспомогательной функцией, а центральным элементом работы пользователей, объединяющим множество агентов для выполнения различных задач.

Источник изображения: Copilot

Copilot станет своеобразным суперприложением, через которое пользователи смогут выполнять большую часть задач, поясняет PCMag. Открыв Copilot, пользователь увидит два основных режима — Work и Web. В режиме Work Copilot получает доступ к данным Microsoft Graph, включая электронные письма, чаты в Teams и документы в SharePoint для выполнения задач на основе контекста. Например, для создания списка задач или формирования предложений для совместной работы через инструмент Bizchat.

Пользователь может поручать Copilot много различных задач, которые часто выполняются специальными ИИ-агентами, представляющими из себя либо стандартных агентов Microsoft, либо специфических, созданных компаниями. По сути это то, что имел в виду генеральный директор Microsoft Сатья Наделла (Satya Nadella), когда говорил: «Copilot — это пользовательский интерфейс для ИИ». Именно поэтому на конференции неоднократно звучала фраза: «У каждого человека должен быть Copilot, и у каждого бизнес-процесса свой ИИ-агент».

Стоит отметить, что Copilot и так уже демонстрирует на сегодня впечатляющие возможности. Например, пользователь может попросить его подготовить повестку для встречи, проанализировав переписку и документы, связанные с участниками. Полученный документ можно отредактировать и отправить коллегам через Bizchat для совместной работы. Также Microsoft представила агентов с узкой специализацией, таких как переводчик, HR-агент, фасилитатор и проектный менеджер.

Переводчик выполняет синхронный перевод с сохранением интонации и тембра голоса. HR-агент способен отвечать на вопросы сотрудников о корпоративных политиках или предоставлять информацию о зарплате и льготах. Проектный менеджер поможет в создании плана проекта. И наконец, фасилитатор будет вести заметки во время встреч в Teams и создавать список задач. Несмотря на то, что эти инструменты находятся на стадии предварительного тестирования, они уже вызывают интерес, благодаря своему потенциалу по снижению затрат и улучшению бизнес-процессов.

Стоит сказать, что внедрение Copilot одновременно связано с рядом вызовов. Как отметил Херайн Оберой (Herain Oberoi), генеральный менеджер по безопасности данных, переход к ИИ-инструментам открывает новые уязвимости. Для решения этой проблемы Microsoft предлагает обновлённый пакет инструментов безопасности, включая Purview Data Loss Prevention, который позволяет классифицировать данные и управлять доступом, также будет внедрена система защиты от предвзятости ИИ-моделей и запрещённого контента. При этом администраторы смогут контролировать, какие ИИ-модели должны использоваться, а какие нет, из более чем 1800 доступных на платформе Azure.

Система искусственного интеллекта Google Gemini получит новые возможности благодаря API App Functions, который позволяет выполнять действия в приложениях без их открытия. По данным The Verge, новая функция обнаружена в коде Android 16 для разработчиков и может стать доступна для всех пользователей уже в следующем году.

Источник изображения: Solen Feyissa / Unsplash

Функция App Functions, основанная на программном интерфейсе API (Application programming interface), может дать ассистенту Gemini возможность выполнять действия внутри приложений. На сайте разработчиков Google описывает app functions как «конкретную функциональность, которую приложение предоставляет системе, и которая одновременно может быть интегрирована в различные системные функции».

И хоть пока это звучит довольно расплывчато, Мишаал Рахман (Mishaal Rahman) из Android Authority приводит пример из документации, который проясняет суть. Например, разработчики приложений смогут открывать доступ посредством API к отдельным действиям, как, например, заказ еды, а Gemini сможет сделать заказ, не открывая приложения.

Интересно, что подобную функцию разрабатывает и Apple. В iOS 18 Siri также сможет выполнять действия внутри приложений через обновлённый фреймворк app intents. Например, пользователи смогут заказать что-либо в магазине через Siri, если разработчики определённого приложения подключат такую возможность. Однако внедрение этой функции в случае с Apple ожидается не раньше весны 2025 года.

Стоит отметить, что способность «выполнять действия за пользователя» изначально была одной из главных целей умных ассистентов, но её реализация начала появляться лишь недавно. Пока Gemini в основном ограничен поиском информации в Gmail или Google Maps. Что касается голосового помощника Siri в iOS 18, то он получил интеграцию с ChatGPT, за счёт чего можно задавать более сложные вопросы, но с выполнением действий Siri пока справляется хуже.

Судя по всему, и Google, и Apple закладывают фундамент для более «умных» ассистентов, которые смогут выполнять сложные задачи внутри приложений, и это произойдёт уже очень скоро.

Компания Nvidia сильно зависит от горстки крупнейших заказчиков, которые активно покупают ускорители вычислений для задач ИИ и в совокупности приносят компании более трети дохода. Это ставит Nvidia в уязвимое положение, хотя в ближайшее время компании и её инвесторам вряд ли стоит беспокоиться — спрос на ИИ-ускорители только растёт.

Источник изображений: Nvidia

В квартальном отчёте по форме 10-Q, который компании подают в Комиссию по ценным бумагам и биржам США, Nvidia в очередной раз заявила, что у неё есть ключевые клиенты, которые настолько важны, что заказы каждого из них формируют более 10 % от глобальной выручки Nvidia. При этом компания не раскрывает имена этих клиентов, что логично, поскольку вряд ли бы они хотели, чтобы их инвесторы, сотрудники, критики, активисты и конкуренты узнали, сколько именно денег они тратят на чипы Nvidia.

В отчёте за второй квартал Nvidia указала четырёх крупнейших клиентов, а в последнем квартале упоминается три таких «кита», поскольку один из них сократил закупки. Хотя доподлинно неизвестно, что это за клиенты, Мандип Сингх (Mandeep Singh), руководитель глобального отдела технологических исследований Bloomberg Intelligence, считает, что речь идёт о Microsoft, Meta✴ и, возможно, Super Micro.

Сама Nvidia называет их просто «клиент A», «клиент B» и «клиент C». Сообща они приобрели товаров и услуг на общую сумму 12,6 миллиарда долларов в третьем финансовом квартале, завершившемся в конце октября. Это более трети от общей выручки Nvidia, которая составила 35,1 миллиарда долларов. Также отмечается, что каждый из «китов» приобрёл товаров и услуг Nvidia на сумму от 10 до 11 миллиардов долларов за первые девять месяцев текущего финансового года.

Примечательно, что вклад «китов» в выручку оказался равнозначным: на каждого пришлось по 12 %, что говорит о том, что они, скорее всего, закупили максимальное количество выделенных им чипов, но не столько, сколько им хотелось бы в идеале. Это согласуется с комментариями генерального директора Дженсена Хуанга (Jensen Huang) о том, что Nvidia ограничена в поставках. Компания не может просто производить больше чипов, поскольку она сама их не выпускает, а заказывает производство у TSMC, мощности которой расписаны на годы вперёд.

Поскольку имена крупнейших покупателей чипов Nvidia засекречены, трудно сказать, являются ли они «посредниками», как Super Micro Computer, которая выпускает серверы для центров обработки данных, или конечными пользователями, как Microsoft, Meta✴ или xAI Илона Маска (Elon Musk). Последняя, например, практически из ниоткуда построила мощнейший ИИ-суперкомпьютер всего за три месяца.

Тем не менее полагаться на горстку крупных клиентов весьма рискованно — если кто-то из них, а ещё хуже, все разом, перестанут закупать ИИ-чипы, у Nvidia резко упадёт выручка. К счастью для инвесторов Nvidia, в ближайшее время такое маловероятно.

Аналитик Bloomberg Intelligence Мандип Сингх видит лишь несколько долгосрочных рисков для Nvidia. Во-первых, некоторые крупные клиенты, вероятно, со временем сократят заказы в пользу собственных чипов, что приведёт к уменьшению доли компании на рынке. Одним из таких клиентов является Alphabet, у которой есть собственные ИИ-чипы семейства TPU.

Во-вторых, Nvidia доминирует в области ускорителей для обучения ИИ, но не может похвастаться тем же в сфере чипов для инференса — запуска уже обученных нейросетей. Для инференса не требуются столь мощные чипы, что означает для Nvidia гораздо большую конкуренцию не только со стороны AMD и других прямых соперников, но и со стороны компаний с собственными чипами, таких как Tesla.

В конечном счёте запуск обученных нейросетей станет гораздо более значимым бизнесом, поскольку всё больше предприятий будут использовать ИИ, считает аналитик. «Многие компании пытаются сфокусироваться на возможностях инференса, потому что для этого не нужен самый мощный GPU-ускоритель», — заявил Сингх. Он также отметил, что в долгосрочной перспективе переход на чипы для инференса является «безусловно» большим риском для Nvidia, чем потеря доли рынка чипов для обучения ИИ.

И тем не менее Сингх отмечает, что верит прогнозу Дженсена Хуанга о том, что расходы крупнейших клиентов на ИИ-чипы не прекратятся. Даже если доля Nvidia на рынке ИИ-чипов сократится с нынешних 90 %, компания всё равно сможет ежегодно зарабатывать на этом сотни миллиардов долларов.

Администрация YouTube объявила, что в разделе коротких вертикальных роликов Shorts теперь доступна обновлённая функция Dream Screen — генерация динамических фоновых изображений с использованием искусственного интеллекта. Ранее функция Dream Screen позволяла генерировать в качестве фонов не видео, а неподвижные картинки.

Источник изображения: YouTube

Новая возможность появилась благодаря интеграции модели для генерации видео Google DeepMind Veo — она позволяет создавать ролики с разрешением 1080p в разных кинематографических стилях. Чтобы запустить новую функцию, необходимо перейти в камеру Shorts, выбрать значок «Зелёный экран» и опцию Dream Screen — здесь можно ввести текстовый запрос, например, «пейзаж из конфет» или «волшебный лес и ручей»; после чего останется выбрать стиль анимации и нажать кнопку «Создать». Dream Screen создаст несколько видеофонов, из которых нужно выбрать один, после чего можно записывать видео с этим изображением позади себя.

Новая функция пригодится, например, чтобы погрузить зрителя в атмосферу любимой книги или подготовить анимированное вступление к основному ролику. В перспективе YouTube планирует предоставить авторам возможность создавать 6-секундные видеоролики, полностью сгенерированные Dream Screen. Крупнейшая в мире платформа коротких видео TikTok также поддерживает создание фоновых изображений с помощью ИИ, но эти картинки пока статические. Воспользоваться обновлённым вариантом Dream Screen могут пользователи YouTube из США, Канады, Австралии и Новой Зеландии.

Пользователи ПК с системами искусственного интеллекта демонстрируют более низкую производительность труда по сравнению с теми, кто работает на традиционных компьютерах, гласят результаты исследования, проведённого по заказу Intel.

Источник изображения: intel.com

Компания, которая явно заинтересована в высоких продажах ПК с ИИ, пришла к неутешительному выводу, ознакомившись с результатами опроса 6000 человек из Германии, Франции и Великобритании. Проведённое по заказу Intel исследование показало, что на связанных с ИИ задачах люди теряют в среднем 15 часов в неделю. Некоторые из повседневных задач, в том числе написание электронных писем, расшифровка записей встреч и работа с файлами, легко делегируются ИИ — это, напротив, помогает работникам экономить до четырёх часов в неделю, приводит Intel результаты исследования, проведённого компанией Anthropic, но баланс остаётся не в пользу новых технологий.

«Многие пользователи ИИ тратят много времени, выясняя, как лучше всего общаться с инструментами ИИ, чтобы получать желаемые результаты. Разработчикам продуктов с ИИ следует уделять больше внимания обучению, чтобы демонстрировать истинный потенциал „повседневного ИИ“», — говорится в исследовании Intel. Разработчикам действительно ещё предстоит убедить общественность, что эти технологии могут оказаться полезными: 86 % потребителей никогда не слышали о ПК с ИИ и не пользовались ими, гласят результаты опроса.

Неграмотность среднего пользователя в этой области приводит к возникновению того, что исследователи назвали «заблуждениями»: 44 % респондентов указали, что ПК с ИИ — это футуристическая технология или уловка; 53 % сочли, что такие компьютеры предназначены только для творческих или технических специалистов; 86 % выразили обеспокоенность вопросами конфиденциальности и сохранности своих данных при работе с ПК с ИИ; 17 % указали, что эти технологии небезопасны и не регулируются. При этом раскрытие информации оказывает на людей благотворное влияние: 32 % людей, не знакомых ПК с ИИ, сказали, что рассмотрят возможность покупки компьютера с такими функциями, когда настанет время обновляться; среди тех, кому довелось поработать с подобными машинами, этот показатель вырос до 64 %.

Google с помощью искусственного интеллекта выявила 26 новых уязвимостей в проектах с открытым исходным кодом (Open Source), включая баг в OpenSSL, который оставался незамеченным в течение двух десятилетий. Этот баг, получивший название CVE-2024-9143, связан с «выходом за границы памяти», вызывал сбои программы, а в редких случаях запускал вредоносный код.

Источник изображения: AI-генерация

Для поиска уязвимостей и автоматизации процесса разработчики Google применили метод «фаззинг-тестирование» (fuzz testing), при котором в код загружаются случайные данные для выявления возможных сбоев. В блоге компании отмечается, что подход заключался в использовании возможностей больших языковых моделей (LLM) для генерации большего количества целей фаззинга.

Как выяснилось, LLM оказались «высокоэффективными в эмуляции всего рабочего процесса типичного разработчика по написанию, тестированию и сортировке обнаруженных сбоев». В результате искусственный интеллект был применён для тестирования 272 программных проектов, где и были обнаружены 26 уязвимостей, включая «древний» баг в OpenSSL.

По словам исследователей, причина, по которой баг оставался незамеченным 20 лет, заключается в сложности тестирования отдельных сценариев кода, а также из-за того, что данный код считался уже тщательно протестированным и, соответственно не привлекал к себе большого внимания. «Тесты не способны измерять все возможные пути выполнения программы. Разные настройки, флаги и конфигурации могут активировать и разное поведение, которое выявляют новые уязвимости», — пояснили специалисты. К счастью, ошибка имеет низкий уровень опасности из-за минимального риска эксплуатации процесса.

Ранее разработчики вручную писали код для фаззинг-тестов, но теперь Google планирует научить ИИ не только находить уязвимости, но и автоматически предлагать исправления, минимизируя участие человека. «Наша цель — достичь уровня, при котором мы будем уверены в возможности обходиться без ручной проверки», — заявили в компании.

Квартальный отчёт Nvidia в календаре финансовой статистики стоит особняком, но не только это привлекает к нему повышенное внимание. Уже несколько кварталов подряд выручка компании растёт ударными темпами, подогреваемая спросом на компоненты для систем искусственного интеллекта. В прошлом квартале Nvidia увеличила общую выручку на 94 %, а в сегменте серверных вычислений прирост достиг 112 %.

Источник изображений: Nvidia

Выручив за квартал $35,08 млрд в целом, Nvidia превзошла ожидания инвесторов, которые в среднем рассчитывали на $33,16 млрд. Удельный доход на одну акцию в размере 81 цента также оказался выше прогнозируемых 75 центов. Более того, в текущем квартале Nvidia рассчитывает выручить в среднем $37,5 млрд, и эта сумма также выше заложенных в прогноз аналитиками $37,08 млрд. В любом случае, основания для разочарования у инвесторов появились, поскольку если в этом квартале Nvidia рассчитывает на рост выручки примерно на 70 %, то год назад он составлял 265 %. Темпы роста выручки компании замедляются, и фиксация подобных ожиданий вызвала падение курса акций Nvidia на 2,5 % после публикации отчётности.

Если же рассматривать итоги третьего квартала, то выручка Nvidia успела вырасти на 94 % до $35,08 млрд, но даже в этом случае темпы роста оказываются ниже, чем в трёх предыдущих кварталах, когда они составляли 122 %, 262 % и 265 % соответственно. Так или иначе, акции Nvidia с начала года выросли в цене почти в три раза, и нынешняя коррекция не может считаться серьёзной. Компания является самой дорогой среди публичных, этот статус сейчас не так просто оспорить.

Чистая прибыль компании в третьем квартале выросла на 100 % до $20,01 млрд (non-GAAP), а операционная прибыль увеличилась на 101 % до $23,3 млрд. Норма прибыли выросла год к году не изменилась и составила 75 %. Впрочем, операционные расходы компании тоже увеличились на 50 % до $3,05 млрд. Удельный доход на одну акцию вырос на 103 % до $0,81.

Локомотивом выручки Nvidia, как можно догадаться, остаётся серверный сегмент. Он в целом позволил компании увеличить профильную выручку на 112 % до $30,8 млрд. Другими словами, в серверном сегменте компания получила 88 % своей выручки за третий квартал. Аналитики рассчитывали на сумму в $28,82 млрд, если говорить о серверном сегменте в отдельности. Впрочем, из указанных $30,8 млрд примерно $3,1 млрд пришлись на выручку от реализации телекоммуникационного оборудования, и только $27,64 млрд в чистом виде относятся к ускорителям и процессорам серверного назначения. На данном направлении выручка Nvidia в годовом сравнении выросла на 132 %.

Предвосхищая вопросы о вероятных проблемах с поставками ускорителей поколения Blackwell, финансовый директор Колетт Кресс (Colette Kress) заявила, что клиенты уже получили около 13 000 образцов таких ускорителей. Генеральный директор Дженсен Хуанг (Jensen Huang) подчеркнул, что Blackwell находится в стадии массового производства. Все основные клиенты Nvidia получили образцы Blackwell и делают всё возможное для скорейшей их установки в свои центры обработки данных. В четвёртом квартале компания по-прежнему рассчитывает выручить на поставках Blackwell несколько миллиардов долларов США, а масштабировать их она будет в первом квартале. В прошлом квартале компании удалось существенно нарастить поставки ускорителей H200 поколения Hopper.

Неизбежно состоявшееся обсуждение недавних слухов о перегреве компонентов семейства Blackwell в составе серверных стоек NVL72 вынудило основателя компании отрицать наличие подобных проблем: «Нет никаких сложностей с нашими жидкостно охлаждаемыми системами Grace Blackwell. Инженерная работа не так проста, как и вся наша деятельность, но мы находимся в хорошей форме». Microsoft и CoreWeave уже устанавливают данные системы для собственных нужд. Колетт Кресс добавила, что сперва ускорители Blackwell обеспечат норму прибыли в районе чуть выше 70 %, но позже она увеличится по мере наращивания объёмов поставок. К середине следующего года она может вернуться к уровню около 75 %. Колетт Кресс подчеркнула, что изменения в фотомаску для изготовления чипов Blackwell были успешно внесены, и это позволит при производстве снизить уровень брака.

Финансовый директор Nvidia призналась, что спрос превышает предложение как в отношении Hopper, так и Blackwell, и в последнем случае такое положение дел сохранится на протяжении нескольких кварталов 2026 фискального года, который в календаре компании начнётся в феврале 2025 года. Хуанг добавил, что для увеличения объёмов выпуска Blackwell партнёрам компании придётся вводить в строй новые производственные линии, это позволит повысить уровень выхода годной продукции и сократить время цикла, в конечном итоге увеличивая объёмы выпуска.

Игровой бизнес Nvidia выступил лучше ожиданий ($3,03 млрд), продемонстрировав рост выручки на 15 % до $3,28 млрд. Самое удивительное, что выросли объёмы продаж не только игровых GPU серии GeForce RTX 40 для ноутбуков, но и компонентов для игровых консолей Nintendo Switch, которые сейчас находятся на излёте своего жизненного цикла.

Сегмент автомобильной электроники прибавил в выручке 72 % до $449 млн, во многом благодаря спросу на чипы для систем автопилота. Компоненты для робототехнических систем учитываются в той же статье доходов. Сегмент профессиональной визуализации, описывающий продажи графических адаптеров семейства Quadro, прибавил 17 % год к году до $486 млн. Сегмент OEM вырос на треть, но до скромных $97 млн.

В целом, если распределять выручку Nvidia на вычислительные и телекоммуникационные компоненты, с одной стороны, и на графические решения как таковые, то в первом случае она составила $31,04 млрд, а во втором ограничилась $4,05 млрд по итогам третьего квартала.

Когда основателя Nvidia Дженсена Хуанга на отчётной конференции спросили о возможном влиянии повышенных таможенных пошлин, которые грозит ввести Дональд Трамп (Donald Trump) в США, глава компании лишь выразил готовность смириться с решением новой администрации и поддержать такое решение.

Niantic сообщила, что занимается разработкой «Большой геопространственной модели» (LGM), которая объединяет миллионы сканов, полученных со смартфонов игроков Pokémon Go и других продуктов компании. Модель поможет компьютерам и роботам по-новому понимать мир и взаимодействовать с ним.

Источник изображения: nianticlabs.com

«Пространственный интеллект» LGM основан на нейросетях, разработанных в рамках «Системы визуального позиционирования» (Visual Positioning System — VPS) Niantic. Работе над VPS компания посвятила последние пять лет. Она позволяет на основе одного снимка с телефона определять местоположение и ориентацию автора съёмки, сравнивая данные со снимками, полученными другими людьми. Сегодня в базе Niantic более 10 млн отсканированных локаций по всему миру. «Эти данные уникальны, потому что получены с точки зрения пешехода и включают недоступные для автомобилей места», — говорится в блоге компании.

О работе над проектом главный научный сотрудник Niantic Виктор Присакариу (Victor Prisacariu) упомянул ещё в 2022 году: «Используя данные, которые загружают наши пользователи в таких играх как Ingress и Pokémon Go, мы создали высококачественные трёхмерные карты мира, которые включают как трёхмерную геометрию (или форму предметов), так и семантическое понимание (что находится на карте, например, земля, небо, деревья и т.д.)». Хотя едва ли игроки в Pokémon Go в 2016 году отдавали себе отчёт, что их данные будут использоваться для обучения ИИ.

Искусственный интеллект вступил в новую эру благодаря ИИ-модели о1 компании OpenAI, которая значительно приблизилась к человеческому мышлению. Её впечатляющий результат на тесте AIME — 83 балла из ста — позволил включить её в число 500 лучших участников математической олимпиады США. Однако такие достижения сопровождаются серьёзными вызовами, включая риски манипуляции ИИ человеком и возможность его использования для создания биологического оружия.

Источник изображения: Saad Ahmad / Unsplash

Долгое время отсутствие у ИИ способности обдумывать свои ответы являлось одним из его главных ограничений. Однако ИИ-модель о1 совершила прорыв в этом направлении и продемонстрировала способность к осмысленному анализу информации. Несмотря на то, что результаты её работы пока не опубликованы в полном объёме, научное сообщество уже активно обсуждает значимость такого достижения.

Современные нейронные сети в основном функционируют по принципу так называемой «системы 1», которая обеспечивает быструю и интуитивную обработку информации. Например, такие ИИ-модели успешно применяются для распознавания лиц и объектов. Однако человеческое мышление включает также «систему 2», связанную с глубоким анализом и последовательным размышлением над задачей. ИИ-модель о1 объединяет эти два подхода, добавляя к интуитивной обработке данных сложные рассуждения, характерные для человеческого интеллекта.

Одной из ключевых особенностей о1 стала её способность строить «цепочку размышлений» — процесс, при котором система анализирует задачу постепенно, уделяя больше времени поиску оптимального решения. Эта инновация позволила ИИ-модели достичь 83 балла на тесте Американской математической олимпиады (AIME), что значительно превосходит результат GPT-4o, набравшей лишь 13 баллов. Тем не менее такие успехи связаны с возросшими вычислительными затратами и высоким уровнем энергопотребления, что ставит под сомнение экологичность разработки.

Источник изображения: Igor Omilaev / Unsplash

Вместе с достижениями ИИ-модели о1 растут и потенциальные риски. Улучшенные когнитивные способности сделали её способной вводить человека в заблуждение, что, возможно, несёт серьёзную угрозу в будущем. Кроме того, уровень риска её использования для разработки биологического оружия оценён как средний — высший допустимый показатель по шкале самой OpenAI. Эти факты подчёркивают необходимость внедрения строгих стандартов безопасности и регулирования подобных ИИ-моделей.

Несмотря на значительные успехи, ИИ-модель о1 всё же сталкивается с ограничениями в решении задач, требующих долгосрочного планирования. Её способности ограничиваются краткосрочным анализом и прогнозированием, что делает невозможным решение комплексных задач. Это свидетельствует о том, что создание полностью автономных ИИ-систем остаётся задачей будущего.

Развитие ИИ-моделей, подобных о1, подчёркивает острую необходимость регулирования данной области. Эти технологии открывают перед наукой, образованием и медициной новые горизонты, однако их неконтролируемое применение может привести к серьёзным последствиям, включая угрозы безопасности и неэтичное использование. Для минимизации этих рисков требуется обеспечить прозрачность разработок ИИ, соблюдение этических стандартов и внедрение строгого надзора со стороны регулирующих органов.

Комиссия Конгресса США накануне выдвинула инициативу масштаба Манхэттенского проекта — она направлена на финансирование разработки систем так называемого «сильного искусственного интеллекта» (AGI), которые смогут выступать на уровне человека или превосходить его.

Источник изображения: Igor Omilaev / unsplash.com

Комиссия по надзору за вопросами экономики и безопасности в отношениях США и Китая (USCC) в американском Конгрессе отметила, что залогом успеха в разработке сильного искусственного интеллекта являются государственно-частные партнёрства, но пока не представила конкретной инвестиционной стратегии. Схожим образом во время Второй мировой войны был устроен проект «Манхэттен», в основу которого легло крупномасштабное сотрудничество между правительством США и частным сектором — итогом работы проекта стало создание атомной бомбы.

«На протяжении всей истории мы видели, что страны, которые первыми использовали периоды быстрых технологических изменений, часто могли вызывать изменения в глобальном балансе сил. <..> Китай устремился к AGI <..> важно, чтобы мы воспринимали их чрезвычайно серьёзно», — заявил Reuters член USCC Джейкоб Хелберг (Jacob Helberg).

Значительным фактором, сдерживающим обучение крупных моделей ИИ, является энергетическая инфраструктура. Ускорить развитие, по мнению господина Хелберга, может оптимизация процесса выдачи разрешительной документации для центров обработки данных — это будет примером такого государственно-частного партнёрства. USCC была создана Конгрессом в 2000 году — комиссия ежегодно выдвигает рекомендации, касающиеся отношений США и Китая; её задача состоит в том, чтобы задавать законодателям отвечающее реалиям времени направление по вопросам экономической и стратегической конкуренции с Китаем.

Компания Google добавила в свой сервис визуального поиска Google Lens («Google Объектив») функцию поиска цен на товары. Она позволит пользователям получить дополнительную информации о товарах при их покупке в обычном розничном магазине, а также найти более выгодные предложения.

Источник изображения: Google

Начиная с сегодняшнего дня эта функция доступна для пользователей устройств на Android и iOS в США. Благодаря ей, сфотографировав товар на полке магазина, пользователь получит подробную информацию о продукте и ценах на него в интернет-магазинах и у близлежащих розничных продавцов, а также о его запасах и отзывах других покупателей. Кроме того, покупатель получит информацию о похожих товарах, доступных в этом магазине.

По словам Google, эта функция была разработана благодаря «значительным достижениям в её ИИ-технологии распознавания изображений». На данный момент сервис предоставляет информацию о косметических средствах, игрушках и электротоварах сразу после поступления в продажу в магазинах, которые делятся данными о своих запасах с Google, таких, как американские Macy's, Target и Walmart, а также Amazon. В будущем география сервиса будет расширяться.

«72 % американцев сообщили, что используют смартфоны во время покупок в магазине, и более половины говорят, что покинули магазина без покупки, поскольку не чувствовали достаточной уверенности для её совершения», — отметила Лилиан Ринкон (Lilian Rincon), вице-президент Google по шоппингу потребительских продуктов. По её словам, новая функция поможет покупателям получить достаточно информации о товаре, чтобы принять решение о его покупке на месте. Правда, многим может не понравиться, что новая функция требует от пользователей делиться данными о своем местоположении с приложением Google, чтобы определить, в каком именно магазине находится пользователь.

Ранее Google запустила похожую функцию, которая позволяет пользователям искать товары и проверять наличие на складе непосредственно в сервисе «Google Карты». Поисковый гигант также расширяет возможности отложенной оплаты за товар в Google Pay с использованием приложения Afterpay, позволяющего оплатить товар в рассрочку в течение шести недель. Также вскоре будет возможна оплата в Google Pay услуг сервиса Klarna, позволяющего оплатить товар после его доставки.

На этой неделе Nvidia отчитается о результатах третьего квартала, и аналитики считают, что темпы роста выручки за период окажутся самыми низкими за предыдущие полтора года. В текущем квартале они замедлятся ещё сильнее. Тем не менее, на поставках ускорителей Blackwell компания выручит от $5 млрд до $13 млрд, как гласят оценки в зависимости от оптимизма того или иного аналитика.

Источник изображения: Nvidia

Агентство Reuters обобщило прогнозы отраслевых экспертов в части ожидаемой в текущем квартале выручки Nvidia от поставок ускорителей поколения Blackwell. Представители Morgan Stanley ожидают, что в четвёртом квартале Nvidia выручит на поставках этих ускорителей от $5 до $6 млрд, аналитики Piper Sandler поднимают верхнюю границу диапазона до $8 млрд, а эксперты Spear Invest вообще ориентируются на диапазон выручки от $12 до $13 млрд.

Если говорить о совокупной выручке Nvidia, то она в прошлом квартале могла увеличиться на 82,8 % до $33,13 млрд. Если учесть, что на протяжении пяти предыдущих кварталов выручка компании как минимум удваивалась в годовом сравнении, третий квартал текущего может сигнализировать о замедлении темпов роста. Более того, в четвёртом квартале текущего фискального года, который в календаре Nvidia завершится в январе следующего, выручка компании может вырасти всего на 67,6 %, как ожидают аналитики. До этого фактическая выручка Nvidia превышала ожидания аналитиков на протяжении восьми кварталов подряд.

Акции Nvidia на волне бума искусственного интеллекта с начала года выросли в цене более чем в три раза, и любые сигналы к замедлению темпов развития её бизнеса способны развернуть восходящий тренд на всём фондовом рынке, если говорить об эмитентах технологического сектора. Необходимость вкладывать серьёзные средства в разработку и выпуск новых ускорителей вычислений, в любом случае снизят норму прибыли Nvidia уже в четвёртом квартале до 73,6 %, хотя ранее она была выше почти на три процентных пункта.