Активный сбор информации большими языковыми моделями из открытых источников уже давно нервирует правообладателей, а уж чувствительные к подобным проблемам средства массовой информации и вовсе при первой возможности пытаются защитить свои авторские права в суде. Теперь пришла очередь для канадских издательств подать в суд на OpenAI.

Как отмечает Bloomberg, с иском в Верховный суд Онтарио обратились Torstar Corp., Postmedia Network Canada Corp., Globe and Mail Inc., Canadian Press и CBC/Radio-Canada. Они требуют неустановленного пока возмещения ущерба, причинённого деятельностью OpenAI по обучению своих языковых моделей с использованием опубликованных ими текстовых материалов. В заявлении истцов говорится: «OpenAI зарабатывает и получает выгоду от использования этого контента, не получая официального разрешения и не компенсируя затраты правообладателей». По словам истцов, на их публикации приходится основная часть создаваемого журналистами контента в Канаде.

Представители OpenAI успели возразить, что её модели обучаются на «публично доступных данных по принципам честного использования и с учётом признанных на международном уровне принципов защиты авторских прав». Компания также работает с новостными издательствами над устраивающими их методами отображения и обработки контента, стремясь упоминать первоисточник и при необходимости удалять материалы по просьбе правообладателей.

В конце прошлого года OpenAI пришлось столкнуться с иском The New York Times, который одновременно обвинял и корпорацию Microsoft, являющуюся близким партнёром стартапа. Ответчики обвинялись в использовании миллионов защищённых авторским правом статей истца для обучения своих языковых моделей. Глава медиагруппы News Media Canada Пол Диган (Paul Deegan) обвинил OpenAI в том, что она «обдирает журналистов, при этом незаконно и неоправданно в существенной мере себя обогащая».

Исследование американских учёных показало, что современные системы искусственного интеллекта, способные анализировать картинки, уязвимы для манипуляций при помощи альфа-канала в файлах изображений — набора данных, который отвечает за их прозрачность.

Источник изображения: Google DeepMind / unsplash.com

Исследователи из Техасского университета в Сан-Антонио установили, что управляющий прозрачностью изображения альфа-канал зачастую игнорируется при создании средств анализа с ИИ. И он может стать средством для кибератак на системы в области медицины и автопилота. Чтобы подтвердить свой тезис, группа учёных под руководством доцента Гвиневры Чэнь (Guenevere Chen) разработала метод атаки AlphaDog, эксплуатирующий эту уязвимость в системах ИИ. Из-за альфа-канала люди и ИИ могут воспринимать изображения совершенно по-разному.

Учёные создали 6500 изображений и протестировали их на 100 моделях ИИ, включая 80 систем с открытым исходным кодом и 20 облачных платформ, таких как ChatGPT. Как показали испытания, схема AlphaDog особенно эффективна при атаках в областях изображений в оттенках серого. Уязвимости подвержены модели ИИ, лежащие в основе систем автопилота — альфа-канал позволяет манипулировать алгоритмами распознавания дорожных знаков, которые содержат фрагменты в оттенках серого. В результате дорожные знаки могут распознаваться неверно, и возникает угроза тяжёлых последствий.

Ещё один потенциальный объект атаки — системы медицинской визуализации, в которых ИИ помогает с постановкой диагноза. Здесь в оттенках серого часто представляются рентгеновские снимки, результаты МРТ и КТ, и ими тоже можно манипулировать с помощью AlphaDog, что грозит постановкой заведомо неверного диагноза. Наконец, предложенная учёными схема атаки эффективна против систем распознавания лиц — это может повлечь проблемы с конфиденциальностью людей и безопасностью охраняемых объектов. Авторы исследования поделились своими выводами с крупными технологическими компаниями, в том числе Google, Amazon и Microsoft, чтобы оказать помощь в устранении обнаруженных уязвимостей в системах ИИ.

Amazon разработала собственную систему генеративного искусственного интеллекта, которая способна работать с текстом, изображениями и видео. Она поможет компании снизить свою зависимость от продуктов стартапа Anthropic, сообщило издание The Information.

Источник изображения: BoliviaInteligente / unsplash.com

Создание собственной модели ИИ поможет Amazon снизить зависимость от чат-бота Claude компании Anthropic — это популярное предложение на платформе Amazon Web Services (AWS). Новая большая языковая модель под кодовым названием Olympus способна распознавать объекты на изображениях и фрагменты видео — к примеру, она может по текстовому запросу найти на записи победный бросок в баскетбольном матче.

Ранее стало известно, что Amazon инвестирует ещё $4 млрд в компанию Anthropic — это основной конкурент OpenAI. В сентябре прошлого года Amazon вложила в этот стартап ту же сумму, что дало ей возможность начать зарабатывать на технологиях генеративного ИИ. Официальный анонс модели Olympus может состояться уже на следующей неделе в ходе ежегодной конференции AWS re:Invent, которая проводится для клиентов облачной платформы. Своими действиями Amazon стремится опровергнуть мнение, что Google, Microsoft и OpenAI являются безусловными лидерами в области генеративного ИИ.

Владелец X, гендиректор Tesla, руководитель SpaceX и глава Neuralink Илон Маск (Elon Musk), недавно ставший богатейшим человеком в истории Земли, рассказал, как собирается поднимать игровую индустрию с колен.

Источник изображения: X (GailAlfarATX)

Комментируя высказывание соавтора Dogecoin Билли Маркуса (Billy Markus) о том, как игровые разработчики и СМИ оказались заложниками идеологий, Маск заявил, что «слишком много игровых студий находятся под контролем огромных корпораций».

Выходом из сложившейся ситуации бизнесмен видит использование собственной огромной корпорации для создания новой студии разработки игр на базе искусственного интеллекта.

«xAI (стартап в сфере искусственного интеллекта, стоимость которого недавно взлетела до $45 млрд — прим.) запустит игровую ИИ-студию, чтобы сделать игры снова великими!» — сообщил Маск.

Источники изображения: GameRant и Blizzard Entertainment

Стоит отметить, что xAI создавалась для ускорения научных открытий человечества и продвижения коллективного понимания вселенной. О планах на открытие игровой студии компания не объявляла.

У себя в микроблоге Маск не стесняется хвастаться своими успехами и достижениями в гейминге (недавно он причислил себя к лучшим игрокам Diablo IV), но насколько бизнесмен разбирается в тонкостях разработки игр, вопрос открытый.

Портал PC Gamer добавляет, что вероятность приведения озвученных Маском планов в исполнение крайне мала, однако допускает повторение сценария с покупкой бизнесменом соцсети Twitter (теперь X).

Способность графических процессоров хорошо масштабировать производительность в вычислениях в условиях замедления классического «закона Мура» долгое время представлялась руководством Nvidia в качестве спасительного круга для всего человечества. Когда бурный рост систем искусственного интеллекта стал замедляться, на горизонте замаячили новые проблемы с масштабированием производительности.

Источник изображения: Nvidia

Как отмечается в публикации Financial Times, для многих в Кремниевой долине «закон Мура» был вытеснен новой концепцией: «законом масштабирования» искусственного интеллекта. До недавних пор считалось, что масштабирование вычислительной инфраструктуры и насыщение её бόльшими объёмами данных приводит к качественным изменениям в системах искусственного интеллекта. По сути, ожидалось, что за счёт этого ИИ будет становиться «умнее». Все крупные компании технологического сектора в итоге уже несколько кварталов подряд сосредоточены на активном наращивании вычислительной мощности своих центров обработки данных.

Ранее считалось, что существующие темпы роста производительности центров обработки данных будут сохраняться до тех пор, пока не будет создан «сверхинтеллект», способный превзойти человеческий, но при этом базирующийся на программных алгоритмах и зависимостях. Лишь в последние недели эксперты начали проявлять озабоченность тем, что новейшие большие языковые модели в исполнении OpenAI, Google и Anthropic не дают необходимого прогресса в соответствии с прежними тенденциями.

Покинувший OpenAI один из основателей стартапа Илья Суцкевер недавно заявил: «2010-е годы были эпохой масштабирования, но теперь мы вернулись в эпоху открытий и изумления». Примечательно, но Суцкевер ещё год назад был уверен, что всю поверхность Земли нужно будет покрыть солнечными панелями, которые будут питать столь же многочисленные центры обработки данных.

Многие участники рынка сходятся во мнении, что этап активного обучения языковых моделей подходит к концу, но для поддержания существующих темпов прогресса нужно заниматься следующим этапом. Глава Microsoft Сатья Наделла (Satya Nadella) считает, что замедление обучения больших языковых моделей не особо ограничивает темпы прогресса, поскольку системы искусственного интеллекта обретают возможность рассуждать. По мнению основателя Nvidia Дженсена Хуанга (Jensen Huang), даже снижение потребности в вычислительных ресурсах для обучения языковых моделей не будет означать снижения спроса на её продукцию. Разработчики систем ИИ будут стремиться сократить время реакции системы на задаваемые пользователями вопросы. Данная гонка потребует ещё большего количества аппаратных ресурсов, по мнению бессменного руководителя Nvidia, и это хорошо для бизнеса компании. Президент Microsoft Брэд Смит (Brad Smith) убеждён, что потребности рынка в чипах для ускорителей будут расти ещё как минимум на протяжении года.

Впрочем, переход систем ИИ на новый этап развития должен обеспечиваться появлением реальных сфер применения, которые полезны для бизнеса. С этим пока возникают проблемы, ведь любые инновации должны приносить материальную выгоду, а эффект от применения ИИ в его нынешнем виде во многих отраслях экономики пока не столь очевиден. Это не мешает технологическим гигантам вкладывать огромные суммы в расширение своих вычислительных ресурсов. В этом году совокупные капитальные затраты Microsoft, Amazon, Google и Meta✴ должны превысить $200 млрд, а в следующем они наверняка превзойдут $300 млрд, как считают представители Morgan Stanley.

Китайская компания Alibaba представила модель искусственного интеллекта с открытым исходным кодом под названием QwQ-32B-Preview. Модель способна решать сложные логические и математические задачи, содержит 32,5 миллиарда параметров и может обрабатывать запросы длиной до 32 000 слов. По тестам, проведённым Alibaba, QwQ-32B-Preview превосходит модели o1-preview и o1-mini от OpenAI в ряде показателей.

Источник изображения: Copilot

Одним из ключевых преимуществ QwQ-32B-Preview, как сообщает TechCrunch, является её производительность в тестах AIME и MATH. Тест AIME оценивает работу модели с помощью других искусственных интеллектов, а MATH представляет собой набор текстовых математических задач. Благодаря своим особенностям, этот ИИ-бот способен решать сложные задачи и логические головоломки. Однако отмечается, что QwQ-32B-Preview не лишена недостатков: она может неожиданно менять язык общения, зацикливаться на некоторых моментах и хуже справляется с заданиями, когда требуется задействовать здравый смысл.

Интересной особенностью QwQ-32B-Preview является способность «проверять саму себя». Это помогает избегать ошибок-ловушек, свойственных другим системам искусственного интеллекта, однако замедляет процесс нахождения решений. Как и модели o1 от OpenAI, новая разработка Alibaba решает задачи поэтапно, постепенно анализируя и планируя дальнейшие шаги.

Несмотря на то, что QwQ-32B-Preview доступна для скачивания на платформе Hugging Face под лицензией Apache 2.0 (свободное программное обеспечение), что позволяет использовать её в коммерческих целях, Alibaba раскрыла лишь часть компонентов модели, тем самым не позволяя изучить внутренние механизмы работы алгоритма. Таким образом, несмотря на заявления об «открытости», модель остаётся промежуточным вариантом между закрытыми и открытыми системами (open source license).

Китайское происхождение модели также накладывает определённые ограничения. Как и другие разработки из Китая, QwQ-32B-Preview следует требованиям местного регулятора, который проверяет ИИ на соответствие «основным социалистическим ценностям». На вопросы политического характера, связанных с Китаем, модель отвечать откажется.

Стоит сказать, что интерес к «рассуждающим» моделям растёт на фоне снижения эффективности традиционного подхода к увеличению возможностей ИИ, основанного на простом масштабировании данных и вычислительных мощностей. Компании, такие как OpenAI, Google и Anthropic, всё чаще сталкиваются с замедлением прогресса своих технологий, что в свою очередь, стимулирует разработчиков искать новые подходы, например, такие как «вычисления на этапе выполнения» (test-time compute), которые дают моделям дополнительное время для обработки задач. При этом крупные лаборатории, включая Google, активно инвестируют в развитие подобных технологий, что подтверждает их ключевую роль в будущем искусственного интеллекта.

Бывшие сотрудники Google, возглавлявшие разработку мобильной операционной системы Android, организовали новый стартап, целью которого стало создание программной платформы для ИИ-агентов. Речь идёт о создании облачной платформы, которая сможет поддерживать работоспособность ИИ-агентов и будет доступна на разных типах устройств.

Источник изображения: starline / freepik.com

Одним из соучредителей нового стартапа под названием /dev/agents стал Хьюго Барра (Hugo Barra), бывший вице-президент Google по управлению продуктами Android. Он заявил, что новая компания вернётся к «корням Android». «Мы видим перспективы ИИ-агентов, но нам, как разработчикам, слишком сложно сделать что-то хорошее», — сказал соучредитель и генеральный директор нового стартапа Дэвид Синглтон (David Singleton), бывший вице-президент Google по разработке Android. По его мнению, индустрии нужно что-то подобное Android, но для ИИ.

Работающие в сфере ИИ компании, такие как Microsoft, OpenAI и Anthropic, продвигают так называемых ИИ-агентов в качестве следующего большого скачка в развитии инструментов ИИ. ИИ-агентов представляют цифровых помощников, которые смогут выполнять задачи и принимать решения автономно и без участия человека. Например, они могут бронировать авиабилеты, запускать и управлять сторонними приложениями. Новый стартап хочет создать облачную «операционную систему следующего поколения для ИИ-агентов», которая сможет работать на смартфонах, ноутбуках и даже в автомобилях.

Планируется разработка нового пользовательского интерфейса, который позволит людям более естественно взаимодействовать с ИИ-агентами посредством использования разных устройств. Стартапу предстоит не только создать новые шаблоны пользовательского интерфейса, но также переосмыслить модель конфиденциальности и сформировать платформу для разработчиков, которая радикально упростит создание ИИ-агентов.

Хьюго Барра, помимо работы в Google, также трудился в Xiaomi и руководил подразделением Oculus VR в Facebook✴ (сейчас Meta✴ Platforms). Помимо Барра и Синглтона, должность технического директора /dev/agents занял Фикус Кирпатрик (Ficus Kirpatrick), один из первых инженеров Android, который также был вице-президентом Meta✴ по AR и VR. Главным дизайнером стал Николас Житков (Nicholas Jitkoff), работавший над дизайном ChromeOS. Ожидается, что на следующей неделе стартап объявит о проведении раунда финансирования и привлечении существенных средств от группы инвесторов.

Присутствующий в пакете Microsoft Office набор функций Connected Experiences, предназначенный для анализа созданных пользователями материалов, переведён на новый механизм работы — весь контент передаётся в массив для обучения искусственного интеллекта, если явно не указано обратное, обратил внимание пользователь соцсети X под ником nixCraft. Microsoft эту информацию пока не прокомментировала.

Источник изображения: BoliviaInteligente / unsplash.com

Установленная по умолчанию настройка даёт Microsoft право использовать статьи, художественные произведения и другие открытые в приложениях Office документы для обучения ИИ без запроса согласия пользователя в каждом случае. Поэтому любому, кто обеспокоен защитой своей интеллектуальной собственности или конфиденциальной информации, рекомендуется принять меры. Пользователь может отказаться от такого поведения офисных программ — для этого необходимо найти соответствующую опцию в настройках, но в случае ПК под управлением Windows она находится на глубине семи кликов в меню «Файл».

Подход Microsoft отражает общую тенденцию в технологической отрасли: разработчики ИИ активно ищут материалы, которые смогут использоваться для обучения моделей — все они обучаются на созданном человеком контенте, но делать это без явного согласия потребителя, возможно, не вполне этично. Компания пока официально не подтвердила и не опровергла, что использует для обучения ИИ данные из документов Excel и Word, созданных пользователями пакета Office.

Вместе с тем, на сайте компании размещён документ под названием «Соглашение об использовании служб Microsoft». «В степени, необходимой для предоставления служб вам и другим лицам, защиты вас и служб, а также для усовершенствования продуктов и услуг Microsoft вы предоставляете Microsoft всемирную безвозмездную лицензию на использование интеллектуальной собственности, связанной с вашим содержимым, например на копирование, сохранение, передачу, переформатирование, отображение и распространение вашего содержимого в службах при помощи средств коммуникации», — гласит один из пунктов документа.

VK усовершенствовала возможности генеративного ИИ в сервисах Mail.ru. Благодаря этому производительность ИИ возросла, а точность и удобство использования сервисов существенно улучшились. Качество обработки текстов увеличилось на 70 %, способность справляться с генерацией текста — на 56 %, а доля положительных отзывов пользователей возросла на 25 %.

Источник изображения: VK

Эти улучшения, основанные на анализе обратной связи от пользователей, позволили VK предложить более эффективные инструменты, которые помогают существенно сократить время пользователей, затрачиваемое на рутинные задачи. Улучшение алгоритмов ИИ для обработки текстов повысило их качество на 70 %, что позволило ИИ генерировать более точные, осмысленные и лаконичные предложения.

Особого внимания заслуживает увеличение на 56 % способности ИИ справляться со сложными задачами, связанными с генерацией текста. Теперь ИИ показывает более глубокое понимание контекста, что позволяет ему качественнее обрабатывать данные и предоставлять более точные и релевантные ответы на запросы пользователей. Эти улучшения особенно заметны при работе со сложными запросами и при создании оригинальных идей.

Обновления генеративного ИИ в сервисах Mail.ru стали важным шагом на пути к созданию более удобной и технологичной цифровой экосистемы. Технологии, разработанные VK, не только облегчают выполнение повседневных задач, но и помогают пользователям экономить время, фокусируясь на более значимых аспектах своей деятельности.

У компании Qualcomm не получилось быстро завоевать рынок ПК: по итогам первого полного квартала с момента выхода компьютерных процессоров Snapdragon X общий объём продаж ноутбуков на этих чипах составил менее 720 000 единиц. Этот показатель соответствует доле менее 0,8 % от общего числа ПК, проданных за тот же период по всему миру — на ноутбуки на чипах Qualcomm приходится лишь одно из 125 устройств.

Источник изображения: microsoft.com

Во втором квартале было продано 257 тыс. компьютеров на чипах Qualcomm, а в третьем — 720 тыс. таких устройств. Несмотря на значительный рост продаж на 180 % в III квартале по сравнению с предшествующим, Snapdragon X заняли лишь небольшой сегмент на рынке ПК под Windows – менее 1,5 % экосистемы. Qualcomm достигла некоторых успехов в проникновении в устройства для потребителей и бизнес-клиентов, Microsoft и другие популярные бренды перевели часть ассортимента на Snapdragon X, но рынок таких устройств остаётся нишевым.

«За первый полный квартал поставок ПК на Snapdragon X мы отметили последовательный рост примерно на 180 % по сравнению со II кварталом 2024 года. Но в разрезе доли от общего рынка Windows продукты остаются очень нишевыми с долей менее 1,5 %. Крупнейшим поставщиком оказалась Microsoft, которая перевела на эту платформу бо́льшую часть своей линейки Surface. За ней следует Dell, которая активно приняла новую платформу с точки зрения количества товарных позиций, за ней следуют HP, Lenovo, Acer и Asus (все четыре с аналогичным объёмами [поставок])», — рассказали в аналитической компании Canalys ресурсу TechRadar.

Продажи всех систем категории AI PC демонстрируют более высокие показатели — за III квартал продано 13,3 млн таких машин или 20 % от всех ПК. В эту категорию входят настольные компьютеры и ноутбуки с интегрированными в процессоры ускорителями, предназначенными специально для рабочих нагрузок ИИ: AMD XDNA, Intel AI Boost, Qualcomm Hexagon и Apple Neural Engine. При этом ПК под управлением Windows в этом сегменте заняли лишь 53 % — остальное пришлось на Apple Mac. Росту спроса способствовали цикл обновления Windows 11 и выход процессоров нового поколения; рост продаж ПК с ИИ квартал к кварталу составил 49 %.

Для большинства потребителей наличие поддержки ИИ определяющим фактором для покупки ПК пока не является, но среди производителей конкуренция обостряется, и они изучают уникальные стратегии: HP комплектует свою продукцию ПО с ИИ от независимых разработчиков, а Lenovo сделала ставку на собственные инструменты с ИИ. Apple традиционно выбрала собственный подход, начав интеграцию ИИ в экосистему.

Данные берутся из публикации Практикум по ИИ-рисованию, часть двенадцатая: быстрое прототипирование с FLUX.1 [dev]

Развитие систем искусственного интеллекта в разных странах происходит с учётом специфики окружающей среды в каждом из регионов, поэтому кажется специалистам неравномерным. Например, если США и Китай лидируют по степени развития инфраструктуры и количеству научных исследований в сфере ИИ, то законодательное регулирование этой области деятельности в данных странах сильно хромает. Россия попала лишь на 29-е место по уровню развития ИИ.

Источник изображения: Intel

Издание Semafor обсуждает созданный Стэнфордским университетом рейтинг стран по различным аспектам развития искусственного интеллекта, и США и Китай в нём могут быть отнесены к лидерам по следующим критериям: научно-исследовательская активность, экономическая составляющая, развитость инфраструктуры, ответственность за применение ИИ. США в этом рейтинге оказываются на первом месте, Китай на втором, а вот состав остальной части первой пятёрки постоянно меняется.

Источник изображения: Semafor

Япония, например, занимает третье место в мире по развитости инфраструктуры, но больше нигде себя не проявляет настолько, чтобы попасть в первую пятёрку. В сфере законодательного регулирования ИИ и контроля за его распространением лидирует Великобритания, на втором месте оказывается Бельгия, где расположен административный центр Евросоюза, на третьем оказывается Франция. По уровню развития образовательных программ в сфере ИИ лидирует Великобритания, а США оказываются только на четвёртом месте. Примечательно, что по благосклонности общественного мнения к развитию ИИ лидируют тоже США, но на втором месте оказывается Саудовская Аравия, а замыкает первую пятёрку Австралия.

Если рассматривать научно-исследовательскую деятельность, то США превосходит прочие страны в количестве и разнообразии больших языковых моделей для искусственного интеллекта, но китайские разработчики опережают геополитического конкурента по критериям сугубо академической деятельности и патентной активности. В сфере финансирования США полагаются на частный капитал, тогда как в Китае ставка делается на публичный, но он нередко переплетается с государственным. Хотя США и Китай в равной мере могут похвастать наличием государственной стратегии развития ИИ, законодательное регулирование в этой сфере хромает в обеих странах, хотя в США ситуация чуть лучше. Кстати, КНР превосходит США и по степени доступности скоростных каналов связи в части инфраструктурных условий развития ИИ. Рейтинг не может претендовать на объективность хотя бы силу ограниченного доступа к определённой статистике в том же Китае, но общее представление о положении дел в мировой отрасли он даёт.

Россия расположилась в рейтинге на 29-м месте рейтинга. Больше всего баллов рейтинга РФ получила за присутствие национальной стратегии в области ИИ, за довольно активное обсуждение тем, связанных с ИИ в соцсетях, а также за наличие законов об искусственном интеллекте.

Новое исследование IEEE показало, что взломать роботов с искусственным интеллектом так же просто, как и обмануть чат-ботов. Учёные смогли заставить роботов выполнять опасные действия с помощью простых текстовых команд.

Источник изображения: Copilot

Как пишет издание HotHardware, если для взлома устройств вроде iPhone или игровых консолей требуются специальные инструменты и технические навыки, то взлом больших языковых моделей (LLM), таких как ChatGPT, оказывается гораздо проще. Для этого достаточно создать сценарий, который обманет ИИ, заставив его поверить, что запрос находится в рамках дозволенного или что запреты можно временно игнорировать. Например, пользователю достаточно представить запрещённую тему как часть якобы безобидного рассказа «от бабушки на ночь», чтобы модель выдала неожиданный ответ, включая инструкции по созданию опасных веществ или устройств, которые должны быть системой немедленно заблокированы.

Оказалось, что взлом LLM настолько прост, что с ним могут справится даже обычные пользователи, а не только специалисты в области кибербезопасности. Именно поэтому инженерная ассоциация из США — Институт инженеров электротехники и электроники (IEEE) — выразила серьёзные опасения после публикации новых исследований, которые показали, что аналогичным образом можно взломать и роботов, управляемых искусственным интеллектом. Учёные доказали, что кибератаки такого рода способны, например, заставить самоуправляемые транспортные средства целенаправленно сбивать пешеходов.

Среди уязвимых устройств оказались не только концептуальные разработки, но и широко известные. Например, роботы Figure, недавно продемонстрированные на заводе BMW, или роботы-собаки Spot от Boston Dynamics. Эти устройства используют технологии, аналогичные ChatGPT, и могут быть обмануты через определённые запросы, приведя к действиям, полностью противоречащим их изначальному назначению.

В ходе эксперимента исследователи атаковали три системы: робота Unitree Go2, автономный транспорт Clearpath Robotics Jackal и симулятор беспилотного автомобиля NVIDIA Dolphins LLM. Для взлома использовался инструмент, который автоматизировал процесс создания вредоносных текстовых запросов. Результат оказался пугающим — все три системы были успешно взломаны за несколько дней со 100-% эффективностью.

В своём исследовании IEEE приводит также цитату учёных из Университета Пенсильвании, которые отметили, что ИИ в ряде случаев не просто выполнял вредоносные команды, но и давал дополнительные рекомендации. Например, роботы, запрограммированные на поиск оружия, предлагали также использовать мебель как импровизированные средства для нанесения вреда людям. Эксперты подчёркивают, что, несмотря на впечатляющие возможности современных ИИ-моделей, они остаются лишь предсказательными механизмами без способности осознавать контекст или последствия своих действий. Именно поэтому контроль и ответственность за их использование должны оставаться в руках человека.

Говоря о географической сегментации выручки Nvidia в третьем квартале, финансовый директор компании Колетт Кресс (Colette Kress) предпочла выделить Китай, упомянув о последовательном росте выручки на серверном направлении в этой стране за счёт поставок ускорителей поколения Hopper, соответствующих требованиям правил экспортного контроля США.

Источник изображений: Nvidia

Представительница Nvidia призналась: «В процентном выражении от общей выручки в сегменте центров обработки данных, (китайская выручка) осталась значительно ниже того уровня, который существовал до введения правил экспортного контроля. Мы ожидаем, что в дальнейшем китайский рынок сохранит высокую конкуренцию. Мы продолжим следовать требованиям правил экспортного контроля при обслуживании своих клиентов». Как отметила Колетт Кресс, ускорители Hopper в Китае поставляются представителям различных отраслей промышленности.

Если рассматривать китайскую выручку Nvidia в целом, то она по своей величине уступила только США и Сингапуру, хотя в квартальном отчёте компании и отмечается, что в последнем случае «приписка» клиентов к крохотному азиатскому государству вовсе не означает, что соответствующая продукция компании физически поступила в эту страну. В Китае по итогам третьего квартала текущего года компания выручила $5,4 млрд, что соответствует 15 % совокупной выручки за период. Год назад этот уровень достигал 22 %, но на прочих географических направлениях выручка компании росла опережающими темпами. Например, в США она увеличилась в два с лишним раза, в том же Сингапуре — почти в три.

Последовательно выручка Nvidia в Китае увеличилась на 46 %, в годовом сравнении — на 34 %. Другими словами, с учётом доминирования серверных комплектующих в современной структуре поставок продукции Nvidia, даже в условиях усиливающихся санкций ускорители вычислений этой марки продолжали поставляться в Китай в растущих количествах. Более того, за девять месяцев текущего фискального года выручка Nvidia в Китае выросла на 38 % до $11,6 млрд.

На недавнем квартальном мероприятии глава и основатель Nvidia Дженсен Хуанг (Jensen Huang) компанию Samsung в перечне партнёров не упомянул, но в интервью Bloomberg TV признался, что заинтересован в получении от этого поставщика памяти типа HBM3E. Попутно он выразил уверенность, что международное сотрудничество сохранится после прихода к власти в США Дональда Трампа (Donald Trump).

Источник изображения: Nvidia

Как отмечается в аннотации Bloomberg к интервью с Хуангом после его выступления в Гонконгском университете науки и технологии, возглавляемая им Nvidia заинтересована в получении как восьми-, так и 12-ярусных микросхем HBM3E. В конце октября Samsung Electronics объявила о прогрессе в сертификации HBM3E под нужды Nvidia, но руководитель последней на уходящей неделе не стал ставить Samsung в один ряд с SK hynix и Micron, говоря о партнёрах своей компании.

Во время своего выступления в Гонконге, как добавляет Reuters, основатель Nvidia выразил уверенность, что даже в случае усиления правил экспортного контроля США в сфере продвинутых средств вычислений Дональдом Трампом, международное сотрудничество в технологической сфере продолжится. Какие изменения принесёт новая администрация, Хуанг не знает, но Nvidia в любом случае будет подстраиваться под требования законов и правил, обеспечивая поддержку своих клиентов по всему миру с их учётом, а также развивать собственные технологии. В Гонконг Дженсен Хуанг был приглашён в связи с присвоением ему докторской степени местного университета.

Растущие потребности систем искусственного интеллекта в энергоснабжении, как пояснил Хуанг, не являются однозначным злом. С помощью подобных систем можно проектировать новые ветряные турбины, искать новые материалы для аккумуляторов и совершенствовать методы хранения гидроксида углерода в резервуарах. Мощные центры обработки данных необходимо строить вдали от густонаселённых районов и обеспечивать собственными возобновляемыми источниками энергии, как убеждён Хуанг. «Я надеюсь, что в конечном счёте мы увидим, что использование энергии для искусственного интеллекта станет лучшим способом её использования, какой только можно представить», — резюмировал он. Новая эра вычислений затронет все отрасли промышленности и области науки, по его словам.

Достигший возраста 61 года Хуанг также признался студентам в Гонконге, что хотел бы начать свою карьеру сейчас, поскольку весь мир сейчас сбрасывается к единым для всех начальным условиям, и молодых учёных есть все необходимые инструменты для продвижения во многих областях. Все научные проблемы, существовавшие ранее и имеющиеся сейчас, теперь кажутся решаемыми, по мнению Хуанга.