Генеральный директор Google Сундар Пичаи (Sundar Pichai) пообещал, что поисковая система компании «глубоко изменится» в 2025 году. «Я думаю, мы сможем решать более сложные вопросы, чем когда-либо прежде», — сообщил он в ходе мероприятия DealBook Summit, организованного изданием The New York Times.

Источник изображения: Firmbee.com/unsplash.com

«Я думаю, вы будете удивлены, насколько нововведения смогут изменить поисковик Google по сравнению с тем, что он представляет из себя сегодня», — отметил Пичаи.

Пичаи также отреагировал на заявление генерального директора Microsoft Сатьи Наделлы (Satya Nadella), сделанное в начале этого года, в котором тот указал, что Google должна была стать «победителем по умолчанию» в гонке искусственного интеллекта среди технологических гигантов, имея всё для этого — вычислительные мощности, данные, модели, продукты и дистрибуцию, однако этого не случилось.

«Я бы с удовольствием провёл сравнение собственных моделей Microsoft и наших моделей», — сказал Пичаи, добавив, что Microsoft «использует чужие модели», имея в виду партнёрство компании с OpenAI.

Сундар Пичаи сообщил, что Google находится на самых ранних стадиях глубоких изменений. «Я просто думаю, что впереди так много инноваций. Мы стремимся быть на переднем крае в этой области, и я думаю, что так и есть», — отметил он.

В этом году Google начала масштабную перестройку поисковой системы с использованием ИИ, включая добавление сводок поиска ИИ и обновление сервиса визуального поиска Google Lens («Google Объектив»), который позволяет выполнять поиск в интернете по снятому видео. Компания также готовится запустить крупное обновление ИИ-модели Gemini на фоне конкуренции с Microsoft, OpenAI и поисковой системой ИИ Perplexity.

Google заявила, что её новое семейство ИИ-моделей обладает любопытной чертой — способностью «распознавать» эмоции. По словам компании, семейство ИИ-моделей PaliGemma 2, представленное в четверг, может анализировать изображения, позволяя ИИ генерировать подписи и отвечать на вопросы о людях, которых он «видит» на фотографиях.

Источник изображений: Google

«PaliGemma 2 генерирует подробные, контекстно релевантные подписи для изображений, выходя за рамки простой идентификации объектов, чтобы описывать действия, эмоции и общее повествование сцены», — пишет Google в своём официальном блоге. Для распознавания эмоций PaliGemma 2 необходимо настроить соответствующим образом. Без этого он не работает. Однако эксперты, с которыми пообщались журналисты портала TechCrunch, были встревожены перспективой появления общедоступного детектора эмоций.

«Меня это очень беспокоит. Для меня проблематично считать, что мы можем “читать” эмоции людей. Это как просить совета у магического шара предсказаний (Magic 8 Ball, популярная игрушка, — прим. ред.) для решения серьёзных вопросов», — отметила в разговоре с TechCrunch Сандра Вахтер (Sandra Wachter), профессор этики данных и ИИ из Оксфордского института исследования Интернета.

Технологические компании, занимающиеся развитием ИИ, годами пытаются создать искусственный интеллект, способный определять эмоциональные аспекты в любых вещах — начиная от обучения продажам и заканчивая задачами, связанными с предотвращением несчастных случаев.

Разработка большинства детекторов эмоций базируется на ранних работах американского психолога Пола Экмана (Paul Ekman), который предположил, что у людей есть шесть основных типов эмоций: гнев, удивление, отвращение, удовольствие, страх и грусть. Однако последующие исследования этого вопроса поставили под сомнение гипотезу Экмана и показали, что существуют серьёзные различия в том, как представители разных слоёв общества выражают свои чувства.

«Определение эмоций в каком-то универсальном общем случае невозможно, потому что люди испытывают эмоции сложным образом. Нам кажется, что, глядя на людей, мы можем определить, что они чувствуют. И этим приёмом на протяжении многих лет пытались пользоваться разные люди, в том числе разведывательные органы и рекламные компании. Я уверен, что в некоторых случаях абсолютно возможно обнаружить некоторые общие признаки, но это не то, о чём идёт речь и не то, для чего в конечном итоге можно найти универсальный ответ», — сказал специализирующийся на ИИ научный сотрудник Лондонского университета королевы Марии Майк Кук (Mike Cook) в интервью TechCrunch.

Эксперты считают, что системы обнаружения эмоций, как правило, ненадёжны и предвзяты из-за особенностей взглядов самих разработчиков таких систем. В исследовании Массачусетского технологического института 2020 года учёные показали, что модели для анализа лиц могут формировать непреднамеренные предпочтения для определённых лицевых выражений, таких как улыбка. Более поздние исследования показывают, что модели анализа эмоций приписывают больше негативных эмоций лицам темнокожих людей, чем лицам белых людей.

Google заявляет, что провела «обширное тестирование» для оценки демографических предубеждений у PaliGemma 2 и обнаружила «значительно более низкий уровень токсичности и ненормативной лексики» по сравнению с отраслевыми бенчмарками. Однако компания не предоставила полный список использованных бенчмарков и не указала, какие типы тестов проводились.

Единственный бенчмарк, о котором рассказала Google, — это FairFace, состоящий из набора десятков тысяч портретов людей. Компания утверждает, что PaliGemma 2 показала хорошие результаты при оценке FairFace. Но некоторые эксперты раскритиковали бенчмарк за его предвзятость, отметив, что в FairFace представлены далеко не все расовые группы, а лишь несколько.

«Интерпретация эмоций — это довольно субъективный вопрос, который выходит за рамки использования визуальных средств и тесно связан с личным и культурным контекстом. Если не брать в расчёт ИИ, исследования показывают, что мы не можем распознавать эмоции только по чертам лица», — говорит Хайди Кхлааф (Heidy Khlaaf), главный научный сотрудник по ИИ в AI Now Institute, некоммерческой организации, изучающей социальные последствия искусственного интеллекта.

В ЕС использование систем распознавания эмоций вызвало серьёзные вопросы у регулирующих органов. Закон об ИИ, основной законодательный акт ЕС в области ИИ, запрещает школам и работодателям использовать детекторы эмоций. Однако он не запрещает их использование правоохранительными органами.

Источник изображения: Unsplash

Главное опасение экспертов, относительно открытых ИИ-моделей, таких как PaliGemma 2, которая распространяется через различные источники, включая платформу разработки ИИ Hugging Face, заключается в возможности злоупотребления и неправильности их использования, что может привести к реальному вреду.

«Если эта так называемая “эмоциональная идентификация” основана на псевдонаучных предубеждениях и предрассудках, то существует значительный риск последствий в том, как эта возможность может быть использована для последующей и ложной дискриминации различных маргинализированных групп правоохранительными органами, работодателями, пограничными службами и т. д.», — говорит Кхлааф.

В Google же говорят, что компания тестирует свои ИИ-модели на предрасположенность к «репрезентативный вреду» (стереотипам о социальных группах, например, расовых, этнических, гендерных или религиозных, которые приводят к отрицательным последствиям для этих групп и их представителей). «Мы провели надёжную оценку моделей PaliGemma 2 с точки зрения этики и безопасности, включая безопасность детей и безопасность контента», — добавили в компании.

Профессора этики данных и ИИ в Оксфордском институте Интернета Сандру Вахтер такой ответ компании не убедил: «Ответственные инновации — это когда вы думаете о последствиях их разработки с первого дня работы над ними, каждый раз, когда вы входите в свою лабораторию, а затем продолжаете делать это на протяжении всего жизненного цикла продукта. Я могу представить себе множество потенциальных проблем, которые могут создать такие модели и в конечном итоге привести к антиутопичному будущему, в котором ваши эмоции будут определять, получите ли вы работу, кредит и поступите ли в университет».

OpenAI начала 12-дневный марафон новинок с анонса ChatGPT Pro. Это новый уровень платной подписки стоимостью $200 в месяц, который предоставляет пользователям неограниченный доступ ко всем моделям OpenAI, включая мощнейшую o1 pro — улучшенную версию модели o1, которая выделяется способностью к рассуждению и умением логически решать задачи.

Источник изображения: Growtika/unsplash.com

Это самый дорогой тариф компании, в десять раз превышающий по стоимости базовый тариф ChatGPT Plus. С учётом того, что многие пользователи уже считают тарифный план ChatGPT Plus слишком дорогим, возникает вопрос, на кого ориентируется OpenAI с подпиской ChatGPT Pro.

«Мы считаем, что аудиторией ChatGPT Pro будут опытные пользователи ChatGPT — те, кто уже доводит модели до предела своих возможностей в таких задачах, как математика, программирование и письмо», — сообщил на пресс-конференции в четверг Джейсон Вэй (Jason Wei), представитель технического персонала OpenAI.

ChatGPT Pro предоставляет доступ к самой мощной модели в арсенале OpenAI на данный момент, которая «дольше думает для получения самых надежных ответов». По оценкам независимых экспертов, o1 pro дает более точные и исчерпывающие ответы, особенно в таких областях, как работа с данными, программирование и анализ прецедентного права. Также по сравнению с o1 и o1-preview, нейросеть o1 pro лучше справляется со сложными задачами в математике, науке и кодировании.

Чтобы подчеркнуть повышенную надежность o1 pro, в OpenAI заставляют модель четыре раза перепроверять ответ: вопрос считается решённым, только если модель получила правильный ответ в четырех попытках из четырех, а не только в одной. Поскольку ответы будут генерироваться дольше, ChatGPT отобразит индикатор выполнения и отправит уведомление в приложении, если вы переключитесь на другой диалог.

Чтобы заинтересовать пользователей в переходе на ChatGPT Pro, компания добавила в тарифный план неограниченный доступ к GPT-4o и голосовому режиму Advanced Voice Mode — функции, позволяющей вести беседу, максимально похожую на человеческую. Для пользователей ChatGPT Plus установлен дневной лимит времени на использование этих функций, в то время как бесплатные пользователи ограничены только превью.

OpenAI также планирует раздавать некоторые подписки бесплатно. Например, в четверг компания объявила о программе по предоставлению 10 грантов ChatGPT Pro медицинским исследователям в «ведущих учреждениях», а также о планах предоставить в будущем дополнительные гранты по «различным дисциплинам».

Согласно публикации The New York Times, к 2029 году OpenAI планирует взимать за подписку ChatGPT Plus $44 в месяц. Рост стоимости подписок объясняется давлением на OpenAI со стороны инвесторов, желающих сократить убытки. Хотя в августе доход компании достиг $300 млн, её убытки за год, по данным New York Times, могут составить около $5 млрд. В этом «виноваты» расходы на зарплату персонала, аренду офисов и инфраструктуру обучения ИИ. Сообщается, что только на ChatGPT компания тратила одно время до $700 тыс. в день.

Группа из учёных Массачусетского технологического института и их зарубежных коллег создала, как они утверждают, первый полностью фотонный процессор для приложений искусственного интеллекта. Фотонный процессор работает не хуже аналогов на кремниевых транзисторах, но проводит вычисления с намного меньшим потреблением энергии. Это особенно важно для создания «думающей» периферии — лидаров, камер, устройств связи и другого, к чему теперь открыта прямая дорога.

Источник изображения: Sampson Wilcox, Research Laboratory of Electronics

Основная проблема при создании полностью фотонного чипа для ИИ заключается в том, что свет хорошо справляется с линейными вычислениями, тогда как нелинейные вычисления производятся с существенными затратами энергии. Для проведения последних необходимы специальные блоки, ведь фотоны реагируют друг с другом только в особых условиях. Поэтому прежде линейные операции, например, умножение матриц, проводились фотонным блоком, а для нелинейных вычислений световой сигнал переводился в форму электрического импульса и дальше обрабатывался по старинке — обычным процессором из кремниевых транзисторов.

Учёные из MIT поставили перед собой цель создать единый процессор, у которого на вход подавался бы световой сигнал и световой же сигнал был бы на выходе без использования кремниевых сопроцессоров. По их словам, используя предыдущие работы и находки зарубежных коллег, они добились поставленной задачи.

Разработанное исследователями оптическое устройство смогло выполнить ключевые вычисления для задачи классификации с помощью машинного обучения менее чем за половину наносекунды, при этом достигнув точности более 92 % — это производительность, которая находится на одном уровне с традиционным оборудованием. Созданный чип состоит из взаимосвязанных модулей, образующих оптическую нейронную сеть и изготовлен с использованием коммерческих литографических техпроцессов, что может обеспечить масштабирование технологии и её интеграцию в современную электронику.

Учёные обошли проблему с нелинейными фотонными вычислениями интересным образом. Они разработали интегрированный в оптический процессор блок NOFU — нелинейно-оптический функциональный блок, который позволил задействовать электронные цепи вместе с оптическими, но без перехода к внешним операциям. По-видимому, блок NOFU был выбран как компромисс между чисто фотонными нелинейными схемами и классическими, электронными.

Вначале система кодирует параметры глубокой нейронной сети в световых импульсах. Затем массив программируемых светоделителей выполняет матричное умножение входных данных. Потом данные передаются в программируемый слой NOFU, где реализуются нелинейные функции, передавая световые сигналы на фотодиоды. Последние, в свою очередь, транслируют световой сигнал в электрические импульсы. Поскольку этот этап не требует внешнего усиления, блоки NOFU потребляют очень мало энергии.

«Мы остаемся в оптической области всё время, до конца, когда хотим считать ответ. Это позволяет нам добиться сверхнизкой задержки», — говорят авторы исследования.

Google DeepMind разработала новую модель прогнозирования погоды с помощью искусственного интеллекта (ИИ) GenCast, которая превосходит традиционные метеорологические методы по прогнозированию погоды на срок до 15 дней и, к тому же, точнее предсказывает экстремальные погодные явления.

Источник изображения: NOAA/unsplash.com

ИИ-модель GenCast рассматривает вероятность реализации нескольких сценариев для точной оценки тенденций — от выработки энергии ветра до перемещения тропических циклонов. Вероятностный метод GenCast является новым рубежом в использовании ИИ для обеспечения более качественных и быстрых ежедневных прогнозов погоды. Этот подход всё чаще используют крупные метеослужбы, пишет Financial Times.

«Это знаменует собой своего рода переломный момент в развитии ИИ для прогнозирования погоды, поскольку современные необработанные прогнозы теперь поступают из моделей машинного обучения», — отметил Илан Прайс (Ilan Price), научный сотрудник Google DeepMind. Он добавил, что GenCast может быть включен в оперативные системы прогнозирования погоды, что позволит метеорологам лучше понимать тенденции и готовиться к предстоящим погодным явлениям.

Новизна подхода GenCast в сравнении с предыдущими моделями машинного обучения заключается в использовании так называемых ансамблевых прогнозов, представляющих различные результаты, — метода, применяемого в современном традиционном прогнозировании погоды. Для обучения GenCast использовалась накапливавшаяся в течение четырёх десятилетий база данных Европейского центра среднесрочного прогнозирования погоды (ECMWF).

Согласно публикации в Nature, модель GenCast превзошла 15-дневный прогноз ECMWF по 97,2 % из 1320 переменных, таких как температура, скорость ветра и влажность. Таким образом она превзошла по точности и охвату ИИ-модель GraphCast от Google DeepMind, представленную в прошлом году. GraphCast превзошла прогнозы ECMWF на 3–10 дней вперед примерно по 90 % показателей.

Модели прогнозирования погоды на основе ИИ работают гораздо быстрее стандартных методов прогнозирования, которые полагаются на огромную вычислительную мощность для обработки данных. GenCast может сгенерировать свой прогноз всего за восемь минут, тогда как на составление прогноза с помощью традиционных методов уходят часы.

По словам исследователей, ИИ-модель GenCast может быть дополнительно улучшена в части способности предсказания интенсивности крупных штормов. Также может быть увеличено разрешение её данных, чтобы соответствовать обновлениям, сделанным в этом году ECMWF.

ECMWF назвал разработку GenCast «важной вехой в развитии прогнозирования погоды». Центр также сообщил, что интегрировал «ключевые компоненты» подхода GenCast в версию своей собственной системы прогнозирования ИИ с ансамблевыми прогнозами, доступную с июня.

Компания Humane, создавшая основанное на системе искусственного интеллекта устройство AI Pin, которое должно было освободить людей от смартфонов, но так и не стало популярным, ищет новые пути для продвижения своего программного обеспечения. Разработчики хотят, чтобы другие производители задействовали операционную систему Humane CosmOS в своей продукции.

ИИ-гаджет AI Pin / Источник изображения: humane.com

Как это может выглядеть на примере использования ИИ-алгоритмов компании в автомобилях, смартфонах, умных колонках и телевизорах, Humane показала в небольшом видео. Стоит отметить, что опубликованное видео, как сказано в заявлении Humane, предназначено для «иллюстративных целей», в нём показаны «рабочие прототипы» и смоделированные варианты использования алгоритмов компании. Это означает, что ролик раскрывает только возможные варианты применения ИИ, но о каком-то готовом к выходу на рынок продукте говорить пока рано.

В одном из примеров показано, как водитель автомобиля беседует с CosmOS, давая команды включить отопление в своём доме, а также спрашивает, во сколько должны прийти гости. В других примерах люди взаимодействуют с CosmOS через умную колонку и телевизор. В первом случае алгоритм должен найти рецепт гуакамоле, а во втором — рассказать о количестве голов, забитых футболистом, которого в данный момент показывают на экране телевизора. В видео также показано, как CosmOS читает электронную почту на смартфоне пользователя и формирует ответ на вопрос о возможном присутствии владельца устройства на запланированной встрече.

По большому счёту, продемонстрированные в ролике Humane возможности не являются чем-то совершенно новым. Уже сейчас начали появляться ИИ-агенты, предназначенные для выполнения определённых задач с минимальным участием человека, например, они могут бронировать билеты или столик в ресторане. В скором времени ожидается появление большего количества полезных ИИ-агентов, которые смогут выполнять различные повседневные задачи. Своим роликом Humane, по всей видимости, хочет показать мощные возможности CosmOS в плане создания ИИ-агентов, побудив сторонних производителей рассматривать ОС в качестве основы для своих устройств. Но показанные в видео возможности не являются разработкой Humane, и скорее всего, компания не будет сама их реализовывать. Вместо этого она хочет предоставить другим разработчикам SDK, на основе которого они смогут создавать собственных ИИ-агентов.

Собственно, сам CosmOS SDK пока недоступен публично. На веб-сайте компании сказано, что он «скоро появится». Humane не упоминает каких-либо партнёров, которые уже работают над созданием устройств с CosmOS. Это может означать, что компания только ищет варианты для сотрудничества с другими производителями, которые будут готовы интегрировать CosmOS в свою продукцию, будь то смартфоны, автомобили, телевизоры или умные колонки.

Несмотря на ужесточившуюся конкуренцию на ИИ-рынке, аудитория чат-бота ChatGPT на базе генеративного ИИ компании OpenAI продолжает стремительно расти, добавив 100 млн спустя несколько месяцев после объявления в августе о достижении отметки в 200 млн еженедельных активных пользователей, пишет The Verge.

Источник изображения: Levart_Photographer/Unsplash

О новом достижении сообщил генедиректор OpenAI Сэм Альтман (Sam Altman) в ходе мероприятия DealBook Summit, проводившегося изданием The New York Times. «Наш продукт масштабировался., теперь у нас более 300 млн еженедельных активных пользователей», — сказал Альтман, добавив, что сейчас пользователи отправляют в ChatGPT более 1 млн сообщений в сутки.

Аудитория ChatGPT растёт быстрыми темпами с момента запуска чат-бота в ноябре 2022 года, поскольку OpenAI постоянно добавляет в него новые возможности, привлекающие всё больше пользователей. В частности, в ChatGPT была добавлена функция поиска ИИ, которая отображает и суммирует результаты из интернета, и новый интерфейс Canvas, позволяющий редактировать текст и код, сгенерированный ИИ, не создавая новых запросов.

Apple также встроила ChatGPT непосредственно в Siri в рамках обновления ОС iOS 18.2, которая сейчас доступна в бета-версии, что позволит чат-боту охватить ещё больше пользователей. В следующем году OpenAI планирует увеличить аудиторию ChatGPT до 1 млрд человек.

Команда Google DeepMind представила Genie 2 — вторую версию фундаментальной модели ИИ, способной на лету генерировать новые интерактивные цифровые окружения, или игровые миры.

Источник изображений: Google

Напомним, оригинальная Genie была выпущена в феврале и могла генерировать виртуальные 2D-миры из синтезированных изображений. Genie 2 способна делать это в 3D и на основе текстовых команд.

Пользователь может описать желаемый мир, выбрать подходящий рендеринг и ступить в новое окружение. На каждом шагу человек/агент совершает действие (движение мыши, нажатие клавиши на клавиатуре), а Genie 2 имитирует его последствия.

В основе каждого примера — изображение, сгенерированное ИИ-моделью Imagen 3 на основе текстовой подсказки

По словам Google DeepMind, Genie 2 может генерировать последовательные интерактивные миры продолжительностью около минуты, хотя большинство показанных (см. видео ниже) примеров длятся 10−20 секунд.

По сравнению с первой версией Genie 2:

• может запоминать элементы мира, которые не находятся в поле зрения;
• может создавать окружение с разными перспективами (от первого или третьего лица, изометрическая камера и так далее);
• может создавать комплексные трёхмерные сцены;
• может моделировать разнообразные взаимодействия с объектами вроде лопания воздушных шаров, открытия дверей или подрыва взрывоопасным бочек выстрелом;
• научилась анимировать персонажей разных типов;
• научилась моделировать NPC и взаимодействия с ними;
• научилась моделировать эффекты воды, дыма, гравитацию, освещение, отражения;
• научилась моделировать интерактивное окружение на основе реальных фотографий.

По мнению Google DeepMind, Genie 2 демонстрирует потенциал фундаментальных моделей мира для создания разнообразных трёхмерных окружений и ускорения тренировок/тестирования ИИ-агентов (вроде того же SIMA).

Google DeepMind уточняет, что исследование находится на ранней стадии и требует значительных улучшений в областях возможностей агентов и генерации среды, но уже видит в Genie 2 решение структурной проблемы безопасной тренировки ИИ-агентов.

Около двух лет назад OpenAI заявила, что искусственный интеллект общего назначения (Artificial General Intelligence, AGI), который также называнию сильным ИИ или ИИ уровня человека, «может возвысить человечество» и «предоставить всем невероятные новые возможности». Теперь же генеральный директор OpenAI Сэм Альтман (Sam Altman) пытается снизить градус ожидания от появления AGI.

Источник изображения: OpenAI Forum

«Я предполагаю, что мы достигнем AGI раньше, чем думает большинство людей в мире, и это будет иметь гораздо меньшее значение. И многие опасения по поводу безопасности, о которых говорили мы и другие стороны, на самом деле не возникнут в момент создания AGI. AGI можно создать. Мир после этого будет в основном развивается примерно так же, как и сейчас. Некоторые вещи начнут выполняться быстрее. Но переход от того, что мы называем AGI, до того, что мы называем сверхинтеллектом — это очень долгая дорога», — сказал Альтман во время интервью на саммите The New York Times DealBook в среду.

Альтман уже не первый раз преуменьшает значимость, казалось бы, теперь точно неизбежного создания искусственного интеллекта общего назначения, о котором когда-то говорилось в уставе самой компании OpenAI, и который, как она же заявляла, сможет «автоматизировать большую часть интеллектуального труда» человечества. Недавно глава OpenAI намекнул, что это может произойти уже в 2025 году и будет достижимо с помощью актуального специализированного программного и аппаратного обеспечения. Ходят слухи, что OpenAI просто объединит все свои большие языковые модели и назовёт это AGI.

Последующее заявление Альтмана об AGI прозвучало так, как будто OpenAI больше не рассматривает создание искусственного интеллекта общего назначения как нечто грандиозное, что способно решить все проблемы человечества: «Мне кажется, что экономические трудности в мире будут продолжаться немного дольше времени, чем думают люди, потому что в обществе много инерции. Поэтому в первые пару лет [после создания AGI], возможно, будет не так много изменений. А потом, возможно, последует много изменений».

Те надежды и возможные достижения, которые OpenAI ранее приписывала AGI, компания теперь возлагает на так называемый «сверхинтеллект», который как недавно спрогнозировал Альтман, может появиться «через несколько тысяч дней».

Специалисты Центра цифровой журналистики Tow при Колумбийском университете провели тестирование поисковика в популярном чат-боте на базе искусственного интеллекта ChatGPT компании OpenAI. Оказалось, что алгоритм не слишком хорошо справляется с поиском источников новостей и зачастую выдаёт неточные ответы.

Источник изображения: Mariia Shalabaieva / unsplash.com

OpenAI открыла доступ к функции поиска в ChatGPT для пользователей в октябре этого года, заявив, что она способна предоставлять «быстрые и актуальные ответы со ссылками на соответствующие веб-источники». Однако в ходе тестирования этого инструмента оказалось, что он с трудом распознаёт цитаты из статей, даже если их публиковали издатели, которые разрешили OpenAI использовать свой контент для обучения больших языковых моделей (LLM).

Авторы исследования попросили ChatGPT указать источники «двухсот цитат из двадцати источников». Сорок из этих цитат были взяты из материалов издателей, которые запретили поисковому роботу OpenAI доступ к своим сайтам. Тем не менее, даже в этих случаях чат-бот уверенно отвечал, выдавая ложную информацию, а также в некоторых случаях признаваясь, что не уверен в достоверности предоставленной информации.

«В общей сложности ChatGPT вернул частично или полностью неправильные ответы в 153 случаях, тогда как неспособность дать точный ответ он признал лишь 7 раз. Только в этих 7 результатах чат-бот использовал уточняющие слова и фразы, такие как "похоже", "это возможно", "возможно", или утверждения вроде "я не смог найти оригинальную статью"», — говорится в сообщении исследователей.

Ещё в ходе серии тестов были выявлены случаи, когда поисковый инструмент ChatGPT выдавал результаты, в которых цитаты из письма в редакцию Orlando Sentinel ошибочно соотносились с материалами журнала Time. В другом примере, когда чат-бота попросили указать источник цитаты из статьи New York Times о находящихся под угрозой исчезновения китах, он выдал ссылку на веб-сайт, который попросту скопировал и опубликовал оригинальную статью.

Интернет-пользователей заинтересовал странный баг в работе популярного чат-бота ChatGPT компании OpenAI. Дело в том, что если попросить его дать информацию о том, кто такой David Mayer (Дэвид Майер) или просто написать это имя, то в работе бота происходит сбой и он сообщает, что не может выполнить команду.

Источник изображения: OpenAI

«Я не могу ответить», — пишет ChatGPT, если попросить его написать имя Дэвида Майера по-английски. Этот баг вызвал целую волну поисковых запросов, авторы которых пытались узнать информацию об этом человеке, а также выяснить вероятность того, что ChatGPT запрограммирован на самоцензуру. Баг выглядит ещё более странно, если учесть, что сбой происходит при упоминании сочетания «Дэвид Майер» на английском языке, но в это же время бот может дать информацию, если написано о «Дэйве Майере». Также бот без проблем расскажет про Дэвида Майера на русском языке.

По данным источника, баг ChatGPT существует по меньшей мере несколько месяцев. Ещё в июне этого года один из пользователей чат-бота обнаружил, что просьба написать имя журналиста CNBC Дэвида Фабера (David Faber) приводит к появлению аналогичной ошибки и ChatGPT сообщает о том, что не может ответить на запрос.

Источник изображения: ChatGPT

С тех пор энтузиасты с Reddit выявили шесть имён, которые приводят к сбою в работе ChatGPT. Среди них были Брайан Худ (Brian Hood) и Джонатан Терли (Jonathan Turley), обнаружившие ранее, что чат-бот выдумывает связанные с их именами факты, что потенциально могло навредить их репутации. Ещё ChatGPT не может корректно обрабатывать имя Гвидо Скорца (Guido Scorza), который является сотрудником итальянского отраслевого регулятора и автором публикации о том, как пользователи чат-бота могут попросить OpenAI запретить создавать контент с использованием их личных данных. В этот же список попал Джонатан Зиттрейн (Jonathan Zittrain), профессор Гарварда, предупреждавший об опасности искусственного интеллекта для человека.

Не исключено, что сбой в работе ChatGPT при упоминании определённых имён на самом деле является защитой чат-бота и OpenAI от исков о клевете. Подобная ситуация уже была: Брайан Худ из Австралии в середине 2023 года пригрозил подать в суд на OpenAI после того, как обнаружил, что ChatGPT ложно утверждал, что он был заключен в тюрьму за взяточничество, когда на самом деле он был осведомителем, который разоблачил корпоративные правонарушения. В результате, похоже, OpenAI просто вручную добавили в код ChatGPT фильтры на некоторые имена. И это может создать множество проблем в будущем, поскольку функциональность бота будет ограничена.

Что касается Дэвида Майера, то этот человек так и остаётся загадкой. Одним из наиболее известных людей с таким именем является Дэвид Майер де Ротшильд, наследник состояния семьи Ротшильдов, но о его связях со сферой ИИ ничего неизвестно.

Компания OpenAI, прославившаяся благодаря своему чат-боту ChatGPT на базе генеративного ИИ, обдумывает способы внедрения рекламы в свои ИИ-продукты. Компания находится в поиске новых источников дохода в рамках преобразования в коммерческую компанию и реклама может стать одним из них.

Источник изображения: OpenAI

После проведения в октябре раунда финансирования, позволившего привлечь $6,6 млрд, OpenAI сейчас является одной из самых дорогих частных компаний Кремниевой долины с оценкой в более чем $​​150 млрд. Благодаря успеху ChatGPT доходы OpenAI выросли примерно до $4 млрд в годовом исчислении, что ставит её в один ряд с самыми быстрорастущими стартапами всех времён. Число еженедельно активных пользователей чат-бота выросло за два года до более чем 250 млн. Но расходы OpenAI, связанные с разработкой передовых моделей ИИ, превышают доходы. В этом году расходы компании, как ожидается, превысят $5 млрд.

Один из крупнейших источников дохода OpenAI заключается в предоставлении доступа к интерфейсу прикладного программирования (API), который позволяет организациям и разработчикам создавать продукты на базе ИИ. Также компания зарабатывает на продажах индивидуальных и корпоративных лицензий на использование ChatGPT. Но, как отметил один из экспертов, «API — это не высокодоходный бизнес».

OpenAI наращивает усилия по получению дохода от своих продуктов, таких как поисковая система на базе ИИ. Её конкурент Perplexity уже запустил пилотный проект по развёртыванию рекламы в своей поисковой системе на базе ИИ.

Сара Фрайар (Sarah Friar), финансовый директор OpenAI, ранее занимавшая руководящие посты в Nextdoor, Square и Salesforce, отметила в интервью Financial Times, что директор по продуктам компании Кевин Вейл (Kevin Weil) имеет опыт создания продуктов с рекламной поддержкой на основных технологических платформах, включая Instagram✴ и X. В мае OpenAI также наняла на должность вице-президента Шивакумара Венкатарамана (Shivakumar Venkataraman), который ранее возглавлял команду поисковой рекламы Google.

Как утверждают источники, на данный момент руководители OpenAI разделились во мнении о том, как должна выглядеть реклама на этой платформе. Фрайар указала на то, что рекламные модели имеют свои недостатки, а также на то, что внедрение рекламы заставляет компанию больше обращать внимание на требования рекламодателей вместо удовлетворения потребностей пользователей. «Я не исключаю рекламу, — сообщила она. — Но на данный момент в том, как мы работаем, есть много положительных моментов».

Следует отметить, что не все в IT-отрасли поддерживают планы OpenAI по реструктуризации в коммерческую компанию. Миллиардер Илон Маск (Elon Musk) и вовсе потребовал через суд запретить OpenAI превращаться в коммерческую организацию.

Разработчики из The Browser Company, создавшие интернет-обозреватель Arc Browser для компьютеров и мобильных устройств, представили новый браузер под названием Dia. Он сфокусирован на инструментах на базе искусственного интеллекта. За последние годы стартап выпустил приложение Arc для macOS и Windows и Arc Search для Android и iOS, но теперь разработчики взялись за реализацию проекта значительно более широкой направленности.

Источник изображения: The Browser Company

Запуск браузера Dia запланирован на начало следующего года. Однако уже сейчас разработчики запустили посвящённый этому продукту веб-сайт, на котором опубликовано видео о будущем приложении, а также перечислен список открытых вакансий. «Искусственный интеллект не будет существовать в виде приложения. Или кнопки. Мы считаем, что это будет совершенно новая среда, построенная на основе веб-браузера», — говорится в сообщении разработчиков на сайте Dia.

Вместе с этим гендиректор The Browser Company Джош Миллер (Josh Miller) показал ранние прототипы нового веб-обозревателя и доступные в нём функции. В одной из демонстраций был показан инструмент, работающий с функцией вставки и помогающий написать следующее предложение или получить информацию в интернете. Этот инструмент работает, когда пользователь набирает текст на какую-то распространённую тему, например, о сроках запуска и характеристиках новых iPhone.

В другой демонстрации показано, как пользователь может вводить в адресную строку браузера определённые команды для выполнения разных действий, таких как поиск документов по описанию, отправка данных по электронной почте, планирование встреч в календаре через подсказки на естественном языке. Некоторые из анонсированных функций похожи на те, что уже есть в других браузерах. Речь идёт об инструментах, которые помогают писать сообщения или работать с календарём.

В третьей демонстрации было показано, как Dia выполняет действия от имени пользователя, например, добавляет товары в корзину на Amazon, отталкиваясь от полученного по почте списка. Браузер делает это автоматически, находя нужные товары на сайте Amazon и перемещая их в корзину. В другом примере Dia анализирует таблицу Notion с данными участников видеосъёмки и предлагает отправить электронное сообщение каждому из них.

Вместе с этим Миллер пообещал не изменять сильно дизайн и функции браузера Arc, хотя и признал, что этот продукт вряд ли привлечёт внимание широкой аудитории. На этом фоне компания решила создать по-настоящему потребительский продукт, в котором функции на основе ИИ будут работать без сбоев и который, возможно, будет приносить прибыль.

Инвестиции отечественных производителей вычислительной техники в разработку оборудование для работы с искусственным интеллектом (ИИ) увеличились в этом году на 40 %, пишет «Коммерсантъ» со ссылкой на данные ряда участников рынка.

Источник изображения: «Гравитон»

Об этом, в частности, сообщили «Коммерсанту» в консорциуме АНО «Вычислительная техника», не раскрывая абсолютные цифры. АНО «Вычислительная техника» объединяет 33 разработчика вычислительной техники, включая «Аквариус», Yadro, ГК «Элемент» и других. По данным консорциума, в 2024 году инвестиции в оборудование для ИИ составляют 14,2 % общего объёма расходов на разработку. При этом выпуск такого оборудования вырос за отчётный период на 10,5 %. Согласно прогнозу АНО «Вычислительная техника», в течение трёх лет оборудование для ИИ может занять в среднем 23,7 % выручки разработчиков электроники.

Разработка сервера с ИИ с постановкой на производство оценивается в среднем в 100 млн руб. Ранее сообщалось, что за девять месяцев 2024 года спрос на ИИ-серверы в госсекторе России вырос вдвое.

В Fplus тоже сообщили о 40-процентном росте инвестиций в разработку серверов для ИИ. Портфель компании включает четыре модели собственной разработки, которые будут внесены в реестр Минпромторга. «В линейке уже есть результат сотрудничества с отечественным производителем нейроускорителей — компанией НТЦ “Модуль”, а в ближайшее время мы планируем провести разработку решений и с другими российскими вендорами видеокарт для ИИ», — рассказали в Fplus.

В компании Kraftway также увеличили инвестиции в оборудование для ИИ в 2024 году, сообщил вице-президент компании Ренат Юсупов. Он отметил, что в 2025 году Kraftway планирует инвестировать в разработку и производство систем хранения данных (СХД) для нейросетей, считая, что с развитием ИИ уже со следующего года возникнет серьёзный интерес к такому оборудованию. По оценке Юсупова, стоимость одного сервера для ИИ начинается от 1,5 млн руб. в зависимости от заявленной мощности.

В компании «Гравитон» сообщили о разработке нескольких платформ для ИИ, которые появятся на рынке в 2025 году. В настоящее время доля разработок под задачи ИИ в общем портфеле компании составляет около 20 %.

В НТЦ «Модуль» отметили многократный рост интереса к их продукции в 2024 году, в том числе из-за запуска производства ИИ-серверов. Также в компании сообщили о планах увеличить в 2025 году выпуск собственных нейроускорителей в компактном и серверном исполнении, встраиваемых вычислительных блоков и портативных компьютеров.

Учёные продемонстрировали преимущество точной привязки профиля лопастей ветряной турбины к географии — к конкретным условиям эксплуатации. Ветровая обстановка везде различная, и она сильно отличается в условиях городской застройки. Но раньше учесть все факторы для оптимизации работы ветряной турбины было сложно и дорого. Сегодня с этим «на раз» справляется ИИ. Именно это помогло воплотить проект в жизнь.

Лопасти турбины на заднем фоне. Источник изображения: University of Birmingham

Созданием максимально оптимизированных лопастей для городских ветряных турбин занялись учёные из Бирмингемского университета (University of Birmingham). Разработка получила название «Бирмингемские лопасти» (Birmingham Blade). Всего за несколько недель ИИ проверил более 2000 профилей лопастей турбин, сэкономив учёным годы работы и миллионы средств.

Идея использовать искусственный интеллект для проекта также опиралась на желание уйти от человеческого восприятия проблемы — от сложившихся в отрасли стереотипов. Люди, проектируя лопасти ветряных турбин, всегда искали компромисс между различными параметрами. ИИ в этом плане получил полную свободу и смог взглянуть на проблему со всех сторон.

Следует отметить, что ИИ тоже был особенным. Его создали учёные Бирмингемского университета. Это платформа EvoPhase, которая имитирует естественный отбор. Такой подход позволяет одновременно оптимизировать множество различных параметров, избегая традиционных компромиссов между теми или иными факторами производительности. Сами лопасти изготовила местная компания KwikFab — специалист по прецизионным металлическим конструкциям. На изготовление и доставку также ушло мало времени.

«Нам нужна была турбина, которая могла бы улавливать относительно низкие скорости ветра в Бирмингеме, одновременно управляя турбулентностью, вызванной окружающими зданиями, — объяснил Леонард Никусан (Leonard Nicusan), технический директор EvoPhase. — Конструкция также должна была быть компактной и лёгкой, чтобы подходить для установки на крыше».

Испытания показали, что спроектированная ИИ конструкция лопастей оказалась в конкретном месте в семь раз более эффективной, чем если бы использовались обычные лопасти. Теперь опыт Бирмингема перенимает Эдинбург. Для условий эксплуатации на новом месте ИИ разрабатывает другие лопасти, и такие он может создать для любой местности и любой «географии», что, в идеале, способно сделать ветроэнергетику намного более доступной и недорогой.