Регулярная работа с чат-ботом на базе искусственного интеллекта может начать раздражать, поскольку для улучшения опыта взаимодействия пользователю каждый раз приходится объяснять некоторые факты о себе и своих предпочтениях. Компания OpenAI, являющаяся разработчиком ИИ-бота ChatGPT, намерена исправить это, сделав алгоритм более персонализированным за счёт добавления ему «памяти».

Источник изображения: Growtika / unsplash.com

Такой подход позволит ChatGPT со временем извлекать информацию о пользователе и его предпочтениях из диалогов с ним. Функция памяти работает двумя способами. Пользователь может прямо указать на свои предпочтения или иную информацию, которую ChatGPT должен запомнить. Если этого не делать, то чат-бот будет сам получать нужную информацию в процессе взаимодействия с пользователем. Цель разработчиков состоит в том, чтобы сделать ChatGPT более персонализированным и удобным.

Во многих отношениях память является той функцией, которой действительно не хватает ChatGPT. Однако для её реализации алгоритм будет собирать информацию о пользователях, что может вызвать опасения по поводу конфиденциальности данных. OpenAI выбрала стратегию, которая во многом напоминает принцип работы разных интернет-сервисов. Речь идёт о наблюдении за действиями пользователя для постепенного формирования цифрового профиля. Такой метод работы неоднозначен, поскольку сразу возникают опасения по поводу того, что ChatGPT будет использовать собранные данные для дальнейшего обучения алгоритма и повышения уровня персонализации.

OpenAI заявила, что пользователи будут иметь возможность контроля функции памяти ИИ-бота. Также отмечается, что алгоритм не будет запоминать конфиденциальные данные, например, информацию о здоровье. Можно спросить ChatGPT о том, что именно ему известно о пользователе, после чего эти данные при необходимости без особого труда удаляются из памяти. Если же пользователь не заинтересован в функции памяти, то её попросту можно отключить, но по умолчанию она будет активирована.

На данный момент функция памяти ChatGPT находится на этапе тестирования и доступна ограниченному числу пользователей ИИ-бота. Когда именно она может стать общедоступной, пока неизвестно.

Доходы стартапа из Сан-Франциско OpenAI на фоне всплеска популярности разработанного им ИИ-чат-бота ChatGPT стремительно растут. По данным источников Financial Times, в декабре 2023 года годовой оборот OpenAI (показатель выручки за предыдущий месяц, умноженный на 12) достиг отметки в $2 млрд, хотя ещё в октябре годовой доход компании, по данным The Information, составлял $1,3 млрд.

Источник изображения: Andrew Neel/unsplash.com

Компания считает возможным удвоить эту сумму в 2025 году на фоне сильного интереса к её решениям со стороны бизнес-клиентов, стремящихся использовать инструменты генеративного ИИ для повышения эффективности своей работы. Благодаря стремительному росту у OpenAI есть все шансы войти в число немногих компаний Кремниевой долины, таких как Google и Meta✴, которым удалось получить годовой доход в $1 млрд в первые десять лет с момента своего основания.

По словам генерального директора OpenAI Сэма Альтмана (Sam Altman), по состоянию на ноябрь прошлого года 92 % компаний из списка Fortune 500 использовали продукты OpenAI, включая ChatGPT и лежащую в его основе модель искусственного интеллекта GPT-4, в то время как аудитория чат-бота выросла до 100 млн пользователей в неделю.

Интерес потребителей и бизнеса к генеративному ИИ — системам, которые могут генерировать код, текст, изображения, видео и анализировать информацию из подсказок пользователя — резко возрос, отметила Financial Times. Крупные технологические конкуренты OpenAI, такие, как Google и Meta✴, а также стартапы, включая Anthropic, Mistral и Cohere, тоже начали коммерциализацию своих ИИ-продуктов. Например, на этой неделе Google сделала доступной для широкой публики нейросеть Gemini Ultra, стоимость подписки на которую составляет всего $20 в месяц.

Вместе с тем Альтман отметил, что OpenAI по-прежнему работает с убытками из-за огромных затрат на создание и эксплуатацию её ИИ-моделей. По всей видимости эта тенденция сохранится ещё какое-то время из-за разработки ещё более сложных моделей, и компании, вероятно, придётся дополнительно привлекать значительные суммы, чтобы покрыть растущие расходы. Microsoft инвестировала в OpenAI до $13 млрд, но этого явно недостаточно.

«Расходы на обучение просто огромны, но это вполне ожидаемо», — сообщил Альтман газете Financial Times в ноябре прошлого года.

Концерн Stellantis объявил о намерении использовать ИИ-чат-бота ChatGPT для улучшения голосового помощника в легковых автомобилях и фургонах бренда Peugeot. Таким образом, французский бренд присоединился к другим производителям, таким как Volkswagen и Mercedes, которые уже используют популярного чат-бота в своих авто.

Источник изображений: stellantis.com

«Мы интегрируем ChatGPT во все автомобили, включая новую модель e-3008, и небольшие коммерческие автомобили», — приводит источник слова директора по продуктовому плану Peugeot Жерома Мишерона (Jerome Micheron).

Уже на этой неделе Peugeot запустит пилотную версию сервиса с ChatGPT, который сможет подключаться к элементам управления транспортным средством, а также будет отвечать на вопросы навигационного и общего характера. На данном этапе нововведение будет доступно владельцам авто бренда во Франции, Великобритании, Германии, Италии и Испании. Ожидается, что в течение года эта услуга станет стандартной функцией и будет доступна всем владельцам авто Peugeot.

В прошлом году владельцы автомобилей Mercedes-Benz в США получили возможность использования ChatGPT. В компании заявили, что интеграция ИИ-бота позволит голосовому помощнику давать более естественные и развёрнутые ответы. Не так давно Volkswagen объявила, что ChatGPT будет интегрирован с фирменным голосовым помощником компании к середине года.

OpenAI откроет раздел для детей в своём интернет-магазине ИИ-чат-ботов на основе ChatGPT. В рамках сотрудничества с организацией Common Sense Media, занимающейся оценкой средств массовой информации на предмет их пригодности для младшей аудитории, OpenAI нацелит свои усилия на минимизацию рисков, связанных с использованием ИИ подрастающим поколением.

Источник изображения: Alexandra_Koch / Pixabay

Совместные планы компаний включают разработку руководств и образовательных материалов, ориентированных на молодёжь, их родителей и учителей. Важным аспектом является курирование коллекции семейных версий GPT в онлайн-магазине OpenAI, основываясь на рейтингах Common Sense Media, что значительно упростит выбор подходящих продуктов для детской аудитории.

«Вместе Common Sense Media и OpenAI будут работать над тем, чтобы ИИ оказывал положительное влияние на всех подростков и семьи. Наши руководства и материалы будут направлены на обучение семей и педагогов безопасному и ответственному использованию ChatGPT, чтобы мы все вместе могли избежать любых нежелательных последствий этой новой технологии», — заявил Джеймс Стейер (James Steyer), основатель и генеральный директор Common Sense Media.

Эта инициатива была объявлена в ходе саммита Common Sense Media по вопросам детей и семьи. В рамках мероприятия Сэм Альтман (Sam Altman), генеральный директор OpenAI, выразил уверенность в положительном влиянии ИИ на обучение детей и важности интеграции таких технологий в образовательный процесс.

«Люди — это пользователи инструментов, и нам лучше научить их пользоваться теми инструментами, которые появятся в мире. Не обучать людей их использованию было бы ошибкой», — заявил он. Альтман также подчеркнул, что благодаря ИИ старшеклассники в будущем смогут достигать высот в областях, требующих абстрактного мышления, опережая своих предшественников.

После многомесячного расследования, проведённого итальянским органом по защите данных DPA (Data Protection Authority) в отношении ИИ-чат-бота ChatGPT, компанию OpenAI обвинили в нарушении законов о конфиденциальности ЕС. Подтверждённые нарушения в обращении с персональными данными могут повлечь за собой штрафы на сумму до €20 млн, или до 4 % годового оборота. У OpenAI есть 30 дней, чтобы ответить на обвинения.

Источник изображений: Pixabay

Итальянские власти выразили обеспокоенность по поводу соблюдения OpenAI Общего регламента защиты данных (GDPR) в прошлом году, что привело к временной приостановке работы чат-бота на европейском рынке. DPA Италии 30 марта в так называемом «реестре мер», подчеркнул отсутствие подходящей правовой основы для сбора и обработки персональных данных с целью обучения алгоритмов, лежащих в основе ChatGPT, склонность инструмента ИИ к «галлюцинациям» и потенциальные проблемы с безопасностью детей. Власти обвинили OpenAI в нарушении статей 5, 6, 8, 13 и 25 GDPR.

DPA располагают полномочиями требовать внесения изменений в способы обработки данных, чтобы прекратить нарушения конфиденциальности граждан ЕС. Таким образом, регуляторы могут заставить OpenAI изменить свой подход к обработке персональных данных или вынудить компанию прекратить предлагать свои услуги в странах Евросоюза.

Весной 2023 года OpenAI смогла относительно быстро возобновить функционирование ChatGPT в Италии после того, как устранила ряд нарушений, указанных DPA. Однако итальянские власти продолжили расследование и пришли к предварительным выводам, что инструмент ИИ от OpenAI нарушает законодательство ЕС. Итальянские власти пока не опубликовали список подтверждённых нарушений ChatGPT, но главной претензией к OpenAI, скорее всего, станет сам принцип обработки персональных данных для обучения моделей ИИ.

ChatGPT был разработан с использованием массы данных, извлечённых из общедоступного интернета — информации, которая включает личные данные отдельных лиц. А проблема, с которой OpenAI сталкивается в ЕС, заключается в том, что для обработки данных жителей ЕС требуется действительная правовая основа. GDPR перечисляет шесть возможных правовых оснований, большинство из которых просто не имеют отношения к данному контексту. В апреле прошлого года DPA Италии оставил для OpenAI только две законные возможности для обучения моделей ИИ: «подтверждённое согласие» или «законные интересы».

Учитывая, что OpenAI никогда и не пыталась получить согласие миллионов (а, возможно, миллиардов) пользователей интернета, чью информацию она собирала и обрабатывала для построения моделей ИИ, любая попытка заявить о наличии разрешения от европейцев на обработку их персональных данных обречена на провал. Поэтому у OpenAI осталась лишь возможность опираться на утверждение о «законных интересах». Однако эта основа также предусматривает право владельцев данных выдвигать возражения и требовать прекращения обработки своей персональной информации.

Источник изображения: OpenAI

Теоретически, каждый житель ЕС имеет право потребовать от OpenAI изъять и уничтожить незаконно обученные модели и переобучить новые модели без использования его данных. Но даже если предположить возможность идентификации всех незаконно обработанных данных, подобную процедуру предстоит произвести для каждого возражающего гражданина ЕС, что практически невозможно реализовать на практике.

Существует и более широкий вопрос: признает ли в конце концов DPA, что «законные интересы» вообще являются действительной правовой основой в этом контексте. Такое решение регулятора выглядит маловероятным. Ведь обработчики данных должны сбалансировать свои собственные интересы с правами и свободами людей, чьи данные обрабатываются, оценить возможность причинения им неоправданного вреда, а также учесть, ожидали ли люди такого использования их данных.

Примечательно, что в подобной ситуации Верховный суд ЕС ранее признал «законные интересы» неподходящим основанием для Meta✴ при отслеживании и профилировании пользователей в целях таргетирования рекламы в своих социальных сетях. Таким образом, существует негативный судебный прецедент для OpenAI, стремящейся оправдать обработку данных людей в огромных масштабах для создания коммерческого генеративного ИИ-бизнеса — особенно когда рассматриваемые инструменты создают всевозможные новые риски для названных лиц (дезинформация, клевета, кража личных данных и мошенничество лишь некоторые из них). OpenAI также находится под пристальным вниманием к соблюдению GDPR в Польше, где начато отдельное расследование по этому поводу.

OpenAI пытается нивелировать потенциальные регуляторные риски в ЕС, создавая отдельную организацию в Ирландии, которая в будущем должна стать поставщиком услуг ИИ для пользователей из ЕС. OpenAI надеется получить статус так называемого «основного учреждения» в Ирландии, что позволит ей использовать оценку соответствия требованиям GDPR только от Ирландской комиссии по защите данных и действовать в Евросоюзе через механизм «единого окна» регулирования, избежав надзора органов DPA каждой страны-члена ЕС.

Однако пока OpenAI ещё не получила этот статус, поэтому ChatGPT все ещё может столкнуться с расследованиями со стороны DPA в других странах ЕС. И даже получение статуса «основного учреждения» в Ирландии не прекратит уже открытое расследование и правоприменение в Италии.

DPA Италии сообщает, что органы по защите данных стремятся координировать надзор за ChatGPT, создав рабочую группу при Европейском совете по защите данных. Эти усилия могут, в конечном итоге, привести к более согласованным результатам в рамках отдельных расследований в отношении OpenAI. Тем не менее, на данный момент DPA каждого члена ЕС остаются независимыми и компетентными принимать решения на своих рынках самостоятельно.

Разработанная в «Сбере» модель искусственного интеллекта, которая легла в основу сервиса GigaChat, превзошла нейросеть OpenAI ChatGPT-3.5 по качеству ответов на русском и английском языках. Об этом сообщило агентство «ПРАЙМ» со ссылкой на заявление старшего вице-президента и руководителя блока «Технологии» в «Сбербанке» Андрея Белевцева.

Источник изображения: sber.ru

«Искусственный интеллект „Сбера” — нейросетевая модель GigaChat PRO — превзошла доступную на сегодня модель GPT-3.5-turbo от OpenAI по качеству ответов на английском языке», — заявил господин Белевцев. Специалисты компании пришли к такому выводу, подвергнув нейросеть экзамену MMLU (Massive Multitask Language Understanding), включающему в себя 57 вопросов по математике, физике, истории, медицине, вопросы на общие знания о мире и на способность решать проблемы. GigaChat превзошёл американского конкурента и в русском языке.

«Сбер» запустил сервис GigaChat в апреле минувшего года. Основанный на ИИ мультимодальный чат-бот поддерживает диалог с пользователем, пишет тексты и программный код, а также создаёт изображения — к платформе подключён генератор картинок Kandinsky. В сентябре GigaChat стал доступен всем желающим, а на сегодняшний день аудитория сервиса превысила 2,5 млн пользователей.

В преддверии анонса Apple новых функций ИИ для iOS 18, который, как предполагается, состоится в июне, компания усиливает исследования и разработки в этой области. Проанализировав код свежей бета-версии iOS 17.4, эксперты обнаружили попытки интеграции больших языковых моделей Apple в экосистему iOS, особенно в таких приложениях, как Messages и голосовой помощник Siri.

Источник изображения: Apple

В коде бета-версии iOS 17.4 был найден новый фреймворк SiriSummarization, представляющий собой частный интерфейс для работы с API ChatGPT, разработанного OpenAI. Это намекает на то, что Apple активно использует внешние ресурсы для совершенствования собственных разработок в области ИИ. Примечательно, что системные запросы в рамках SiriSummarization включают команды вроде «пожалуйста, сделай краткое изложение» и «пожалуйста, ответь на эти вопросы», что указывает на потенциальные возможности Siri в автоматической обработке и интерпретации текстовых данных.

Источник изображения: 9to5mac.com

Особое внимание в нововведениях Apple заслуживает интеграция ИИ с приложением Messages. Ожидается, что система сможет анализировать входящие СМС и сообщения iMessage, предлагая пользователю наиболее релевантные действия на основе контекста сообщения. Это может включать ответ на сообщение, напоминание, звонок или даже сохранение контакта. Ключевым моментом здесь является высокая точность и уверенность системы в предложенных действиях, оцениваемая по шкале от 0 до 1.

Источник изображения: 9to5mac.com

Тем не менее, следует отметить, что вряд ли Apple будет использовать модели OpenAI напрямую в своих ИИ-функциях для iOS 18. Скорее, эти модели служат эталоном для сравнения и тестирования собственных разработок Apple. Так, например, фреймворк SiriSummarization может выполнять функции краткого изложения, используя ИИ-модели, работающие непосредственно на устройстве пользователя. Это подчёркивает стремление Apple к обеспечению конфиденциальности и безопасности данных пользователей при работе с ИИ.

Источник изображения: 9to5mac.com

В ходе анализа кода iOS 17.4, в дополнение к SiriSummarization, было выявлено тестирование четырёх различных ИИ-моделей Apple. Среди них — внутренняя ИИ-модель Apple под названием Ajax, о которой ранее упоминал Bloomberg. В документации обнаружены две версии AjaxGPT, одна из которых работает непосредственно на устройстве, а другая — нет, что позволяет предположить о разнообразии подходов Apple к обработке пользовательских данных. Кроме того, в коде упоминаются модели ChatGPT и FLAN-T5, что свидетельствует о масштабности исследовательских усилий Apple в этой сфере.

Источник изображения: 9to5mac.com

Apple активно работает над интеграцией больших языковых моделей в iOS, стремясь к созданию собственной, уникальной ИИ-системы. Это подтверждается параллельной разработкой собственных ИИ-моделей и сравнением результатов их работы с уже существующими моделями, такими как ChatGPT и FLAN-T5. Журналист издания Bloomberg Марк Гурман (Mark Gurman) в октябре прошлого года уже писал о целях Apple в области разработки ИИ для будущей iOS 18. Тогда он упоминал, что в команде Крейга Федериги (Craig Federighi) есть чёткое указание на то, чтобы наполнить iOS 18 функциями, работающими на основе собственной большой языковой ИИ-модели Apple.

Почти год прошёл с тех пор, как Microsoft объявила об интеграции ИИ-чат-бота ChatGPT в свою поисковую систему Bing. Тогда софтверный гигант рассчитывал, что это поможет потеснить Google в сегменте интернет-поисковиков. Однако с тех пор доля Bing в глобальных масштабах осталась практически неизменной. Об этом пишет издание Bloomberg со ссылкой на данные StatCounter.

Источник изображения: Microsoft

По подсчётам StatCounter, поисковая система Bing завершила 2023 год с долей рынка всего 3,4 %, что менее чем на 1 % больше показателя на момент объявления об интеграции с ChatGPT в феврале того же года. Bing долгое время боролся с конкурентами, пытаясь доказать свою состоятельность в качестве альтернативы лидеру рынка в лице Google. Однако многочисленные ребрендинги и редизайны с момента дебюта Bing в 2009 году мало способствовали росту популярности продукта.

Несмотря на это, добавление функций на основе ИИ помогли Microsoft несколько увеличить время взаимодействия пользователей с поисковиком Bing. Также по данным Bloomberg Intelligence, во втором квартале 2023 года количество ежемесячно активных пользователей Bing в США увеличилось более чем в два раза по сравнению с аналогичным периодом 2022 года и составило 3,1 млн человек. По данным SensorTower, к концу года число ежемесячных пользователей Bing выросло до 4,4 млн человек.

Стремясь набрать обороты, Microsoft внедрила в Bing больше ИИ-функций. В октябре в поисковике стал доступен генеративный алгоритм DALL-E 3, который способен создавать изображения по текстовому описанию. Этот инструмент не улучшает поисковые функции Bing, но в Microsoft заявили, что после его запуска количество пользователей поисковика резко выросло.

Источник изображения: StatCounter

«Мы увидели, что количество пользователей увеличилось в 10 раз, и это застало нас врасплох, потому что, если задуматься DALL-E 2 уже был неплох. Это действительно повлияло на вовлеченность и количество пользователей, обратившихся к нашему продукту <…> Послушайте, это ещё только начало, и новые модели поведения продолжают формироваться. Мы всё ещё изучаем новые вещи, но уже миллионы и миллионы людей используют новые инструменты», — сказал в интервью Жорди Рибас (Jordi Ribas), корпоративный вице-президент Microsoft по поиску и искусственному интеллекту.

Несмотря на имеющееся преимущество поисковика Google, который занимает более 90 % рынка, Alphabet также стремится ускорить интеграцию ИИ-функций в свои продукты. Ещё в середине прошлого года Google запустила тестовую версию ИИ-поиска, но она так и не получила широкого распространения. Однако в этом году компания планирует интегрировать в свой поисковик инструменты на основе мощной нейросети Gemini, которую разработчики представили в 2023 году. В дополнение к этому Google остаётся поисковиком по умолчанию в устройствах Apple, что также даёт существенное преимущество.

Интеграция ИИ-функций в поисковики технологических гигантов отражает общее убеждение в том, что генеративные нейросети смогут кардинально изменить то, как люди ищут информацию в интернете. Для Microsoft интеграция ИИ-функций также является попыткой нарастить долю на глобальном рынке. Однако статистика указывает на то, что одно только добавление модных ИИ-функций не позволит превратиться в грозного игрока в этом сегменте.

Университет штата Аризона объявил о партнёрстве с компанией OpenAI на предмет внедрения ChatGPT в учебный процесс. В вузе ставят три цели для совместного проекта: «повышение успеваемости студентов, создание новых возможностей для инновационных исследований и оптимизация организационных процессов».

Источник изображения: Growtika / unsplash.com

«Наши преподаватели и сотрудники уже пользовались ChatGPT, и с запуском ChatGPT Enterprise, который помог нам преодолеть некоторые проблемы безопасности, мы решили, что есть смысл выйти на OpenAI», — рассказал ресурсу The Verge заместитель директора университета по информационным технологиям Кайл Боуэн (Kyle Bowen). Он добавил, что имеющие опыт в области искусственного интеллекта преподаватели помогут с его внедрением в кампусе.

В феврале руководство Университета штата Аризона начнёт принимать заявки о планах на использование ChatGPT — некоторые профессора используют платформу на занятиях уже сейчас. Она, например, применяется на курсе журналистики, а в отдельных случаях чат-бот может выступать в качестве наставника для студентов. В прошлом году университет запустил акселератор проектов в области ИИ, объединивший исследователей и инженеров для создания ИИ-сервисов. Вуз также открыл срочные инженерные курсы по повышению грамотности в области ИИ.

Для OpenAI это первый партнёрский проект с образовательным учреждением. Сейчас компания налаживает связи с организациями. Недавно было заключено соглашение с правительством штата Пенсильвания об использовании службы ChatGPT Enterprise государственными служащими.

Компания OpenAI, не привлекая особого внимания, отказалась от прямого запрета на использование её технологии в военных целях. До 10 января политика OpenAI запрещала «деятельность, сопряжённую с высоким риском физического вреда», включая «разработку оружия» и «военную деятельность». Новая формулировка сохраняет запрет на использование OpenAI во вред и в качестве примера приводит разработку или использование оружия, но полный запрет на военное использование исчез.

Источник изображений: ИИ-генерация Stable Diffusion/3DNews

Это неафишируемое редактирование является частью масштабного изменения страницы политики использования, которое, по словам компании, призвано сделать документ «более понятным и более читабельным» и включает в себя множество других существенных изменений. Реальные последствия изменения этой политики неясны. В прошлом году OpenAI уже отказывалась отвечать на вопрос, будет ли она обеспечивать соблюдение своего собственного чёткого запрета на военные действия перед лицом растущего интереса со стороны Пентагона и разведывательного сообщества США.

«Мы стремились создать набор универсальных принципов, которые легко запомнить и применять, тем более что наши инструменты теперь используются во всём мире обычными пользователями, которые также могут создавать GPT, — заявил представитель OpenAI Нико Феликс (Niko Felix). — Принцип “Не причиняй вреда другим” является широким, но легко понятным и актуальным во многих контекстах. Кроме того, в качестве ярких примеров мы специально привели оружие и ранения других людей». При этом он отказался сообщить, распространяется ли расплывчатый запрет на «нанесение вреда» на любое использование в военных целях.

«OpenAI хорошо осознает риски и вред, которые могут возникнуть в результате использования их технологий и услуг в военных целях», — считает эксперт по машинному обучению и безопасности автономных систем Хейди Клааф (Heidy Khlaaf). По её мнению, новая политика ставит законность выше безопасности: «Между этими двумя политиками существует явная разница: в первой чётко указано, что разработка вооружений, а также военные действия и война запрещены, а во второй подчёркивается гибкость и соблюдение закона».

Клааф уверена, что разработка оружия и осуществление деятельности, связанной с военными действиями, в различной степени законны, а потенциальные последствия для безопасности очень вероятны. Она напомнила хорошо известные случаи предвзятости и галлюцинаций, присущие большим языковым моделям и их общую неточность. По её мнению, использование ИИ в боевых действиях может привести к неточным и предвзятым операциям и усугубить ущерб и жертвы среди гражданского населения.

«Учитывая использование систем искусственного интеллекта для нападения на гражданское население в секторе Газа, это примечательный момент — принять решение удалить слова “военные действия” из политики допустимого использования OpenAI, — говорит директор института AI Now Сара Майерс Уэст (Sarah Myers West). — Формулировка политики остаётся расплывчатой и вызывает вопросы о том, как OpenAI намерена подходить к обеспечению её соблюдения».

Хотя ИИ сегодня не может быть использован для непосредственного насилия и убийств, существует огромное количество смежных задач, которые ИИ выполняет для армии. Военнослужащие США уже используют технологию OpenAI для ускорения оформления документов. Национальное агентство геопространственной разведки, напрямую помогающее США в боевых действиях, открыто заявляет об использовании ChatGPT своими аналитиками. Даже если инструменты OpenAI в военных ведомствах используются для задач, не связанных с прямым насилием, они все равно косвенно помогают в ведении боевых действий и убийстве людей.

Военные по всему миру стремятся внедрить методы машинного обучения, чтобы получить преимущество. Хотя результаты больших языковых моделей выглядят чрезвычайно убедительными, они часто страдают от так называемых галлюцинаций, которые ставят под сомнение точность результатов и их соответствие действительности. Тем не менее, способность больших языковых моделей быстро воспринимать текст и проводить его анализ – или, по крайней мере, симулякр анализа – делает использование ИИ естественным выбором для министерства обороны, перегруженного данными.

В то время как некоторые представители военного руководства США выражают обеспокоенность по поводу рисков безопасности при использовании ChatGPT для анализа секретных и других чувствительных данных, Пентагон не отказывается от курса на использование ИИ. Заместитель министра обороны Кэтлин Хикс (Kathleen Hicks) полагает, что ИИ является «ключевой частью комплексного подхода к сетецентрическим военным инновациям». При этом она признаёт, что большинство текущих предложений «ещё недостаточно технически развиты, чтобы соответствовать нашим этическим принципам искусственного интеллекта».

Пользователи стали замечать, что в названии многочисленных товаров на разных интернет-площадках появилось предупреждение о нарушении политики OpenAI. «Извините, но я не могу выполнить запрос, поскольку он противоречит политике использования OpenAI», — говорится в сообщении, которое можно найти в описании разных товаров на Amazon и некоторых других интернет-площадка. С чем именно это связано, на данный момент неизвестно.

Источник изображений: The Verge

По данным источника, найти множество товаров с упоминанием о нарушении политики OpenAI можно, набрав в поиске на Amazon запрос «OpenAI policy». В результате можно увидеть массу товаров с подобным названием, включая предложения в категориях мебели, товаров для дома, сада и др. Отмечается, что проблема затрагивает не только Amazon, но и некоторые другие интернет-площадки, включая социальную сеть X (бывшая Twitter).

Вероятнее всего, проблема связана с тем, что большое количество продавцов на Amazon используют ИИ-бота ChatGPT от компании OpenAI для автоматизации составления карточек своих товаров. По всей видимости, алгоритм по какой-то причине некорректно обрабатывает запросы и вставляет в описания некоторых товаров предупреждения. Официальные представители Amazon и OpenAI пока никак не комментируют данный вопрос, поэтому точно неизвестно, что стало причиной появления сообщений о нарушении политики OpenAI в названии товаров.

Вчера компания OpenAI запустила магазин чат-ботов, разработанных пользователями ChatGPT. Как отмечает Bloomberg, в общей сложности пользователи сервиса уже смогли создать 3 млн индивидуализированных чат-ботов, но не совсем ясно, какая часть из них представлена в фирменном магазине приложений на момент его запуска. Со временем разработчики чат-ботов смогут получать прибыль от их реализации на этой площадке.

Источник изображения: Unsplash, Andrew Neel

Как известно, для создания таких чат-ботов не требуются навыки программирования, поэтому активность разработчиков будет достаточно высокой. Площадка получила название GPT Store, она имеет развитый рубрикатор и систему поиска чат-ботов с необходимой функциональностью. Среди примеров такого «народного творчества» можно обнаружить чат-боты, которые или помогают обучать детей математике, или содержат набор рецептов разноцветных коктейлей.

На этой неделе пользователям ChatGPT был предложен новый тариф для корпоративных клиентов, который потребует ежемесячной абонентской платы в размере $25 с человека. За эти деньги небольшие компании, занимающиеся разработкой ИИ-систем, смогут использовать инфраструктуру OpenAI и её языковые модели. Тарифный план для корпоративных клиентов впервые появился у OpenAI ещё в августе прошлого года.

Возможности заработка на кастомных чат-ботах у пользователей сервиса пока нет, но она будет предложена к концу марта, как поясняет Bloomberg. Разработчики чат-ботов для GPT Store в США будут получать деньги пропорционально популярности своих разработок. Первоначально OpenAI планировала запустить такой магазин приложений в конце ноября, но скандал с отставкой и возвращением на пост генерального директора Сэма Альтмана (Sam Altman) помешал своевременной реализации этого плана. В магазине приложений новые чат-боты будут представляться каждую неделю.

Компания Volkswagen объявила на выставке CES 2024, что автомобили с голосовым помощником IDA получат поддержку ChatGPT. Чат-бот с ИИ на основе большой языковой модели от OpenAI будет работать через платформу Cerence Chat Pro.

Источник изображения: vw.com

Поддержка ChatGPT появится на электромобилях Volkswagen ID.3, ID.4, ID.5 и ID.7, а также на новых Tiguan, Passat и Golf уже во II квартале в Европе. В США новой функции пока не будет — возможность её внедрения пока обсуждается внутри компании. Чат-бот с ИИ будет интегрирован в серверную часть голосового помощника IDA — водители пользуются им для управления информационно-развлекательной системой, навигацией, кондиционером, а также для поиска ответов на общие вопросы. ChatGPT расширит возможности голосового ассистента, «обогащая разговоры, проясняя вопросы, взаимодействуя естественным языком, предоставляя информацию о конкретном автомобиле и многое другое — исключительно без помощи рук», уточнили в Volkswagen. Пока в машинах производителя используется более скромная большая языковая модель Cerence CaLLM, которая поддерживает около 10 тыс. вопросов и ответов, касающихся автомобиля, бренда и операций.

С появлением ChatGPT голосовой помощник, как и прежде, продолжит вызываться по команде «Привет, IDA» или по нажатию кнопки на рулевом колесе. Если ассистент не сможет обработать запрос собственными силами, он будет анонимно направлен чат-боту с ИИ. Ответ придёт также на IDA с пометкой об источнике информации. Cerence помогла Volkswagen установить ограничения на ответы чат-бота — система не будет давать ответов за запросы с ненормативной лексикой, на тему интимной сферы, а также на прочие деликатные темы, включая геополитику. Иногда эти ограничения дают сбой, выяснил ресурс TechCrunch, но иногда срабатывают должным образом: чат-бот отказался комментировать достоинства машин Toyota, но сообщил, что Tesla удалось продать больше всего электромобилей в 2022 году.

Интеграция ChatGPT может стать для Volkswagen лишь началом нового этапа. Глава Cerence Стефан Ортманнс (Stefan Ortmanns) признался, что компании «изучают возможность сотрудничества для разработки нового пользовательского интерфейса на основе большой языковой модели в качестве основы автомобильного помощника Volkswagen следующего поколения».

На следующей неделе компания OpenAI запустит интернет-магазин, в котором пользователи смогут продавать и покупать кастомизированные версии популярного чат-бота на основе искусственного интеллекта ChatGPT, сообщил ресурс Bloomberg со ссылкой на электронные письма, отправленные компанией некоторым пользователям в четверг.

Источник изображения: Andrew Neel/Pixabay

OpenAI в прошлом году заявила, что планирует открыть такой интернет-магазин в ноябре. Здесь пользователи смогут размещать свои версии ИИ-чат-бота и находить адаптированные версии ChatGPT других пользователей. Пользователи смогут зарабатывать деньги, продавая свои версии чат-бота — так же, как это можно делать с приложениями в App Store или Play Маркет.

Однако запуск проекта пришлось отложить из-за неразберихи, создавшейся после внезапного увольнения в ноябре гендиректора Сэма Альтмана (Sam Altman) и последующего восстановления его на этой должности.

OpenAI объявила на конференции разработчиков в ноябре, что пользователи смогут сами создавать GPT (название пользовательских версий ChatGPT) без необходимости изучения даже основ кодирования. Эта функция позволит пользователям быстро создавать специализированные чат-боты, которые, например, могут учить детей математике или придумывать интересные рецепты коктейлей.

Четыре киберпреступника в Китае были арестованы за разработку программ-вымогателей с помощью ChatGPT и их применение, что стало первым подобным случаем в стране. И это при том, что популярный чат-бот от OpenAI официально не доступен в Китае, да и Пекин ужесточает меры в отношении иностранного ИИ.

Источник изображения: pexels.com

Согласно сообщению государственного информагентства Синьхуа, об атаке первой сообщила малоизвестная компания из Ханчжоу, системы которой были заблокированы вымогательским ПО. Хакеры потребовали 20 000 стэйблкоинов Tether, что эквивалентно 20 тыс. долларов, за восстановление доступа. Вероятно, это был не единственный подобный случай.

В конце ноября полиция арестовала двух подозреваемых в Пекине и ещё двух во Внутренней Монголии. Они признались, что «писали версии программ-вымогателей, оптимизировали программу с помощью ChatGPT, проводили сканирование уязвимостей, получали доступ путём проникновения, внедряли программы-вымогатели и занимались вымогательством», — говорится в сообщении. В отчёте не говорится, было ли использование ChatGPT частью обвинений. В Китае он находится в серой правовой зоне, поскольку Пекин стремится ограничить доступ к иностранным продуктам генеративного искусственного интеллекта.

После того как в конце 2022 года OpenAI представила своего чат-бота, вызвав «гонку вооружений» в этой области среди технологических гигантов, ChatGPT и подобные продукты заинтересовали китайских пользователей. Вместе с тем OpenAI заблокировала работу чат-бота в Китае, Гонконге и ряде других стран, таких как Россия, Северная Корея и Иран. Однако с помощью виртуальных частных сетей и телефонного номера из поддерживаемого региона можно обойти блокировку.

Судебные дела, связанные с генеративным ИИ, участились, учитывая популярность технологии. В том числе и в Китае. В феврале полиция Пекина предупредила, что ChatGPT может «совершать преступления и распространять слухи». В мае полиция северо-западной провинции Ганьсу задержала человека, который якобы использовал ChatGPT для создания фальшивой новости о крушении поезда и распространил её в интернете, получив более 15 000 переходов по ссылке с новостью. В августе полиция Гонконга арестовала шесть человек в рамках борьбы с мошенническим синдикатом, который использовал дипфейк для создания поддельных изображений идентификационных документов, используемых для мошенничества с кредитами, направленного на банки и кредиторов.

Споры вокруг этой технологии возникают и на Западе. Брайан Худ (Brian Hood), мэр австралийского города Хепберн-Шайр, в марте направил OpenAI судебное уведомление после того, как ChatGPT ошибочно обвинила его во взяточничестве и коррупционном скандале. В этом году Федеральная торговая комиссия США выпустила предупреждение о мошенниках, использующих клонированные ИИ голоса для выдачи себя за людей, что можно сделать с помощью всего лишь короткого аудиоклипа голоса человека.

В последнее время люди и организации, чьи работы были использованы для обучения больших языковых моделей, выступают против того, что они считают массовым нарушением интеллектуальной собственности. На этой неделе газета The New York Times подала в суд на OpenAI и Microsoft, главного спонсора ИИ-компании, утверждая, что нейросети компании использовали миллионы статей для обучения без разрешения.