OpenAI, разработчик ChatGPT, открывает офис в Дублине и опубликовала вакансии, связанные с юридическими вопросами, конфиденциальностью и связями со СМИ. Офис компании в Дублине станет третьим после штаб-квартир в Сан-Франциско и Лондоне и первым на территории ЕС. Ирландия за последние годы стала практически «вторым домом» для многочисленных американских IT-компаний, стремящихся наладить связи с европейскими законодателями и клиентами, и оптимизировать издержки.

Источник изображения: OpenAI

OpenAI в настоящее время разместила 9 вакансий для сотрудников нового офиса. Их названия косвенно указывают на первоочередные задачи, стоящие перед новым подразделением. Помимо должностей, связанных с расчётом заработной платы и работой с клиентами, компания нанимает помощника генерального юрисконсульта в регионе EMEA, специалиста по глобальной политике и партнёрству, менеджера программы конфиденциальности, инженера-программиста по безопасности и менеджера по связям со СМИ.

OpenAI столкнулась с серьёзным противодействием в отношении ChatGPT, её чат-бота на базе генеративного ИИ. Например, Италия ещё в марте потребовала заблокировать ChatGPT из-за проблем с защитой данных, незаконной обработки персональных данных и отсутствия достаточных мер защиты для несовершеннолетних. Испания последовала этому примеру, несмотря на то, что OpenAI перезапустила ChatGPT в Италии, изменив настройки конфиденциальности и контроля.

Недавно к претензиям в адрес OpenAI присоединилась Польша, обвинив компанию в многочисленных нарушениях защиты данных. Польский регулятор утверждает, что OpenAI нарушает Общее положение о защите данных (GDPR) в таких областях, как прозрачность, доступ к данным, юридическое обоснование доступа, справедливость и конфиденциальность. Хотя возможно, что поводом для польских претензий стал отказ от планов по размещению офиса OpenAI в этой стране.

Очевидно, что Европа станет основным центром внимания для компаний, работающих в сфере ИИ. Закон ЕС об искусственном интеллекте пока находится в разработке, но после принятия он станет важнейшим нормативным актом в области ИИ и послужит примером для других стран.

Ранее в этом году генеральный директор OpenAI Сэм Альтман (Sam Altman) провёл несколько встреч с европейскими регуляторами, пытаясь предостеречь их от слишком жёсткого регулирования ИИ, несмотря на то, что недавно регулирующие органы США заявили о необходимости международного регулирующего органа для ИИ.

OpenAI собирается показать Брюсселю, насколько серьёзно она относится к вопросам конфиденциальности и соблюдению законодательства ЕС, хотя её текущие усилия в Европе меркнут по сравнению с миллионами, которые потратили на лоббирование такие компании, как Meta✴, Alphabet и Microsoft.

Meta✴ начала работу над созданием новой ИИ-модели, стремясь достигнуть и превзойти уровень последней разработки OpenAI — нейросети GPT-4. Компания закупает ускорители NVIDIA H100 для обучения ИИ и расширяет свои дата-центры. Старт обучения новой ИИ-модели запланирован на начало 2024 года. Проект нацелен на создание ИИ-инструментов нового поколения, способных имитировать человеческое общение.

Источник изображения: steve_a_johnson / Pixabay

Это станет логичным развитием существующих наработок Meta✴ в области генеративного ИИ. По имеющейся информации, компания тестирует чат-бот для Instagram✴ с 30 различными личностями. Марк Цукерберг (Mark Zuckerberg) настаивает на том, чтобы новая ИИ-модель стала бесплатной для компаний, создающих ИИ-инструменты.

Тем не менее, Meta✴ сталкивается с рядом проблем, включая высокий уровень текучки кадров среди исследователей ИИ и жёсткую конкуренцию со стороны других технологических гигантов. Apple, например, вкладывает миллионы долларов в разработку своей ИИ-модели Ajax, которую считают более мощной, чем GPT-4. Кроме того, Microsoft активно интегрирует ИИ в свои инструменты для повышения производительности, а Google планирует использовать генеративный ИИ в Assistant. От них не отстаёт и Amazon, также развивающая собственные генеративные ИИ-проекты.

Проект Meta✴ по созданию новой ИИ-модели обещает стать значимым шагом в развитии востребованной технологии. Успех в этом направлении может открыть новые горизонты для индустрии, предоставив инструменты, способные эффективно имитировать человеческое общение. Однако путь к реализации проекта нелёгок: компании придётся преодолеть множество препятствий, в том числе регуляторных, и предложить пользователям продукт, соответствующий высоким стандартам качества и безопасности.

OpenAI признала, что существующие инструменты для обнаружения текстов, созданных ИИ, неэффективны и часто дают ложные срабатывания. В обновлённом разделе с часто задаваемыми вопросами (FAQ) компания подчёркивает, что даже сам ChatGPT не способен точно определить, создан текст человеком или машиной. Эксперты призывают отказаться от автоматизированных инструментов обнаружения ИИ и полагаться на человеческий опыт и интуицию.

Источник изображения: mozarttt / Pixabay

На своём сайте в разделе FAQ под заголовком «Как преподаватели могут реагировать на то, что студенты выдают работы, созданные ИИ, за свой собственные?» компания рассказывает о том, работают ли детекторы ИИ: «Коротко говоря — нет. Несмотря на то, что некоторые компании (включая OpenAI) выпустили инструменты, предназначенные для обнаружения контента, созданного ИИ, ни один из них не смог достоверно отличить контент, созданный ИИ, от контента, созданного человеком».

Такие детекторы ИИ, как, например, GPTZero, часто дают ложные срабатывания из-за того, что в их основе лежат непроверенные методы детекции. В конечном счёте, нет ничего особенного в текстах, созданных ИИ, что всегда отличало бы их от текстов, написанных человеком. К тому же детекторы можно обойти, перефразировав текст. В июле OpenAI прекратила поддержку своего экспериментального инструмента AI Text Classifier с печальным показателем точности 26 %.

Компания также разрушает другой миф, что ChatGPT может определить, создан текст машиной или нет: «К тому же, у ChatGPT нет „понимания“, какой контент может быть создан ИИ. Он иногда выдумывает ответы на вопросы вроде „ты написал это [эссе]?“ или „это могло быть написано ИИ?“. Эти ответы случайны и не имеют под собой никаких оснований».

OpenAI также говорит о склонности своих ИИ-моделей сообщать ложную информацию: «Иногда ChatGPT звучит убедительно, но может дать неверную или вводящую в заблуждение информацию (часто называемую „галлюцинацией“). Он даже может выдумывать вещи вроде цитат или ссылок, поэтому не используйте его как единственный источник для исследований». Так, например, в мае нью-йоркскому адвокату, который воспользовался ChatGPT и получил в ответ вымышленные факты, грозила потеря лицензии.

Несмотря на то, что детекторы ИИ не работают, это не значит, что человек никогда не сможет обнаружить текст, созданный ИИ. Например, преподаватель, знакомый с письменным стилем ученика, может заметить, когда его стиль или уровень знаний внезапно меняются.

К тому же, некоторые неаккуратные попытки выдать текст, созданный ИИ, за свой собственный, могут иметь характерные признаки, такие как фраза «как модель языка ИИ», что указывает на то, что человек просто скопировал и вставил ответ, полученный от ChatGPT, даже не прочитав его. Недавно в научном журнале Nature была опубликована статья о том, как в одной научной статье читатели обратили внимание на фразу «Regenerate response» (сгенерировать новый ответ), которая является элементом интерфейса ChatGPT.

На текущем этапе технологического развития безопаснее всего избегать полностью автоматизированных инструментов для определения текстов, созданных с помощью ИИ. Это подтверждает и мнение Этана Моллика (Ethan Mollick), профессора из бизнес-школы Уортона (Wharton School of the University of Pennsylvania) и аналитика в области ИИ. Он подчёркивает, что на данный момент детекторы ИИ имеют высокий уровень ложных срабатываний, и ими пользоваться не следует.

Таким образом, вопрос об отличии машинного текста от человеческого остаётся открытым, а ответ на него, возможно, лежит в области интуитивного понимания и профессионального опыта каждого отдельного человека.

Компания OpenAI объявила о планах провести первую конференцию для разработчиков OpenAI DevDay. Однодневное мероприятие, запланированное на 6 ноября, соберёт в Сан-Франциско (Калифорния, США) разработчиков со всего мира. Они смогут принять участие в технических сессиях и демонстрациях новых продуктов.

Источник изображения: Neowin

Посредством конференции OpenAI стремится укрепить свои отношения с сообществом разработчиков. Это играет ключевую роль в быстром внедрении технологий искусственного интеллекта.

«Однодневное мероприятие соберёт сотни разработчиков со всего мира вместе с командой OpenAI, чтобы изучить новые инструменты и обменяться новыми идеями. Участники конференции также смогут присоединиться к секционным заседаниям, которые будут проводиться техническими специалистами OpenAI. Мы с нетерпением ждём возможности показать наши последние решения, которые позволят разработчикам создавать новые продукты», — отметила компания.

Сегодня более двух миллионов разработчиков используют модели OpenAI, такие как GPT-4, GPT-3.5, Dall-E и Whisper, в своих приложениях и продуктах. На конференции OpenAI DevDay компания, вероятно, представит обновления диалогового агента ChatGPT, использующего языковые модели GPT-4 и GPT-3.5.

Хотя те же Google и Microsoft стремятся не отставать от конкурента и предлагают свои модели ИИ, OpenAI называет себя авангардом инноваций в области искусственного интеллекта. Недавно компания запустила корпоративную версию ChatGPT Enterprise с дополнительными функциями и средствами защиты конфиденциальности, которые недоступны в обычных версиях ChatGPT.

Подробную информацию о регистрации для участников конференции OpenAI предоставит позже. Компания также планирует транслировать основную часть DevDay в прямом эфире.

Годовая выручка компании OpenAI, занимающейся разработкой и лицензированием технологий на основе машинного обучения, приближается к $1 млрд, пишет Bloomberg. Технологии компании используются в основе ChatGPT — генеративного бота с искусственным интеллектом, получившего значительную популярность среди множества компаний и привлекшего значительную волну инвестиций в область ИИ.

Источник изображения: Mariia Shalabaieva / unsplash.com

Стартап, поддерживаемый компанией Microsoft, зарабатывает около $80 миллионов ежемесячно, сообщил изданию источник, проинформированный по этому вопросу, но попросивший об анонимности. Впервые о доходах OpenAI сообщило издание The Information, в частности, отметив, что в 2022 году компания потеряла около 540 миллионов долларов на разработке языковой модели GPT-4 и чат-бота ChatGPT.

OpenAI считается одной из нескольких компаний, находящихся в авангарде разработок генеративного искусственного интеллекта, способного создавать контент, от видео до стихов, с помощью нескольких простых пользовательских команд. С момента дебюта своего бота в ноябре OpenAI лицензирует его молодым компаниям и крупным корпорациям, а также помогает внедрять технологию в их экосистемы бизнеса, продуктов и сервисов.

В этом месяце компания запустила корпоративную версию ChatGPT с дополнительными функциями и средствами защиты конфиденциальности. Это самая значительная попытка стартапа привлечь широкий круг бизнес-клиентов и увеличить доходы от своего самого известного продукта.

Внедрение ChatGPT Enterprise — шаг вперёд в планах OpenAI по зарабатыванию денег на своём сверхпопулярном, но весьма дорогом в вопросе внедрения и эксплуатации продукте. Для работы модели искусственного интеллекта требуются значительные специализированные вычислительные мощности. Компания уже реализовала несколько моделей получения дохода с ChatGPT, например, предложив клиентам премиальную подписку, а также платный доступ к интерфейсу программирования ПО, который разработчики могут использовать для добавления чат-бота в другие приложения.

ИИ-чат-бот Bing Chat стал доступен в Google Chrome для настольных компьютеров на Mac, Windows и Linux. Bing Chat теперь отображается в верхней части сайта bing.com в настольных браузерах Chrome, что позволяет пользователям взаимодействовать с ботом — ранее чат-бот был доступен только в Edge. Одновременно с этим Microsoft обновила пользовательский интерфейс Bing Chat в Edge и расширила доступность Bing Chat Enterprise, включив в него как настольный Chrome, так и мобильный Edge.

Источник изображения: Microsoft

Несмотря на все усилия Microsoft по продвижению своего браузера Edge, его рыночная доля практически не росла. И если раньше стратегия Microsoft была сосредоточена на ограничении использования своих продуктов для пользователей конкурирующих браузеров, то теперь ситуация изменилась. После непродолжительного периода развёртывания Bing Chat только в рамках Edge, теперь бот широко поддерживается в настольном браузере Chrome.

Microsoft официально подтвердила, что в последнем обновлении Stable Channel Bing Chat и Bing Chat Enterprise теперь поддерживаются в настольных браузерах Chrome для Mac, Windows и Linux. Bing Chat Enterprise теперь также поддерживается и в мобильной версии Edge. Заявлена грядущая поддержка других настольных и мобильных браузеров, но сроки компания пока не сообщила.

Теперь при посещении bing.com в настольном браузере Chrome в верхней части экрана появляется опция «Чат Bing». После клика на иконку перед пользователем открывается окно чата, в котором можно сформулировать запрос для бота. Ответ бота, кроме всего прочего, включает в себя ряд цитат, показывающих источники информации, использованные ИИ.

Google активно пытается догнать Microsoft в разработке ИИ. Успешный дебют ChatGPT от компании OpenAI, финансируемой Microsoft, потребовал от менеджмента Google адекватных ответных мер. Сооснователь Google Сергей Брин вернулся к активной деятельности в компании, возглавив проект Gemini, который должен превзойти ИИ конкурентов. По слухам, этот продукт Google может быть запущен уже осенью.

OpenAI представила корпоративную версию ChatGPT, в которой сделан акцент на защиту конфиденциальной корпоративной информации. Множество компаний рассматривает возможность внедрения ИИ-платформы в свою деятельность, но сдерживающим фактором пока оставались соображения конфиденциальности и безопасности данных.

Источник изображения: Mariia Shalabaieva / pixabay.com

OpenAI отметила, что ChatGPT Enterprise предлагает повышенную безопасность, конфиденциальность и неограниченный высокоскоростной доступ к модели GPT-4, которая обеспечивает мощный анализ данных и позволяет задавать ChatGPT сложные вопросы. Проблемы конфиденциальности и безопасности серьёзно тревожат представителей бизнеса, которые опасаются, что их данные будут использоваться для обучения ChatGPT — конфиденциальная информация клиентов и секреты фирм должны оставаться неприкосновенными.

В OpenAI подчеркнули, что пользователи ChatGPT Enterprise смогут контролировать свои данные в полной мере, и на обучение моделей GPT они гарантированно не пойдут. В ближайшее время появятся инструменты для настройки знаний ChatGPT о компании, а также продвинутые инструменты аналитики. Появятся также тарифы ChatGPT Enterprise для небольших компаний. Корпоративная версия чат-бота отделена от базовой ChatGPT и потребительской премиум-подписки ChatGPT Plus. Уже использующие сервис компании смогут сохранить доступ к нему либо переключиться на его корпоративную версию, если необходим доступ к новым функциям.

Организации уже разрабатывают собственные инструменты с использованием генеративного искусственного интеллекта — многие предпочитают подключаться к GPT-4 через API и облачные платформы. Некоторые начали создавать свои собственные большие языковые модели в попытке защитить корпоративные данные. Появились поставщики услуг, предлагающие защиту данных при доступе к большим языковым моделям вроде GPT-4 — выход ChatGPT Enterprise станет очередным предложением на этом рынке. Недавно OpenAI представила инструменты для индивидуальной настройки GPT-3.5 под нужды конкретного бизнеса.

В мае этого года исследователи из Университета Индианы обнаружили в социальной сети X (тогда ещё Twitter) ботнет на базе ChatGPT. Ботнет, названный Fox8 из-за его связи с одноимёнными криптовалютными сайтами, состоял из 1140 учётных записей. Многие из них использовали ChatGPT для создания постов в социальной сети и для ответа на посты друг друга. Автоматически сгенерированный контент побуждал ничего не подозревающих людей перейти по ссылкам на сайты с рекламой криптовалют.

Источник изображения: unsplash.com

Эксперты уверены, что ботнет Fox8 может быть лишь верхушкой айсберга, учитывая, насколько популярными стали большие языковые модели и чат-боты. «Единственная причина, по которой мы заметили этот конкретный ботнет, заключается в том, что он работал небрежно», — отметил профессор Университета Индианы Филиппо Менцер (Filippo Menczer). Исследователи обнаружили ботнет, выполнив поиск на платформе по контрольной фразе «Как языковая модель ИИ…», которую ChatGPT иногда использует для подсказок по деликатным темам. Затем они вручную проанализировали учётные записи и выявили те из них, которыми управляли боты.

Несмотря на свою «небрежность», ботнет опубликовал множество убедительных сообщений, рекламирующих криптовалютные сайты. Очевидная лёгкость, с которой ИИ OpenAI был использован для мошенничества, означает, что продвинутые ботнеты могут использовать чат-боты на основе ИИ более изощрённо, не давая себя обнаружить. «Любой хороший плохой парень не допустит такой ошибки», — шутит Менцер.

ChatGPT и другие чат-боты используют большие языковые модели для генерации текста в ответ на запрос. Располагая достаточным количеством обучающих данных, серьёзными вычислительными мощностями и обратной связью от людей-тестировщиков, такие боты могут удивительно адекватно реагировать на широкий спектр входных данных. Но они также могут высказывать ненавистнические сообщения, демонстрировать социальные предубеждения, генерировать выдуманную информацию и помогать хакерам в создании вредоносного ПО.

Источник изображения: Pixabay

«Это обманывает и платформу, и пользователей», — говорит Менцер о ботнете на базе ChatGPT. Если алгоритм социальных сетей обнаружит, что публикация пользуется большой популярностью (даже если эта активность исходит от других ботов), он покажет публикацию большему количеству людей. Правительства и организации, желающие проводить кампании по дезинформации, скорее всего, уже разрабатывают или внедряют такие инструменты, уверен Менцер.

Исследователи уже давно обеспокоены тем, что технология, лежащая в основе ChatGPT, может представлять риск дезинформации, и OpenAI даже отложила выпуск следующей версии системы из-за подобных опасений. Профессор Калифорнийского университета Уильям Ван (William Wang) считает, что многие спам-страницы теперь создаются автоматически, и констатирует, что людям становится всё труднее обнаружить подобные материалы по мере совершенствования ИИ.

Лаборатория Вана разработала метод автоматического определения текста, сгенерированного ChatGPT, но его внедрение обходится дорого, поскольку он использует API OpenAI, а базовый ИИ постоянно совершенствуется. X может стать благодатной площадкой для испытаний таких инструментов. Менцер утверждает, что вредоносные боты в последнее время резко повысили свою активность, а исследователям стало сложнее изучать проблему из-за резкого повышения цен на использование API соцсети.

Ботнет Fox8 был удалён лишь после того, как исследователи опубликовали в июле статью, хотя они сообщали об этом ещё в мае. Менцер утверждает, что его группа перестала извещать X о своих исследованиях ботнетов. «Они не особо реагируют, — говорит он. — У них действительно нет персонала».

Принципиальная политика разработчиков моделей ИИ запрещает использовать чат-боты для мошенничества или дезинформации. OpenAI пока не дала комментариев по поводу ботнета, использующего ChatGPT.

OpenAI расширила возможности настройки чат-бота GPT-3.5 Turbo и позволила бизнесу адаптировать ИИ-сервис под конкретные задачи, например, для написания программного кода или поддержания определённого стиля общения. Это может значительно улучшить эффективность интеллектуальной системы в определённых областях.

Источник изображения: Tumisu / Pixabay

До этого момента бизнес-клиенты могли использовать только определённые конфигурации GPT-3, такие как davinci-002 или babbage-002. Теперь же, благодаря предварительному обучению, модель может быть адаптирована под конкретные нужды заказчика. OpenAI уточняет, что данные, использованные для настройки чат-бота, не будут использоваться для обучения других моделей за пределами клиентской компании.

GPT-3.5 Turbo представляет собой семейство ИИ-моделей, которое в начале года представила OpenAI. Оно способно обрабатывать до 4 000 токенов за раз, что в два раза больше, чем предыдущие модели. Ранние тестировщики отметили, что после настройки GPT-3.5 их запросы стали короче на 90 %.

Что касается стоимости, то обучение GPT-3.5 Turbo обходится в $0,0080 за 1000 токенов, а его использование — в $0,0120 за 1000 токенов ввода и вывода данных.

Не стоит забывать и о конкурентах. Microsoft также предлагает модели на основе GPT, которые можно настраивать в рамках сервисов AI Builder и Power Virtual Agents. Кроме того, OpenAI планирует предоставить возможность настройки GPT-4 уже этой осенью.

Осенью Google планирует представить свой новый и наиболее масштабный продукт на основе ИИ — Gemini. Разработанный специалистами из Google Brain и DeepMind, он не только будет конкурировать с популярным чат-ботом ChatGPT, но и, возможно, превзойдёт программное решение OpenAI.

Источник изображения: TheDigitalArtist / Pixabay

Появление в 2022 году чат-бота ChatGPT заставило Google задуматься о будущем своего поискового бизнеса. С тех пор компания активно демонстрирует свою приверженность развитию ИИ. После запуска собственного чат-бота Bard в марте, компания продолжает интегрировать технологии машинного обучения в свои продукты.

Gemini объединяет возможности больших языковых моделей и генерацию изображений на базе ИИ. Это означает, что Gemini сможет не только генерировать текст, но и создавать контекстные изображения. Кроме того, Google рассматривает возможность добавления других функций, например, анализа блок-схем или голосового управления программами.

Gemini, вероятно, станет основой для многих продуктов Google, включая корпоративные приложения, такие как Google Docs. Разработчикам нужно будет оплачивать доступ к Gemini, используя арендованные серверы на Google Cloud. Подробности станут известны к концу года, когда Google представит Gemini разработчикам приложений.

В работе над Gemini участвуют бывшие члены команд Google Brain и DeepMind, включая Пола Бархама (Paul Barham) и Тома Хеннигана (Tom Hennigan). Особое внимание привлекает участие сооснователя Google Сергея Брина (Sergey Brin), который играет ключевую роль в оценке и обучении ИИ-моделей Gemini. Google использует транскрибацию видео на YouTube для обучения Gemini, однако юристы компании тщательно следят за тем, чтобы не нарушать авторские права.

Запуск Gemini подчёркивает стремление Google к лидерству в области ИИ. Этот продукт может стать новым этапом в развитии технологий машинного обучения, предоставляя пользователям и разработчикам более широкие возможности и инструменты. В то время как конкуренция в этой области усиливается, Google делает ставку на инновации и качество, чтобы сохранить свою доминирующую позицию на рынке.

OpenAI, компания-разработчик популярного чат-бота ChatGPT на базе ИИ, объявила о приобретении стартапа Global Illumination, специализирующегося на разработке креативных инструментов с использованием искусственного интеллекта. Это первая публичная сделка по приобретению за семь лет существования компании.

Источник изображения: Pexels / Pixabay

Global Illumination была основана в 2021 году и занимается разработкой программных решений для таких компаний, как Instagram✴, Facebook✴, YouTube, Google, Pixar и Riot Games. В блоге OpenAI говорится о том, что вся команда Global Illumination присоединилась к OpenAI и будет работать над основными продуктами, включая ChatGPT . Условия сделки не раскрываются.

Последним творением Global Illumination стала многопользовательская онлайн-игра Biomesв стиле Minecraft. Судьба игры пока неясна, но можно предположить, что деятельность команды в OpenAI будет менее ориентирована на развлечения.

Хотя OpenAI до этого избегала приобретений, компания, поддерживаемая миллиардами долларов Microsoft и других крупных венчурных фондов, уже несколько лет инвестирует в стартапы в области ИИ. OpenAI активно ищет коммерческий успех. Несмотря на мировую известность ChatGPT, на его разработку было потрачено более $540 млн. При этом выручка OpenAI составила в прошлом году всего $30 млн. Однако генеральный директор Сэм Альтман (Sam Altman) заявил инвесторам о планах увеличить этот показатель до $200 млн в этом году и до $1 млрд в следующем.

Приобретение Global Illumination может стать ключевым моментом в стратегии OpenAI. В то время как ChatGPT уже завоевал популярность, интеграция новых технологий и привлечение новых экспертов может ускорить рост и развитие компании в будущем.

Исследователь технологий кибербезопасности Иоганн Ребергер (Johann Rehberger) «уговорил» ChatGPT произвести несколько потенциально опасных операций: прочитать сообщение его электронной почты, составить из него сводку и опубликовать эту информацию в интернете, сообщает The Wall Street Journal. В руках злоумышленника такой инструмент мог бы стать грозным оружием.

Источник изображения: Franz Bachinger / pixabay.com

Чат-боты на алгоритмах искусственного интеллекта вроде ChatGPT, как выразился господин Ребергер, «снижают входной барьер для атак всех видов. Не нужно уметь писать код. Не обязательно иметь глубокие познания в информатике или хакерском деле». Описанный им способ атаки неприменим к большинству учётных записей ChatGPT — он основан на экспериментальной функции, открывающей доступ к Slack, Gmail и другим приложениям. В ответственной за ChatGPT компании OpenAI поблагодарили эксперта за предостережение и сообщили, что заблокировали возможность повторного осуществления подобных атак.

Предложенный Ребергером механизм «командных инъекций» (prompt injection) — это новый класс кибератак, который раскрывается по мере внедрения компаниями технологий ИИ в свой бизнес и потребительские продукты. Подобные методы меняют представление о природе хакерского дела, и специалистам по кибербезопасности предстоит ещё открыть множество уязвимостей, прежде чем присутствие ИИ станет действительно повсеместным.

Лежащая в основе ChatGPT технология генеративного ИИ, которая позволяет создавать целые фразы и предложения — это нечто вроде средства автозаполнения «на максималках». Поведение чат-ботов ограничивается разработчиками: существуют инструкции, призванные не позволять им разглашать конфиденциальную информацию или запрещающие им высказывания оскорбительного характера. Но существуют решения, позволяющие обходить эти запреты. К примеру, Иоганн Ребергер попросил чат-бота создать сводку веб-страницы, на которой он сам написал большими буквами: «НОВЫЕ ВАЖНЫЕ ИНСТРУКЦИИ» — и это озадачило машину. Постепенно он заставлял ChatGPT выполнять самые разные команды. «Это как кричать на систему „А ну, делай это”», — пояснил Ребергер. По сути, он принудил ИИ перепрограммировать себя.

Методика «командных инъекций» оказалась работоспособной из-за важной особенности систем ИИ: они не всегда должным образом отличают системные команды от вводимых пользователями данных, пояснил профессор Принстонского университета Арвинд Нараянан (Arvind Narayanan). Это значит, что разработчикам ИИ следует уделять внимание не только классическим аспектам кибербезопасности, но и учитывать новые угрозы заведомо непредсказуемого характера.

Учёные сообщили об очередной проблеме, которая может преследовать чат-боты, основанные на платформах искусственного интеллекта — этот феномен называется «дрейфом» (drift), и он отражает деградацию интеллектуальных способностей системы.

Источник изображения: D koi / unsplash.com

Дебютировавший в прошлом году ChatGPT произвёл настоящую революцию в области искусственного интеллекта и даже косвенно способствовал разразившейся в Голливуде забастовке сценаристов. Но опубликованное учёными Стэнфордского университета и Калифорнийского университета в Беркли (США) исследование указывает на новую проблему ИИ: ChatGPT стал хуже выполнять некоторые элементарные математические операции. Этот феномен известен как «дрейф»: попытка усовершенствовать одну часть сложной модели ИИ приводит к ухудшению работы других её областей. И это, отмечают исследователи, значительно усложняет непрерывное совершенствование нейросетей.

Учёные пришли к такому выводу, когда протестировали две версии GPT: доступную для всех бесплатно 3.5; и 4.0, работать с которой можно только при наличии платной подписки. Чат-боту предложили элементарную задачу: определить, является ли определённое число простым. Простым, напомним, называется натуральное число, которое делится только на единицу и на себя. Если число достаточно большое, то человек не может оценить, является ли оно простым, в уме. А вот компьютер может справиться с этой задачей методом грубой силы: проверить его делимость на 2, 3, 5 и т. д. Основу теста составила выборка из 1000 чисел. В марте доступный по премиум-подписке GPT-4 давал правильные ответы в 84 % случаев, и это уже сомнительный результат для компьютера, но к июню доля правильных ответов рухнула до 51 %.

Источник изображения: wsj.com

В общем случае GPT-4 продемонстрировал деградацию в шести задачах из восьми. GPT-3.5, напротив, по шести задачам продемонстрировал прогресс, но в большинстве остался слабее своего продвинутого собрата. Повышение числа неправильных ответов отметили многие пользователи чат-ботов, и, согласно выводам учёных Стэнфорда и Беркли, это не субъективные ощущения — деградация подтверждается эмпирическими данными. «Когда мы выпускаем новые версии моделей, наш приоритет — сделать новые модели умнее по всем направлениям. Мы прилагаем усилия, чтобы новые версии совершенствовались во всём спектре задач. При этом наша методология оценки несовершенна, и мы её постоянно улучшаем», — прокомментировали научную работу в OpenAI.

О тотальной деградации моделей ИИ речи не идёт: в ряде тестов менее точный в целом GPT-3.5 показал прогресс, а GPT-4 свои результаты ухудшил. Помимо математических задач, исследователи предлагали чат-ботам ответить на 1500 вопросов. И если в марте чат-бот на базе GPT-4 отвечал на 98 % вопросов, то в июне давал ответы только на 23 %, и зачастую они оказывались слишком короткими: ИИ заявлял, что вопрос был субъективным, и собственного мнения у него нет.

Учёные Стэнфорда и Беркли говорят, что в своём исследовании они не призывают отказаться от технологий ИИ — это скорее пристальное наблюдение за их динамикой. Человек привык воспринимать знания как решение ряда задач, где каждая последующая основывается на предыдущей. В случае с ИИ схема оказывается другой: одному шагу вперёд соответствует шаг назад или в другом непредсказуемом направлении. ИИ-сервисы, вероятно, продолжат развиваться, но их путешествие будет проходить не по прямой линии.

Трафик на сайте ChatGPT, снизившийся в июне впервые с момента запуска сервиса в ноябре прошлого года, в июле продолжил падение, сообщил ресурс PCMag со ссылкой на данные аналитической компании Similarweb. Компания Similarweb, зафиксировавшая начало спада трафика ChatGPT месяц назад, отметила, что снижение «выглядит как устойчивая тенденция, учитывая, что за июньским падением на 9,7 % последовало снижение на 9,6 % в июле».

Источник изображения: Rolf van Root/unsplash.com

В США падение трафика в июне было ещё более резким, составив 15 %, хотя в июле, когда сервис ChatGPT появился на платформе Android, трафик упал лишь на 4 %.

Источник изображений: Similarweb

Similarweb назвала ключевым фактором падения трафика начавшиеся каникулы, поскольку ChatGPT стал для школьников и студентов популярным помощником по выполнению домашних заданий и написанию сочинений. «Более четверти аудитории ChatGPT приходится на возрастную группу от 18 до 24 лет в демографической модели веб-сайта Similarweb (которая не включает детей младше 18 лет)», — сообщила аналитическая фирма.

Так что, возможно, трафик на ChatGPT вернётся к прежним значениям этой осенью после завершения каникул. Вместе с тем начали поступать жалобы от пользователей, что в последние месяцы возможности ChatGPT ограничили, что негативно отразилось на его полезности. Впрочем в OpenAI назвали жалобы необоснованными. «Когда вы используете его более интенсивно, вы начинаете замечать проблемы, которых раньше не замечали», — написал в X (ранее Twitter) вице-президент OpenAI по продукту Питер Велиндер (Peter Welinder) в прошлом месяце.

В любом случае ChatGPT прошёл свой пик популярности на данный момент, отметила Similarweb. Чат-бот на основе ИИ показал стремительный рост в январе, став самым быстрорастущим сервисом в истории.

Официальное приложение ChatGPT для Android стало доступно для скачивания в магазине Google Play для пользователей из Бангладеш, Бразилии, Индии и США — в других странах оно выйдет позже. Аналогичным образом приложение сервиса постепенно расширяло географию присутствия после выхода для iPhone и iPad.

Источник изображения: play.google.com

Запуск официального приложения ChatGPT для Android состоялся в тот момент, когда интерес к чат-боту на основе искусственного интеллекта начал спадать: аналитические компании Similarweb и Sensor Tower указали на падение веб-трафика на платформе и снижение установок приложений по итогам июня. ChatGPT в течение нескольких месяцев сохранял звание самого быстрорастущего сервиса в истории, пока не вышла платформа микроблогов Meta✴ Threads, которая продемонстрировала взрывной успех.

Лежащая в основе приложения ИИ-модель OpenAI GPT-4 также является технологической базой для чат-бота Microsoft Bing — соответствующее приложение доступно на Android уже несколько месяцев. При этом аналогичная служба Google Bard в формате отдельного приложения пока не издаётся, работая только в веб-интерфейсе. Интерес к платформам искусственного интеллекта проявляют все технологические гиганты: недавно стало известно, что собственный чат-бот тестирует Apple.