Компания Microsoft сделала своего чат-бота Bing Chat, построенного на основе генеративной нейросети, доступным для пользователей браузеров сторонних разработчиков Google Chrome и Apple Safari. Специальное браузерное расширение, открывающее доступ к боту Bing, стало доступно на этой неделе ограниченному количеству пользователей.

Источник изображения: Microsoft / OpenAI

«Мы открываем доступ к чат-боту Bing в Safari и Chrome для ограниченного числа пользователей в рамках тестирования функции в других браузерах. Мы предоставим доступ к боту для большего количества пользователей после завершения стандартных процедур тестирования», — прокомментировал данный вопрос представитель Microsoft.

Пользователи Windows, которые получили доступ к чат-боту Bing в рамках программы тестирования, получат соответствующее уведомление во всплывающем окне, которое появится на панели задач Windows 10 или Windows 11. В сообщении им будет предложено испытать чат-бота в деле в браузере Chrome. Как именно уведомляются пользователи macOS о том, что им стал доступен чат-бот Microsoft, не уточняется. В сообщении также сказано, что расширение Bing работает с некоторыми ограничениями. Например, в сторонних браузерах чат-бот может обрабатывать запросы не длиннее 2000 символов, тогда как в Edge он способен работать с запросами длиной до 3000 символов.

OpenAI запустила бета-тестирование функции «Пользовательские инструкции» (Custom Instructions), с помощью которой пользователь может сообщить чат-боту сведения о себе и определить настройки сервиса, пишет The Verge. Функция доступна с сегодняшнего дня по подписке для участников программы ChatGPT Plus во всех странах, кроме Великобритании и ЕС.

Источник изображения: Pixabay

Новая функция позволит устранить необходимость в постоянной преамбуле к вопросам, задаваемым чат-боту. Вместо того чтобы формировать длинный вопрос для ChatGPT со всем необходимым контекстом и информацией, можно просто добавить этот контекст и информацию в свои пользовательские инструкции, чтобы не повторять их каждый раз. Например, если вы сообщите системе, что преподаёте в третьем классе, ответы на запросы будут адаптироваться ИИ-ботом с учётом нужной возрастной группы учащихся.

Настройки пользовательских инструкций подчиняются тем же правилам, что и сам ИИ-бот, поэтому попытки спровоцировать его неэтичное или неприемлемое поведение будут безрезультатными. ChatGPT также удаляет личную информацию, которая может быть использована для идентификации пользователя.

Следует отметить, что OpenAI представляет новую функцию как способ упростить составление запросов, а не как первый шаг к всеобъемлющему личному помощнику на основе ИИ.

По данным колумниста издания Bloomberg Марка Гурмана (Mark Gurman), компания Apple разрабатывает фреймворк для создания генеративного искусственного интеллекта, а также уже разработала собственный ИИ-бот, аналогичный ChatGPT.

Источник изображения: Bloomberg

Со ссылкой на анонимные источники Гурман сообщает, что ключевой технологией для разработки ИИ в исполнении Apple служит платформа с кодовым названием Ajax. Она предназначена для создания больших языковых моделей, аналогичных тем, что служат основной для чат-бота ChatGPT. Используя Ajax, небольшая команда инженеров Apple разработала чат-бота, который внутри компании якобы получил название Apple GPT. Сообщается, что сама платформа Ajax была разработана в 2022 году для «объединения разработок Apple, связанных с машинным обучением». Чат-бот в свою очередь является уже более поздней разработкой конца прошлого года и является своего рода экспериментом. Сам фреймворк Ajax построен на базе фреймворка Google Jax и работает в Google Cloud, отмечает колумнист издания.

В статье Bloomberg говорится, что Apple обеспокоена тем, как быстро инструменты генеративного ИИ стали массовым явлением, но в то же время жалеет о том, что «могла упустить момент потенциальных фундаментальных изменений в том, как работают современные передовые цифровые устройства». Отмечается, что отдел по вопросам машинного обучения и ИИ в Apple возглавляют Джон Джаннандера (John Giannandera), а также старший вице-президент по разработке программного обеспечения Крейг Федериги (Craig Federighi).

По словам источников Гурмана, приложение Apple Maps, «Поиск», а также Siri уже получили некоторые ИИ-улучшения, разработанные с помощью платформы Ajax. Однако они не доступны для потребителей и проходят закрытое тестирование. Сейчас же компания использует фреймворк для разработки больших языковых моделей, которые могут лечь в основу её аналога чат-бота ChatGPT. Правда, Apple пока не понимает, как интегрировать Apple GPT (название определённо неофициальное) в свою экосистему продуктов.

В настоящий момент чат-бот Apple доступен только через веб-интерфейс и тестируется небольшой командой инженеров, имеющих высший уровень доступа. Отмечается, что в тестовом режиме чат-бот используется для прототипирования новых продуктов, обобщения информации, а также может отвечать на вопросы с учётом тех данных, на базе которых его обучили. Компания запретила использовать любые выходные данные, полученные от чат-бота, для работы с потребителями. Источники Гурмана сообщают, что чат-бот Apple не обладает никакими новыми особенностями, которые выделяли бы его на фоне других аналогичных решений. В целом он работает так же, как ИИ-продукты вроде ChatGPT и Bing Chat, и другие аналогичные разработки.

Публично Apple практически ничего не говорит об искусственном интеллекте. Компания не произносила этот термин даже во время своей последней конференции WWDC 2023, вместо этого ссылаясь на достижения в области машинного обучения. Вместе с тем Apple определённо заинтересована в новых технологиях ИИ. Она продолжает разрабатывать соответствующий инструментарий, а также нанимает новых специалистов в области разработки больших языковых моделей, пишет Гурман.

По его словам, Apple пока не планирует в каком-либо виде использовать эти новые ИИ-технологии в потребительских продуктах. Но, например, улучшение возможностей Siri могло бы стать очевидным выбором. Пользователи продуктов Apple начинают замечать, что цифровой помощник Apple, выпущенный компанией ещё в 2011 году, сейчас уступает по возможностям тем же Amazon Alexa или Google Assistant.

Apple заметно медленнее адаптирует новые технологии ИИ по сравнению с такими компаниями, как OpenAI, Microsoft и Google, которые активно их используют в рамках своих открытых бета-тестов. В то же время такой неспешный темп соответствует общему подходу компании ко многим своим продуктам. Apple обычно ждёт, пока новые технологии «созреют», прежде чем предлагать их в составе своих устройств. Глава Apple Тим Кук (Tim Cook) сам пробовал пользоваться тем же чат-ботом ChatGPT, но в итоге пришёл к выводу, что эта технология пока всё ещё несёт риски, связанные с предвзятостью и дезинформацией.

На фоне публикации Гурмана акции Apple прибавили 2,3 %, достигнув отметки в $198,23. В свою очередь, акции компании Microsoft потеряли в цене около 1 %.

Компания Microsoft анонсировала чат-бот Bing Chat Enterprise, основой которого стала генеративная нейросеть. Он призван обеспечить более высокий уровень защиты информации для компаний, которые обеспокоены тем, что популярные сейчас генеративные алгоритмы не могут гарантировать конфиденциальность и безопасность данных.

Источник изображений: Microsoft

Предварительная версия Bing Chat Enterprise уже на этой неделе станет доступна пользователям некоторых тарифных планов Microsoft 365 без необходимости внесения дополнительной платы. В сообщении Microsoft сказано, что чат-бот будет доступен «везде, где поддерживается Bing Chat», включая веб-сайт bing.com/chat и боковую панель браузера Microsoft Edge.

Запуск Bing Chat Enterprise связан с тем, что крупные компании, такие как Apple и Samsung, банки с Уолл-Стрит и другие предприятия, запретили своим сотрудникам использовать на рабочих местах ChatGPT и прочие решения на основе генеративных нейросетей. Это связано с тем, что многие чат-боты используют получаемые в процессе взаимодействия с пользователями данные для дальнейшего обучения. В Microsoft согласны с тем, что «использование ИИ-инструментов, не предназначенных для предприятий, непреднамеренно подвергает риску конфиденциальные бизнес-данные».

Bing Chat Enterprise должен развеять опасения бизнеса по поводу конфиденциальности данных в процессе взаимодействия с чат-ботом. В компании заявили, что новый алгоритм не сохраняет данные чата и эта информация в дальнейшем не используется для обучения нейросетей. «У Microsoft нет прямого доступа — это означает, что никто не может просматривать ваши данные», — говорится в сообщении софтверного гиганта. Microsoft также добавляет, что сервис обеспечивает «коммерческую защиту данных».

Неизвестный разработчик создал свой собственный аналог ИИ-чат-бота ChatGPT, который в отличие от оригинала ориентирован на работу по ту сторону закона: чат-бот WormGPT предназначается для помощи киберпреступникам.

Источник изображения: Ralph Mühlfeld / pixabay.com

WormGPT появился на свет в марте, и только к июню разработчик начал продавать доступ к платформе на популярном хакерском форуме. В отличие от добропорядочных ChatGPT или Google Bard хакерский чат-бот лишён каких-либо ограничений, препятствующих ответам на вопросы о незаконной деятельности. В подтверждение этих слов разработчик привёл снимки экрана, показывающие, что можно попросить WormGPT написать вредонос на языке Python и получить у него совет по организации кибератаки. В качестве платформы при создании чат-бота использовалась относительно устаревшая большая языковая модель GPT-J с открытым исходным кодом от 2021 года. Она была обучена на материалах, связанных с разработкой вредоносного ПО, и на свет появился WormGPT.

Эксперты специализирующейся на кибербезопасности компании SlashNext опробовали WormGPT, и в ответ на их запрос чат-бот составил фишинговое электронное письмо для компрометации корпоративной электронной почты — оно было убедительным и включало хитроумные стратегические ходы, направленные на успешное осуществление атаки.

Доступ к WormGPT разработчик оценил в €60 в месяц или €550 в год. Продукт, возможно, пока ещё далёк от совершенства: один из покупателей пожаловался на низкую производительность платформы. Но, так или иначе, это очевидный признак того, что генеративный искусственный интеллект может стать оружием в руках киберпреступников. И со временем подобные технологии будут совершенствоваться.

Google рассказала о новых возможностях основанного на алгоритмах искусственного интеллекта чат-бота Bard. Он научился озвучивать свои ответы, овладел 43 новыми языками, включая русский, арабский, испанский, китайский, немецкий и хинди, а также стал воспринимать изображения в качестве запросов. Google Bard расширил свою географию — он стал доступен в Европе и Бразилии.

Источник изображения: blog.google

В Google отметили, что в отдельных случаях ответы чат-бота лучше воспринимаются на слух, а не в печатном виде, поэтому в интерфейсе появился значок динамика — Bard озвучивает свои реплики. Это может пригодиться, когда нужно свериться с произношением отдельного слова или хочется прослушать, например, стихотворение. Функция доступна более чем на 40 языках. Ответы Bard можно настраивать, изменяя их тон и стиль в соответствии с пятью доступными опциями: простой, длинный, краткий, профессиональный или повседневный — пока это работает только на английском, но скоро добавятся новые языки.

Сеансы переписки с ИИ-ботом теперь можно упорядочивать: закреплять некоторые из них в верхней части списка или переименовывать их. Ответами Bard можно делиться с другими, а подсказки по написанию кода экспортировать в разные среды разработки — Google Colab и Replit. Кроме того, чат-бот поддерживает отдельные функции Google Lens. Это значит, что в качестве запросов он воспринимает не только текст, но и изображения.

Выход Google Bard в Европе стал возможным после того, как компания выполнила предъявленные властями региона дополнительные требования к конфиденциальности платформы — из-за этих сложностей запуск чат-бота здесь первоначально пришлось отложить. Bard сообщает пользователям, причём не только европейским, как используются их персональные данные. Кроме того, разработчик снизил градус агрессии чат-бота, который поначалу иногда вёл себя грубо: специалисты Google специально провоцировали его на недопустимые интонации и указывали на недопустимость подобной манеры общения, впоследствии закрепляя усвоенное ИИ повторными опытами. Впрочем, эксперты в области ИИ предупредили, что отдельные меры безопасности, принятые для англоговорящих пользователей, пока могут не действовать для других языков.

По данным СМИ, Google отказалась от создания мобильного приложения с чат-ботом на базе ИИ для молодых пользователей (поколения Z), которое включало интерактивных цифровых персонажей. В рамках внутренней реорганизации компания пересмотрела приоритеты в этом направлении. Как правило, когда Google пересматривает приоритеты какого-либо продукта, это означает прекращение его разработки.

Источник изображения: ElisaRiva / Pixabay

Приложение под названием Bubble Characters, предлагало пользователям возможность выбрать для общения одного из нескольких цифровых персонажей. Это было особенно интересно для молодой аудитории, как указано во внутренней документации, с которой ознакомилось издание CNBC. Работа над этим продуктом началась в четвёртом квартале 2021 года.

В описании приложения говорится о «диалогах с ИИ, которые заставляют действовать и интересны представителям поколения Z». Для создания таких бесед использовались большие языковые модели (LLM), используемые для понимания и генерации текста на естественном языке. В примере, о котором рассказало CNBC, дружелюбный голос мультяшного персонажа вступал в разговор, задавал уточняющие вопросы и даже давал советы по взаимоотношениям.

Чат-бот Bubble Characters был одним из множества проектов на базе ИИ, в котором активно применялись большие языковые модели Google. В подразделении Assistant, ответственном за разработку виртуальных помощников для разных платформ, руководство компании отдаёт предпочтение конкуренту ChatGPT — Bard. Это происходит на фоне внутренней реорганизации, в результате которой ушли несколько ключевых руководителей. Некоторым членам команды Bubble Characters предложили приостановить работу над проектом и заняться Bard в преддверии его запуска.

Тем временем некоторые ведущие исследователи в области ИИ Google покинули компанию и основали свои стартапы, занимающиеся разработкой чат-ботов. Компания Character.AI, создающая чат-бота-компаньона и возглавляемая бывшими исследователями Google Ноамом Шазиром (Noam Shazeer) и Даниэлем Де Фрейтасом (Daniel De Freitas), привлекла 150 млн долларов под руководством известной венчурной компании Andreessen Horowitz.

Изменение стратегии Google в части разработки чат-ботов на базе ИИ является примером того, как быстро меняется сфера технологий искусственного разума. Это подчёркивает важность постоянного пересмотра приоритетов и гибкости в принятии решений для компаний, работающих в этой области. В то же время уход ведущих исследователей Google и появление новых компаний в сфере ИИ указывают на возрастающую конкуренцию и потенциальное разнообразие в области чат-ботов.

Anthropic выпустила в свободный доступ вторую версию своего чат-бота Claude. Компания советует воспринимать «Claude 2 как дружелюбного, увлечённого коллегу или личного помощника, которого можно проинструктировать на естественном языке». Контекстное окно Claude 2 вмещает почти 75 000 слов, что радикально больше 3000 слов у общедоступной версии ChatGPT. К тому же, по словам Anthropic, её чат-бот обладает чувством юмора. ИИ-бот уже доступен для жителей США или Великобритании на сайте Anthropic, а через VPN можно получить к нему доступ и из других стран.

Источник изображения: Anthropic

Бот Claude 2, которого Anthropic описывает как «полезного, безобидного и честного», может приводить краткие содержания текстов, писать код, переводить тексты и выполнять массу других семантических задач. По описанию его функциональность схожа с Google Bard или Microsoft Bing, но Anthropic утверждает, что он построен иначе. Его стиль общения более разговорный и человечный, чем у его «собратьев», кроме того он, предположительно, наделён чувством юмора. Claude 2 руководствуется набором принципов, называемых его создателями «конституцией», которые он использует для проверки своих ответов, не привлекая модераторов-людей.

Claude 2 значительно расширил свои возможности по сравнению с предшественником. В дополнение к способности создавать более длинные ответы, чат-бот теперь немного лучше разбирается в математике, кодировании и рассуждениях по сравнению с предыдущей моделью. Так, Claude 2 набрал 76,5 % при сдаче экзамена на адвоката, в то время как предшественник получил только 73 %. Согласно Anthropic, Claude 2 намного лучше «даёт безобидные ответы», не содержащие вредоносного контента, хотя Anthropic не исключает возможности, что чат-бот может быть спровоцирован.

Источник изображения: Pixabay

В отличие от Bard и Bing, Claude 2 не подключён к интернету и обучается на данных до декабря 2022 года. Хотя он не может отображать самую последнюю информацию о текущих событиях, его набор данных все же более свежий, чем тот, который использует бесплатная версия ChatGPT, ограниченная концом 2021 года.

Anthropic расширила контекстное окно Claude 2 примерно до 75 000 слов. Пользователь сможет загрузить в чат-бота десятки страниц или даже целый роман для анализа. Благодаря такому размеру контекстного окна, Claude 2 может создать краткое изложение сложной и очень длинной исследовательской работы. Его «собратья» накладывают гораздо более строгие ограничения: максимум ChatGPT составляет около 3000 слов, а контекстное окно Bing было недавно увеличено до 4000 слов.

Anthropic, поддерживаемая Google, первоначально запустила первую версию Claude в марте. Тогда этот чат-бот был доступен для предприятий только по запросу или в виде приложения в Slack. Теперь, когда Claude 2 стал общедоступным, множество пользователей постараются выяснить, достаточно ли более длинного контекстного окна, чтобы сбить этого «безобидного» бота с толку, как это уже было с другими чат-ботами.

Проект MDN Web Docs (ранее Mozilla Developer Network) представляет собой репозиторий документации для веб-разработчиков, помогающей обучаться созданию сайтов и реализовать различные сетевые проекты. Хотя сайт считается надёжным источником информации, подключение к нему компанией Mozilla ИИ-инструмента AI Help привело к настоящему скандалу.

Источник изображения: Alexandra_Koch/unsplash.com

Инструмент AI Help на основе генеративного ИИ разработан Mozilla для того, чтобы стать «компаньоном для решения проблем» веб-разработчиков, ищущих ответы в MDN Web Docs. На сайте имеется информация о CSS, HTML, JavaScript и других веб-технологиях. До недавних пор он был авторитетным ресурсом, информацию на который вносили как волонтёры, так и корпорации вроде Microsoft и Google и, конечно, сама Mozilla. MDN также содержит веб-документацию Samsung после того, как южнокорейская компания решила отключить собственные проекты — агрегаторы соответствующей документации. Как выяснилось, попытка Mozilla внести изменение в виде ИИ-инструмента вызвала негативную реакцию пользователей.

По данным представителей проекта MDN, AI Help должен был оптимизировать поиск информации разработчиками, сделав его «быстрым и лёгким». Известно, что используется API компании OpenAI для того, чтобы ИИ выдавал подходящую информацию из репозитория в ответ на запросы. На деле всё оказалось намного хуже.

В посте на GitHub в разделе проекта Yari, на основе которого построен сервис MDN, имеется немало отзывов, касающихся функции AI Help. Один из пользователей получил неверный ответ на вопрос, после чего опубликовал описание ситуации на GitHub — пост сопровождался многочисленными гневными отзывами, в которых новая функция называлась «хуже, чем бесполезной», подчёркивалось, что человекоподобные ответы «могут быть случайно верными, но могут содержать и убедительные фальшивки».

Многие комментаторы признали, что новинка наносит больше ущерба, чем способна принести пользы, и признали, что ИИ страдает галлюцинациями, характерными для LLM-решений. В итоге один из ключевых разработчиков-добровольцев MDN под ником sideshowbarker пообещал «поднять» проблему в самой Mozilla «настолько высоко, насколько сможет». Неизвестно, удалось ли ему преуспеть в этом, но сообщается, что кнопка AI Help более недоступна.

Компания OpenAI, разработавшая чат-бот ChatGPT, отключила возможность веб-поиска для своего творения. Оказалось, что ИИ-сервис позволял обходить защиту систем доступа к платному контенту и получать свободный доступ к публикациям новостных агентств и блогеров, для просмотра которых необходима соответствующая подписка.

Источник изображения: Mariia Shalabaieva/unsplash.com

Функция Browse with Bing, доступная для подписчиков ChatGPT Plus с марта текущего года, позволяла получать актуальную информацию в Сети в отличие от данных, с которыми приходилось иметь дело пользователям бесплатного ChatGPT. Как известно, бесплатная версия тренировалась на данных из интернета, опубликованных до конца 2021 года.

OpenAI пришла к выводу, что обход функционирующих по подписочной модели информационных сервисов недопустим, и ChatGPT Plus действительно может демонстрировать закрытый контент вопреки представлениям разработчиков об идеальных механизмах работы подключённой к Сети системы. Например, если пользователь просил предоставить полный текст, соответствующий тому или иному URL, бот выполнял его пожелание. Компания отключила функцию Browse with Bing до тех пор, пока проблема не будет устранена для того, чтобы защитить права владельцев контента.

OpenAI решилась пойти на такой шаг, безусловно, наносящий вред бизнесу. Вряд ли кому-либо из оплачивающих дополнительную функциональность ИИ-сервиса пользователей понравится новость о том, что их ограничивают в возможностях, предлагаемых альтернативными решениями на безвозмездной основе. Более того, поиск по сети может осуществлять даже «родственный» ChatGPT бот Bing Chat компании Microsoft, который тоже работает совершенно бесплатно.

Стартап Inflection AI, поддерживаемый многими тяжеловесами из Кремниевой долины США, заявил о привлечении $1,3 млрд от инвесторов, включая Microsoft и NVIDIA. Инвестиции представляют собой как денежные средства, так и т.н. облачные кредиты, то есть возможность использовать облачные сервисы. В результате общая стоимость компании, работающей на рынке всего год, достигла $4 млрд.

Источник изображения: Medienstürmer/unsplash.com

Компания создана одним из основателей Google DeepMind Мустафой Сулейманом (Mustafa Suleyman) и одним из основателей LinkedIn Ридом Хоффманом (Reid Hoffman). В прошлом месяце она представила чат-бот Pi и уделяет особое внимание потребительским ИИ-продуктам — бизнес рассматривается многими экспертами в качестве конкурента OpenAI.

Чат-бот Pi использует генеративные ИИ-технологии, аналогичные ChatGPT, для взаимодействия с пользователями посредством диалогов — это позволяет людям задавать вопросы и получать обратную связь. В Inflection AI заявляют, что намерены построить персонализированный ИИ, который поможет людям планировать работу, составлять расписания, искать информацию и выполнять другие задачи.

Сейчас в компании трудятся 35 сотрудников. В ходе первого раунда инвестиций в начале 2022 года компания собрала $225 млн, полученных от Microsoft, Greylock и венчурного инвестора Рида Хоффмана (Reid Hoffman). На прошлой неделе стартап опубликовал доклад о языковой ИИ-модели Inflection-1, на основе которой функционирует бот Pi. Заявляется, что модель превосходит большинство представленных на рынке моделей.

Большинство средств, как утверждается, будет потрачено на развёртывание вычислительных мощностей для разработки более производительных моделей. По словам Сулеймана, занимающего пост генерального директора компании, идёт строительство кластера из порядка 22 тыс. ускорителей NVIDIA H100. Это примерно в три раза больше, чем использовалось для тренировки GPT-4, и именно это позволит создать выдающийся продукт.

Стремительно развивающаяся индустрия продолжает привлекать инвесторов, а компании по всему миру ищут способы интегрировать ИИ в свои бизнесы, в то время как регуляторы обдумывают, как обуздать технологию и установить над ней контроль. Microsoft вкладывает средства как в Inflection AI, так и в её конкурента OpenAI. Также в роли инвесторов Inflection AI в последнем раунде помимо Хоффмана выступили Билл Гейтс (Bill Gates) и бывший глава Google Эрик Шмидт (Eric Schmidt).

Китайский поисковый гигант Baidu заявил, что его новейшая версия большой языковой модели Ernie 3.5 превзошла ИИ-чат-бот ChatGPT (на GPT-3.5) от OpenAI по общим возможностям, а также более продвинутую модель GPT-4 по нескольким китайскоязычным возможностям. Baidu сослалась на тестирование государственного издания China Science Daily на базе разных наборов данных, включая бенчмарки AGIEval и C-Eval, предназначенные для оценки моделей искусственного интеллекта.

Источник изображения: Pixabay

Ernie 3.5 уже три месяца находится в стадии бета-тестирования. За это время LLM-модель повысила эффективность обучения и инференса, ускорив и удешевив итерации и обновление до следующих версий.

Созданный на её основе ИИ-чат-бот Ernie Bot, представленный в марте этого года, стал первым крупным китайским ответом на выход ИИ-бота ChatGPT, спровоцировав гонку среди китайских технологических компаний, включая Alibaba Group Holding и Tencent Holdings, по разработке конкурирующих платформ.

Baidu интегрирует Ernie Bot в решения по нескольким направлениям бизнеса, от облачных вычислений до умных колонок. Также компания создала венчурный фонд в размере $140 млн для поддержки стартапов, подобных OpenAI.

Baidu надеется, что ИИ-бот Ernie Bot завоюет популярность на крупнейшем в мире интернет-рынке, привлекая пользователей крупных универсальных платформ, таких как WeChat компании Tencent. Следует отметить, что для запуска сервисов генеративного искусственного интеллекта в Китае требуется одобрение регулирующих органов.

Эксперты по кибербезопасности из Университета Маккуори (Австралия) разработали основанный на алгоритмах искусственного интеллекта чат-бот Apate — он обучен выдавать себя за человека в разговоре с телефонными мошенниками, а его цель состоит в том, чтобы удерживать собеседника на линии максимально продолжительное время.

Источник изображения: Sam Williams / pixabay.com

Идея запустить проект возникла, когда его руководителю профессору Дали Каафару (Dali Kaafar) позвонили телефонные мошенники, и учёный удерживал их на линии 40 минут, развлекая детей за обедом. Профессор решил, что этот процесс можно автоматизировать при помощи ИИ, подключив модели обработки естественного языка и создав чат-бот, способный выдавать себя за человека и вести телефонный разговор с мошенником. Проекту присвоили название Apate в честь Апаты — древнегреческой богини лжи и обмана.

В основе проекта лежит языковая модель, схожая с ChatGPT, к которой подключена система клонирования голоса. Apate обучали на текстах реальных взаимодействий с мошенниками: на расшифровках телефонных разговоров, а также на переписках по электронной почте и в соцсетях. Тестирование чат-бота проводилось на настоящих звонках мошенников. Для этого учёные решили их спровоцировать, выкупив несколько телефонных номеров, которые начали преднамеренно размещать на сомнительных интернет-площадках.

Цель проекта в том, чтобы удерживать собеседника на линии в течение 40 минут без конкретного результата — это достаточно продолжительное время, и большое число таких разговоров способно пошатнуть «бизнес-модель» преступников. Правда, пока среднее время диалога с Apate составляет всего 5 минут. В ряде случаев ИИ удивил и своих создателей — он проявлял изрядную находчивость в нестандартных ситуациях, когда мошенники запрашивали информацию, отсутствовавшую в обучающих материалах.

Представители преступного мира и сами сейчас активно внедряют ИИ, подключая технологии клонирования голоса и дипфейки. Поэтому проект Apate — это своего рода симметричный ответ на передовые решения у мошенников. Учёные предполагают, что подобных чат-ботов могли бы внедрять операторы телефонной связи.

Любители переносить современные приложения и игры на устаревшие устройства добрались до чат-бота ChatGPT, основой которого является генеративная нейросеть компании Open AI. Не так давно в интернете появилось приложение WinGPT, которое позволяет взаимодействовать с алгоритмом Open AI на устройствах, работающих под управлением выпущенной более 30 лет назад Windows 3.1.

Источник изображений: dialup.net

Согласно имеющимся данным, автором приложения является разработчик, ранее создавший Windle, клон популярной браузерной игры Wordle для Windows 3.1. «Я не хотел, чтобы мой Gateway 4DX2-66 1993 года выпуска остался в стороне от революции искусственного интеллекта, поэтому я создал ИИ-бота для Windows 3.1 на основе Open AI API», — прокомментировал данный вопрос сам разработчик, имя которого остаётся загадкой.

Приложение WinGPT написано на языке программирования C с использованием стандартного Windows API. Оно подключается к серверу Open AI с использованием стандарта шифрования TLS 3.1, поэтому для взаимодействия с нейросетью не требуется дополнительный компьютер с современной операционной системой. Поскольку Windows 3.1 поддерживает небольшой объём памяти, WinGPT может давать лишь краткие ответы на пользовательские запросы без учёта контекста. Также известно, что ярлык для WinGPT был создан в редакторе изображений Borland, клоне Microsoft Paint с возможностью создания файлов ICO.

«Большую часть пользовательского интерфейса я создал непосредственно на C, а это означает, что каждый элемент создавался вручную в коде. Я был удивлён, что набор стандартных элементов управления, доступных для использования любой программной с Windows 3.1, невероятно ограничен. У вас есть некоторые элементы управления, которые вы ожидаете — кнопки, флажки, переключатели, редактируемые поля, но любые другие элементы управления, которые могут вам понадобиться, включая те, что используются в самой операционной системе, недоступны», — добавил автор приложения WinGPT.

Любой обладатель компьютера с Windows 3.1 может скачать WinGPT с сайта dialup.net. Приложение может работать в 16- и 32-разрядных версиях Windows 3.1 с реализацией Winsock.

Данные более 100 тыс. пользователей чат-бота ChatGPT утекли в Сеть и оказались на торговых площадках даркнета, говорится в отчёте международной компании в сфере кибербезопасности Group-IB. Утечки зафиксированы в период с июня 2022-го по май текущего года.

Источник изображения: The Hacker News

Специалисты отмечают, что наиболее значительная выгрузка данных в даркнет была замечена в мае этого года.

«Количество доступных логов, содержащих скомпрометированные учётные записи ChatGPT, достигло пика в 26 802 записей в мае 2023 года. За последний год самая высокая концентрация учётных данных ChatGPT, выставленных на продажу, наблюдалась в Азиатско-Тихоокеанском регионе», — говорится в отчёте компании.

Если говорить по странам, то больше всего за наблюдаемый период утекло данных пользователей ChatGPT из Индии (12 632 записи), Пакистана (9217 записей) и Бразилии (6531 запись). Также в даркнете оказались данные пользователей чат-бота из Вьетнама, Египта, США, Франции, Марокко, Индонезии и Бангладеш.

Источник изображения: Group-IB

Специалисты Group-IB отмечают, что логи, содержащие скомпрометированную информацию о пользователях, активно продаются на торговых площадках даркнета. Среди прочего в этих данных содержится информация о доменах и IP-адресах скомпрометированных пользователей.

Анализ также показал, что большинство записей (78 348 штук) были похищены с помощью вредоносной программы Raccon для кражи информации, доступной в виде услуги Malware as a Service. Следом за ней идёт шпионское ПО для Windows и средство кражи информации Vidar. С его помощью было похищены данные о 12 984 аккаунтах ChatGPT. На третьем месте (6773 похищенные записи) оказался троян RedLine, который крадет файлы cookie, имена пользователей и пароли, кредитные карты, хранящиеся в веб-браузерах, а также учётные данные FTP и файлы с заражённого устройства.

Следует понимать, что речь идёт не только о краже личной информации. В учётной записи ChatGPT можно найти как личный, так и профессиональный контент, от коммерческих секретов компании, которых там быть не должно, до личных дневников.

«Например, сотрудники компаний могут вносить в поисковый запрос чат-бота секретную информацию или использовать бота для оптимизации проприетарного программного кода. Учитывая, что стандартная конфигурация ChatGPT сохраняет все запросы, утечка этих данных может предоставить злоумышленнику доступ к ценной информации», — говорится в комментарии Group-IB.