Опрос
|
реклама
Быстрый переход
Хакер заставил GPT-4o работать в «режиме бога» — вообще без ограничений
01.06.2024 [12:33],
Павел Котов
Называющий себя этичным хакером пользователь Twitter под ником Pliny the Prompter в минувшей среду выпустил кастомную версию флагманской нейросети OpenAI, которую озаглавил GODMODE GPT. Ему удалось заставить новую модель GPT-4o обойти игнорировать все ограничения: она пользовалась ненормативной лексикой, рассказывала, как взламывать автомобили и готовить запрещённые вещества. Конечно, же, эксперимент долго продлиться не мог. Как только нейросеть GODMODE GPT обрела относительную вирусную популярность в соцсети X, на инцидент обратила внимание OpenAI и удалила кастомную модель с сайта всего через несколько часов после её выхода. Сейчас получить к ней доступ уже невозможно, но в оригинальной ветке автора в соцсети X сохранились скриншоты с «вредными советами» GPT-4o. Модель GPT-4o, возможно, была взломана с использованием архаичного интернет-жаргона leetspeak — подмены букв при наборе текста цифрами и спецсимволами, — что подтверждается скриншотами. В OpenAI не ответили на вопрос, можно ли использовать этот жаргон для обхода ограничений ChatGPT. Не исключено, что создавшему GODMODE GPT просто нравится leetspeak, и он взломал систему каким-то иным способом. Инцидент стал проявлением масштабного движения AI red teaming, в рамках которого этичные хакеры выявляют слабые места современных систем искусственного интеллекта, не нанося им значительного ущерба. Они обладают удивительными возможностями, но, как показал недавний опыт с Google и её обзорами в поиске, современный генеративный ИИ все ещё остаётся системой, которая хорошо угадывает, какие слова должны быть следующими в тексте, не обладая истинным интеллектом. ChatGPT показал сильнейший в истории скачок выручки у мобильного приложения после запуска GPT-4o
20.05.2024 [18:56],
Сергей Сурабекянц
Запуск OpenAI флагманской модели GPT-4o привёл к самому большому за всю историю росту доходов компании от мобильных устройств, хотя сама модель находится в свободном доступе в Сети. GPT-4o умеет обрабатывать текст, речь и видео, и эмоционально реагирует голосом в реальном времени. Согласно данным аналитической компании Appfigures, это нововведение подталкивает всё больше пользователей к переходу на платную подписку ChatGPT Plus. Хотя OpenAI заявила, что генеративная модель GPT-4o будет доступна пользователям бесплатно, это обещание не распространяется на пользователей приложения ChatGPT на мобильных устройствах. Для использования последней версии чат-бота им придётся оформить ежемесячную подписку ChatGPT Plus за $19,99. Это решение OpenAI породило повышенный спрос на подписку среди мобильных пользователей и привело к самому большому за всю историю росту доходов OpenAI от мобильных устройств. По информации Appfigures, чистый доход от мобильного приложения ChatGPT увеличился на 22 % в день запуска GPT-4o и продолжил рост в последующие дни. Чистый доход от приложения на следующий день после запуска GPT-4o составил $900 000, что почти вдвое превышает средний дневной доход в $491 000. Цифры дохода указаны после уплаты комиссионных Apple и Google. На прошлой неделе, с понедельника по пятницу, мобильное приложение ChatGPT заработало $4,2 млн выручки в App Store и Google Play. Это самый большой скачок доходов, который когда-либо демонстрировало приложение. Резкое увеличение выручки показывает наличие реального потребительского спроса на новейшие ИИ-технологии, даже если это дороже, чем подписка на Netflix. По мнению экспертов, эта тенденция в дальнейшем сохранится или даже усилится. Президент OpenAI опубликовал изображение, созданное GPT-4o — оно очень впечатляет
18.05.2024 [11:20],
Павел Котов
На этой неделе OpenAI представила модель искусственного интеллекта нового поколения GPT-4o. Буква «o» в её названии означает Omni, подразумевая, что она изначально поддерживает несколько форматов ввода — ранее мультимодальность предполагала преобразование всех нетекстовых форматов в текст. Президент и соучредитель OpenAI Грег Брокман (Greg Brockman) впервые опубликовал созданное GPT-4o изображение. Поддержка текста, изображений и звука в качестве входных данных означает, что модель также способна их генерировать. Приведённая выше картинка — не фотография, а творение GPT-4o. На ней изображён мужчина в футболке с логотипом OpenAI, который пишет на доске. Сверху находится частично стёртая надпись «Перенос между модальностями». Далее следует текст: «Положим, мы напрямую моделируем P (текст, пиксели, звук) посредством одного авторегрессионного трансформера. Каковы за и против?». Если присмотреться, можно разглядеть некоторые признаки того, что изображение было создано ИИ. Доска висит под неестественным углом, под ней непонятным образом находится ещё одна, рука мужчины имеет странную форму, а освещение неоднородно. Невероятной, вместе с тем, кажется способность ИИ генерировать длинные фрагменты связного текста — с этим с трудом справляется даже DALL-E 3. Генератор изображений GPT-4o широкой публике пока недоступен: пользователи ChatGPT с подключённой моделью нового поколения пока могут генерировать изображения лишь с DALL-E 3. Но президент OpenAI Грег Брокман уверяет, что компания прилагает значительные усилия, чтобы открыть к модели нового поколения полный доступ. |