GitHub Copilot, инструмент на базе ИИ для помощи в разработке программного обеспечения, отказался от использования исключительно ИИ-моделей OpenAI и переходит к мультимодельному подходу. В ближайшие недели GitHub добавит поддержку Claude 3.5 Sonnet компании Anthropic, позднее будет интегрирован Google Gemini 1.5 Pro, что даст разработчикам широкий выбор из ИИ-моделей, оптимизированных под различные задачи и языки программирования.

Источник изображения: GitHub

Помимо ИИ-моделей Anthropic и Google, GitHub также добавит в Copilot новые модели OpenAI, включая «думающий» GPT o1-preview и o1-mini, разработанные для более сложных вычислительных задач. Благодаря расширению поддержки различных ИИ пользователи смогут переключаться между ИИ-моделями в ходе одного сеанса, что позволит им гибко настраивать Copilot под свои нужды. Это также даст организациям возможность управлять доступными ИИ-моделями для команд разработчиков, предлагая оптимальные решения для выполнения специфических задач.

Мультимодельный подход GitHub Copilot подчёркивает, что универсальной ИИ-модели, способной решать все задачи, не существует: различные языки программирования и специфические требования разработчиков требуют гибкости и возможности выбора. Как отметил генеральный директор GitHub Томас Домке (Thomas Dohmke), следующая эра генерации кода на основе ИИ будет определяться не только мультимодельной функциональностью, но и возможностью выбора ИИ-моделей. Первыми доступ к мультимоделям получат веб-версия Copilot и Visual Studio Code.

GitHub также анонсировал дополнительные обновления Copilot, включая возможность редактирования нескольких файлов одновременно и расширение функциональности Visual Studio Code. В будущем Copilot получит поддержку Xcode, что сделает его ещё более гибким и универсальным инструментом для разработки, оптимизируя рабочие процессы и облегчая управление проектами на базе различных платформ.

Одновременно с обновлениями Copilot GitHub представил Spark — инструмент для разработки приложений на основе естественного языка. В отличие от традиционных средств разработки, Spark ориентирован на пользователей без навыков программирования, которые смогут создавать приложения, используя текстовые запросы, а разработчики получат возможность их точной настройки. Spark также поддерживает мультимодельный подход и работает с ИИ-моделями компаний OpenAI, Google и Anthropic. Однако на данный момент инструмент доступен лишь ограниченному числу пользователей в рамках раннего тестирования, а все заинтересованные могут записаться в список ожидания.

Переход GitHub на мультимодельный подход вызывает интерес и в отношении Microsoft Copilot — другого мощного ИИ-инструмента, созданного на основе разработок OpenAI и используемого в продуктах компании Microsoft. GitHub, купленный Microsoft в 2018 году, по сей день сохраняет независимость, что и делает возможным переход GitHub Copilot к мультимодельному подходу. Однако остаётся вопрос, будет ли Microsoft адаптировать мультимодельный подход для своих продуктов, ориентированных на более широкую аудиторию, поскольку спрос на мультимодели в корпоративной и пользовательской сферах отличается от спроса в сфере разработки.

Инвестиции в помощников по программированию на базе ИИ достигли почти $1 млрд с начала прошлого года. Microsoft, Amazon и Google включились в гонку за лидерство в этом сегменте, внедряя технологию в свои продукты, что уже приносит значительную прибыль как компаниям, так и разработчикам. Более того, в Microsoft заявили, что скоро перестанут нанимать программистов, которые не используют ИИ-помощников.

Источник изображения: Copilot

Компании, разрабатывающие ИИ-ассистентов для программирования, такие как Replit, Anysphere, Magic, Augment, Supermaven и Poolside AI, привлекли $433 млн только в этом году, что в совокупности с инвестициями прошлого года составляет почти $1 млрд. Стремление вкладывать деньги в ИИ-помощников для программирования указывает на то, что кодинг может стать первой областью, которая существенно трансформируется под влиянием последней волны технологий ИИ.

«Сегодня программная инженерия и программирование — это номер один среди областей, на которые влияет ИИ, — заявил Хади Партови (Hadi Partovi), генеральный директор некоммерческой образовательной организации Code.org, давний инвестор проектов Кремниевой долины и советник Airbnb, Uber, Dropbox и Facebook✴. — На сегодняшний день программирование без ИИ немного похоже на письмо без текстового редактора».

Интересно, что растущая уверенность в преимуществах ИИ-кодирования контрастирует с вопросами некоторых инвесторов об экономической выгоде генеративного ИИ и вероятной окупаемости прогнозируемых триллионных инвестиций в крупнейшие технологические компании (Big Tech) в вычислительную инфраструктуру для поддержки этой технологии в ближайшие годы. Но в то время как некоторые инвесторы сомневаются в экономической выгоде ИИ и рентабельности инвестиций Big Tech в его инфраструктуру, в Кремниевой долине наоборот растёт уверенность.

Ханна Сил (Hannah Seal), партнёр Index Ventures, которая инвестировала в стартап Augment, сказала, что «гораздо проще монетизировать ИИ, если вы можете встроить свой продукт в существующий рабочий процесс и сделать все преимущества мгновенно видимыми». Для неё вопросы монетизации ИИ-инструментов заключаются в следующем: «Каково время получения прибыли и насколько эта прибыль значима?». При этом она отмечает, что с ИИ-помощниками по кодированию таких вопросов уже не возникает.

Энтузиазм в отношении ИИ побудил стартапы и технологических гигантов Microsoft, Amazon, Meta✴ и Google бороться за доминирование в переполненном секторе, создавая ИИ-помощников и агентов, которые могут писать и редактировать программный код. Более того, руководитель совета директоров Code.org, в который входят Дэвид Тредвелл (David Treadwell), глава электронной коммерции Amazon, и Кевин Скотт (Kevin Scott), технический директор Microsoft, недавно сказал Партови, что их компания к концу года прекратит нанимать людей, которые программируют без использования ИИ.

Напомним, GitHub, пионер в области ИИ-кодирования, стал одним из первых, кто интегрировал большие языковые модели (LLM) в свои продукты. «Когда мы начали использовать GPT-3, мы быстро поняли, что он очень хорошо пишет код, и решили создать на его основе GitHub Copilot», — заявил Томас Дохмке (Thomas Dohmke), генеральный директор GitHub. GitHub Copilot, был запущен в 2022 году и уже насчитывает почти 2 млн платных подписчиков и, как утверждает Дохмке, он пишет код гораздо лучше, чем средний разработчик.

Источник изображения: GitHub

Доход GitHub, по состоянию на апрель, увеличился на 45 % по сравнению с прошлым годом, и по словам генерального директора Microsoft Сатьи Наделлы (Satya Nadella), годовой доход GitHub на начало этого месяца составил $2 млрд. «Copilot стал причиной более чем 40-% роста доходов GitHub в этом году и уже превышает по размеру весь бизнес GitHub с момента его приобретения», — отметил Наделла.

Тем не менее, IT-отделы крупных компаний всё ещё имеют некоторые опасения по поводу безопасности использования автоматизированных инструментов программирования для создания кода, готового к производству. Дохмке подчеркнул, что пока не следует ожидать внедрения сгенерированного искусственным интеллектом кода без ручного тестирования.

Компания GitHub представила инструмент на базе искусственного интеллекта Copilot Autofix для помощи программистам в быстром устранении ошибок в коде, которые впоследствии могут стать одной из главных причин нарушений безопасности всего проекта.

Источник изображения: Copilot

Copilot Autofix анализирует дефекты, обнаруженные в запросах на внесение изменений, предоставляет объяснения и предлагает исправления. Разработчики могут с лёгкостью отклонить, скорректировать или принять предложения ИИ-бота. При этом инструмент способен обрабатывать широкий спектр уязвимостей, включая SQL-инъекции и межсайтовый скриптинг (XSS), помогая устранять в коде как новые, так и существующие погрешности, поясняет ресурс TechSpot.

Источник изображения: TechSpot/GitHub

Как отмечается в пресс-релизе GitHub, «разработка программного обеспечения движется с головокружительной скоростью, и разработчики постоянно выпускают новые проекты и дорабатывают старые. Однако, несмотря на все их усилия, уязвимости безопасности всё же попадают в рабочий код, причиняя много неприятностей».

Хотя инструменты сканирования могут обнаружить недостатки, их исправление требует специальных знаний и значительного времени. Другими словами, проблема не всегда заключается в выявлении уязвимостей, а в необходимости их быстрого устранения. Во время публичной бета-версии ранее в этом году GitHub обнаружил, что разработчики решали проблемы безопасности более чем в три раза быстрее с помощью Copilot Autofix по сравнению с ручным исправлением.

Платформа GitHub объявила о выходе в общий доступ услуги Copilot Enterprise, включающей функции генерации кода и консультирующего разработчиков чат-бота, для клиентов — представителей крупного бизнеса.

Источник изображения: github.blog

Корпоративный GitHub Copilot получил интеграцию с Microsoft Bing (пока в бета-версии), и вскоре его пользователи смогут настраивать модель на основе существующей базы кода команды разработчиков. Пользователи смогут задавать вопросы чат-боту и получать на них ответы с учётом специфики организации. Многие крупные разработчики сегодня хранят документацию по продуктам в репозиториях GitHub, что помогает Copilot анализировать её с относительной лёгкостью. Администрация самой платформы GitHub хранит здесь почти все свои внутренние документы, признался гендиректор компании Томас Домке (Thomas Dohmke), и некоторые сотрудники уже начали задавать Copilot посторонние вопросы, например, о том, как уйти в отпуск.

Интеграция с Bing помогает помощнику на основе искусственного интеллекта ориентироваться в вопросах, которые могли претерпеть изменения с момента первоначального обучения модели — например, в отношении API или библиотек с открытым исходным кодом. Пока функция доступна лишь в версии Copilot Enterprise, и о её будущем для других версий в GitHub пока не говорят. Эксклюзивной для корпоративной версии останется тонкая настройка модели, которая появится в ближайшее время: клиенты смогут сами задавать набор репозиториев и настраивать модель на их основе. Это особенно актуально для разработчиков, которые пользуются не самыми популярными языками программирования или библиотеками, доступными только внутри организации.

Пока функция автоматического дополнения кода работает на базе устаревшей модели GPT 3.5 Turbo — GitHub ещё не имела возможности перевести её на GPT 4, но и существующая версия модели уже прошла несколько обновлений. И в отличие от Google администрация платформы не собирается предлагать разным клиентам разные модели в зависимости от их потребностей — всем доступны одинаковые решения.

Одна из сфер деятельности человека, которая эффективно автоматизируется средствами искусственного интеллекта — это разработка программного обеспечения, и корпорация Microsoft за счёт активного сотрудничества с OpenAI уже предлагает разработчикам приложений профильный инструмент GitHub Copilot. Компания Apple, по слухам, готовит нечто похожее.

Источник изображения: Apple

Подобную информацию распространяет Bloomberg со ссылкой на традиционные осведомлённые источники. Apple, по их данным, на протяжении последних 12 месяцев работает над крупным обновлением Xcode, которое добавит инструментарий для разработки приложений под платформы Apple, использующий возможности искусственного интеллекта для ускорения написания программного кода. Сейчас компания активно тестирует соответствующие функции внутри коллектива собственных разработчиков, но клиентам Apple они станут доступны до конца текущего года.

Новый инструментарий для разработчиков будет работать по примеру GitHub Copilot, предсказывая потребности программистов и предлагая автоматически дописать блок кода, используя алгоритмы большой языковой модели. Это позволит ускорить процесс создания приложений и удешевить его за счёт автоматизации отдельных этапов процесса. Попутно Apple намеревается использовать искусственный интеллект для первичного тестирования и отладки программного обеспечения. Скорее всего, на июньской конференции для разработчиков WWDC прозвучат откровения Apple на эту тему. Перед штатными разработчиками Apple руководством поставлена задача подготовить к следующему обновлению iOS как можно больше новых функций, связанных с использованием искусственного интеллекта.

Профильные обновления предусмотрены для новых версий iOS, iPadOS и macOS, хотя прогресс по всем этим направлениям не будет равномерным, поскольку некоторые новшества будут внедряться на протяжении нескольких последующих лет. Компания будет использовать искусственный интеллект для совершенствования пользовательских приложений и поисковых функций, а также фирменного голосового ассистента Siri. Последний научится грамотно отвечать на довольно сложные вопросы, а служба технической поддержки AppleCare будет активнее применять роботов для общения с клиентами.

Администрация платформы GitHub сообщила о выходе инструмента Copilot Chat из бета-тестирования — теперь он доступен всем желающим. Воспользоваться Copilot Chat могут платные подписчики GitHub; владельцы учётных записей, верифицированные как студенты и преподаватели; а также разработчики некоторых проектов с открытым кодом.

Источник изображения: github.blog

Ориентированный на нужды программистов чат-бот по-прежнему основан на большой языковой модели GPT-4 — флагманском продукте OpenAI, настроенном специально для сценариев разработки. Разработчики могут отдавать Copilot Chat команды естественным языком, например, пояснять фрагменты кода, обнаруживать в нём уязвимости и помогать в написании.

Модель GPT-4 была обучена на общедоступных данных и защищённых авторским правом работах — Microsoft подчёркивает, что это отвечает доктрине добросовестного использования. В администрации GitHub отметили, что единственный для разработчика способ исключить код из массива обучающих данных — перевести репозиторий в конфиденциальный режим. Модель GPT-4 эффективнее справляется с галлюцинациями, чем предыдущая версия нейросети, а Copilot Chat обладает дополнительными фильтрами для защиты от небезопасного кода: наличия в коде учётных данных или SQL-инъекций.

В октябре гендиректор Microsoft Сатья Наделла (Satya Nadella) доложил, что у Copilot уже более 1 млн платных подписчиков и около 37 тыс. корпоративных клиентов. Сейчас задача GitHub — сделать Copilot ещё привлекательнее, чтобы он не уступал конкурирующим решениям и перестал работать в убыток: ранее стало известно, что Microsoft теряет на Copilot в среднем по $20 в месяц на одного пользователя, а некоторые обходятся GitHub и по $80 в месяц. Среди конкурирующих решений значатся, в частности, бесплатные Amazon CodeWhisperer и Meta✴ Code Llama.

Платформа для разработчиков GitHub опубликовала свой ежегодный отчёт Octoverse, согласно которому Индия выбилась в мировые лидеры по росту числа разработчиков программного обеспечения. Компания также рассказала о новых инструментах искусственного интеллекта.

Источник изображений: github.blog

Сообщество разработчиков из Индии активно развивается. В ходе ежегодной конференции GitHub Universe 2023 крупнейшая в мире платформа разработчиков опубликовала доклад Octoverse, согласно которому только в 2023 году здесь появились 3,5 млн новых разработчиков из Индии, а общее их число достигло 13,2 млн. Если страна сохранит те же темпы роста, то к 2027 году обгонит США и станет крупнейшим центром разработки в мире. Влияние Индии на технологическую сферу является значительным, что видно по её вкладу в проекты с открытым исходным кодом, отметила Шаррин Напье (Sharryn Napier), вице-президент GitHub по вопросам Азиатско-Тихоокеанского региона.

Доклад GitHub показал, что число разработчиков в сегменте генеративного искусственного интеллекта за год выросло на 148 %. Помимо Индии, лидерами по числу разработчиков являются США и Германия, за которыми следуют Япония, Гонконг, Великобритания и Франция.

Администрация платформы также анонсировала выход инструмента GitHub Copilot Chat в общий доступ и рассказала о новом предложении GitHub Copilot Enterprise. GitHub Copilot Chat выйдет в декабре 2023 года — инструмент работает в диалоговом интерфейсе, позволяя при помощи команд естественным языком для ИИ-помощника обнаруживать ошибки в коде и отлаживать его. Он включён в подписки GitHub Copilot и бесплатен для студентов, преподавателей и разработчиков ПО с открытым исходным кодом. Чат Copilot работает на основе модели GPT-4 и предлагает собственные варианты кода — он ориентируется в контекстах, поясняет термины, обнаруживает уязвимости и исправляет ошибки. Чат доступен в среде JetBrains и на разных платформах. GitHub Copilot Chat также появится в веб-интерфейсе github.com и мобильном приложении GitHub.

Служба GitHub Copilot Enterprise предназначена для компаний — по цене $39 в месяц за рабочее место она предложит разработчикам помощь в создании кода, автоматизации задач и обеспечит безопасность корпоративного уровня. Она будет доступна с февраля 2024 года. Начнёт работу и партнёрская программа (Copilot Partner Program), направленная на расширение возможностей Copilot за счёт интеграции с внешними инструментами и сервисами. В 2024 году будет также запущена платформа GitHub Copilot Workspace, которая заполнит пробел между концептуализацией и разработкой — она предложит сгенерированные ИИ планы по реализации изменений.

Microsoft несёт убытки, предлагая подписку на свой ИИ-сервис GitHub Copilot всего за $10 в месяц, при фактических затратах, превышающих $20 на одного пользователя. Этот случай является лишь вершиной айсберга в сложной экономике ИИ, где расходы на оборудование, энергию и разработку ПО оказываются неоправданно высокими. Компания уже ищет пути оптимизации, включая пересмотр ценовой политики и внедрение более экономичных решений.

Источник изображения: GitHub

В начале 2023 года The Wall Street Journal уже писала о проблеме рентабельности ИИ для технологических гигантов, в числе которых Microsoft, Alphabet, Adobe и AWS (Amazon Web Services). Особое внимание привлекает ситуация с Microsoft и их сервисом GitHub Copilot, доступным по подписке за $10 в месяц. Несмотря на партнёрство с OpenAI и наличие более чем 1,5 млн пользователей, сервис остаётся убыточным.

Реальные операционные расходы в случае некоторых пользователей могут и вовсе достигать порядка $80 в месяц. Сервис, ориентированный на помощь программистам в создании и рефакторинге кода, пользуется высокой популярностью, однако высокие операционные затраты Microsoft ставят под вопрос его долгосрочную рентабельность. Перспективы изменения этой ситуации во многом зависят от возможного снижения стоимости вычислительных ресурсов.

ИИ является ресурсоёмкой технологией, требующей значительных капиталовложений не только в оборудование, но и в разработку ПО, а также в энергетику. Эти расходы, как показывает практика, не всегда окупаются, особенно на начальных этапах развития продукта или сервиса.

Для достижения рентабельности компания рассматривает различные стратегии. Одним из предложенных вариантов является повышение цен на ПО и услуги, созданные на основе ИИ. Как утверждается, и Microsoft, и Google планируют взимать дополнительные $30 за доступ к ИИ-функциональности в рамках своих корпоративных программных пакетов.

Компании также рассматривают возможность использования менее мощных, но более экономичных ИИ-решений. Например, вместо последней версии GPT-4 можно обойтись моделью ChatGPT 3.5, если она удовлетворяет требованиям тех или иных задач. Это позволяет снизить расходы без значительной потери в качестве.

Основанный на искусственном интеллекте ассистент GitHub Copilot уже упростил задачу программистам, но иногда он предлагает фрагменты кода, уже присутствующие в общедоступных репозиториях, и это чревато претензиями со стороны других разработчиков.

Источник изображения: github.blog

В 2022 году GitHub предложил опцию автоматической блокировки предложений, содержащих такой код, но в отдельных случаях программисты всё-таки считают нужным хотя бы ознакомиться с ним. В стремлении найти золотую середину GitHub начал тестировать функцию, которая даст пользователям такой выбор: Copilot не блокирует подобный код в автоматическом режиме, а показывает его в боковой панели, позволяя разработчику самостоятельно решать, что с ним делать. Со временем эта функция переместится в Copilot Chat.

Функцию блокировки выбрало большинство корпоративных клиентов GitHub, пояснил гендиректор платформы Томас Домке (Thomas Dohmke), включая Microsoft и сотрудников самого GitHub, но такой подход можно охарактеризовать как слишком грубый — всегда есть вероятность, что «вы воспроизводите всё, уже существует в каком-нибудь репозитории с открытым исходным кодом». Часто это касается базовых алгоритмов, например, сортировки, которая, как правило, существует в самых разных проектах. И теперь у программистов есть выбор: отказаться от предложенного фрагмента кода; использовать его напрямую, если это позволяет лицензия; или попросить Copilot переписать фрагмент, чтобы избежать полного копирования. Сейчас GitHub работает над тем, чтобы предлагаемые Copilot образцы кода заимствовались только из проектов, лицензия которых позволяет это делать.

Вероятность явного заимствования кода оказывается выше в начале проекта, когда объём контекста минимален. По мере работы над проектом Copilot всё реже предлагает фрагменты, содержащиеся в других репозиториях. В основе функции лежит очень быстрая поисковая система — в перспективе задержку планируют сократить до 10–20 мс. Система оперативно обнаруживает необходимый код и указывает его лицензию. Фрагменты приводятся в том порядке, в котором их обнаруживает поисковая система, но в GitHub говорят, что у разработчиков появятся различные варианты сортировки выдачи: по дате, по типу лицензии и по другим критериям.

Принадлежащая Microsoft платформа GitHub представила обновлённую версию ассистента Copilot X, предназначенную для оказания расширенной помощи программисту — теперь здесь есть функция чат-бота и голосовой ввод.

Источник изображения: github.blog

Программист может обращаться к Copilot X в случае затруднений, без необходимости просить помощи на профильных ресурсах — система подсказывает, как выполнять те или иные задачи при написании кода. Глава GitHub Томас Домке (Thomas Dohmke) привёл пример: Copilot X рассказала, как можно написать игру «Змейка» на Python. В окне чата система подсказывает, для чего предназначены те или иные фрагменты кода, предлагает способы его тестирования и исправления ошибок.

GitHub впервые рассказала о Copilot в 2021 году, а вышла платформа лишь в следующем году. Тогда это был инструмент, автоматически дописывающий отдельные строки кода, и он обрёл популярность среди сотни тысяч разработчиков. Сегодня название системы распространилось на широкий спектр прочих продуктов Microsoft от офисных программ до компонентов безопасности.

В новой версии ассистент программиста получил поддержку последней версии языковой модели GPT-4, однако она потребовалась не для всех компонентов: GitHub хочет использовать разные модели для разных задач. Функция автозавершения строки останется на предыдущей версии, потому что для её работы больше важна скорость, чем точность. А возможности GPT-4 нашли применение в новом чат-боте, где они более уместны. Для подключения Copilot X программистам придётся зарегистрироваться в списке ожидания — общедоступным инструмент пока не стал.

Во вторник Microsoft выступила с заявлением, призванным укрепить уверенность инвесторов в правильности ставки компании на генеративные ИИ-инструменты — несмотря на то, что экономическая турбулентность заставляет клиентов внимательно изучать целесообразность расходов на облачные технологии. Глава компании Сатья Наделла (Satya Nadella) заявил о значительном росте числа пользователей ПО GitHub Copilot, помогающего программистам ускорить написание кода.

Источник изображения: Turag Photography/unsplash.com

Известно, что Copilot стал доступен широкому кругу программистов ещё в июне прошлого года и в течение месяца число его пользователей достигло 400 тыс. человек. Во вторник Наделла сообщил, что аудитория нового ПО выросла уже до миллиона человек. Рост использования Copilot предварительно свидетельствует, что люди готовы платить за использование генеративного ИИ — технологии, способной создавать оригинальную и осмысленную прозу, изображения или даже компьютерный код после изучения больших массивов данных в той или иной сфере.

Copilot буквально подсказывает программистам, что именно написать дальше. Согласно прошлогодним данным GitHub, принадлежащей Microsoft — технология позволяет создать в автоматизированном режиме до 35‒40 % кода файла. Индивидуальным подписчикам она обойдётся в $100 ежегодно, также инструментом можно пользоваться, имея доступ к корпоративному аккаунту.

На этой неделе Microsoft уже сообщила, что намерена делать многомиллиардные инвестиции в разработку суперкомпьютеров и облачную поддержку стартапа OpenAI, на основе которого и создан Copilot, а также набравший вирусную популярность чат-бот ChatGPT. Помимо эссе и поэзии, он также способен писать и код (не всегда правильный). Microsoft уже заявила, что ChatGPT будет доступен в облачных сервисах компании.

Ранее сообщалось, что намерение Microsoft использовать ChatGPT в поисковике Bing представляет серьёзную угрозу для доминирования на поисковом рынке Google — последняя спешно работает над собственными ИИ-инструментами.

Как заявил Наделла, облачный сервис Azure OpenAI, который обеспечит доступ к технологиям компании в облаке Microsoft, уже привлёк 200 клиентов, включая известную аудиторскую компанию KPMG и информационное агентство Al Jazeera.