«Т-банк» открыл доступ к двум большим языковым моделям (LLM): T-Pro с 32 млрд параметров и обновленной T-Lite с 7 млрд параметров, созданным на базе моделей семейства Qwen-2.5 китайской Alibaba Group, и дообученным с адаптацией к русскому языку, пишут «Ведомости» со ссылкой на представителя компании. Ранее, в июле «Т-банк» открыл доступ к первой версии T-Lite.

Источник изображения: «Т-банк»

T-Pro и T-Lite относятся к семейству собственных языковых моделей «Т-Банка» Gen-T, которые, в отличие от универсальных моделей, таких как ChatGPT, предназначены для решения узкоспециализированных задач в конкретных областях. С их помощью компании смогут создавать умные чат-боты для поддержки клиентов или ассистентов для своих сотрудников, которые помогут в написании кода, составлении отчетов, подготовке исследований и т.д. Это позволит компаниям сэкономить на создании собственных больших языковых моделей.

По словам представителя «Т-банка», использование моделей Qwen-2.5 позволяет компании на 80–90 % сократить затраты на создание больших языковых моделей по сравнению с тем, если бы их обучали с нуля. Вместе с тем качество LLM-продуктов на русском языке превосходит решения, базирующиеся на открытых и проприетарных моделях от OpenAI, Google и Anthropic.

Такой подход используют и другие компании. Например, в ноябре МТС представила ИИ-модель Cotype Nano с 1,5 млрд параметров, тоже созданную на базе Qwen 2.5 Alibaba Cloud.

В свою очередь, в «Яндексе» ранее сообщили, что размышляют над возможностью выложить исходный код своей модели в открытый доступ. А «Сбер» предоставляет открытый доступ к моделям Kandinsky для генерации изображений и GigaAM для обработки речи.

Состоялся релиз крупного обновления мобильного приложения «Т-банка», включающее маркетплейс под названием «Шопинг», социальную сеть для общения клиентов банка друг с другом, а также сервисы для оценки недвижимости и автомобилей.

Источник изображения: «Т-банк»

О планах «Т-банка» по запуску сервиса онлайн-продаж товаров СМИ писали в середине года, но тогда представитель компании говорил, что речь идёт не о маркетплейсе «в буквальном смысле». Теперь же был представлен сервис «Шопинг», который интегрирован в мобильное приложение и представляет собой витрину с ассортиментом разных игроков рынка в едином окне. В нём предполагается наличие крупных и нишевых маркетплейсов, а также монобрендовых игроков. При поиске по товарам сервис выдаёт предложения сразу со всех подключённых площадок.

На данном этапе «Т-банк» сосредоточен на работе с независимыми игроками рынка электронной коммерции. Уже сейчас «Шопинг» открывает доступ к товарам более 40 партнёров, включая «Рив гош», «М.Видео-Эльдорадо», Ekonika, Tom Tailor и др. Подключение партнёров осуществляется через менеджеров банка, в дальнейшем на платформу смогут интегрироваться другие интернет-магазины и крупные продавцы на маркетплейсах.

Хранить и доставлять товары будут продавцы, а банк планирует зарабатывать на комиссии, размер которой не раскрывается. На данный момент покупателям нужно совершать покупки на стороне партнёра, но вскоре оплатить заказы можно будет непосредственно в мобильном приложении банка. Сервис также будет предоставлять кэшбек на товарные категории и отдельные бренды в денежном эквиваленте.

В дополнение к этому будет сохраняться программа лояльности партнёров, действующие распродажи и скидки. Оплатить покупки можно будет в один клик банковской картой или через сервис T-Pay, поддерживается оплата частями через BNPL-сервис «Долями» и рассрочка. Сервис интегрирован в рекламную платформу «Т-банка» через личный кабинет, из которого можно осуществлять управление продажами и продуктами.

Ещё в приложении «Т-банка» появилась соцсеть, а также «Сферы» — разделы про «дела, связанные с деньгами, вокруг человека». К примеру, «Сфера дом» объединяет сервисы, связанные с домом и бытом: платежи за ЖКХ, интернет и др., а в «Сфере авто» можно оплачивать топливо, штрафы, оформить автокредит и др.

«Т-Банк» открыл доступ к русскоязычной большой языковой модели T-lite с 8 млрд параметров, созданной Центром искусственного интеллекта финансовой организации (AI-центр). Как было объявлено на первой конференции «Т-Банка» по машинному обучению Turbo ML Conf, T-lite показала в индустриальных и внутренних бенчмарках лучшие результаты в решении бизнес-задач на русском языке среди открытых моделей с 7–8 млрд параметров.

Источник изображений: Т-Банк

В частности, результаты T-lite были лучше, чем у зарубежных llama3-8b-instruct и chat-gpt 3.5. При этом на создание T-lite потребовалось всего 3 % вычислительных ресурсов, которые обычно необходимы для такого типа моделей, отметил «Т-Банк».

С увеличением количества параметров ИИ-модели растут её возможности для выполнения сложных заданий, но вместе с тем ухудшается экономическая эффективность модели. В свою очередь, T-lite после дообучения для выполнения конкретных бизнес-задач в области обработки естественного языка (NLP) предоставляет ответы, сопоставимые по качеству с проприетарными моделями размером от 20 млрд параметров, но при этом значительно дешевле в эксплуатации.

T-lite входит в семейство собственных специализированных языковых моделей «Т-Банка» Gen-T, способных обучаться для решения конкретных узкоспециализированных задач. В отличие от универсальных моделей, таких как ChatGPT, модели семейства Gen-T ориентированы на использование в конкретных областях с максимальной адаптацией под нужды пользователя.