Входящая в Google Cloud платформа Vertex AI, которая позволяет корпоративным клиентам создавать собственные службы с использованием машинного обучения и больших языковых моделей Google, получила новые возможности, направленные на предотвращение распространения неверной информации.

Источник изображения: cloud.google.com

В мае для всех клиентов была развёрнута функция Vertex AI Grounding with Google Search — она предоставляет моделям ИИ доступ к информации из интернета в реальном времени. Теперь же клиенты облачной платформы смогут дополнительно улучшить результаты своих сервисов ИИ с помощью специализированных сторонних наборов данных. Сервис будет пользоваться информацией от таких поставщиков как Moody’s, MSCI, Thomson Reuters и ZoomInfo, сообщила Google, и воспользоваться этой услугой компании смогут «в III квартале этого года». Это лишь одна разрабатываемых Google функций, призванных побудить организации начать развёртывание собственных корпоративных ИИ моделей в её инфраструктуре — все они направлены на снижение частоты недостоверных данных в ответах систем.

Ещё одна функция — «режим высокой точности», позволяющий организациям подключать к моделям собственные наборы данных вместо обширной базы знаний Google Gemini. Этот режим работает на основе спецверсии модели Gemini 1.5 Flash, и его можно подключить через раздел экспериментальных функций Vertex AI. Корпоративные клиенты также смогут осуществлять гибридный поиск, используя в качестве запросов образцы изображений и текстовые пояснения к ним. А в Grounding with Google Search вскоре будет доступен динамический поиск — система сможет автоматически выбирать источники информации: установленные наборы данных Gemini или Google Search, если предполагается частое обновление ресурсов.

Возможность контролировать наборы данных для ИИ-моделей Google поможет компании улучшить репутацию, которая пострадала после внедрения ИИ в поисковую систему. Если потребители с юмором восприняли советы есть камни и добавлять клей в пиццу, то корпоративным клиентам такие ошибки могут обойтись дорого.

Не секрет, что крупные технологические компании используют для обучения своих нейросетей интернет-контент. На этом фоне компания Google объявила о запуске нового элемента управления под названием Google-Extended. С его помощью администраторы веб-сайтов могут запретить поисковому гиганту использовать размещаемый на подконтрольных им ресурсах контент для обучения алгоритмов Bard и Vertex.

Источник изображения: ElisaRiva / Pixabay

«Сегодня мы анонсируем Google-Extended — новый элемент управления, с помощью которого веб-издатели могут управлять тем, помогают ли их веб-сайты улучшить работу генеративных API-интерфейсов Bard и Vertex <…> Используя Google-Extended для контроля доступа к контенту на сайте, администратор может решить, помогать ли этим моделям искусственного интеллекта со временем становиться более точными и функциональными», — говорится в сообщении Google.

Элемент управления Google-Extended работает как токен, который можно добавить в файл robot.txt веб-сайта. Этот файл используется для того, чтобы сообщить поисковым алгоритмам, какой контент на площадке не нужно индексировать. Владельцы сайтов уже могут добавить соответствующий токен, чтобы заблокировать сканер компании OpenAI, которая является создателем популярного ИИ-бота ChatGPT и других алгоритмов на основе нейросетей.

Однако в случае с Google ситуация иная, поскольку компания владеет крупнейшей поисковой системой. Преимущество нового токена заключается в том, что даже в случае ограничения использования контента сайта для обучения нейросетей индексация не будет остановлена, поэтому рейтинг сайта в поисковике не снизится. При этом владельцам сайтов не надо будет беспокоиться о том, что их контент используется для обучения ИИ-алгоритмов.