ИИ-функция AI Overview, призванная улучшить поисковик Google, продолжает оставаться предметом критики. Рекомендации AI Overview добавлять в пиццу клей, чтобы сыр не соскальзывал, или съедать по одному небольшому камню в день, заставили усомниться в способности ИИ отделять шутки и неправдоподобные истории от правды. В Google сообщили, что предприняли необходимые шаги для по предотвращения появления бессмысленных советов ИИ, но ошибки продолжают преследовать генеративный поиск.
Источник изображения: Pixabay
Вместо цитирования шуточных комментариев пользователей Reddit или сатирических статей из The Onion, поисковые сводки Google, созданные ИИ, начали ссылаться на собственные ошибки. Разработчик игр и бывший сотрудник Google Колин Макмиллен (Colin McMillen) сообщил в соцсети Bluesky, что ИИ Google «уже поедает сам себя», прикрепив к посту скриншот ответа по поисковому запросу «Сколько клея наносить на пиццу?».
«По словам Кэти Нотопулос (Katie Notopoulos) из Business Insider, вам следует добавить ⅛ стакана или 2 столовые ложки белого нетоксичного клея в соус для пиццы, чтобы сыр не соскользнул, — говорится в резюме, сгенерированном Google. — Нотопулос говорит, что добавление клея в соус существенно не изменило его консистенцию, и полученный соус для пиццы имел оранжевый цвет, похожий на водочный соус».
Действительно, в Google Search Generative Experience (SGE) содержится ссылка на опубликованную в прошлом месяце статью, в которой корреспондент Business Insider Кэти Нотопулос рассказала о том, как добавила клей в соус для пиццы, чтобы подчеркнуть нелепость совета Google. При этом Нотопулос несколько раз отметила в своей статье, что читателям не следует добавлять клей в соус для пиццы, и тем более пытаться отведать это кулинарное произведение, предложенное Google на основе шуточного совета одного из пользователей платформы Reddit.
Можно возразить, что Макмиллен задал Google наводящий вопрос, вызвавший абсурдный ответ. Но в любом случае этот пример ставит под сомнение эффективность предпринятых Google мер по устранению рисков появления нелепых ответов AI Overview.
В прошлом месяце Лиз Рид (Liz Reid), вице-президент Google по поиску, заявила, что компанией были созданы «более эффективные механизмы обнаружения бессмысленных запросов, имеющих отношение к сатирическому и юмористическому контенту». Рид пояснила, что Google ограничила использование пользовательских данных в ответах, которые приводят к вводящим в заблуждение советам, особенно в отношении здоровья и актуальных новостей.
Однако, судя по всему, AI Overview так и не научился отфильтровывать бессмысленную информацию, полученную ИИ-моделью в процессе обучения. В феврале Google согласилась платить платформе Reddit $60 млн в год за предоставление доступа к её базе данных с постами и комментариями пользователей для использования в обучении своих моделей ИИ. Похоже, что Google начинает сожалеть об этой сделке.