Slack попался на самовольном использовании переписок пользователей для обучения ИИ

Популярный мессенджер Slack тайно собирал личные сообщения, файлы и данные корпоративных пользователей для обучения своих ИИ-инструментов. Пользователи автоматически подписывались на такой сбор данных, по сути, не давая на это согласия.

Источник изображения: Scott Webb/Unsplash

Slack оказался в центре скандала, связанного с использованием личных данных пользователей. Как выяснилось, компания тайно перекачивает сообщения, файлы и другую информацию из чатов для обучения собственных моделей искусственного интеллекта. При этом согласия пользователей никто не спрашивает.

Как сообщает издание Techspot, все началось с гневного твита эксперта по кибербезопасности Кори Куинна (Corey Quinn), обнаружившего соответствующий пункт в политике конфиденциальности Slack. В нем говорится, что системы компании «анализируют сообщения и файлы пользователей для создания моделей AI и машинного обучения».

Представители Slack подтвердили эту информацию. Данные действительно используются для улучшения некоторых инструментов ИИ в приложении, таких как поиск и рекомендации. При этом компания заверила, что премиальные функции на основе ИИ разрабатываются без доступа к персональным данным.

Однако большинство людей были шокированы тем фактом, что Slack тайно получает их личные разговоры и документы. Многие считают, что компания должна была четко информировать об этом и давать возможность отказаться. Однако процесс отказа в системе Slack от сбора данных довольно сложен. Это может сделать только администратор организации, и только путем отправки специального запроса в службу поддержки. Для отдельных сотрудников команды такая опция не предусмотрена.

На Slack также обрушилась критика со стороны других технологических компаний. Например, разработчики приложения для обмена сообщениями Signal заявили, что они в принципе не собирают данные пользователей и не используют их для какого-либо ИИ.

История демонстрирует общую проблему отношения мессенджеров и социальных сетей к конфиденциальности данных, так как они активно собирают личную информацию пользователей по умолчанию, без явного выбора и согласия с их стороны. А затем используют эти данные для улучшения собственных продуктов и услуг, в том числе с применением технологий ИИ.

При этом заявления Slack о конфиденциальности выглядят противоречиво. В одном месте они утверждают, что не имеют доступа к персональным данным при разработке ИИ. В другом допускают анализ сообщений и файлов пользователей именно с этой целью.