ByteDance с треском уволила стажёра за внедрение вредоносного кода в ИИ-модели

Компания ByteDance, владелец TikTok, подтвердила увольнение стажёра за злонамеренное внедрение вредоносного кода в модели искусственного интеллекта. Действия молодого человека, предположительно, обошлись компании убытком в десятки миллионов долларов.

ByteDance хоть и подтвердила увольнение стажёра, однако, как сообщает издание Ars Technica, опровергла слухи о многомиллионных потерях и потерянной вычислительной мощности 8000 графических процессоров, пытаясь прекратить вредящие имиджу компании разговоры на эту тему в китайских социальных сетях. ByteDance назвала эти утверждения «сильно преувеличенными» и подчеркнула, что ущерб был значительно меньше.

Согласно официальному заявлению, стажёр занимал позицию в коммерческой технологической команде и «злонамеренно вмешивался в задачи по обучению моделей» в рамках исследовательского проекта. Компания также обвинила стажёра в добавлении ложной информации в свой профиль в социальных сетях, где он указывал, что его работа связана с лабораторией искусственного интеллекта ByteDance, а не с командой коммерческих технологий. ByteDance уведомила университет стажёра и отраслевые ассоциации о случившемся, предположительно, чтобы предотвратить его попытки ввести в заблуждение других.

В компании подчёркивают, что ни одно из коммерческих направлений не пострадало и алгоритмы больших языковых моделей (LLM) также не были затронуты. Несмотря на это заявление, некоторые пользователи социальных сетей продолжают сомневаться в официальной версии. Одни утверждают, что команда коммерциализации, в которой работал стажёр, ранее входила в состав лаборатории ИИ, и что стажёр мог использовать «вредоносный код» для «преднамеренного саботажа обучения моделей в течение как минимум нескольких месяцев». Другие комментаторы предполагают, что ByteDance преуменьшает ущерб, и что «потеря вычислительной мощности сама по себе может составлять несколько миллионов долларов, если не десятки, не говоря уже о потере времени, энергии и заработной платы всей исследовательской группы».