Wikipedia переживает кризис из-за того, что пользователи массово стали публиковать бессмысленную или непроверенную информацию, сгенерированную искусственным интеллектом с помощью чат-ботов, таких как ChatGPT и ему подобных. Однако, учитывая растущую популярность ИИ-технологий, этого можно было ожидать.

Источник изображения: BoliviaInteligente/Unsplash

Как сообщает TechSpot, для решения проблемы был создан проект под названием WikiProject AI Cleanup, представляющий из себя группу добровольцев, которая занимается поиском, редактированием и удалением ложной информации, предположительно добавленной с помощью генеративного ИИ.

Ильяс Леблю (Ilyas Lebleu), один из основателей команды по «очистке», сообщил, что о проблеме стало известно, когда редакторы и пользователи Wikipedia заметили отрывки статей, явно написанные чат-ботом. Подозрения подтвердились, когда некоторые из этих текстов удалось воссоздать с помощью ChatGPT.

«Мы обратили внимание на необычный стиль письма, который был явно написан не человеком, мы смогли воспроизвести эти фразы с помощью ChatGPT, — сказал Леблю. — Обнаружив характерные обороты и выражения, мы идентифицировали наиболее вопиющие примеры сгенерированных статей. После этого и было решено организовать проект по поиску ИИ-текста».

Один из примеров — статья о якобы существующей османской крепости под названием «Амберлисихар», построенной в 1400-х годах. В тексте объёмом около 2000 слов подробно описывалось местоположение и строительство этого объекта. Однако крепость на самом деле не существует, и вся информация о ней была полностью вымышленной, но выглядела убедительно благодаря вкраплениям реальных фактов. При этом проблема касается не только новых статей на Wikipedia. Недобросовестные пользователи вставляют ложные данные в уже существующие статьи. В одном из случаев в статью о жуке добавили раздел, посвящённый виду крабов, причём с правильными ссылками на источники.

Леблю и его коллеги признают, что до конца не понимают, почему люди это делают. Однако причины очевидны. Во-первых, это проблема самой системы Wikipedia, которая позволяет каждому стать редактором. Кстати, именно по этой причине многие университеты запрещают студентам использовать Wikipedia в качестве основного источника информации.

Во-вторых не секрет, что интернет часто становится объектом злоупотреблений, особенно сейчас, когда появился искусственный интеллект. В качестве примера может послужить печально известный бот Microsoft по имени Tay, который был отключён менее чем через 24 часа после запуска за публикацию оскорбительных и расистских твитов в X. Также ИИ используется для создания дипфейков и книг на Amazon Kindle.

Интернет-энциклопедия «Википедия», принадлежащая американской организации Wikimedia Foundation, за весь текущий год удалила по запросу Роскомнадзора лишь 1 из 201 материалов. В 2023 году администрация ресурса также удалила только один материал с противоправной информацией, сообщил представитель регулятора.

Источник изображения: Роскомнадзор

В общей сложности в 2024 году в «Википедии» было выявлено 129 материалов, связанных с фейковой информацией о ходе специальной военной операции. Остальные статьи связаны с распространением экстремистских материалов, информации о вовлечении несовершеннолетних в совершение противоправных действий, сведений об изготовлении взрывчатки, а также суицидального, пронаркотического и другого контента, распространение которого на территории России запрещено.

В Роскомнадзоре сообщили, что за неудаление запрещённой информации из «Википедии» поисковые системы будут информировать пользователей о нарушении законодательства РФ иностранным юридическим лицом. Ранее «Википедию» уже штрафовали на 4 млн за отказ удалить запрещённую к распространению в России информацию. При этом полностью заблокировать ресурс достаточно сложно, поскольку в стране на данный момент нет полноценных аналогов, которые могли бы заменить «Википедию».

Общее количество статей в русскоязычном разделе «Википедии» накануне превысило 2 млн. На преодоление второго миллиона у авторов ресурса ушли более 11 лет. Русскоязычный раздел является четвёртым по размерам в «Википедии».

Источник изображения: ru.wikinews.org

Двухмиллионная статья русской «Википедии» была зафиксирована накануне, 18 сентября 2024 года, в 16:29 мск — она оказалась посвящённой рассказу Владимира Набокова «Музыка», а добавил её википедист и журналист из Омска Николай Эйхвальд. Миллионная статья в русскоязычном разделе онлайн-энциклопедии появилась 11 мая 2013 года.

Формально русская «Википедия» является седьмой по числу материалов. Но в этом списке некоторые разделы относятся к «ботопедиям» — они либо полностью (себуанская, варайская), либо в значительной мере (нидерландская, шведская) состоят из автоматических заливок. Если же учитывать лишь «честно» написанные материалы, то русскоязычный раздел «Википедии» занимает уже четвёртое место в мире, уступая английскому, немецкому и французскому.

Около пяти лет назад сформировался стабильный запрос пользователей на тёмную тему или тёмный режим для приложений, который меньше напрягает глаза в тёмное время суток — тогда же появилась соответствующая системная настройка в Android и iOS с командой для сторонних приложений. Тёмные темы появились и у других систем, сайтов и цифровых инструментов — за исключением «Википедии».

Источник изображения: wikipedia.org

У популярнейшей в мире онлайн-энциклопедии до настоящего момента не было штатных способов переключить цветовое оформление страниц, но под давлением сообщества эти изменения всё-таки были внесены — тёмный режим (тёмная опция в настройке «Цвет») стал доступен в настольной и мобильной версиях сайта.

В десктопном варианте сайта в обновлённом дизайне есть правая панель, на которой можно выбрать внешний вид страницы: размер шрифта, ширину содержимого и цветовое оформление. Если панель отсутствует, её можно вызвать, нажав на кнопку с изображением очков в правом верхнем углу страницы — она может быть выпадающей или закреплённой на странице. В разделе «Цвет» доступны три опции: «Светлый», «Тёмный» и «Автоматический» — на основании настроек системы. В мобильной версии потребуется выбрать пункт «Настройки», который появляется при выборе «кнопки-гамбургера» с тремя горизонтальными линиями в левом верхнем углу страницы.

Тёмная тема для «Википедии» по итогам 2023 года стала самой востребованной функцией сайта. Пока данная функция доступна в формате бета-версии и может давать непредсказуемые результаты. К примеру, она несовместима с браузерными расширениями, которые сами делают «Википедию» тёмной. Могут также возникать конфликты с некоторыми статьями, где некоторые цвета жёстко запрограммированы. Первый запрос на тёмную тему для «Википедии» был зарегистрирован 22 июня 2010 года, но ситуация начала меняться лишь в 2022 году. Задача была помечена как решённая 12 июля 2024 года, но многие подзадачи до сих пор значатся как невыполненные.

Некоммерческая организация «Викимедия Фаундейшн», которая обеспечивает работу «Википедии», подала в Тверской районный суд Москвы три иска к первому заместителю генпрокурора Анатолию Разинкину, гласит информация в судебной картотеке.

Источник изображения: succo / pixabay.com

Истец просит суд признать требования Генпрокуратуры о принятии мер по ограничению доступа к ресурсам «Википедии» от 5 июля 2023 года полностью незаконными. Представители некоммерческого фонда также просят признать незаконными уведомления Роскомнадзора о нарушении порядка распространения информации — в них регулятор указал адреса страниц, которые содержат соответствующие нарушения.

Аналогичные требования «Викимедия Фаундейшн» заявила по всем трём зарегистрированным искам, сообщают «Ведомости» со ссылкой на заявление пресс-службы суда. Оператор «Википедии» регулярно получает штрафы за отказ удалить запрещённый российскими законами контент. Только за 2023 год некоммерческой организации были назначены административные наказания в виде штрафов на общую сумму более 18 млн руб.

Эксперимент ресурса CNET с использованием генеративного искусственного интеллекта для написания статей привёл к плачевным результатам — редакторы «Википедии» понизили его рейтинг надёжности из-за многочисленных ошибок в публикуемом контенте и наличия плагиата.

Источник изображения: geralt/Pixabay

В прошлом году много споров вызвала публикация ресурса Futurism, рассказавшего, что CNET в течение нескольких месяцев «потихоньку» публиковал статьи, написанные ИИ, не привлекая особого внимания общественности и не делая официальных заявлений по этому поводу.

Статьи на финансовую тему начали появляться на сайте ресурса в ноябре 2022 года под подписью CNET Money Staff. Они были сгенерированы ИИ, о чём свидетельствует большое количество ошибок и порой дословное копирование работ других авторов. Из-за ошибок ресурсу CNET пришлось внести исправления в 41 из 77 статей, написанных с использованием ИИ.

В связи с разоблачением Futurism руководство CNET отметило, что публикация статей с использованием ИИ производилась «без особого шума», но не «тайно», но вместе с тем приостановило эксперимент. Другие сайты, тоже принадлежащие Red Ventures, как и CNET, также приостановили публикацию статей, написанных с помощью ИИ.

Источник изображения: techspot.com

Согласно данным «Википедии», CNET имел самый высокий рейтинг надёжности до октября 2020 года. Затем с этой даты по октябрь 2022 года не было консенсуса, что, по мнению «Википедии», было связано с ухудшением редакционных стандартов после приобретения ресурса компанией Red Ventures. А с ноября 2022 года по настоящее время CNET классифицируется «Википедией» как «в целом ненадёжный» ресурс, что связано с наличием множества ошибок в статьях, написанных ИИ.

Запущенный минувшим летом портал «Рувики», который позиционируется как отечественный аналог «Википедии», завершил этап бета-тестирования, и 15 января он заработает в полноценном режиме.

Источник изображения: ruwiki.ru

В ближайшие дни администрация ресурса запустит финальный вариант. Портал ожидает ряд изменений, в том числе механизмы персонализации контента, тематические подборки материалов, функции аудиопересказа полной и сокращённой версий статьи. У пользователей появится обновлённый личный кабинет, готовится запуск видео и подкастов, сообщила «Известиям» пресс-служба проекта.

Сегодня общий объём русскоязычных материалов «Рувики» достиг 1 940 683 статей. В среднем пользователь «Рувики» проводит на сайте шесть минут, а глубина просмотра составляет более пяти страниц. В бета-версии портала изначально введены статусы «выверенных» и «рецензированных» статей. «Выверенными» занимается редакция ресурса, а «рецензированными» — сторонние эксперты.

С момента запуска интерфейс «Рувики» получил поддержку 20 языков народов России, включая алтайский, башкирский, бурятский, вепсский, ингушский и калмыцкий. В соответствующих разделах сейчас более 1,1 млн статей. В течение 2024 года на портале появятся ещё 10 языковых разделов.

В декабре некоммерческое партнёрство «Викимедиа РУ», занимавшееся развитием русскоязычного раздела «Википедии», объявило о намерении закрыться по собственной инициативе.

Некоммерческое партнёрство «Викимедиа РУ», которое занималось управлением российского сегмента «Википедии», объявило о своём закрытии. Об этом на официальном форуме сообщил глава организации Станислав Козловский✶.

Источник изображения: wikipedia.org

Вчера, сообщил господин Козловский✶, в деканате факультета психологии МГУ, где он проработал на должности доцента почти 25 лет, ему сообщили о наличии «достоверной информации», что в ближайшую пятницу он будет признан иноагентом. В этой связи учёный принял решение добровольно оставить свою должность в МГУ. В тот же день он провёл экстренное собрание НП «Викимедиа РУ», в ходе которого рассказал об инциденте. По итогам собрания было принято решение о закрытии организации.

Процедура ликвидации «Викимедиа РУ» займёт несколько месяцев. «Надеюсь, больше никто не пострадает», — заключил господин Козловский✶. Организация осуществляла управление российским сегментом «Википедии». В мае этого года был уволен предыдущий глава «Викимедиа РУ» Владимир Медейко. Причиной тому стало его участие в разработке отечественного аналога онлайн-энциклопедии — проекта «РуВики».

Российский аналог «Википедии» под названием «Рувики» стал доступен широкой аудитории пользователей, однако пока что в виде бета-версии. В настоящее время на сайте «Рувики» размещено около 2 млн статей на русском языке.

Источник изображения: «Рувики»

«Работает бета-версия, мы меняем контент, технические вопросы обслуживаем. На самом деле она запустилась не сегодня, сегодня это просто заметили. Она работала уже все выходные, это тестовый режим, который мы пока для тестеров включили», — приводит источник слова генерального директора АНО «Интернет-энциклопедия Рувики» Владимира Медейко. Он также сообщил, что полноценный запуск портала должен состояться до конца этого месяца.

Напомним, о создании энциклопедии «Рувики» в прошлом месяце сообщил заместитель председателя комитета Госдумы по информационной политике Антон Горелкин. У истоков «Рувики» стоит бывший директор «Викимедиа РУ» Владимир Медейко. Создатель проекта заверил, что «Рувики» не противопоставляет себя «Википедии», но и «не будет вызывать насторожённости, которая сейчас есть у заметного количества читателей» ресурса. По его словам, «Википедия» заработала в России «неоднозначную репутацию». «Рувики» должна стать энциклопедическим изданием, «куда приходят за сбалансированной точной информацией». «Наши ключевые ценности — достоверность, сбалансированность, нейтральность», — отмечают создатели «Рувики».

Отметим, что это не первый аналог популярной электронной энциклопедии. Летом прошлого года сообщалось о запуске аналога «Википедии» под названием «Руниверсалис». На данный момент этот сервис продолжает оставаться доступным для пользователей.

В России представлен очередной отечественный аналог «Википедии» — «Рувики». Электронную энциклопедию планируется разместить на российских серверах и управлять ею будет российское юрлицо. У истоков «Рувики» стоит директор «Викимедиа РУ» Владимир Медейко. В «Викимедиа РУ» уже поднят вопрос о лишении Медейко должности.

Источник изображения: tvzvezda.ru

По словам Медейко, новый проект является ответвлением («форком») «Википедии» и никак не связан с «Викимедиа» или с государством. Утверждается, что «Рувики» финансируется исключительно частными инвесторами, но их имена и сумму вложений не раскрыли.

Первые 1,9 млн русскоязычных статей будут перенесены в новый проект прямиком из «Википедии», но в дальнейшем платформу будет развиваться самостоятельно и «иначе». Создатель проекта заверил, что «Рувики» не противопоставляет себя «Википедии», но и «не будет вызывать насторожённости, которая сейчас есть у заметного количества читателей» ресурса. По его словам, «Википедия» заработала в России «неоднозначную репутацию». «Рувики» должна стать энциклопедическим изданием, «куда приходят за сбалансированной точной информацией». «Наши ключевые ценности — достоверность, сбалансированность, нейтральность», — отмечают создатели «Рувики».

«Рувики» создаётся для «формирования обширного массива проверенных материалов и создания условий для привлечения к работе над проектом максимального количества экспертов». К проекту планируется привлечь как волонтёров, так и профессиональных редакторов. Авторов из «Википедии» новый проект готов принять на общих основаниях.

Источник изображения: «Рувики»

В дальнейшем пользователям обещан современный интерфейс, использование ИИ, персонализация контента и рабочей среды, и интеграция с сервисами. «Рувики» будет базироваться на продуктах с открытым исходным кодом и на собственных разработках, которые также будут выложены в открытый доступ. Для тренировки больших языковых моделей «Рувики» планирует участвовать в «создании обучающих выборок на языках народов России». В планах компании — сотрудничество с «Яндексом», «Сбером» и ИИ-проектами и сообществами LAION, Open Assistant, Databricks и EleutherAI.

Некоммерческое партнерство «Викимедиа РУ», управляющее российским сегментом «Википедии», запланировало на сегодняшний вечер проведение собрания, на котором будет решён вопрос о лишении полномочий директора Владимира Медейко. Об этом RTVI сообщил исполнительный директор НП «Викимедиа РУ» Станислав Козловский.✶

«Любой человек может делать свои проекты, это никому не запрещено, любой может брать контент “Википедии” и его использовать, это совершенно нормально. Ненормально использовать для этого полномочия директора “Викимедиа РУ” и несколько лет этим заниматься совершенно тайно. На мой взгляд, это не очень красиво», — объяснил Козловский.✶

«Рувики» — это уже третий проект по созданию суверенного российского аналога «Википедии». В августе 2022 года был запущен проект «Руниверсалис», «уважающий традиционные ценности». В декабре Минцифры сообщило о планах по созданию проекта «Знания», который должен был получить приоритет перед «Википедией» в поисковой выдаче.

Wikimedia Foundation в России неоднократно была оштрафована за неудаление запрещённой в России информации. В мае прошлого года Роскомнадзор потребовал от Wikimedia Foundation открытия представительства в России, а в июле вменил поисковым системам в обязанность помечать владельца энциклопедии как нарушителя законов России.

Несмотря на частые и серьёзные неточности в высказываниях, большая языковая ИИ-модель GPT вынудила основателя «Википедии» Джимми Уэйлса (Jimmy Wales) не на шутку задуматься о том, чтобы привлечь ИИ к написанию материалов для самой читаемой энциклопедии в истории человечества.

Джимми Уэйлс (Jimmy Wales). Источник изображения: wikipedia.org

В недавнем интервью британской газете Evening Standard Уэйлс рассуждает о присущих ИИ проблемах, включая его склонность к «галлюцинациям», но отмечает, что эта технология при расходах не более чем в £1000 ($1250) за год могла бы утроить число статей в «Википедии». Большая языковая модель вроде GPT смогла бы использоваться, например, для сравнения статей и поиска противоречащих друг другу точек зрения — система показала бы волонтёрам, куда можно приложить усилия.

Ещё один возможный сценарий более очевиден: поручить ИИ поиск пробелов в «Википедии» и написание сводных записей для страницы, которые ещё не написаны, с использованием информации из интернета. С другой стороны, отметил господин Уэйлс, репутация ресурса зиждется на особом отношении к объективности информации, и для больших языковых моделей вроде GPT это пока настоящая проблема. И если своевременно не обнаруживать не соответствующую действительности информацию, она начнёт множиться как снежный ком. Люди будут использовать её в своей работе, и на ней будут обучаться другие ИИ-модели, исправлять ошибки которых со временем будет всё труднее.

Наконец, Джимми Уэйлс пока не нашёл ответа, как повлияет работа ИИ на систематическую, хотя и бессознательную предвзятость «Википедии» — большинство волонтёров освещают некоторые темы преимущественно со своей точки зрения и игнорируют то, что не представляет для них интереса. С одной стороны, ChatGPT был разработан, чтобы попытаться найти сбалансированный взгляд на различные темы и внести в них новые нюансы, но и у GPT отмечается предвзятость, присущая её обучающим данным.

Wikimedia Foundation объявила о запуске первого крупного обновления интерфейса «Википедии» за более чем десять лет. Обновление уже вышло в англоязычной «Википедии», а также «в 94 % из 318 активных языковых версий» ресурса для пользователей настольных компьютеров.

Источник изображений: «Википедия»

Обновлённый интерфейс, выпущенный сразу после 22-й годовщины англоязычной «Википедии», выдвигает на первое место наглядность, удобство и модернизирует взаимодействие пользователей с сервисом, чтобы им было проще получать доступ к информации, исследовать её и делиться знаниями.

«Обновление настольной “Википедии” — одно из основных улучшений, которое мы вносим, чтобы помочь людям получать доступ к мировым знаниям, в поддержку нашей миссии по обеспечению свободного и равноправного доступа каждого человека на планете к знаниям, независимо от того, где они находятся. живут или откуда они, — сказала Селена Декельманн (Selena Deckelmann), директор по продуктам и технологиям Wikimedia Foundation. — Изменения облегчают людям поиск и изучение результатов работы наших волонтёров. Эти функции были созданы с учётом отзывов читателей и волонтёров со всего мира, чтобы удовлетворить потребности нашей всё более разнообразной аудитории, сохраняя при этом простоту и прямоту, которым миллионы людей доверяют за последние 22 года».

В обновлении для настольной версии представлено множество новых функций, в том числе:

• улучшенный поиск теперь использует изображения и описания;
• оптимизированные инструменты переключения языков (более 300 языков);
• обновлённый «липкий» заголовок с часто используемыми ссылками;
• новое оглавление обеспечивает контекст статьи и возможность навигации;
• улучшенное отображение текста для повышения удобства чтения;
• новое скрываемое боковое меню для комфортной навигации.

Обновлённый интерфейс не удаляет предыдущие функции. Вместо этого он представляет новые инструменты для улучшения работы существующего веб-сайта за счёт усовершенствований, основанных на консультациях с редакторами-добровольцами «Википедии», анализе данных и пользовательском тестировании. Более 30 различных групп добровольцев со всего мира, от Индии и Индонезии до Ганы и Аргентины, участвовали в разработке концепции, разработке продукта, тестировании и развёртывании. К сожалению, русский язык пока не вошёл в упомянутые 94 %, и русскоязычная страница «Википедии» представлена в старом интерфейсе, как видно по скриншоту ниже.

Улучшения были дополнительно сформированы глобальными исследованиями и отзывами пользователей. Эта совместная модель уникальна для проектов «Викимедиа», которые, в отличие от других технологических онлайн-платформ, отдают приоритет созданию вместе с пользователями, а не только для них.

Wikimedia Foundation собирает отзывы от новых и существующих пользователей «Википедии» и намерен продолжить модернизацию интерфейса сервиса, максимально отвечающего потребностям растущего глобального сообщества.