Предвзятость ИИ в библиотечных системах проявляется тогда, когда алгоритмы «учатся» на смещённых или неполных данных и начинают по‑разному обращаться с разными группами пользователей, темами или авторами. Ниже — несколько конкретных примеров, которые уже обсуждаются в теории и практике библиотечного ИИ.

1. Неравная видимость авторов и тем

• Рекомендательные системы могут чаще предлагать «канонических» авторов‑мужчин из доминирующих стран, потому что исторические фонды и цитируемые источники заведомо перегружены именно такими публикациями.

• Темы, связанные с меньшинствами, феминистскими или постколониальными исследованиями, могут реже попадать в топ‑рекомендаций, даже если они в фонде есть, поскольку алгоритм «учился» на более традиционных выборках.

Таким образом библиотека невольно усиливает старые дисбалансы в доступе к информации.

2. Формирование «информационных пузырей»

• Если ИИ‑рекомендатель настроен на историю выдачи и поиска, то пользователь с «узким» кругом интересов получает только подобные рекомендации и реже сталкивается с альтернативными точками зрения.

• При этом пользователи, интересующиеся маргинальными или критическими темами, могут совсем не видеть в рекомендациях ресурсы, которые библиотека официально поддерживает, но которые «не ложатся» в модель популярности.

Это снижает реальную свободу выбора и идейное разнообразие.

3. Гендерные и культурные стереотипы в аннотациях и подборках

• Генеративные модели ИИ могут при описании героинь в художественных текстах неосознанно использовать стереотипную лексику (например, слишком акцентировать внешность или роль в семье), если в обучающих данных преобладают такие шаблоны.

• При автоматическом создании подборок тематического вечера или выставки система может избегать «неудобных» или спорных тем (колониализм, расизм, гендер) просто потому, что в исторических данных их меньше или они чаще помечены как «рискованные».

Такие искажения влияют на восприятие читателем того, что считается «нормальным» или «важным».

4. Дискриминация по признакам пользователей

• Если ИИ‑система учится на поведении пользователей (например, редко берут книги по определённой тематике), она может сознательно снижать видимость таких разделов, эффективно «скрывая» их для целых групп людей.

• При использовании распознавания лиц или поведенческого анализа в помещениях библиотеки (мониторинг «особого» поведения) алгоритмы могут чаще помечать как «подозрительных» людей из определённых этнических или социальных групп, если в обучающих данных преобладает такой стереотип.

Это противоречит идее равного доступа и нейтральности библиотеки.

5. Предвзятость в автоматической классификации и метаданных

• Системы ИИ могут ошибочно или несправедливо классифицировать материалы по темам (например, относить к «критике государства» не только политические тексты, но и культурные исследования), если в обучающих данных такие метки использовались в узком, идеологизированном смысле.

• Автоподбор ключевых слов и тематических меток может игнорировать современные термины (например, LGBTQ+, intersectionality), так как они хуже представлены в старых каталогизированных коллекциях.

Так библиотека фактически «закапывает» актуальные запросы пользователей прямо в структуре индекса.