Педагогам грозят тюрьмой. В школах появился ИИ, который решает, какие книги опасны

В американских школьных библиотеках появился новый игрок — искусственный интеллект, который автоматически сортирует книги на «безопасные» и «опасные». Программа Class-Shelf Plus от компании CLCD сама маркирует литературу по цветовой шкале: зелёный — допустимо, красный — под вопросом. Однако, кто учил алгоритм и на каких данных — информация закрытая.

Производители позиционируют систему как спасение для загруженных библиотекарей, которым станет проще соблюдать ужесточившиеся законы о «чувствительном контенте». Школьные администрации в восторге: можно отчитаться перед властями и снять с себя ответственность за спорные книги.

Но проблема кроется в деталях. Под автоматическую фильтрацию попадают в том числе книги о расовой истории, ЛГБТ-темах и социальной критике. При этом библиотекари физически не успевают проверять тысячи машинных вердиктов — людей мало, времени нет, бюджеты урезают. Получается, что профессионал с образованием отодвинут в сторону, а судьбу книг решает непрозрачный алгоритм.

Ситуацию усугубляет политическое давление. В некоторых штатах педагогам грозят уголовной ответственностью за «распространение вредных идей». Школы атакуют законодатели, финансирование падает, а тут ещё новая головная боль — библиотеки завалены книгами, написанными нейросетями, которые приходится выискивать и удалять вручную.

Профессиональное сообщество бьёт тревогу: вместо помощи читателям библиотекари тонут в бюрократии, защищаясь от обвинений и проверяя работу алгоритмов. Обещанная «оптимизация» обернулась ростом нагрузки — ведь за ошибки ИИ всё равно отвечают люди.

Итог: под видом технологичного решения постепенно выстраивается система централизованной цензуры, где машина определяет границы допустимого, а живые специалисты превращаются в заложников автоматизации.