В Айове из школьных библиотек при помощи ChatGPT изъяли 19 книг с «материалами сексуального характера»

Школьный округ Мейсон-Сити в Айове отцензурировал книги в местных библиотеках при помощи ChatGPT — сообщают Mason City Globe Gazette и Popular Science. В школах признали, что пошли на такой шаг просто потому, что не могут прочитать все книги сами.

Провести такие мероприятия совет округа обязал новый закон Айовы IA SF496, который приняли в мае этого года. Закон разрешил родителям менять школу их ребёнка при определённых обстоятельствах, а также запретил изучение «гендерной идентичности и сексуальной ориентации» во время занятий. Помимо прочего, документ потребовал от школьных округов избавиться от «неподходящих по возрасту» материалов, в том числе книг. 

В положении описаны как более открытые для интерпретации формулировки о «темах, сообщениях и методах обучения, подходящих для определенных возрастов в зависимости от развития когнитивных, эмоциональных и поведенческих способностей», так и прямой запрет на описание и демонстрацию «сексуальной активности». Согласно другому закону, к таковой относят сцены секса, мастурбации и эякуляции.

С необходимостью изъять «неподходящие для детей» материалы столкнулись и в школьном округе Мейсон-Сити. 17 июля школьный совет провел первое рассмотрение поправок в политике местных школ, чтобы та соответствовала новому законодательству. В частности, там рассмотрели предложения «Ассоциации школьных советов Айовы», в которых говорилось о необходимости убрать из школьных библиотек и учебных программ «неподходящие» книги.

Помощник суперинтенданта по учебной программе и обучению в округа Бриджит Эксман в своём комментарии сказала, что сотрудники школ физически не могут перечитать огромные коллекции книг в школьных библиотеках к началу академического года и отфильтровать их в соответствии с новыми требованиями властей. Во время своего заявления она отметила, что администрация округа внедрила «оправданный процесс для определения» изымаемых публикаций, но не стала вдаваться в подробности.

«После этого мы продолжим полагаться на наши давно устоявшиеся процесс, который позволяет родителям пересматривать книги. Мы уверены, что этот процесс обеспечит соблюдение духа закона здесь, в Мейсон-Сити; родители всегда будут иметь право голоса в образовании своих учеников», — добавила она.

После окончания того «процесса» руководство потребовало изъять из библиотек 19 разных книг. Помимо прочих, под ограничения попали «Тринадцать причин почему» Джея Эшера, «Убить мистера Гриффина» Лоис Дункан и серия «Суд тумана и ярости» Сары Маас.

Позже выяснилось, что для изъятия книг Совет воспользовался ChatGPT. Процедура выглядела довольно просто: у нейросети по списку «спрашивали», содержит ли книга «описание или изображение полового акта?». Если чат-бот отвечал утвердительно, произведение изымали из коллекций и отправляли на хранение в местный «административный центр». Отмечается, что у сотрудников школ до сих пор нет «указаний или ясности» насчёт того, что делать с не прошедшими проверку изданиями.

При этом, оказалось, что нейросеть обнаружила сексуальные сцены даже в Библии. Более того, когда журналисты Popular Science задали чат-боту примерно такой же вопрос, они получили в ответ другой анализ текстов. Так, из окружного списка из 19 книг только четыре были помечены как содержащие «откровенный или сексуальный контент». Иногда нейросеть и вовсе «меняла своё мнение» о произведении.

Похожий проект реализовали во Флориде: из-за «сексуальных намёков» из школьной программы убрали произведения Шекспира. По мнению одного из учителей, в работах британского автора встречается «похабщина», потому что «в то время это помогало продавать билеты на пьесы».

Недавно разработчик ChatGPT, фирма OpenAI, объявила о разработке функции модерации контента на основе искусственного интеллекта. В июне компания заставила разработчиков консервативного чат-бота GIPPR закрыть проект из-за «нарушения политики».