Китайские разработчики ИИ отключили часть функций чат-ботов на время госэкзаменов

В Китае начали отключать нейросети, которые могут помочь школьникам при сдаче выпускного экзамена — пишет Bloomberg.

Тестирование, которое часто называют «гаокао», проходит с 7 по 10 июня этого года. Оно определит, кто сможет поступить в вузы и на какие специальности. Примечательно, что система приёма сочетает в себе конфуцианскую идею равных прав на образование с коммунистическими квотами для выходцев из деревень и бедных провинций. В этом году тест сдают свыше 13,3 миллиона кандидатов.

Процесс сдачи принимается властями серьёзно: правительство принудительно переносит концерты и прочие мероприятия, закрывает библиотеки и меняет часы работы чиновников, чтобы будущие абитуриенты могли добраться до центров и сдать экзамены в тишине и покое. За детьми наблюдают при помощи камер, которые подключены к специальным системам «распознавания мошенничества». 

Скандал вокруг ИИ и экзаменов начался ещё в мае. Министерство образования Китая, Управление по вопросам киберпространства и Министерство общественной безопасности КНР объявили, что планируют массово удалять из интернета «незаконную и вредную информацию» о том, что нейросети смогут предсказать вопросы, которые будут на «гаокао». Некоторые мошенники, как заявлялось, продавали отчаявшимся китайским школьникам поддельные варианты, которые были составлены с помощью чат-ботов. Продавцы утверждали, что ИИ удалось угадать, какими будут задания. 

Чиновники намекнули, что компании-операторы соцсетей обязаны сами обеспечить цензуру подобного контента, если хотят избежать проблем с законом. В частности, интернет-платформам пригрозили, что будут считать их соучастниками списывания на экзамене и распространения ложной информации. Власти не скрывали, что требуют удаления и подавления контента, связанного с возможностью узнать ответы на экзаменационные вопросы заранее.

«Платформы должны добросовестно нести ответственность за управление информационным контентом, усиливать усилия по мониторингу и удалению постов, сосредоточиться на расследовании и очистке незаконной и вредной информации, связанной с экзаменом, включая распространение слухов, утечку вопросов перед экзаменом, продажа псевдоответов, организацию списывания на экзамене и проведение мошенничества при зачислении, а также сосредоточиться на подавление фейковых новостей. Компани должны строго расследовать и разбираться с соответствующими аккаунтами, создавать более здоровую и безопасную сетевую среду и совместно поддерживать надлежащий порядок вступительных экзаменов», — сообщили министерства.

Как сообщает Bloomberg, китайские компании отключили часть функций на своих ИИ-платформах на время экзаменов. В частности, приложения Yuanbao от Tencent Holdings Ltd. и Kimi от Moonshot прекратили распознавание фотографий на «время периода проведения тестирования». Предполагается, что таким образом компании предотвращают возможное списывание при помощи своих инструментов.

Важно отметить, что в Китае действительно существует проблема списывания на экзаменах и продажи вопросов до начала тестирования. Ранее на этом фоне американская College Board прекратила проводить в стране свои SAT-тесты; как сообщалось, китайцы массово списывали во время проведения экзамена.