Журнал для преподавателей опубликовал статью об опасности использования ChatGPT, написанную ChatGPT — The Guardian

Чат-бот от OpenAI с искусственным интеллектом Chat GPT написал работу об опасности плагиата с использованием чат-ботов. Об этом в интервью для The Guardian признались учёные, которые выдавали себя за авторов статьи. В ряде университетов заявили, что планируют ужесточить свою политику по использованию нейросетей в работе. Эксперты предупреждают, что скоро отличить сгенерированный машиной текст от написанного человеком будет ещё сложнее.

Препринт работы опубликовали в январе этого года. В качестве авторов работы указаны университетские профессора Дебби Р.Э. Коттон, Питер А. Коттон и Дж. Рубен Шипвей из британского города Плимут.

В тексте обсуждается, какие риски несёт в себе использование чат-ботов с ИИ студентами и даётся ряд рекомендаций насчёт того, как преподаватели могут предотвратить плагиат в работах учащихся.

«Авторы» пришли к выводу о том, что боты вроде ChatAPI и GPT-3 могут «предложить ряд преимуществ для высшего образования», в том числе помогая при совместной работе и обеспечивая «своевременную обратную связь». Отдельно отмечалось, нейросети могут быть полезным инструментом при дистанционном обучении и использоваться для «перевода, обобщения, ответов на вопросы, генерации текста и персонализированных оценок».

Тем не менее, в работе также упоминается, что использование ChatGPT может приводить к нарушению принципов «академической честности» и «плагиату». Заявлялось, что университеты должны продумать рамки использования нейросетей, чтобы обеспечить их «этичное» использование при обучении.

«Эти инструменты также вызывают ряд проблем и опасений, особенно в отношении академической честности и плагиата. ChatAPI и GPT-3 могут использоваться для облегчения списывания и может быть трудно отличить текст, созданный человеком, от написанного машиной. Университеты должны тщательно взвесить потенциальные риски и выгоды от использования этих инструментов и принять меры для обеспечения их этичного и ответственного использования», — говорилось в тексте.

Преподавателям и администрациям учреждений предложили разработать «различные методы для выявления и предотвращения академической нечестности». Профессорам посоветовали, помимо прочего, требовать от студентов версии черновиков их работ, просить их презентовать свои исследования перед аудиторией, а также требовать от них использования оригинальных источников. Более того, рекомендуется искать в тексте ошибки вроде грамматических и синтаксических: реальные люди якобы совершают их чаще, чем роботы.

Через некоторое время статья прошла процедуру рецензирования и даже попала в профильный журнал для преподавателей Innovations in Education and Teaching International. Теперь «авторы» признались, что на самом деле текст сгенерировал ChatGPT.

«Мы хотели показать, что ChatGPT пишет на очень высоком уровне. Это “гонка вооружений”. Технологии развиваются очень быстро, и университетам будет сложно их обогнать», — сказала профессор Дебби Коттон

По данным издания, в некоторых университетах уже планируют отчислять студентов, который поймали при использовании чат-ботов и ИИ. Эксперт по мошенничеству с контрактами в Имперском колледже Лондона сказал, что многие университеты «паникуют», так как «невероятно сложно доказать», что какой-то текст был сгенерировал машиной. Он предупредил, что новая версия бота от OpenAI, ChatGPT-4, функционирует намного лучше и способна казаться «более человечной».

«Тем не менее, по его словам, ученые все еще могут искать признаки того, что студент использовал ChatGPT. Возможно, самая большая из них заключается в том, что он не понимает должным образом академические ссылки — жизненно важную часть письменной университетской работы — и часто использует “подозрительные” ссылки или полностью их выдумывает», — отметили в The Guardian.

В Бристольском университете сказали, что «совершенно ясно понимают, что не допустят мошенничества, потому что нужно поддерживать стандарты». В отделе академической честности Университета Ковентри сказали, что «удваивают усилия, чтобы донести до студентов, что если они используют эти инструменты для списывания, их могут исключить». Там сказали, что некоторые сотрудники учреждения уже расследуют «дела» по использованию чат-ботов при написании работ.

В феврале стало известно, что ChatGPT сдал экзамен на получение лицензии доктора в США. Он также мог бы получить «четвёрку» на экзамене по управлению бизнесом. Ранее департамент образования Нью-Йорка запретил доступ к ChatGPT на своих устройствах. На этой неделе сообщалось, что этот чат-бот притворился слепым, чтобы обойти капчу.