Американских студентов лишили дипломов из-за использования ChatGPT

Преподаватель Техасского университета A&M в Коммерсе обвинил студентов в мошенничестве с использованием искусственного интеллекта для написания эссе. Об этом пишет The Register.

Координатор факультета сельскохозяйственных наук и природных ресурсов Джаред Мамм проверил аутентичность текстов с помощью ChatGPT. По его словам, инструмент пометил некоторые работы как созданные машиной.

Ситуация привела к заморозке оценок и дальнейшему расследованию. Попавшие под подозрение студенты признались в использовании ИИ для написания эссе.

В результате половине академической группы временно отказали в выдаче дипломов.

«Я поставлю всем на этом курсе X. Я не оцениваю ИИ-чепуху», — сказал Мамм студентам.

Руководство университета подтвердило использование оценки X. По их словам, это временная мера, пока идет расследование.

В вузе отметили, что исключили возможности списывания для некоторых студентов, в то время как другие решили сдать свежее эссе для оценки. По крайней мере один ученик признался в использовании ChatGPT для выполнения задания.

«A&M в Коммерсе подтверждает, что ни один студент не провалил занятия и не был отстранен от выпуска из-за этой проблемы. Должностные лица расследуют инцидент и разрабатывают политику по борьбе с неправильным использованием ИИ-технологий», — говорится в заявлении.

Администрация также приступила к разработке и внедрению инструментов, идентифицирующих ИИ-тексты в курсовых работах.

Знакомый с ситуацией источник сообщил, что конфликт близится к завершению. Вуз якобы признал неправомерность решения преподавателя.

«Это было полностью вне протокола и неуместным использованием ChatGPT. Ну хоть никто не использовал нецензурную брань в обвинениях», — сказал он.

По словам экспертов, даже продвинутые детекторы сгенерированных текстов не способны точно распознать подделку.

«По мере совершенствования больших языковых моделей для имитации людей наилучший возможный детектор достигнет точности почти в 50%», — считает аспирант Университета Мэриленда Вину Санкар Садасиван.

Он добавил, что детекторы можно обмануть, перефразируя выходные данные большой языковой модели. Садасиван призвал научиться жить с тем фактом, что мы, возможно, никогда не сможем достоверно отличить ИИ-текст от человеческого.

«Мы не должны использовать эти детекторы, чтобы вынести окончательный вердикт», — считает он.

Напомним, в декабре 2022 года профессор уличил студентов в подделке эссе с помощью ChatGPT.

В январе государственные школы Нью-Йорка запретили использовать чат-бота на территории учреждений. Позже к ним присоединились крупнейшие вузы Австралии.

В том же месяце OpenAI выпустила детектор сгенерированных текстов. Вскоре ChatGPT научили обходить ограничения инструмента.