ChatGPT может изменить академические круги. Но это еще не отличник: NPR

Эмма Боуман

Введите приглашение в ChatGPT, и он станет вашим собственным виртуальным помощником. OpenAI/Скриншот NPR скрыть подпись

Введите приглашение в ChatGPT, и он станет вашим собственным виртуальным помощником.

Зачем делать домашнюю работу, если за вас это может сделать чат-бот? Новый инструмент искусственного интеллекта под названием ChatGPT взбудоражил Интернет своими сверхчеловеческими способностями решать математические задачи, писать эссе для колледжа и писать исследовательские работы.

После того, как в прошлом месяце разработчик OpenAI представил публике текстовую систему, некоторые преподаватели забили тревогу по поводу того, что такие системы ИИ могут изменить академические круги в лучшую или худшую сторону.

«ИИ фактически испортил домашнее задание», — сказал в Твиттере Итан Моллик, профессор Уортонской школы бизнеса Пенсильванского университета.

По его словам, этот инструмент мгновенно стал хитом среди многих его учеников, рассказал он NPR в интервью Morning Edition, причем наиболее очевидным его применением является способ мошенничества путем плагиата работы, написанной ИИ.

Помимо академического мошенничества, Моллик также видит в нем преимущества в качестве помощника в обучении.

Он использовал его в качестве помощника своего учителя, помогая составить программу, лекции, задания и критерии оценки для студентов MBA.

«Вы можете вставить целые научные статьи и попросить его обобщить их. Вы можете попросить его найти ошибку в вашем коде, исправить ее и рассказать, почему вы ошиблись», — сказал он. «Именно этот множитель способностей, о котором, я думаю, мы не совсем понимаем, просто потрясающий», — сказал он.

Но сверхчеловеческий виртуальный помощник, как и любая новая технология искусственного интеллекта, имеет свои ограничения. В конце концов, ChatGPT был создан людьми. OpenAI обучила инструмент, используя большой набор данных реальных человеческих разговоров.

«Лучший способ подумать об этом — вы болтаете со всезнающим, всегда готовым угодить стажером, который иногда вам лжет», — сказал Моллик.

Это тоже уверенность. Несмотря на авторитетный тон, были случаи, когда ChatGPT не сообщал вам, если у него нет ответа.

Именно это обнаружила Тереза ​​Кубака, специалист по данным из Цюриха, Швейцария, когда экспериментировала с языковой моделью. Кубачка, которая изучала физику для получения докторской степени, протестировала инструмент, задав ему вопрос о вымышленном физическом явлении.

«Я намеренно спросила его о чем-то, о чем, как мне казалось, я знаю, не существует, чтобы они могли судить, действительно ли оно имеет представление о том, что существует, а что не существует», — сказала она.

ChatGPT дал настолько конкретный и правдоподобный ответ, подкрепленный цитатами, по ее словам, что ей пришлось выяснить, действительно ли фальшивое явление, «циклоидальный перевернутый электромагнон», действительно существует.

По ее словам, когда она присмотрелась, предполагаемый исходный материал также оказался поддельным. Там были перечислены имена известных ученых-физиков, однако названий публикаций, которые они предположительно написали, не существовало, сказала она.

«Именно здесь это становится опасным», — сказал Кубачка. «В тот момент, когда вы не можете доверять ссылкам, это также подрывает доверие к цитированию научных данных вообще», — сказала она.

Ученые называют эти фальшивые поколения «галлюцинациями».

«Есть еще много случаев, когда вы задаете ему вопрос, и он дает вам очень впечатляющий ответ, который совершенно неправильный», — сказал Орен Этциони, генеральный директор-основатель Института Аллена по искусственному интеллекту, который руководил исследовательской некоммерческой организацией до тех пор, пока недавно. «И, конечно, это проблема, если вы тщательно не проверите и не подтвердите факты».

Перед тестированием инструмента пользователей, экспериментирующих с чат-ботом, предупреждают, что ChatGPT «иногда может генерировать неверную или вводящую в заблуждение информацию». OpenAI/Скриншот NPR скрыть подпись