Новости
Самое интересное в обзорах
Учитель Лицея НИУ ВШЭ Михаил Павловец провёл эксперимент: заручившись поддержкой помощников, он дал нейросети задание сгенерировать текст, соответствующий требованиям итогового сочинения в средней школе, и отправил его на проверку своим коллегам. Искусственный интеллект получил «допуск к ЕГЭ».
Источник изображения: Markus Winkler / unsplash.com
Павловец привлёк к эксперименту двух молодых коллег: магистранта-филолога НИУ ВШЭ (Москва) Максима Дрёмова и студента программы «Большие данные и машинное обучение» ИТМО (Санкт-Петербург) Андрея Гетманова. Они получили доступ к нейросети GPT-3 и поставили ей задачу сгенерировать текст, соответствующий требованиям итогового сочинения — начиная с 2014 года, оно пишется 11-классниками ежегодно и оценивается по системе «зачёт/незачёт», являясь допуском к ЕГЭ. В этом году его писали 7 декабря.
Входными параметрами для нейросети послужили требования к итоговому сочинению: тема, опора на художественное произведение — нейросеть выбрала «Дивный новый мир» Олдоса Хаксли (Aldous Huxley) — и объём. По иронии и, возможно, преднамеренно, тема сочинения звучала так: «Почему достижения прогресса, дающие человеку удобства и комфорт, могут быть опасны для человечества?». Искусственный интеллект выдал результат за две минуты. Учёные повторили эксперимент несколько раз и получили дополнительные тексты — они опирались на «Дорогу» Кормака Маккарти (Cormac McCarthy), «Франкенштейна» Мэри Шелли (Mary Shelley) и «1984» Джорджа Оруэлла (George Orwell).
«Сочинение» было создано на английском языке, и для чистоты эксперимента текст перевели на русский при помощи соответствующей службы «Яндекса» без внесения дополнительных правок. Полученный результат господин Павловец предоставил на проверку коллегам: завкафедрой словесности Лицея НИУ ВШЭ Екатерине Бровко и московскому учителю с 30-летним стажем Сергею Райскому. Оба преподавателя проверили «сочинение», отметили некоторые «речевые просчёты», но в целом поставили работе оценку «зачтено», то есть «допустили» искусственный интеллект к сдаче ЕГЭ.
Полный текст работы Михаил Георгиевич приводит в своей статье, в конце которой задаётся несколькими острыми вопросами, в том числе тем, насколько учитывается возможность написания сочинения нейросетью, и есть ли какие-то решения для противодействия подобным фальсификациям.
Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Самые обсуждаемые публикации
Для работы проектов iXBT.com нужны файлы cookie и сервисы аналитики.
Продолжая посещать сайты проектов вы соглашаетесь с нашей
Политикой в отношении файлов cookie
Педагог лицея НИУ ВШЭ Михаил Павловец попросил нейросеть GPT-3 написать итоговое сочинение для ЕГЭ на тему «Почему достижения прогресса, дающие человеку удобства и комфорт, могут быть опасны для человечества?». В результате нейросеть спустя несколько минут выдала несколько текстов на английском.
GPT-3 (Generative Pre-trained Transformer 3)
— третье поколение алгоритма обработки естественного языка от OpenAI. На данный момент считается одной из самых продвинутых языковых моделей. Алгоритм способен писать статьи на различные темы и вести диалог.
Достижения прогресса, которые дают человеку удобство и комфорт, могут быть опасны для человечества, поскольку они могут привести к самоуспокоенности и отсутствию критического мышления.
Фрагмент сочинения
Педагог выбрал самое лучшее сочинение, перевёл его в яндекс переводчике и дал на оценку своим коллегам, которые хоть и заметили несколько речных несостыковок, но всё равно признали, что сочинение заслуживает «зачёт» по всем критериям ФИПИ. В некоторых текстах нейросеть цитирует отрывки из романа Кормака Маккарти «Дорога», Мэри Шелли «Франкенштейн», Джорджа Оруэлла «1984». Полное сочинение от нейросети доступно на сайте vogazeta.ru.
К сожалению доступ к чату с GPT-3 недоступен пользователям из России, но если вы хотите испытать возможности современных нейросетей писать тексты, то попробуйте сервис ruGPT-3 от Сбера или Балабоба от Яндекса.
Источник:
vogazeta.ru
Сейчас на главной
Новости
Публикации
Несколько дней назад завершилась международная выставка Mobile World Congress 2023, на которой было представлено огромное количество потребительской техники, в том числе и смартфоны. Тем не менее,…
После того как мы подробно рассмотрели несколько довольно компактных беспроводных колонок от компании Tronsmart, самое время перейти к их более крупным собратьям. Так сегодня у меня в руках их…
Впервые секвенирован геном фасоли фаба, который более чем в четыре раза превышает размер генома человека. Результаты научной работы опубликованы в научном журнале Nature. Это экстраординарное…
Недавно я увлеклась трекингом своей физической активности/ В этом оказались очень полезны смартчасы. Я пользовалась различными, но сегодня хочу рассказать о часах, которые не разрядились за неделю…
Если еще несколько лет назад беспроводная зарядка внедрялась в качестве экспериментальной функции, то сейчас она уже полноценно прижилась и нашла своего потребителя. Все больше производителей…
Наверное, кто-то из вас играл в игру или смотрел сериал «The Last of Us», где грибковая инфекция кордицепс фактически уничтожила цивилизацию, заразив большую часть населения Земли. Реален ли…
Доцент школы филологический наук ВШЭ Михаил Павловец предложил искусственному интеллекту GPT-3 написать итоговое сочинение, необходимое для получения допуска к ЕГЭ. Об итогах эксперимента он написал статью в «Вести образования».
В рамках сочинения от выпускников требуется соблюсти ряд критериев: написать текст объемом 350 знаков, в рассуждении придерживаться обозначенной темы, выдвинуть тезис и аргументировать примером из литературы, а также не допускать грубых ошибок.
Алгоритм попросили написать рассуждение на тему «Почему достижения прогресса, дающие человеку удобства и комфорт, могут быть опасны для человечества?». За пару минут GPT-3 сгенерировал несколько вариантов сочинения. Он выдал рассуждения с опорой на четыре литературных произведения: «Дивный новый мир» Олдоса Хаксли, «Дорогу» Кормака Маккарти «Франкенштейна» Мэри Шелли и «1984» Джорджа Оруэлла.
Так как GPT-3 пишет на английском языке, Павловец перевел выбранное сочинение с помощью «Яндекс Переводчика». Вот что написала нейросеть:
Затем Михаил Павловец показал двум проверяющим — завкафедры словесности Лицея НИУ ВШЭ Екатерине Бровко и известному московскому учителю с 30-летним стажем Сергею Райскому: оба отметили некоторые речевые недочеты, но признали, что по всем критериям работа получает зачет.
В заключении своей колонки Павловец задается рядом вопросов. Как проверить сочинения на плагиат? Существуют ли какие‑то меры противодействия потенциально возможному использованию нейросетей в генерировании типовых, шаблонных сочинений? Зачем вообще нужны такие тексты, если с ними прекрасно справляется даже нейросеть? Обо всем этом он предлагает подумать Минпросвещения.
Работа получилась «на зачет». GPT-3 считается самой сложной и объемной языковой моделью в мире. Где еще сейчас используют технологию, как она работает и может ли заменить человека?
Доцент Высшей школы экономики и преподаватель лицея НИУ ВШЭ Михаил Павловец вместе с коллегами провел эксперимент и попросил нейросеть GPT-3 написать текст по критериям итогового сочинения для старшеклассников.
«В целом достижения прогресса могут быть опасны для человечества, поскольку они могут привести к самоуспокоенности и отсутствию критического мышления» — это вывод итогового сочинения, которое написала нейросеть GPT-3. Компьютер выполнил все требования: структура, количество слов и пример из литературного произведения. Нейросеть сама нашла нужные аргументы в романе Олдоса Хаксли «О дивный новый мир», произведении Джорджа Оруэлла «1984» и других. В ходе эксперимента текст проверили несколько экспертов. Они единогласно признали: работа зачетная, хотя есть пара повторов и речевых небрежностей.
Это лишний раз подтверждает, что смысла в итоговом сочинении выпускников нет, такой текст никак не раскрывает личность и не показывает знания, считает доцент Высшей школы экономики и преподаватель лицея НИУ ВШЭ Михаил Павловец.
Михаил Павловец доцент Высшей школы экономики, преподаватель лицея НИУ ВШЭ Огромное количество работ просто списаны или написаны по какому-то тупому шаблону. Тема, например: «Береги честь смолоду». И мы получали такие примерно сочинения, что нужно беречь честь смолоду, потому что, если ты бережешь честь смолоду, ты поступаешь как Татьяна Ларина из романа Пушкина «Евгений Онегин», а если ты смолоду честь не бережешь, тогда ты можешь погибнуть под колесами паровоза, как это сделала Анна Каренина. Это ахинея. Попробуем сгенерировать итоговое сочинение. И тут мы читаем и понимаем, что если бы такое сочинение нам сдали, то они прошли бы по всем критериям. То есть за этим нет живого человека. Его мнения, его позиции, его опыта жизненного
Нейросеть GPT-3 считается самой сложной и объемной языковой моделью в мире. Ее создала компания OpenAI. Один из основателей организации — Илон Маск. Нейросеть не работает в России из-за санкций, но проблема решается с помощью VPN. Еще одно неудобство — GPT-3 работает только на английском. Доступ к технологии может получить любой. Нужно зайти на сайт и зарегистрироваться с помощью электронной почты и номера телефона.
Сотрудники Business FM провели эксперимент и попросили GPT-3 написать новость о школьных экзаменах. Система справилась с задачей, отправив в ответ текст под заголовком «Местная школа объявляет о новых правилах проведения экзаменов». Нейросеть может также отвечать на вопросы, генерировать программный код, изображения, продолжать написанный текст и многое другое. Компьютер можно научить решать нужную вам задачу. Продолжает гендиректор компании «Промобот» Максим Чугунов:
Максим Чугунов гендиректор компании «Промобот»
При этом, согласно правилам разработчиков нейросети, чат-ботам запрещено говорить на любые темы, связанные с флиртом, романтикой и сексом. Нейросеть нельзя использовать и для юридических и медицинских рекомендаций. Иначе может дойти до абсурда. Пример — эксперимент французской компании Nabla по созданию медицинского чат-бота. На вопрос пользователя «Мне плохо, мне убить себя?», компьютер ответил: «Я думаю, вам следует». Дело в том, что технология не может следовать четкой логике, говорит сотрудник РЭУ имени Плеханова, член Российской академии естественных наук по секции «Информатика и кибернетика» Руслан Шихалиев.
Руслан Шихалиев сотрудник РЭУ имени Плеханова, член Российской академии естественных наук по секции «Информатика и кибернетика»
Доцент ВШЭ Михаил Павловец, который рассказал об эксперименте с нейросетью и итоговым сочинением, развивает чемпионат сочинений «Своими словами». Участники должны написать текст без шаблонов и клише. По словам доцента, в рамках этого чемпионата, в отличие от школьного экзамена, проверяющие поставили бы за работу нейросети очень низкую оценку, потому что технология не способна писать оригинально и глубоко.
Добавить BFM.ru в ваши источники новостей?
Зачет по итоговому сочинению — обязательное условие допуска к единому государственному экзамену для школьников. Преподаватель Лицея НИУ ВШЭ Михаил Павловец решил проверить, как с этим испытанием справится нейросеть GPT-3. Оказалось, что алгоритм вполне мог бы оказаться среди участников ЕГЭ.
Михаил дал нейросети задание сгенерировать текст, соответствующий критериям итогового сочинения. GPT-3 попросили порассуждать на тему «Почему достижения прогресса, дающие человеку удобства и комфорт, могут быть опасны для человечества?». Спустя две минуты алгоритм выдал эссе на 358 английских слов, которые затем перевели на русский. Прочитать полное сочинение можно ниже.
«Почему достижения прогресса, дающие человеку удобства и комфорт, могут быть опасны для человечества?»
Достижения прогресса, которые дают человеку удобство и комфорт, могут быть опасны для человечества, поскольку они могут привести к самоуспокоенности и отсутствию критического мышления. По мере того как люди привыкают к удобствам, обеспечиваемым технологиями и достижениями общества, они могут начать воспринимать эти вещи как должное и терять способность представлять жизнь без них. Этот недостаток воображения может затруднить людям оспаривание статус-кво или адаптацию к меняющимся обстоятельствам.
Один из примеров этого явления можно увидеть в романе Олдоса Хаксли «Дивный новый мир». В этом обществе-антиутопии население поддерживается в состоянии вечного счастья благодаря использованию передовых технологий и социальной инженерии. Однако это счастье дается ценой индивидуальности и критического мышления. Граждане этого общества не в состоянии представить себе мир за пределами своего собственного, и в результате они не в состоянии бросить вызов деспотичному правительству, которое их контролирует.
В реальной жизни мы можем видеть опасность самоуспокоенности в нашей растущей зависимости от технологий. По мере того как технологии становятся все более продвинутыми и интегрируются в нашу повседневную жизнь, мы все больше и больше полагаемся на них. Эта зависимость может сделать нас уязвимыми к сбоям в технологиях, как это было продемонстрировано в недавних отключениях электроэнергии и кибератаках. Кроме того, наша зависимость от технологий может сделать нас менее устойчивыми и менее способными адаптироваться к меняющимся обстоятельствам. Например, во время стихийных бедствий люди, которые полагаются на технологии, могут оказаться неспособными справиться без доступа к своим устройствам и интернету.
Кроме того, достижения прогресса также могут привести к отсутствию критического мышления. По мере того как люди привыкают к тому, что информация всегда под рукой, они могут стать менее склонными к глубокому размышлению и анализу. Они также могут с меньшей вероятностью подвергать сомнению источники получаемой ими информации, что может привести к распространению дезинформации и размыванию навыков критического мышления.
В целом достижения прогресса могут быть опасны для человечества, поскольку они могут привести к самоуспокоенности и отсутствию критического мышления. Для нас важно осознавать эти опасности и защищаться от них, чтобы гарантировать, что прогресс продолжает приносить пользу человечеству, а не препятствовать ему. Мы должны помнить о нашей зависимости от технологий и стремиться сохранить нашу способность мыслить критически и независимо. Поступая таким образом, мы можем гарантировать, что достижения прогресса продолжают улучшать нашу жизнь, а не умалять ее.
Итоговое сочинение от нейросети, конечно, содержит некоторые речевые небрежности. Однако GPT-3 справился со стандартными требованиями к школьникам: в его тексте больше 350 слов, есть развернутый тезис, подкрепленный тремя аргументами, один из которых — «литературный», а также присутствуют выводы.
Текст от нейросети показали нескольким учителям с большим стажем преподавания, и все они поставили сочинению зачет, допустив искусственный интеллект к сдаче ЕГЭ.
По мнению Михаила Павловеца, этот эксперимент ставит перед педагогами острые вопросы, среди которых — как противостоять фальсификациям подобного типа и зачем вообще заставлять учеников писать шаблонные тексты.