Как отличить ответы, сгенерированные ChatGPT от текста, написанного человеком?
В первую очередь возможности ChatGPT взволновали работников сферы образования. Этот искусственный интеллект умеет практически мгновенно создавать большие и очень точные документы. Таким образом, студенты получили необычайно эффективный инструмент для мошенничества. В связи с этим резко появился высокий спрос на программы, способные выявлять части научных работ, которые были сформированы ИИ. Последние исследования показали, что у текста, составленного ChatGPT, всегда есть несколько ключевых отличий от «человеческого» текста.
Исследователи создали программу, которая с помощью метода машинного обучения должна был обнаружить характеристики и закономерности в формулировках ChatGPT, которые выдавали ли бы работу ИИ. В ходе эксперимента ученые попросили чат-бот перефразировать оригинальные тексты, написанные людьми, а также сгенерировать несколько обзоров ресторанов.
Как оказалось, в стремлении быть похожим на текст, написанный человеком, нейросеть рассказывает о пережитых эмоциях, но не делится чувствами. В искусственно сгенерированных текстах не бывает грубых или оскорбительных слов и выражений, периодически появляются странные слова (которые мы не используем в естественной речи). Нейросеть не использует личные местоимения. В обзорах ресторанов, например, встречались такие выражения, как «абсолютно вкусно», «сверх нормы вежливый», «неподобающе невнимательный». Именно они в первую очередь выдавали в тексте его машинное происхождение.
Тексты, которые формирует ChatGPT, всегда очень вежливы. В них не бывает иронии, сарказма, программа не использует в текстах метафоры. Так неужели самым главным отличием «человеческого» и машинного текста является наличие грубости?
Такие новости мы постоянно публикуем в Telegram. Подписывайтесь на канал, чтобы ничего не пропустить ;)
Как подчеркнули исследователи, ChatGPT формирует тексты таким образом, чтобы удовлетворить максимальное количество запросов пользователя. В результате ответы получаются иногда даже чрезмерно вежливыми и не имеют глубины, которая есть у текстов, написанных человеком. Программа не умеет делиться чувствами, поэтично описывать события и предметы.
Также отличает результат работы ChatGPT отсутствие описания мелких деталей. Например, описывая ресторан, нейросеть использовала общие фразы для описания заведения, в то время как человек бы обращал внимание на мелочи (предметы декора в зале, сервировку стола, одежду официанта и пр.). Также выдает машинный текст и большое количество повторов ключевых слов, например «ресторан».
Сегодня уже создано несколько нейросетей, которые должны проверять текст на наличие признаков машинного, но ни одна из них пока не работает идеально. Если вы подозреваете, что текст не был написан человеком, обратите внимание на нюансы, описанные выше. После внимательного прочтения вы наверняка обратите внимание на те из них, которые выдадут вам работу ChatGPT.
Недавно компания OpenAI выпустила бесплатный идентификатор текста, сгенерированного ChatGPT. Однако пока программа выдает до 9% ложноотрицательных результатов. В тех же 26%, в которых все же она распознает работу нейросети, обозначает как «предположительно написанные ИИ».
Сегодня в открытом доступе можно найти еще несколько бесплатных идентификаторов, анализирующих тексты на предмет работы ChatGPT, но пока результаты их работы также недостаточно надежны.
Источник: .
Тогда можно поддержать её лайком в соцсетях. На новости сайта вы ведь уже подписались? ;)
Или хотя бы оставить довольный комментарий, чтобы мы знали, какие темы наиболее интересны читателям. Кроме того, нас это вдохновляет. Форма комментариев ниже.
Что с ней так? Своё негодование вы можете высказать на zelebb@gmail.com или в комментариях. Мы постараемся учесть ваше пожелание в будущем, чтобы улучшить качество материалов сайта. А сейчас проведём воспитательную работу с автором.
Поговорить?
Читайте нас где удобно
Ещё на эту тему было
- Для обработки всего пяти запросов ChatGPT может потребоваться до 500 мл воды
- Даже создатель ChatGPT опасается ИИ – неужели восстание машин близко?
- Грязный шлейф искусственного интеллекта и модных чат-ботов – какова цена за пользовательское удобство?
- Судья использовал ChatGPT для решения по рассматриваемому делу
Для тех, кто долистал
Ай-ти шуточка бонусом. — Почему на телефон не отвечал? — Опять перепутал и вместо него телевизор с собой взял на работу. — Samsung у тебя? — Да. — Та же фигня.
