Бот или нет? Это расширение для браузера идентифицирует текст, написанный ИИ

Выяснение того, являются ли статьи, которые Вы читаете в интернете, правдой, может быть сложным. Благодаря новому веб-плагину, определить, были ли истории написаны человеком или ИИ теперь намного проще. GPTrue или False-это расширение браузера для Chrome и Firefox, которое позволяет пользователям выбирать текст на веб-сайте (50 слов и более) и оценивать его, чтобы определить вероятность того, что он был написан моделью GPT-2 A. I. OpenAI, а не человеком.

GPT-2-это алгоритм генерирования текста, который позволяет пользователям заполнять его с начала фрагмента текста, такого как статья из газеты, а затем рассуждает об остальном в ужасающе убедительной форме. В то время как некоторые использовали его для творческих целей, таких как создание постоянно меняющихся текстовых приключенческих игр , другие справедливо обеспокоены тем, что это может означать для распространения поддельных новостей .

GPTrue или False запускает выбранный текст через модель детектора GPT-2 OpenAI, а затем вычисляет вероятность того, что текст был сгенерирован человеком, а не создан машиной.

GPT 2 плагин сортирует реальный от поддельного talktotransformer com
“Я бы сказал, что эта проблема довольно актуальна в современном мире", - сказал Джулио Стараче, создатель GPTrue или False, сказал Digital Trends. "По мере того как синтетическая генерация данных становится все более и более сложной, мы становимся все более и более уязвимыми к тому, чтобы быть поколебленными тем или иным образом. Поддельные новости, генерируемые машинами, являются одним из примеров, но рассмотрим также поддельные обзоры. В мире, где обзор был открыт, этой системой можно злоупотреблять, и потребители произвольно склонялись к определенному бизнесу.”

Starace сказал, что он был вдохновлен на создание плагина после просмотра твита от директора Tesla A. I., Андрея Карпатиу. 6 ноября Karpathy написал в Твиттере запрос на расширение Chrome, чтобы помочь найти текст GPT-2 в интернете. “Я увидел твит и подумал:” Эй, я, вероятно, могу это сделать", - сказал Starace. Расширение можно скачать здесь .

Одно последнее слово предостережения: хотя этот детектор впечатляюще точен, когда речь заходит о том, чтобы обнаружить каракули А. И., вы все равно захотите использовать здравый смысл. Так же, как детектор спама, обнаруживающий мусорные письма, может быть несколько написанных человеком частей, которые проскальзывают через трещины-или наоборот.

“Возможно, что сгенерированный GPT-2 текст и сгенерированный человеком текст иногда имеют перекрывающиеся характеристики, заставляющие детектор случайно думать, что сгенерированная человеком часть текста на самом деле сгенерирована машиной”,-сказал Starace. “Есть несколько забавных примеров этого в моем Twitter , где люди показывают, что детектор ошибочно классифицирует речь Трампа как компьютерную, а также на отрывке Джеймса Джойса . Так что либо Трамп и Джеймс Джойс-роботы, либо детектор несовершенен.”

Starace сказал, что он был вдохновлен на создание плагина после просмотра твита от директора Tesla A. I., Андрея Карпатиу. 6 ноября Karpathy написал в Твиттере запрос на расширение Chrome, чтобы помочь найти текст GPT-2 в интернете. “Я увидел твит и подумал:” Эй, я, вероятно, могу это сделать", - сказал Starace. Расширение можно скачать здесь .

Одно последнее слово предостережения: хотя этот детектор впечатляюще точен, когда речь заходит о том, чтобы обнаружить каракули ИИ, вы все равно захотите использовать здравый смысл. Так же, как детектор спама, обнаруживающий мусорные письма, может быть несколько написанных человеком частей, которые проскальзывают через трещины-или наоборот.

“Возможно, что сгенерированный GPT-2 текст и сгенерированный человеком текст иногда имеют перекрывающиеся характеристики, заставляющие детектор случайно думать, что сгенерированная человеком часть текста на самом деле сгенерирована машиной”,-сказал Starace. “Есть несколько забавных примеров этого в моем Twitter , где люди показывают, что детектор ошибочно классифицирует речь Трампа как компьютерную, а также на отрывке Джеймса Джойса . Так что либо Трамп и Джеймс Джойс-роботы, либо детектор несовершенен.”