OpenAI розробляє інструмент виявлення текстів, згенерованих ChatGPT

Компанія OpenAI розробляє інструмент для виявлення текстів, створених штучним інтелектом. Проте, компанія поки що не вирішила, чи публікувати його. Інструмент зміг би допомогти викрити студентів, які використовують ChatGPT для написання навчальних робіт.

Представник компанії підтвердив розробку технології водяних знаків для тексту, але зазначив, що компанія обережно підходить до її публікації через потенційні ризики та складність проблеми.

«Цей метод виглядає перспективним, але ми бачимо значні ризики, зокрема можливість обходу захисту та негативний вплив на не носіїв англійської мови», — представник компанії OpenAI

Новий підхід передбачає впровадження невидимих водяних знаків у тексти, створені ChatGPT, шляхом незначних змін у виборі слів. Ці водяні знаки потім можна виявити за допомогою окремого інструменту.

Нещодавно OpenAI оновила свій блог із дослідженнями щодо виявлення ШІ-текстів. Хоча водяні знаки виявилися ефективними проти перефразування, вони виявилися менш стійкими до складніших методів обходу: використання перекладачів чи інших генеративних моделей. Саме тому компанія визнає, що цей захист легко можна обійти. 

Джерело: TechCrunch