Голова Instagram попереджає про ризики довіри до контенту через зростання використання ШІ

Голова Instagram Адам Моссері закликав користувачів соціальних мереж уважніше перевіряти джерела контенту через те, що штучний інтелект все частіше створює зображення й тексти, які можуть виглядати реалістично, але вводити в оману. Про це він написав у серії постів у Threads.

Моссері заявив, що платформи повинні маркувати контент, створений за допомогою ШІ, наскільки це можливо. Проте він визнав, що не весь такий контент можна ідентифікувати та позначити. Тому соціальні мережі повинні надавати більше контексту про те, хто публікує контент, аби користувачі могли оцінити його надійність.

«Наша роль як інтернет-платформ полягає в тому, щоб якомога точніше маркувати ШІ-контент. Але оскільки деяка частина такого контенту може залишатися непоміченою, платформи мають також забезпечити контекст про того, хто його поширює», — написав Моссері у своєму Threads.

Моссері каже, що чатботи можуть впевнено надавати неправдиву інформацію, і закликав користувачів перевіряти, чи є джерело публікації авторитетним.

На цей момент платформи Meta, включно з Instagram, не пропонують розширених інструментів для перевірки контексту, хоча компанія раніше анонсувала зміни в політиці роботи з ШІ-контентом. Ідеї, озвучені Моссері, схожі на інструменти модерації, які вже існують на інших платформах, таких як Community Notes на X (колишньому Twitter) або фільтри модерації на Bluesky. Чи планує Meta впровадити подібні механізми, поки що невідомо.

Джерело: The Verge