• 27 Грудня 2024

Результати видачі SearchGPT можна змінити за допомогою прихованого тексту

Дослідники британського видання The Guardian виявили, що новий ШІ-пошуковик ChatGPT Search, який запустили цього місяця, має вразливість до маніпуляцій. Штучний інтелект можна змусити ігнорувати негативні відгуки та створювати лише позитивні підсумки, якщо на сайті розміщено прихований текст.

ChatGPT Search створений для пришвидшення пошуку, зокрема через підсумовування оглядів чи інших матеріалів із сайтів. Проте дослідження показало, що ця функція стає вразливою до маніпуляцій — це дозволяє не лише редагувати підсумки, але й генерувати шкідливий код.

Подібні способи маніпуляції вже відомі як ризики для мовних моделей, але в роботі реального пошукового сервісу їх виявили вперше. У виданні The Guardian нагадали, що Google, як лідер на ринку пошуку, має значно більше досвіду у боротьбі з подібними загрозами.

Представники компанії OpenAI поки не коментували цей випадок. Однак компанія заявила, що постійно вдосконалює систему безпеки та застосовує механізми для блокування шкідливих сайтів.

Виявлена вразливість ChatGPT Search демонструє ризики, пов’язані з використанням ШІ для обробки інформації. Відповідно цей випадок підкреслює: важливо завжди перевіряти дані, навіть якщо вони згенеровані високотехнологічними системами.

Джерело: TechCrunch

Ольга Беспалько

• Media Editor

Inweb

Редакторка медіа з досвідом роботи у контент-менеджменті та копірайтингу. Постійно слідкую за digital трендами і новинами, щоб надавати вам цікаву та актуальну інформацію. Зі мною ви точно будете в курсі всіх подій.