Google запустив ШІ-модель, яка може розпізнавати емоції
Компанія Google презентувала нову ШІ-модель PaliGemma 2, яка може аналізувати зображення, створювати детальні описи сцен та розпізнавати емоції людей.
Функція розпізнавання емоцій стала доступною після спеціального налаштування, однак викликала критику серед фахівців. Науковці попереджають, що технологія, яка базується на спірних методах аналізу емоцій, може бути ненадійною та дискримінаційною.
PaliGemma 2 використовує відкриту модель Gemma 2 і, за даними Google, пройшла тестування для уникнення демографічних упереджень. Проте компанія не надала деталізованих звітів про методологію перевірки.
Експерти також зазначають, що технології розпізнавання емоцій часто виявляють упередження. Наприклад, дослідження Массачусетського технологічного інституту у 2020 році показало, що такі системи можуть некоректно інтерпретувати емоції людей із різними типами зовнішності.
Основна критика з боку експертів полягає в тому, що подібні системи можуть бути використані для дискримінації, порушення приватності та неправомірних дій у сферах HR, фінансів або навіть у правоохоронній діяльності.
Google заявляє, що модель відповідає стандартам етичності, однак науковці закликають бути обережними у використанні штучного інтелекту.
Емоційні ШІ-системи можуть стати небезпечним інструментом через недосконалість та ризик зловживань. Технологія потребує більшого контролю та прозорості, щоб уникнути порушень прав людей.
Джерело: TechCrunch
