ЄС запроваджує заборону на використання систем ШІ з неприйнятним ризиком
З 2 лютого Європейський Союз починає реалізацію вимог нового закону про штучний інтелект, затвердженого Європейським парламентом минулого року. Закон набув чинності 1 серпня, а з лютого починає діяти перший строк дотримання положень.
Закон передбачає класифікацію застосувань ШІ за чотирма рівнями ризику:
- Мінімальний ризик: спам-фільтри для електронної пошти — без додаткового контролю.
- Обмежений ризик: застосування чатботів для клієнтської підтримки — з легким наглядом.
- Високий ризик: системи, що використовуються для медичних рекомендацій, підлягають ретельному контролю.
- Неприйнятний ризик: системи, які створюють загрозу для безпеки чи порушують права громадян, будуть заборонені.
До категорії неприйнятного ризику входять, зокрема, системи для соціального скорингу, маніпулювання рішеннями людей, використання вразливих груп населення, прогнозування злочинності за зовнішністю, використання біометричних даних для визначення особистих характеристик, а також системи для створення баз даних зображень.
Компанії, що використовують заборонені системи, можуть бути оштрафовані до 35 млн євро або до 7% річного доходу, залежно від того, яка сума більша. Зауважується, що штрафи й інші заходи контролю почнуть застосовуватись після встановлення відповідних органів контролю, що очікується у серпні.
У вересні минулого року понад 100 компаній підписали добровільну угоду щодо застосування положень закону. Серед учасників — Amazon, Google та OpenAI, а Meta та Apple, відмовились від підписання. Проте всі учасники ринку мають дотримуватись вимог закону, включаючи заборону систем з неприйнятним ризиком.
Закон передбачає деякі винятки. Наприклад, правоохоронні органи можуть використовувати системи, що збирають біометричні дані в громадських місцях, за умови отримання відповідного дозволу та якщо це спрямовано на пошук потерпілих або запобігання загрозі життю. Також винятки передбачені для систем, що аналізують емоції в медичних або безпекових цілях у навчальних закладах та на робочих місцях.
Очікується, що комісія ЄС опублікує додаткові рекомендації у початку 2025 року після консультацій з зацікавленими сторонами. При цьому взаємодія цього закону з іншими законодавчими актами, зокрема з правилами захисту даних та кібербезпеки, буде уточнюватися з часом.
Джерело: TechCrunch
