OpenAI створює незалежний комітет для нагляду за безпекою ШІ

OpenAI створює незалежний комітет з безпеки, який займатиметься контролем процесів під час розробки та впровадження ШІ. Це рішення є відповіддю на рекомендації сенаторів США.

Наразі його очолюватиме професор Зіко Кольтер з університету Карнегі-Меллон, Адам Д’Анджело директор компанії Quora, Пол Накасоне генерал армії США у відставці та Ніколь Селігман колишній виконавчий віцепрезидент Sony.

Комітет вже перевірив безпеку моделі o1. Також він отримуватиме регулярні звіти від команд безпеки та матиме право затримувати випуски, доки проблеми з безпекою моделей не вирішать.

Минулого місяця компанія також підписала угоду з урядом США на проведення досліджень та оцінки моделей штучного інтелекту — це є ще одним кроком у напрямку забезпечення надійності й прозорості.

Джерело: Reuters