ChatGPT споживає менше енергії, ніж вважалося — дослідження

Дослідження Epoch AI спростовує поширену думку, що штучний інтелект від OpenAI потребує значної кількості електроенергії. Раніше вважалося, що один запит до ChatGPT споживає 3 ват-години, що в десять разів більше, ніж пошук у Google. Однак новий аналіз показує, що реальне споживання близько 0,3 ват-години на запит — удесятеро менше, ніж передбачалося раніше.
Джошуа Ю, аналітик Epoch AI, пояснив, що попередні оцінки базувалися на застарілих даних і менш ефективному обладнанні. Водночас дослідження не враховує додаткове навантаження від складніших функцій ChatGPT — генерації зображень або обробки довгих текстів, що можуть суттєво збільшувати енергоспоживання.

OpenAI та інші компанії вже працюють над підвищенням енергоефективності. Наприклад, нещодавно було представлено GPT-4o-mini, який потребує менше ресурсів для обробки запитів. Проте ці оптимізації навряд чи компенсують стрімке розширення сфери застосування ШІ та зростання складності завдань, які виконують мовні моделі.
Джошуа Ю зазначив, що для економії електроенергії можна рідше використовувати ШІ для обробки великих обсягів даних або обирати менш ресурсомісткі моделі. Однак глобально це навряд чи зупинить зростання енергоспоживання штучного інтелекту, який стає частиною світової інфраструктури.
Джерело: TechCrunch