ChatGPT консумира десет пъти повече енергия от Google

Консумацията на електроенергия от системите с изкуствен интелект рязко нарасна. Нов доклад разкри, че годишното количество електроенергия, необходимо за ChatGPT, един от най-големите езикови модели, може да зареди 95% от електрическите превозни средства в САЩ или да захранва Финландия или Белгия за един цял ден.

От стартирането си преди почти две години, ChatGPT на OpenAI бързо привлече вниманието на обществеността, натрупвайки около 100 милиона месечни потребители само за два месеца. Въпреки това, въпреки че възможностите му, от изготвяне на есета до решаване на сложни математически проблеми и писане на код, са впечатляващи, те идват с огромен разход на енергия, пише BestBrokers в нов доклад.

Всяка заявка на ChatGPT консумира приблизително 2.9 Wh електроенергия, почти десет пъти повече от стандартното търсене в Google.

Изпращането на заявка към AI модел като ChatGPT е известно като извод. Консумацията на енергия зависи от много променливи като дължина на заявката, брой потребители и колко ефективно работи моделът.

Всяка ChatGPT заявка струва 0.04 цента

Екипът на фирмата грубо изчисли общото годишно потребление на електроенергия само за генериране на отговори. ChatGPT консумира 226.8 GWh всяка година, за да обработи 78 милиарда питания. Той е достатъчен за пълно зареждане на около 3.13 милиона електрически превозни средства, всяко със среден капацитет на батерията 72.4 kWh, според презентацията. Това са 95% от електрическите автомобили по пътищата на САЩ в края на 2023 г.

С други думи, толкова много електроенергия, за обработка на заявки, може също да захранва 21 602 домове в страната за цяла година или 0.02% от общия брой. Цената на годишното потребление възлиза на 29.7 млн. долара или малко под 0.04 цента на заявка.

Енергията, която ChatGPT използва за една година, за да отговаря на въпроси, може също така да зарежда 47.9 милиона iPhone 15 всеки ден за цяла година, всеки с капацитет на батерията от 13 Wh.

Според изчисленията, споменатият голям езиков модел използва 621.4 MWh електроенергия всеки ден, за да обработи над 200 милиона потребителски заявки. За да го поставим в перспектива, той консумира повече от 21 хиляди пъти дневно енергията на средно домакинство в САЩ.

Годишната консумация на енергия на ChatGPT за обработка на подкани може да захранва цяла Финландия или Белгия за един ден или да поддържа Ирландия работеща за повече от два дни, казват авторите.

Източник: BestBrokers

Необходими са 62.3 GWh за обучение на GPT-3

Обучението на големи езикови модели или LLM също е силно енергоемък процес. AI моделът се учи, като анализира големи количества данни и примери. Може да отнеме от няколко минути до няколко месеца. По време на обучението процесорите и графичните процесори, електронните чипове, предназначени да обработват големи масиви от данни, работят без прекъсване, като консумират значителни количества енергия.

Например, обучението на GPT-3 на OpenAI с неговите 175 милиарда параметри отне около 34 дни и използва приблизително 1.3 GWh електроенергия.

Но тъй като моделите се развиват и стават по-сложни, тяхното потребление на енергия също се увеличава. Обучението на модела GPT-4 с над трилион параметри изразходва около 62.3 GWh електроенергия за 100 дни.