韓国のKAISTという大学の研究チームが、AIエージェントを使うときに必要な計算の量や、消費するエネルギーの量を調べました。 AIエージェントとは、複雑な仕事を自分で考えて行うAIのことです。 この研究によると、AIエージェントは普通のAIと比べて、平均で9.2倍多くLLM(大規模言語モデル)を呼び出していることが分かりました。 また、AIエージェントは、答えを出すまでの時間が最大で153.7倍長くなりました。 さらに、外部のツールを使っている間、GPU(画像処理半導体)が何もせずに待っている時間が、全体の54.5%を占めていることも分かりました。 電力量の消費はさらに大きく、700億パラメータの大きなLLMを使ったAIエージェントは、1回質問に答えるだけで平均348.41Whの電力を消費しました。 これは、普通のAIに質問したときと比べて、最大で136.5倍の電力に相当するそうです。 将来、世界中でAIエージェントが使われるようになると、とても多くの電力が必要になります。 研究チームは、1日に137億回の質問があると仮定すると、データセンターには約198.9GWの電力が必要になると計算しました。 これはアメリカ全体の平均消費電力の約半分と同じです。 専門家は、「複雑な問題を解決するためには、普通のチャットよりもはるかに多くのエネルギーが必要になる。これからは、AIだけでなく、電力のインフラなども一緒に考えて最適化していくことが大切だ」と指摘しています。
·科技·
N3
AIエージェントの電力消費、通常のAIの最大136倍に
AI 代理的電力消耗,最高達一般 AI 的 136 倍
Nによると= 根據~Nと比べて= 與~相比Vるようになる= 變得會~
學習筆記
文法整理
| 句型 | 意思 |
|---|---|
| Nによると | 根據~ |
| Nと比べて | 與~相比 |
| Vるようになる | 變得會~ |
詞彙整理
| 單字 | 讀音 | 等級 | 意思 |
|---|---|---|---|
| 電力 | でんりょく | N3 | 電力 |
| 消費 | しょうひ | N3 | 消費 / 消耗 |
| 通常 | つうじょう | N3 | 通常 / 一般 |
| 計算 | けいさん | N3 | 計算 |
延伸學習
- •KAIST(韓國科學技術院)是韓國一所非常頂尖且知名的公立研究型大學。
- •AI 代理與一般的聊天機器人介面不同,它能夠自主規劃步驟、進行邏輯循環並調用外部工具,這使得其計算開銷成倍增加。
- •GPU 閒置指標顯示,AI 代理效率的一大瓶頸在於等待外部系統的回應,而在這段期間,硬體依然在消耗電力。
練習
測試你剛學到的內容。
将来、世界中でAIエージェントが使われるようになると、とても多くの が必要になります。
AIエージェントを使うとき、GPUが何もせずに待っている時間は全体の何パーセントですか。
「〜によると」的意思是什麼?