·科技·
N3

AIエージェントの電力消費、通常のAIの最大136倍に

AI 代理的電力消耗,最高達一般 AI 的 136 倍

#AIエージェント#消費電力#エネルギー#データセンター
0:00 / 0:00

韓国かんこくKAISTいう大学だいがく研究けんきゅうチーム、AIエージェント使つかとき必要ひつよう計算けいさんりょう消費しょうひするエネルギーりょう調しらました。 AIエージェント複雑ふくざつ仕事しごと自分じぶんかんがおこなうAIことですこの研究けんきゅうよる、AIエージェント普通ふつうAIくらて、平均へいきん9.2ばいおおLLM(大規模だいきぼ言語げんごモデル)いることかりました。 また、AIエージェントこたまで時間じかん最大さいだい153.7ばいながなりました。 さらに外部がいぶツール使つかいるあいだ、GPU(画像がぞう処理しょり半導体はんどうたいなにせずいる時間じかん全体ぜんたい54.5%いることかりました。 電力でんりょくりょう消費しょうひさらにおおきく、700おくパラメータおおきなLLM使つかたAIエージェント、1かい質問しつもんこたえるだけ平均へいきん348.41Wh電力でんりょく消費しょうひしました。 これ普通ふつうAI質問しつもんしたときくらて、最大さいだい136.5ばい電力でんりょく相当そうとうするそうです将来しょうらい世界中せかいじゅうAIエージェント使つかれるようなるとてもおお電力でんりょく必要ひつようなります。 研究けんきゅうチーム、1にち137おくかい質問しつもんある仮定かていする、データセンターやく198.9GW電力でんりょく必要ひつようなる計算けいさんしました。 これアメリカ全体ぜんたい平均へいきん消費しょうひ電力でんりょくやく半分はんぶんおなです専門家せんもんか、「複雑ふくざつ問題もんだい解決かいけつするため普通ふつうチャットよりはるかおおエネルギー必要ひつようなるこれから、AIだけなく電力でんりょくインフラなど一緒いっしょかんが最適化さいてきかしていくこと大切たいせつ指摘してきしています。

Nによると= 根據~Nと比べて= 與~相比Vるようになる= 變得會~

學習筆記

文法整理

句型意思
Nによると根據~
Nと比べて與~相比
Vるようになる變得會~

詞彙整理

單字讀音等級意思
電力でんりょくN3電力
消費しょうひN3消費 / 消耗
通常つうじょうN3通常 / 一般
計算けいさんN3計算

延伸學習

  • KAIST(韓國科學技術院)是韓國一所非常頂尖且知名的公立研究型大學。
  • AI 代理與一般的聊天機器人介面不同,它能夠自主規劃步驟、進行邏輯循環並調用外部工具,這使得其計算開銷成倍增加。
  • GPU 閒置指標顯示,AI 代理效率的一大瓶頸在於等待外部系統的回應,而在這段期間,硬體依然在消耗電力。

練習

測試你剛學到的內容。

  1. 将来、世界中でAIエージェントが使われるようになると、とても多くの が必要になります。

  2. AIエージェントを使うとき、GPUが何もせずに待っている時間は全体の何パーセントですか。

  3. 「〜によると」的意思是什麼?

Source: GIGAZINE