Post #3884889

AIエージェント、「生成AIの136.5倍」も電力を爆食いしていた | ギズモード・ジャパン https://www.gizmodo.jp/article/when-it-comes-to-energy-use-ai-agents-could-make-chatbots-look-like-pocket-calculators/ 『AIエージェントが一般的な生成AIのクエリよりも多くの処理能力とエネルギーを必要とするのは、ある意味で当然かも。 通常、大規模言語モデル（LLM）は、ユーザーが質問を入力して、AIが答えを返す「呼びかけと応答」の形式をとります。人間が質問して、LLMが答えれば終わりです。 AIエージェントは、指示をこなすために複数のステップを踏みます。研究チームによると、エージェントは与えられたタスクのすべてのステップで推論を進めながら、新しいレスポンスを生成するために、モデルに対して継続的に問い合わせを行なう必要があるといいます。 その結果、消費電力が雪だるま式に増えていきます。』