1年前にLLMの推論の消費電力を見積もったときはチャットボットとちょっと会話する程度を想定してたけど、コーディングエージェントのように複数のLLMを並列で一日中動作させ続けるユースケースは想定外だった。今はまだ一部のプログラマが使ってるだけだけど、もっと広い職種や家庭で似たようなユースケースが出てきたら電力と水がいくらあっても足りない。

https://bsky.app/profile/cocoa-ruto.bsky.social/post/3kuntcj5jbk2u