来月リリースされるNVIDIAの新しいソフトウェア「NVIDIA TensorRT-LLM」はH100 GPUの推論速度を2倍にすると発表しました。
以前のA100からH100への進化だけでもすごいのに、そこからさらに2倍って…笑
Metaなどが使う大規模言語モデル「Llama 2」の場合でも同様の高速化が可能とのこと。
もう化け物ですね。
2017年に発表されたNVIDIAの資料では、GPUの処理速度は毎年1.5倍で成長していくと予想さえていましたが、今年はH100とTensorRT-LLMの発表にて8倍の処理速度を実現しており、年間成長率を大きく上回っています。
もしかすると当初の想定以上の進化を今後も実現していく可能性が高い気がします。
NVIDIAの成長に期待しているという方、以下ブログ村のバナーをポチッと押して頂けると嬉しいです。
にほんブログ村
1日1回押して頂くとブログ村のランキングが上昇するので、日々のモチベーションUPにつながります。
投資初心者を脱出しよう
YouTubeやその他SNSでは再生数稼ぎを目的とした内容が多く、実践的な知識や学びは少ない気がします。
手っ取り早く投資初心者を卒業するには、以下Amazonで売れているベストセラー投資本を数冊読み込む方が断然早いです。
上記Amazonリンクをクリックして週末や通勤時間に読む本を探しましょう！投資に知識は必要です。
