IIJ Engineers Blog

[タグ]inference

「1つの大きなLLM(大規模言語モデル)を複数のGPUで力を合わせて動かそう」のイメージ

1つの大きなLLM(大規模言語モデル)を複数のGPUで力を合わせて動かそう

LLM群雄割拠の時代 昨今、ローカルGPUで駆動できるようなLLM(大規模言語モデル)もかなり増えてきて、キャッチコピー的に「ついに我が家にもGPT-4が!」とか言われるようになってまいりました。パラ…