IIJ Engineers Blog

[タグ]HuggingFace

「1つの大きなLLM(大規模言語モデル)を複数のGPUで力を合わせて動かそう」のイメージ

1つの大きなLLM(大規模言語モデル)を複数のGPUで力を合わせて動かそう

LLM群雄割拠の時代 昨今、ローカルGPUで駆動できるようなLLM(大規模言語モデル)もかなり増えてきて、キャッチコピー的に「ついに我が家にもGPT-4が!」とか言われるようになってまいりました。パラ…

「Hugging Face Pipelineを使ったお手軽AIプログラミング」のイメージ

Hugging Face Pipelineを使ったお手軽AIプログラミング

Hugging Faceってご存じですか? AIを使用したプログラム・スクリプトを作る際、ゼロから起こす場合は以下のような部分を作り込んだり、Githubなどのリポジトリサイトからソースを入手したりす…