IIJ Engineers Blog

[タグ]ローカルLLM

「キャラクター付けを目的としたファインチューニング-ローカルLLMの底力」のイメージ

キャラクター付けを目的としたファインチューニング-ローカルLLMの底力

こんにちわ。とみーです。皆様いかがお過ごしでしょうか? 今回色々ローカルLLMの活用法を模索する中で、やっぱファインチューニングも必要だということで取り組んでいたりします。 その内容について、知った内…

「AIを使って「ちょっぴりだけ」ツールを便利にしたい:Zabbixとの連携」のイメージ

AIを使って「ちょっぴりだけ」ツールを便利にしたい:Zabbixとの連携

執筆中にお休みしたため・・ 本記事なのですが、執筆したのは2024年6月時点の情報となります。 実は執筆してる最中に持病の定期治療時期に差し掛かってしまい、気づけば入院中何もできなくなりまして・・少し…

「【AI】進化的マージモデルを手軽に作れる「mergekit」というツール」のイメージ

【AI】進化的マージモデルを手軽に作れる「mergekit」というツール

進化的マージモデルとは? これは、Sakana.aiさんが2024年3月21日発表した、「進化的アルゴリズムによる基盤モデルの構築」で述べられた手法を用いて作られたLLMを指しています。 引用すると、…

「1つの大きなLLM(大規模言語モデル)を複数のGPUで力を合わせて動かそう」のイメージ

1つの大きなLLM(大規模言語モデル)を複数のGPUで力を合わせて動かそう

LLM群雄割拠の時代 昨今、ローカルGPUで駆動できるようなLLM(大規模言語モデル)もかなり増えてきて、キャッチコピー的に「ついに我が家にもGPT-4が!」とか言われるようになってまいりました。パラ…