IIJ Engineers Blog

[タグ]ローカルLLM

「GRPOファインチューニング:はじめてのReward Learning」のイメージ

GRPOファインチューニング:はじめてのReward Learning

大変お久しぶりです。九州支社のとみーです。 つい先日弊社のAIの取り組みに関して「IIJ ✖️ AI活用」で藤本が述べたように、「初めに個人あり」な側面がありまして、私もその個人の一人なんだろうと思っ…

「キャラクター付けを目的としたファインチューニング-ローカルLLMの底力」のイメージ

キャラクター付けを目的としたファインチューニング-ローカルLLMの底力

こんにちわ。とみーです。皆様いかがお過ごしでしょうか? 今回色々ローカルLLMの活用法を模索する中で、やっぱファインチューニングも必要だということで取り組んでいたりします。 その内容について、知った内…

「1つの大きなLLM(大規模言語モデル)を複数のGPUで力を合わせて動かそう」のイメージ

1つの大きなLLM(大規模言語モデル)を複数のGPUで力を合わせて動かそう

LLM群雄割拠の時代 昨今、ローカルGPUで駆動できるようなLLM(大規模言語モデル)もかなり増えてきて、キャッチコピー的に「ついに我が家にもGPT-4が!」とか言われるようになってまいりました。パラ…