1つの大きなLLM(大規模言語モデル)を複数のGPUで力を合わせて動かそう LLM群雄割拠の時代 昨今、ローカルGPUで駆動できるようなLLM(大規模言語モデル)もかなり増えてきて、キャッチコピー的に「ついに我が家にもGPT-4が!」とか言われるようになってまいりました。パラ… とみ(とみーとも言う) 2024年05月07日 火曜日 ローカルLLMbig-modelinferenceモデル分離モデル並列accelerateAIPythonHuggingFaceai-excavation