Fault-Tolerance for LLM Inference
Introduction Large Language Models (LLM) are becoming increasingly popular for numerous tasks, inclu…
2024年12月23日 月曜日
Introduction Large Language Models (LLM) are becoming increasingly popular for numerous tasks, inclu…
2024年12月23日 月曜日
【IIJ 2024 TECHアドベントカレンダー 12/23の記事です】 ※この記事は、原文「Fault-Tolerance for LLM Inference」の和訳です はじめに 大規模言語モデル…
2024年12月23日 月曜日
【IIJ 2024 TECHアドベントカレンダー 12/20の記事です】 初めに 三河からこんにちは。名古屋支社の北河です。 アドベントカレンダーの季節がやってきました。皆勤賞を狙うべく、まずはエント…
2024年12月20日 金曜日
In our second article in this blog series, we explored content generation and fine-tuning. Using GPT…
2024年12月16日 月曜日
【IIJ 2024 TECHアドベントカレンダー 12/16の記事です】 このブログ・シリーズの2回目の記事では、コンテンツの生成と微調整について探りました。GPT-2を使い、精度を高めるためのモデル…
2024年12月16日 月曜日
こんにちわ。九州のとみーです。 前回の記事では、初めてファインチューニングの記事を載せました。 今回はそんな検証のさなかにふと気づいて取り組んだ検証のお話になります。 LLMの受け入れ文字数⇒コンテキ…
2024年10月10日 木曜日
2024/08/22修正： はてなブックマークのコメントから、「それってデシリアライズって言わないよ」というご指摘を頂戴しました。 恥ずかしながら浅学であったがゆえに用語を取り違えたまんま長らく覚えて…
2024年08月20日 火曜日
前回の記事では、コード生成からカスタマーサポートの自動化まで、大規模言語モデル（Large Language Models：LLM）が企業にもたらす影響について紹介しました。その複雑さにもかかわらず、…
2024年07月23日 火曜日
In the previous article, we introduced the impact of LLMs in enterprises, from code generation to au…
2024年07月23日 火曜日
This article marks the beginning of a three-part series exploring the rising popularity and diverse …
2024年06月11日 火曜日
この記事は、人気上昇中の大規模言語モデル（Large Language Models：LLM）の多様な使い方を探る3部構成のシリーズの第１部です。このシリーズでは、コンピュータサイエンスやプログラミン…
2024年06月11日 火曜日
はじめに はじめまして。IIJクラウドサービスの基盤チームに所属しているshimada-kです。昨今の生成AI/LLM（大規模言語モデル）の盛り上がりはすさまじいものがありますが、遅ればせながら、私た…
2024年06月04日 火曜日