Fault-Tolerance for LLM Inference
Introduction Large Language Models (LLM) are becoming increasingly popular for numerous tasks, inclu…
2024年12月23日 月曜日
Introduction Large Language Models (LLM) are becoming increasingly popular for numerous tasks, inclu…
2024年12月23日 月曜日
【IIJ 2024 TECHアドベントカレンダー 12/23の記事です】 ※この記事は、原文「Fault-Tolerance for LLM Inference」の和訳です はじめに 大規模言語モデル…
2024年12月23日 月曜日
【IIJ 2024 TECHアドベントカレンダー 12/20の記事です】 初めに 三河からこんにちは。名古屋支社の北河です。 アドベントカレンダーの季節がやってきました。皆勤賞を狙うべく、まずはエント…
2024年12月20日 金曜日
In our second article in this blog series, we explored content generation and fine-tuning. Using GPT…
2024年12月16日 月曜日
【IIJ 2024 TECHアドベントカレンダー 12/16の記事です】 このブログ・シリーズの2回目の記事では、コンテンツの生成と微調整について探りました。GPT-2を使い、精度を高めるためのモデル…
2024年12月16日 月曜日
はじめに どうもこんにちは、好きな料理漫画は「ミスター味っ子」、クラウドソリューション部の立木です。 ここ2か月間、おいしいので毎晩カレーを食べていましたが、流石に嫌気が刺してきたのでAIに献立を考え…
2024年09月24日 火曜日
2024/08/22修正： はてなブックマークのコメントから、「それってデシリアライズって言わないよ」というご指摘を頂戴しました。 恥ずかしながら浅学であったがゆえに用語を取り違えたまんま長らく覚えて…
2024年08月20日 火曜日
前回の記事では、コード生成からカスタマーサポートの自動化まで、大規模言語モデル（Large Language Models：LLM）が企業にもたらす影響について紹介しました。その複雑さにもかかわらず、…
2024年07月23日 火曜日
In the previous article, we introduced the impact of LLMs in enterprises, from code generation to au…
2024年07月23日 火曜日
はじめに はじめまして。IIJクラウドサービスの基盤チームに所属しているyukihです。こちらは以前の2つの記事、AI/ML向け汎用GPUサーバの中身をご紹介 | IIJ Engineers Blog…
2024年07月16日 火曜日
執筆中にお休みしたため・・ 本記事なのですが、執筆したのは2024年6月時点の情報となります。 実は執筆してる最中に持病の定期治療時期に差し掛かってしまい、気づけば入院中何もできなくなりまして・・少し…
2024年07月02日 火曜日
This article marks the beginning of a three-part series exploring the rising popularity and diverse …
2024年06月11日 火曜日