ai-excavation | IIJ Engineers Blog

Fault-Tolerance for LLM Inference

Introduction Large Language Models (LLM) are becoming increasingly popular for numerous tasks, inclu…

Pierre Louis Aublin 2024年12月23日月曜日

LLM 推論のフォールトトレランス

【IIJ 2024 TECHアドベントカレンダー 12/23の記事です】 ※この記事は、原文「Fault-Tolerance for LLM Inference」の和訳ですはじめに大規模言語モデル…

Pierre Louis Aublin 2024年12月23日月曜日

歴史上の偉人達(生成AI)に囲まれたくてDify+Ollamaでアプリを構築してみたら驚きの連続だった

【IIJ 2024 TECHアドベントカレンダー 12/20の記事です】初めに三河からこんにちは。名古屋支社の北河です。アドベントカレンダーの季節がやってきました。皆勤賞を狙うべく、まずはエント…

北河直樹 2024年12月20日金曜日

Classifying e-mails using a LLM

In our second article in this blog series, we explored content generation and fine-tuning. Using GPT…

Dimitrios Giakatos 2024年12月16日月曜日

LLMによる電子メールの分類

【IIJ 2024 TECHアドベントカレンダー 12/16の記事です】このブログ・シリーズの2回目の記事では、コンテンツの生成と微調整について探りました。GPT-2を使い、精度を高めるためのモデル…

Dimitrios Giakatos 2024年12月16日月曜日

ローカルLLMの受け入れ文字数を増やすことで起きる影響

こんにちわ。九州のとみーです。前回の記事では、初めてファインチューニングの記事を載せました。今回はそんな検証のさなかにふと気づいて取り組んだ検証のお話になります。 LLMの受け入れ文字数⇒コンテキ…

とみ（とみーとも言う） 2024年10月10日木曜日

キャラクター付けを目的としたファインチューニング-ローカルLLMの底力

こんにちわ。とみーです。皆様いかがお過ごしでしょうか？今回色々ローカルLLMの活用法を模索する中で、やっぱファインチューニングも必要だということで取り組んでいたりします。その内容について、知った内…

とみ（とみーとも言う） 2024年10月01日火曜日

スーパーのチラシをOCRで読み取らせてAIに献立を提案してもらう

はじめにどうもこんにちは、好きな料理漫画は「ミスター味っ子」、クラウドソリューション部の立木です。ここ2か月間、おいしいので毎晩カレーを食べていましたが、流石に嫌気が刺してきたのでAIに献立を考え…

たっきー 2024年09月24日火曜日

雑にJSONデータを分析させてみる-ローカルLLMの底力

2024/08/22修正：はてなブックマークのコメントから、「それってデシリアライズって言わないよ」というご指摘を頂戴しました。恥ずかしながら浅学であったがゆえに用語を取り違えたまんま長らく覚えて…

とみ（とみーとも言う） 2024年08月20日火曜日

LLMを使っておとぎ話を作る

前回の記事では、コード生成からカスタマーサポートの自動化まで、大規模言語モデル（Large Language Models：LLM）が企業にもたらす影響について紹介しました。その複雑さにもかかわらず、…

Dimitrios Giakatos 2024年07月23日火曜日

Creating a fairy tale using a LLM

In the previous article, we introduced the impact of LLMs in enterprises, from code generation to au…