GRPOファインチューニング：はじめてのReward Learning

大変お久しぶりです。九州支社のとみーです。 つい先日弊社のAIの取り組みに関して「IIJ AI活用」で藤本が述べたように、「初めに個人あり」な側面がありまして、私もその個人の一人なんだろうと思っ…

とみ（とみーとも言う） 2025年03月04日 火曜日

Fault-Tolerance for LLM Inference

Introduction Large Language Models (LLM) are becoming increasingly popular for numerous tasks, inclu…

Pierre Louis Aublin 2024年12月23日 月曜日

LLM 推論のフォールトトレランス

【IIJ 2024 TECHアドベントカレンダー 12/23の記事です】 ※この記事は、原文「Fault-Tolerance for LLM Inference」の和訳です はじめに 大規模言語モデル…

Pierre Louis Aublin 2024年12月23日 月曜日

歴史上の偉人達(生成AI)に囲まれたくてDify+Ollamaでアプリを構築してみたら驚きの連続だった

【IIJ 2024 TECHアドベントカレンダー 12/20の記事です】 初めに 三河からこんにちは。名古屋支社の北河です。 アドベントカレンダーの季節がやってきました。皆勤賞を狙うべく、まずはエント…

北河 直樹 2024年12月20日 金曜日

Classifying e-mails using a LLM

In our second article in this blog series, we explored content generation and fine-tuning. Using GPT…

Dimitrios Giakatos 2024年12月16日 月曜日

LLMによる電子メールの分類

【IIJ 2024 TECHアドベントカレンダー 12/16の記事です】 このブログ・シリーズの2回目の記事では、コンテンツの生成と微調整について探りました。GPT-2を使い、精度を高めるためのモデル…

Dimitrios Giakatos 2024年12月16日 月曜日

ローカルLLMの受け入れ文字数を増やすことで起きる影響

こんにちわ。九州のとみーです。 前回の記事では、初めてファインチューニングの記事を載せました。 今回はそんな検証のさなかにふと気づいて取り組んだ検証のお話になります。 LLMの受け入れ文字数⇒コンテキ…

とみ（とみーとも言う） 2024年10月10日 木曜日

雑にJSONデータを分析させてみる-ローカルLLMの底力

2024/08/22修正： はてなブックマークのコメントから、「それってデシリアライズって言わないよ」というご指摘を頂戴しました。 恥ずかしながら浅学であったがゆえに用語を取り違えたまんま長らく覚えて…

とみ（とみーとも言う） 2024年08月20日 火曜日

LLMを使っておとぎ話を作る

前回の記事では、コード生成からカスタマーサポートの自動化まで、大規模言語モデル（Large Language Models：LLM）が企業にもたらす影響について紹介しました。その複雑さにもかかわらず、…

Dimitrios Giakatos 2024年07月23日 火曜日

Creating a fairy tale using a LLM

In the previous article, we introduced the impact of LLMs in enterprises, from code generation to au…

Dimitrios Giakatos 2024年07月23日 火曜日

The era of Large Language Models (LLMs)

This article marks the beginning of a three-part series exploring the rising popularity and diverse …

Dimitrios Giakatos 2024年06月11日 火曜日

大規模言語モデル（LLM）の時代

この記事は、人気上昇中の大規模言語モデル（Large Language Models：LLM）の多様な使い方を探る3部構成のシリーズの第１部です。このシリーズでは、コンピュータサイエンスやプログラミン…

Dimitrios Giakatos 2024年06月11日 火曜日