1つの大きなLLM（大規模言語モデル）を複数のGPUで力を合わせて動かそう
LLM群雄割拠の時代 昨今、ローカルGPUで駆動できるようなLLM（大規模言語モデル）もかなり増えてきて、キャッチコピー的に「ついに我が家にもGPT-4が！」とか言われるようになってまいりました。パラ…
2024年05月07日 火曜日
LLM群雄割拠の時代 昨今、ローカルGPUで駆動できるようなLLM（大規模言語モデル）もかなり増えてきて、キャッチコピー的に「ついに我が家にもGPT-4が！」とか言われるようになってまいりました。パラ…
2024年05月07日 火曜日
はじめに はじめまして、クラウド本部でインフラエンジニアをしているt-moriyamaです。 最近AIの話題も世間でずいぶんと浸透したようでいろいろとビジネス方面での活用方法が出てきていますが、AI/…
2024年04月16日 火曜日
我が課に検証マシンが入りまして それまでGeForce RTX 3060で細々とやってた検証が少しばかりやれることが増えてきまして。 そしたらよりやれることを増やしたくなるのがエンヂニヤの性・・・・・…
2024年03月04日 月曜日
ぶわーっと色んなモデルが登場しましたね。 Googleが現地時間2024年2月21日、Geminiのテクノロジーを用いて開発したエッジAI向けモデル、Gemmaをリリースしましたね。 Gemma: I…
2024年02月28日 水曜日
最近Stable-Diffusionが流行っておりますが 久しぶりの投稿です。昨年まで師匠のsyucchinと一緒にGPT&RAGのお仕事をしてまして、しばらくの間燃え尽きて灰になっていました…
2024年02月14日 水曜日
こんにちは。暖冬と言われていたのに毎日寒いのは年齢のせいでしょうか。しゅっちんです。久しぶりのエンジニアブログへの投稿となります。今回は、話題の生成AIに関連してRAGの検証を行いたいと思います。 R…
2024年01月29日 月曜日
IIJのIoTサービスをご利用の皆様、そして本記事に興味を持ってくださった皆様、こんにちは。 今回は、Gateway APIを活用してデバイスからのセンサーデータをIIJ IoTサービスに送信するプロ…
2023年10月17日 火曜日
お久しぶりです。まずは近況から。 こんにちわ。九州支社のとみーです。 今回は過去に投稿したChatGPTでチャットボットを作る-OpenAI純正APIの利用 で制作したチャットボットの強化を行ってみま…
2023年08月07日 月曜日
名前がアツいよね。 BabyとはいえAGI(Artificial General Intelligence:汎用人工知能の略。男性の頭が薄くなるのはAGA。)。 実はこうした実行計画・調査・追加調査事…
2023年04月17日 月曜日
最近ちょっと気になっていること これまで2種類のチャットボットを作ってきたのですが、その中でGPT-3で作成したポンコツダ・ヴィンチをもう少しなんとかしようと、Zero-shotで質問させるようなロジ…
2023年03月27日 月曜日
やっぱりChatGPTもやりたいよね 前回の記事で、ポンコツダ・ヴィンチというtext-davinci-003を使ったチャットボットの制作をAzure OpenAI Serviceを使用して行いました…
2023年03月15日 水曜日
Azure にもOpenAIサービスがやってきた！ こんにちわ。九州支社のとみ（とみーとも言う）です。 最近ChatGPTのAPIがついにリリースされまして、もちろん私もドハマりしています。やっぱり触…
2023年03月13日 月曜日