【AI】進化的マージモデルを手軽に作れる「mergekit」というツール

進化的マージモデルとは？ これは、Sakana.aiさんが2024年3月21日発表した、「進化的アルゴリズムによる基盤モデルの構築」で述べられた手法を用いて作られたLLMを指しています。 引用すると、…

とみ（とみーとも言う） 2024年05月23日 木曜日

1つの大きなLLM（大規模言語モデル）を複数のGPUで力を合わせて動かそう

LLM群雄割拠の時代 昨今、ローカルGPUで駆動できるようなLLM（大規模言語モデル）もかなり増えてきて、キャッチコピー的に「ついに我が家にもGPT-4が！」とか言われるようになってまいりました。パラ…

とみ（とみーとも言う） 2024年05月07日 火曜日

AI/ML向け汎用GPUサーバの中身をご紹介

はじめに はじめまして、クラウド本部でインフラエンジニアをしているt-moriyamaです。 最近AIの話題も世間でずいぶんと浸透したようでいろいろとビジネス方面での活用方法が出てきていますが、AI/…

t-moriyama 2024年04月16日 火曜日

画像生成AIモデルを使ってGPUの速度を比べてみた

我が課に検証マシンが入りまして それまでGeForce RTX 3060で細々とやってた検証が少しばかりやれることが増えてきまして。 そしたらよりやれることを増やしたくなるのがエンヂニヤの性・・・・・…

とみ（とみーとも言う） 2024年03月04日 月曜日

Google Gemma-7b（エッジAI向けモデル）に触れる

ぶわーっと色んなモデルが登場しましたね。 Googleが現地時間2024年2月21日、Geminiのテクノロジーを用いて開発したエッジAI向けモデル、Gemmaをリリースしましたね。 Gemma: I…

とみ（とみーとも言う） 2024年02月28日 水曜日

BLIPというモデルについて調べてみた

最近Stable-Diffusionが流行っておりますが 久しぶりの投稿です。昨年まで師匠のsyucchinと一緒にGPT&RAGのお仕事をしてまして、しばらくの間燃え尽きて灰になっていました…

とみ（とみーとも言う） 2024年02月14日 水曜日

戦国武将クイズに答えるRAGを構築して評価を自動化したら爆速でした

こんにちは。暖冬と言われていたのに毎日寒いのは年齢のせいでしょうか。しゅっちんです。久しぶりのエンジニアブログへの投稿となります。今回は、話題の生成AIに関連してRAGの検証を行いたいと思います。 R…

syucchin 2024年01月29日 月曜日

IIJの季刊技術レポート「IIR vol.61」（2023年12月号） 発行のご挨拶

※本記事は、2023年12月発行のIIR Vol.61より「エグゼクティブサマリ」を転載したものです。 エグゼクティブサマリ 2023年最後の「IIR Vol.61」では、この1年を振り返ってみたいと…

IIJ Engineers Blog編集部 2023年12月25日 月曜日

Amazon Bedrock で Amazon Bedrock の画像を生成

【IIJ 2023 TECHアドベントカレンダー 12/20の記事です】 こんにちは。 IIJ で AWS のソリューションを担当している yuhei-otsuka です。 さて、この IIJ Eng…

yuhei-otsuka 2023年12月20日 水曜日

ChatGPTとプラグインを使ってIoTサービスのサンプルプログラムを作成する

IIJのIoTサービスをご利用の皆様、そして本記事に興味を持ってくださった皆様、こんにちは。 今回は、Gateway APIを活用してデバイスからのセンサーデータをIIJ IoTサービスに送信するプロ…

rkodama 2023年10月17日 火曜日

GPTチャットボットの賢さを引き上げる試み

お久しぶりです。まずは近況から。 こんにちわ。九州支社のとみーです。 今回は過去に投稿したChatGPTでチャットボットを作る-OpenAI純正APIの利用 で制作したチャットボットの強化を行ってみま…

とみ（とみーとも言う） 2023年08月07日 月曜日

ChatGPT/LLM・AIについて資料をまとめた (講演90分Ver)

90分でChatGPTやLLMについてお話ししました 世は第三次人工知能ブームまっただ中です。IIJでも九州支社のとみがITインフラ屋の視点から出発したAI探求の模様をこのblogに寄稿していますし、…

doumae 2023年07月27日 木曜日