IIJ ✖️ AI活用

2025年02月17日 月曜日


【この記事を書いた人】
藤本 椋也

IIJ プロダクト本部 応用開発課 所属。2015年に新卒入社。webアプリケーションの実装・運用を中心にやりたいことがあれば何でも手を出してみる所存です。

「IIJ ✖️ AI活用」のイメージ

IIJとAI活用

ChatGPTのリリースをきっかけとした生成AIによるイノベーション開始から2年ほど、IIJでも例に漏れず活用を推進しています。

IIJはエンジニアが多数在籍する技術の会社であり、新しい技術であるAIを積極的に活用していこうという動きがあります。
一方でIIJは電気通信事業法が定めるところの「電気通信事業者」である他、またISMAPISMSといった各種認証も取得しており、情報の管理は業務上非常に重要なテーマです。
AIの活用とはすなわちデータの活用であり、AIの活用と情報管理の観点は切っても切れない関係にあります。

私は2023年頃から「AI利活用WG」というWGの立ち上げメンバーとして、力及ばずながらもIIJ社内でAI活用の推進・サポートを行ってきました。
その目線から、IIJにおけるAIの利活用がどのように進められてきたのかを紹介します。

IIJとボトムアップ文化

ツールを会社に広く導入する場合、一般的には経営企画や情シスのような部門が全社向けに導入を推進するケースが多いかと思います。

しかしことAIに関していうと、新しい技術であり、かつ各部門や個人での導入も進めやすかったことから、様々な形態の導入が進みました。
IIJの組織図 を見ていたいだても分かるとおり部門ごとに業務や考え方も全く異なり、AI活用に対する期待やスタンスも異なるのです。
IIJではこれらの取り組みを管理・統制するよりも、それぞれの流れを集約・加速させるための取り組みを行なっています。

IIJではこういった組織横断の活動をする際には「〇〇WG」という集まりがよく作られます。
この動きは「ボトムアップの流れが非常に強い」というIIJの文化的な側面も大きく影響しています。

そんなIIJで起きたAI活用の流れを、主にAI利活用WGの視点で紹介します。

1.はじめに個人あり

これはIIJの社風というか伝統だと思いますが、便利なツールやサービスが出てきた時は個々人による活用からスタートします。
会社全体でどうこうよりもまずは自分で使い始めようという空気が強くあります。

この感覚はテクノロジー系部署の方が比較的強いですが、生成AIに関しては職種によらず動きが起きていた印象です。
具体的にはChatGPTやPerplexityを導入したり、ローカルでLLMを動かそうと試す動きが始まっていました。

ちなみにこの最初の段階では、各生成AIサービスを個人向けプランで利用することになります。
個人向けプランといっても外部サービス利用になるため、以下のような情報をまとめて承認を得ます。

  • 利用規約やプライバシーポリシーに問題がないか
  • 投入するデータと漏洩時のリスク、対処
  • セキュリティに対する考え方や運用など

多くの個人向けプランでは「入力データの学習禁止」など、入力したデータの保護規約が提供されないことがほとんどです。
とはいえ、公開情報のみを扱う前提であればまずは個人向けプランで素早く導入して試すことができます。

まずは個人で素早く利用しつつ、より深い使い方をするために後の「外部サービスの導入」に繋げていきます。

2.ガイドラインの作成

個人や組織での利用が始まる中で、生成AIを利用するにあたって気を付けるポイントなどをガイドラインとして制定し始めました。
経済産業省から AI事業者ガイドライン (当時は意見収集段階)が公開されていたので、それを参考にAIを個人で使う考え方、サービスなどの機能としてお客様に提供する場合の考え方などがまとめます。

これは個人や組織でツールを導入する際にリスク整理がしきれずに足踏みしてしまうのを避け、利用を促進するための施策です。

3.外部サービスの導入

個人利用やガイドライン作成と並行し、社外秘情報などを外部サービス(AIのSaaS)で使えるようにする動きを組織的に始めます。

前述の通り、多くのSaaSでは「入力データの学習禁止」など、入力したデータの保護規約は有料のビジネスプラン以上で提供されている場合がほとんどです。
社外秘情報などをAIサービスで扱えるようにするため、またより高品質な機能を利用できるように、有用なツールは組織的にSaaS利用を進めていきます。

ビジネスプランになると契約や規約の精査、有料プランの購入手続きなどが必要となり、個人や各部署でバラバラに実施するのは大変です。
そのため部門を跨いだり全社向けに使えるように整備をしていきます。

この段階で導入されたSaaSは、例えば以下のようなものです。各サービスを管理・導入する部署は様々ですが、AI利活用WGは規約精査やガイドライン整備などの観点でお手伝いしていきます。

  • 商用版 Microsoft Copilot
  • Github Copilot
  • Azure OpenAI(ツール開発用)
  • ChatGPT(ツール開発用)

これによりツールはもちろん限定されますが、社外秘情報を入力してメールの執筆をCopilotに手伝ってもらったり、コード開発にAIを利用できるようになりました。

Azure OpenAIなどの話は以下の記事で紹介しておりますのでご覧ください。

Azure OpenAIを活用した自律的なAI環境構築の取り組み

ただしSaaSのAIで扱えるのは社外秘情報までであり、機密情報や顧客データを含むサービスが持つデータは当然入力できません。
またAzure OpenAIやChatGPTは従量課金でお金がかかるため、利用をある程度コントロールせざるを得ません。

趣味で少しツールを作ってみたい、サービス機能開発の検証をしてみたいといった需要に応えるにはオンプレ環境が必要とされます。
(特に技術系部門からは「気軽に遊んでみたい」という要求が強くあります。自分も遊んでみたいので、その環境整備を推進していきました)

4. オンプレ推進

IIJは自前でデータセンタを持っており、オンプレでサーバを構築してLLMを動かす限りは完全に社内に閉じた形で実現できます。

オンプレLLMへの需要が見えてきた段階で自前データセンタ上にGPU環境を調達し、Llamaなど商用利用可能なLLMを動かして社内に提供を開始しました。
社内でも評判が良く、AIで歌詞を作るお遊びから部署の効率化ツール作成、サービス開発の検証用途など、さまざまな試行錯誤の土台となっています。

また自社データセンターでのLLM運用ノウハウを蓄積する意味でも重要なプロジェクトとなりました。

運用に関しての詳しい話はこちらの記事をご覧ください。

社内でローカルLLM APIサーバを構築・運用してみた話

 

5.そしてその先へ…

オンプレ環境の整備までできると、ひとまず活用の土台はできました。ただやはりオンプレに構築可能なLLMだと性能的な限界も多く、外部リソースを効率的に使っていく必要があります。
また個人的な感覚としてAIツールは部門や個人で気軽に作れてこそ真価を発揮しますが、「非技術系部門でも気軽にAIツールを作れる」という段階にはまだ行けていません。

今後も引き続き活動を続けていきたいと思います。

AIツール導入の難しさ

最後に、AIツールの導入などを検討する中で感じた難しさを書いておきます。

DeepLearningをベースとしたAIツールは全般的に、どうしても100%上手く動作する保証がありません。これは現状の生成AIで顕著に表れます。

この点に関しては生成AI自体の発展やプロンプト、RAG構築などツールの作り方で徐々に性能を向上させることはできます。
ただ難しいのは、一般的なITツールがある段階で確実に動作して「必要な機能を満たしている」と判断できるのに対し、AIツールは性能向上のある時点で機能(性能)を満たしたと明確に判断することが難しく、どこまでいっても「大抵はうまくいきます」としか言えません。
そのため費用対効果の算出が非常に難しい分野だと思います。

この感覚を導入する側、使う側がきちんと理解し、生成AIとの付き合い方を考えていく必要がありそうです。

藤本 椋也

2025年02月17日 月曜日

IIJ プロダクト本部 応用開発課 所属。2015年に新卒入社。webアプリケーションの実装・運用を中心にやりたいことがあれば何でも手を出してみる所存です。

Related
関連記事