Azure OpenAIを活用した自律的なAI環境構築の取り組み

 企業において、AI技術の導入は業務効率化やイノベーションの推進に不可欠となりつつあります。多くの企業では情報システム部門が一律のチャット環境を提供していますが、IIJではエンジニア集団の強みを活かし、以前の記事「IIJ ✖ AI活用」でご紹介したような独自のアプローチを採用しています。
今回は、その中から、Azure OpenAI の活用事例をご紹介します。 

独自のアプローチによる環境構築 

IIJでは、Azure OpenAIを利用して、利用申請のあった部署ごとに専用の環境を作り、それぞれが自律的に検証と活用を進められる仕組みを整えています。単なる生成AIの導入にとどまらず、各部署のニーズに合わせた柔軟な実験環境を提供し、自分たちのユースケースに最適な環境を構築し、独自のAIソリューションを開発することを可能としました。本施策の特徴は以下の通りです。 

• 部署ごとのユースケース対応: 各部署が独自のニーズに応じた実験を行い、最適なソリューションを見つけ出すことができます。 

• セキュリティを担保したAzure環境: Azure上で稼働するため、高度なセキュリティ対策が施されており、安心して利用可能です。 

• エンジニア主導による柔軟な環境設計: 現場のエンジニアが主導となり、自由度の高い環境を設計・運用しています。（エンジニアがいない部署から申請があった場合は、技術支援を行います。） 

• 継続的なフィードバックによる改善: 実験から得られるフィードバックを基に、常に環境の改善と最適化を図っています。 

本施策から得られるもの 

前述のような効果に加えて、本活動の大きな狙いは、絶対的に足りていなかったAIのノウハウを実践で社内に蓄積していくことです。それは、社内の生産性向上につなげることだけでなく、IIJの得意分野とAIを掛け合わせてお客様に価値提供をしていくために必要なことと考えています。 

クラウド ＆ 社内LLM 

最近社内で出ている動きとして、オープンソースモデルをローカルで運用し、各部署のユースケースに対応したツールを作成する動きもあります。この活動の目的や詳細については、別の記事「社内でローカルLLM APIサーバを構築・運用してみた話」でまとめている内容をご参照ください。 

企業における生成AIの活用方法として、Azure OpenAIのようなクラウドベースのサービスと、オープンソースモデルをローカルで運用する方法がありますが、それぞれメリットとデメリットがあると考えられます。 

Azure OpenAIの活用 

• メリット 

• • セキュリティとコンプライアンス: Azure OpenAIはMicrosoft Azureのセキュリティ基盤上で運用されており、機密情報を安全に取り扱うことができます。 

• • スケーラビリティ: クラウドベースであるため、必要に応じてリソースを柔軟に調整でき、大規模なデータ処理や複数のユーザーによる同時利用にも対応可能です。 

• • 統合性: 他のAzureサービスとシームレスに統合できるため、既存のITインフラと連携しやすく、新たなシステム導入コストを抑えられます。 

• デメリット 

• • データセキュリティ: 個人情報等、機密情報の取扱いに注意を払う必要があります。 

• • コスト: 従量課金制であり、利用量が増えるとコストが高くなるため、予算管理が重要です。 

• • 導入までの時間差: 新しいAIモデルがリリースされても、Azure上で利用可能になるまで時間差が生じる場合があります。 

ローカルLLM（Llamaなど）の活用 

• メリット 

• • データプライバシー: データが外部サーバーに送信されないため、完全なプライバシーを確保できます。特に機密情報を扱う際に有利です。 

• • カスタマイズ性: モデルを自社のニーズに合わせてカスタマイズしやすく、特定用途向けの最適化が可能です。 

• デメリット 

• • インフラストラクチャコスト: 高性能なハードウェアが必要となり、それに伴う初期投資や運用コストが発生します。 

• • メンテナンス負担: モデルの更新やセキュリティパッチ適用など、継続的なメンテナンスが必要です。専門知識を持つ人材も必要となります。 

どちらの方法も一長一短があります。自社のニーズや予算、セキュリティ要件に基づいて最適な選択をすることが求められますので、現在の活動は、その見極めをするためのノウハウを蓄積するためのものとも言えます。 

まとめ 

IIJのAIに関する取り組みは、企業全体でのAIイノベーションを加速させるために、単なる技術導入に留まらず、人材育成や社員のコラボレーション促進等、様々な施策と合わせて推進されています。今後もこのアプローチを進化させ、新たな価値創造につなげていく予定です。