一貫した AI プラットフォームの構築：カスタマイズとエンタープライズデータの融合

生成 AI (gen AI) が企業の運営のあり方を再構築していることは疑いの余地がありません。しかし、AI から真の価値を引き出すには、事前にトレーニングされたモデルにプラグインして上手くいくことを願うだけでは不十分だという点を明確にしておく必要があります。

AI ソリューションはすぐにデプロイできるものとして位置付けられることが多いですが、エンタープライズへの実装を成功させるには、戦略的な計画と体系的な統合が必要です。エンタープライズ環境が求める一貫した信頼できる結果を達成するには、包括的なモデルのカスタマイズと堅牢なエンタープライズデータの統合を組み合わせた、構造化されたアプローチが必要です。

このアプローチにより、AI ソリューションは既存のビジネスプロセスとよりうまく連携し、AI ガバナンスとコンプライアンスの要件をより効果的に満たし、エンタープライズの運用に必要な信頼性とスケーラビリティーを維持しながら、測定可能なビジネス価値をより効果的に提供できます。

プラットフォームに関する考え方が重要となる理由

こう考えてみてください。プラットフォーム戦略を持たずに AI を使用することは、ブループリントなしに超高層ビルを建てようとするようなものです。プロジェクトを進めることはできるかもしれませんが、不整合の修正や重複作業に多くの時間がかかり、頭の中で考えているビジョンを達成することはできません。

真の AI プラットフォームは統合基盤を提供するので、一貫したツールとワークフローを使用して AI プロジェクトを構築し、トレーニングし、デプロイできます。この一貫性こそが、複数のチームやユースケース、環境間で AI の信頼性を高めるものです。

企業のリーダーや IT アーキテクトにとって、プラットフォームのアプローチは、運用効率以上のものを意味します。つまり、スケーラビリティー、ガバナンス、および組織の特定の知識やコンテキストをモデル自体に直接注入する機能が必要になります。

課題：汎用モデルと固有のニーズ

基盤モデルは非常に優れており、インターネット上で得た幅広い知識に基づいて事前にトレーニングされています。しかし、特定の業界に関する一般的な理解に基づいて構築されているため、貴社や最新のコンプライアンス要件を認識していない場合があります。もちろん、貴社の顧客を把握したり、独自の機密データにアクセスしたりすることはありません。しかし、これこそが AI を最大限に活用するのに役立つデータでもあります。

同時に、貴社にはさまざまな形式のプロプライエタリーデータがあり、このデータはドキュメント、Wiki、チャットログ、ナレッジベース、調査報告書などに分散されていることがよくあります。そのデータの活用は、汎用的な出力から有意義でコンテキストに富んだ応答に移行し、汎用の LLM を企業向けに真にカスタマイズするための鍵となります。 

汎用モデルとエンタープライズ固有の要件のギャップを埋めるには、単にデータを追加するだけでは不十分です。モデルの動作のカスタマイズ、堅牢なデータパイプラインの構築、エコシステム全体でのインフラストラクチャの一貫性の維持には、意図的な取り組みが必要です。

ソリューション：一貫した AI プラットフォーム

一貫性のある AI プラットフォームを使用すると、チームは実験的な状態から運用可能な状態に移行し、その過程で障害に突き当たる可能性が低くなります。統合されたフレームワーク内で、プロンプトエンジニアリング、ファインチューニング、検索拡張生成 (RAG) などの複数のモデルのカスタマイズ技術がサポートされます。

この一貫性がないと、多くの場合、チームはプロジェクトごとに同じことを繰り返さなければならなくなります。一貫性のあるプロットフォームにより、AI の拡張性、保守性、一貫性が向上し、企業が本当に必要とするものになります。

たとえば、プロンプトエンジニアリングでは、慎重に作成された指示を使ってモデルの動作を形作ることができます。InstructLab Toolkit、LoRA、QLo RA などの方法を使用したファインチューニングにより、ドメイン固有の言語とロジックをモデルに学習させることができます。また RAG により、モデルはクエリ時に内部データストアから最新の関連情報を取得できます。

検索拡張ファインチューニング (RAFT) などのより高度な戦略では、RAG とファインチューニングを組み合わせて、長文コンテンツを生成する際の推論と正確性を強化します。

データ統合：インテリジェント AI の基盤

モデルのカスタマイズは、ニーズの半分を満たしたにすぎません。残りの半分は、データ統合です。

ビジネス関連の答えを得るためには、AI は組織の最新の知識、製品のアップデート、内部ポリシーの変更、顧客履歴などにリアルタイムでアクセスする必要があります。つまり、PDF や HTML ページなどの非構造化データを取り込み、分割し、インデックス化し、推論時にアクセス可能にすることができる堅牢なパイプラインが必要になります。

その結果、AI は流暢であるだけでなく、コンテキスト上正しい 応答を返します。

Red Hat AI で理論を現実に変える

これらすべてを実現するには、適切なインフラストラクチャが必要です。 Red Hat OpenShift AI を Red Hat AI Inference Server (オープンソースの vLLM エンジン上に構築) と組み合わせることで、これらの AI の実行に必要なスケーラブルな基盤をハイブリッドクラウド環境全体に提供できます。

モデルのファインチューニングや検索パイプラインのデプロイのいずれにおいても、OpenShift AI は開発と本番環境全体に一貫性をもたらし、ガバナンス、強力なセキュリティ体制、大規模なパフォーマンスを可能にします。

終わりに

自信を持って AI を運用化するためには、個別の実験以上のものが必要です。チームがモデルを深くカスタマイズし、有意義な方法でモデルをエンタープライズデータと接続できる、一貫したプラットフォームが必要です。

また、チームが誤ってエンタープライズデータを漏洩させずに、AI を業務に統合する新たな方法を実験し、学習し、発見できる場も必要です。  堅牢なプレイグラウンド、高性能な推論、企業のニーズに合わせた AI モデルを備えた Red Hat AI は、エンタープライズ AI アプリケーションを大規模に構築するための強力なプラットフォームを提供します。  

今後の記事では、プロンプトチューニング、ファインチューニング、RAG、RAFT、データパイプラインのアーキテクチャというそれぞれの柱について詳しく説明し、AI をパイロットプロジェクトから永続的な機能へと転換しようとしている開発者、アーキテクト、AI プラットフォームチーム向けめに、実用的な知見を提供します。

さらに詳しくは、本ブログシリーズの第二部をご覧ください。また、RAG、Red Hat AI、Red Hat AI ラーニングハブの詳細もご覧ください。