AI Inference
AI推論
AI推論とは?
AI推論は、機械学習とディープラーニングを構成する2段階のプロセスのうち、2番目のステップです。1番目のステップはAIトレーニングです。この2つのステップがあるからこそ、現代の人工知能は、コンテンツの生成から自動運転車の走行まで、幅広いタスクに対応できます。
推論フェーズでは、トレーニング済みのAIモデルに、ラベルの付いていない新しいデータを入力します。AIモデルは、トレーニング中に「学習」したデータベースを利用して新しい入力を分析し、適切な出力を返します。生成AIを例にすると、ChatGPTに質問したり、Stable Diffusionに何かを描くよう依頼したりするたびに、AIモデルは推論を実行しています。人間のような応答を生成できるのは、その前に大量のトレーニングを受けているためです。
AIは推論を実行しながら、次回のトレーニングに向けて人間のユーザーからの応答も記録しています。出力が評価されたときや批判されたときの反応も記録します。このように、トレーニングと推論の継続的なループによって、AIはますます人間らしくなっていきます。
なぜAI推論が必要なのか?
AIモデルを学習させる目的は、現実世界の新しいデータを処理し、人とやり取りしながら、人々がより生産的で快適な生活を送れるよう支援することにあります。人の手書き文字の読み取りや顔認識、自動運転車の制御、コンテンツの生成など、高度なAI製品が実現するさまざまな機能は、AI推論によって支えられています。「コンピュータビジョン」「自然言語処理(NLP)」「レコメンデーションシステム」といった用語を耳にしたことがあるかもしれません。これらはいずれもAI推論の活用例です。
GIGABYTEはどのように役立つのか?
AI推論を効率的に実行するには、優れた処理性能と、それに見合う低レイテンシを備えたコンピューティングプラットフォームが必要です。AIモデルは、多数のユーザーに同時にサービスを提供する可能性が高いためです。特に、迅速な応答が生産性(物流センターでの郵便物の仕分けなど)や安全性(自動運転車の制御など)に影響するシナリオでは、高い性能や低レイテンシといった特性がいっそう重要になります。
サーバー向けのAI推論ソリューションとして、GIGABYTE TechnologyのG293-Z43は、業界をリードする2Uシャーシ1台あたり16枚のAMD Alveo™ V70カード構成を採用した優れた製品です。Alveo™ V70アクセラレーターは、AI推論向けに最適化されたAMDのXDNA™アーキテクチャを基盤としています。また、Qualcomm® Cloud AI 100ソリューションも、信号処理、電力効率、ノードの高度化、スケーラビリティの向上により、データセンターやクラウド、エッジにおける推論処理をより効果的に実現する製品です。
GIGABYTEは、各業界のさまざまな用途に対応する専用ハードウェアも提供しています。例えば自動車・輸送業界では、GIGABYTEの自動運転制御ユニット(ADCU)が、AIアクセラレーション機能を備えた車載組み込みコンピューティングプラットフォームとして、台湾の自動運転バスに導入されています。また、小売業や教育分野で幅広く導入されているAI顔認識向けに、GIGABYTEのAI顔認識ソリューションは、1対Nモデルで99.9%の認識精度を実現できるオールインワンソリューションです。
詳しくはこちら:《GIGABYTEの高性能AIサーバーソリューションでAIをさらに進化》
サーバー向けのAI推論ソリューションとして、GIGABYTE TechnologyのG293-Z43は、業界をリードする2Uシャーシ1台あたり16枚のAMD Alveo™ V70カード構成を採用した優れた製品です。Alveo™ V70アクセラレーターは、AI推論向けに最適化されたAMDのXDNA™アーキテクチャを基盤としています。また、Qualcomm® Cloud AI 100ソリューションも、信号処理、電力効率、ノードの高度化、スケーラビリティの向上により、データセンターやクラウド、エッジにおける推論処理をより効果的に実現する製品です。
GIGABYTEは、各業界のさまざまな用途に対応する専用ハードウェアも提供しています。例えば自動車・輸送業界では、GIGABYTEの自動運転制御ユニット(ADCU)が、AIアクセラレーション機能を備えた車載組み込みコンピューティングプラットフォームとして、台湾の自動運転バスに導入されています。また、小売業や教育分野で幅広く導入されているAI顔認識向けに、GIGABYTEのAI顔認識ソリューションは、1対Nモデルで99.9%の認識精度を実現できるオールインワンソリューションです。
詳しくはこちら:《GIGABYTEの高性能AIサーバーソリューションでAIをさらに進化》