AI Inference

AI推論

AI推論とは?

AI推論は、機械学習とディープラーニングを構成する2段階のプロセスのうち、2番目のステップです。1番目のステップはAIトレーニングです。この2つのステップがあるからこそ、現代の人工知能は、コンテンツの生成から自動運転車の走行まで、幅広いタスクに対応できます。

推論フェーズでは、トレーニング済みのAIモデルに、ラベルの付いていない新しいデータを入力します。AIモデルは、トレーニング中に「学習」したデータベースを利用して新しい入力を分析し、適切な出力を返します。生成AIを例にすると、ChatGPTに質問したり、Stable Diffusionに何かを描くよう依頼したりするたびに、AIモデルは推論を実行しています。人間のような応答を生成できるのは、その前に大量のトレーニングを受けているためです。

AIは推論を実行しながら、次回のトレーニングに向けて人間のユーザーからの応答も記録しています。出力が評価されたときや批判されたときの反応も記録します。このように、トレーニングと推論の継続的なループによって、AIはますます人間らしくなっていきます。

なぜAI推論が必要なのか?

AIモデルを学習させる目的は、現実世界の新しいデータを処理し、人とやり取りしながら、人々がより生産的で快適な生活を送れるよう支援することにあります。人の手書き文字の読み取りや顔認識、自動運転車の制御、コンテンツの生成など、高度なAI製品が実現するさまざまな機能は、AI推論によって支えられています。「コンピュータビジョン」「自然言語処理(NLP)」「レコメンデーションシステム」といった用語を耳にしたことがあるかもしれません。これらはいずれもAI推論の活用例です。

GIGABYTEはどのように役立つのか?

AI推論を効率的に実行するには、優れた処理性能と、それに見合う低レイテンシを備えたコンピューティングプラットフォームが必要です。AIモデルは、多数のユーザーに同時にサービスを提供する可能性が高いためです。特に、迅速な応答が生産性(物流センターでの郵便物の仕分けなど)や安全性(自動運転車の制御など)に影響するシナリオでは、高い性能や低レイテンシといった特性がいっそう重要になります。

サーバー向けのAI推論ソリューションとして、GIGABYTE TechnologyのG293-Z43は、業界をリードする2Uシャーシ1台あたり16枚のAMD Alveo™ V70カード構成を採用した優れた製品です。Alveo™ V70アクセラレーターは、AI推論向けに最適化されたAMDのXDNA™アーキテクチャを基盤としています。また、Qualcomm® Cloud AI 100ソリューションも、信号処理、電力効率、ノードの高度化、スケーラビリティの向上により、データセンターやクラウド、エッジにおける推論処理をより効果的に実現する製品です。

GIGABYTEは、各業界のさまざまな用途に対応する専用ハードウェアも提供しています。例えば自動車・輸送業界では、GIGABYTEの自動運転制御ユニット(ADCU)が、AIアクセラレーション機能を備えた車載組み込みコンピューティングプラットフォームとして、台湾の自動運転バスに導入されています。また、小売業や教育分野で幅広く導入されているAI顔認識向けに、GIGABYTEのAI顔認識ソリューションは、1対Nモデルで99.9%の認識精度を実現できるオールインワンソリューションです。

詳しくはこちら:《GIGABYTEの高性能AIサーバーソリューションでAIをさらに進化》

おすすめの参考資料

Five Minutes to Know More About the Deep Learning Industry – Will AI Replace Humans?
Article

Five Minutes to Know More About the Deep Learning Industry – Will AI Replace Humans?

Five Minutes to Know More About the Deep Learning Industry – Will AI Replace Humans?
Qualcomm Solution for Inferencing

Qualcomm Solution for Inferencing

For heavy inferencing workloads, GIGABYTE has developed the G292-Z43 that can support up to sixteen Qualcomm Cloud AI 100 accelerators in a 2U chassis with room for additional networking.
10 Frequently Asked Questions about Artificial Intelligence
Article

10 Frequently Asked Questions about Artificial Intelligence

10 Frequently Asked Questions about Artificial Intelligence
To Harness Generative AI, You Must Learn About “Training” & “Inference”
Article

To Harness Generative AI, You Must Learn About “Training” & “Inference”

To Harness Generative AI, You Must Learn About “Training” & “Inference”
GIGABYTE PILOT: The Autonomous-Driving Control Unit at the Heart of Taiwan’s First Self-Driving Bus
Article

GIGABYTE PILOT: The Autonomous-Driving Control Unit at the Heart of Taiwan’s First Self-Driving Bus

GIGABYTE PILOT: The Autonomous-Driving Control Unit at the Heart of Taiwan’s First Self-Driving Bus
DCIM x AIOps: The Next Big Trend Reshaping AI Software
Article

DCIM x AIOps: The Next Big Trend Reshaping AI Software

DCIM x AIOps: The Next Big Trend Reshaping AI Software
Ready or Not? The Era of AI Factory Has Arrived!
Article

Ready or Not? The Era of AI Factory Has Arrived!

Ready or Not? The Era of AI Factory Has Arrived!
GIGABYTE Deep Dive: How We Built Our Industry-leading Liquid Cooling Solution
Article

GIGABYTE Deep Dive: How We Built Our Industry-leading Liquid Cooling Solution

GIGABYTE Deep Dive: How We Built Our Industry-leading Liquid Cooling Solution
What is Agentic AI? Are You On Track to Profit from It?
Article

What is Agentic AI? Are You On Track to Profit from It?

What is Agentic AI? Are You On Track to Profit from It?
How to Benefit from AI  In the Healthcare & Medical Industry
Article

How to Benefit from AI In the Healthcare & Medical Industry

How to Benefit from AI In the Healthcare & Medical Industry