AI推論とは？ - GIGABYTE Japan

AI推論とは

AI推論は、機械学習とディープラーニングを構成する2段階のプロセスのうち、2番目の段階です。最初の段階はAIトレーニングです。この2つの段階があるからこそ、現代の人工知能はコンテンツ生成から自動運転車の制御まで、幅広いタスクに対応できます。

推論フェーズでは、事前トレーニング済みのAIモデルに新たな未ラベルデータを入力します。モデルはトレーニング時に「学習」したデータベースを基に新しい入力を分析し、適切な出力を返します。生成AIを例にすると、ChatGPTに質問したり、Stable Diffusionに画像の生成を指示したりするたびに、AIモデルは推論を実行しています。人間らしい応答を生成できるのは、それまでに受けた膨大なトレーニングがあるためです。

AIは推論を実行する一方で、次回のトレーニングに備えて人間のユーザーからの反応も記録しています。出力が評価された場合も批判された場合も、その情報を取り込みます。このように、トレーニングと推論の継続的なサイクルによって、AIはますます人間らしい振る舞いを身に付けていきます。

なぜ必要なのか

AIモデルを学習させる目的は、推論を通じて現実世界の新しいデータとやり取りし、人々の生産性や生活の快適性を高めることにあります。人間の手書き文字の読み取りや顔認識、自動運転車の制御、コンテンツ生成など、高度なAI製品が実現する多くの機能は、AI推論によるものです。コンピュータビジョン、自然言語処理（NLP）、レコメンデーションシステムといった用語を耳にすることがあるでしょう。これらはいずれもAI推論の活用例です。

GIGABYTEはどのように役立ちますか？

AI推論を効率的に実行するには、高い処理性能と低レイテンシを両立したコンピューティングプラットフォームが必要です。理由は単純です。AIモデルは、同時に多数のユーザーへサービスを提供する可能性があるためです。特に、迅速な応答が生産性（物流センターでの郵便物の仕分けなど）や安全性（自動運転車の制御など）に影響するシナリオでは、高性能・低レイテンシという特性が一層重要になります。

サーバー向けのAI推論ソリューションとしては、業界をリードする2UシャーシにAMD Alveo™ V70カードを16枚搭載できるGIGABYTE TechnologyのG293-Z43が最適な選択肢の一つです。Alveo™ V70アクセラレータは、AI推論に最適化されたAMD XDNA™アーキテクチャを採用しています。Qualcomm® Cloud AI 100ソリューションも、信号処理、電力効率、プロセスノード、スケーラビリティの進化により、データセンターがクラウドおよびエッジでより効率的に推論を実行するために役立つ製品です。

GIGABYTEは、各業種・市場の用途に合わせた専用ハードウェアも提供しています。たとえば自動車・輸送業界向けには、AIアクセラレーション機能を備えた車載組み込みコンピューティングプラットフォーム、GIGABYTEの自動運転制御ユニット（ADCU）を提供しており、これは台湾の自動運転バスに導入されています。小売・教育分野で幅広く採用されているAIベースの顔認識向けには、GIGABYTEのAI顔認識ソリューションがあり、1対Nモデルで99.9%の精度を実現できるオールインワンソリューションです。

詳細はこちら：《GIGABYTEの高性能AIサーバーソリューションでAIを加速》

Five Minutes to Know More About the Deep Learning Industry – Will AI Replace Humans?

詳細

Solution

Qualcomm Solution for Inferencing

For heavy inferencing workloads, GIGABYTE has developed the G292-Z43 that can support up to sixteen Qualcomm Cloud AI 100 accelerators in a 2U chassis with room for additional networking.

詳細