AIが切望するスマートインターコネクト

  • By Tom Simon
  • 18th 4 2018

AIを採用しているシステムがコンピューティングに著しい変化をもたらし、その結果、SOC設計が急激に様変わりしようとしています。AIのトレーニングはクラウドで行われることがほとんどで、順方向と逆方向のデータ接続で大量のデータを処理する必要があります。通常、推論はエッジで発生し、電力効率が良く、高速でなければなりません。このようなことから、コンピューティングシステムに対して新たな要件が課されています。トレーニングはスループットを重視しており、推論は低レイテンシにかかっています。ADASのようなリアルタイムでのアプリケーションでは特にそうです。

これらの新しい要件に対応するために、コンピューティングアーキテクチャで劇的な変化が起きています。ミニコンピュータとマイクロコンピュータがコンピューティングの様相を変えたのと同じように、AIをサポートするために必要な変化は物事の進め方をこの先もずっと変え続けることでしょう。 何がどのように変化するのか。これが、4月11日、サンタクララで催されたLinley Processor ConferenceでのNetSpeedによるプレゼンテーションのトピックでした。NetSpeedのマーケティン部門副社長であるAnush Mohandassが行ったプレゼンテーションで、スマートインターコネクトの基盤を埋め込み型AIアプリケーションの実現に役立てる方法についての説明がありました。第一のポイントは、AIが多岐多様な用途に進出してきているということでした。そこには、映像、音声、予報業務、ロボット工学、診断法などが含まれます。 これらの新しいSOCの内部には、新しいデータフローが存在しています。小規模で高効率の大量のデータは、ピアツーピアのデータ交換を迅速かつ効果的に実行する必要があります。その際は多くのマルチキャスト要求が発生し、ブロックなしで転送が行われなければなりません。QoSは確実に非常に重要なものになりました。古いアーキテクチャでは動作が異なり、中心部のメモリを中継システムとしてユニットの処理を行っていました。 AIシステムでは、広範囲にわたるインターフェイスからメリットを享受して長時間のバーストをサポートしなければならない「Any to Any」のデータ交換が必要となります。ただし、主たる要件は、すべての要素を同時にアクティブにする必要があるということです。もちろん、急激なクロックゲーティングやトラフィックによって、解決すべき電力管理問題が持ち上がる可能性があることは容易に理解できます。 NetSpeedは、そのアプローチについて説明しました。このアプローチは、AIのアプリケーションごとに課される前述のような要件があるSOCで役に立てるとのことでした。要件によって、SOCでさまざまな種類およびインスタンスのIPを統合、調整、および制御するために必要なロジックが定まります。これには、インターコネクト、キャッシュコヒーレンシ、システムレベルのキャッシュ、システムレベルのデバッグ、バンド幅の割り当て、QoSの制御、電力管理、クロッククロッシングなど、多くの要素が該当します。これほど多くのパラメータと要件が存在する場合、本当に必要とされるものは、最適なソリューションを実装することに特化した設計環境です。 これこそが、NetSpeedの提供するものです。仕様から始まるアーキテクチャ設計アプローチを支援し、さまざまな折り合いをつけながら作業が遂行できるようにサポートします。同社は、その方法に則ったフィードバックを提供し、設計の正確性を継続的に確認します。 NetSpeedでは、非コヒーレントなインターコネクトを作成するORIONを提供しています。Geminiはコヒーレントなシステムのバックボーン向けの製品です。Cruxはアーキテクチャに懐疑的な人にとってのバックボーンとなります。最後に、プログラム可能なL2、L3、およびLLCキャッシュに向けてはPegasusを提供しています。同社の設計環境は、設計も組み立ても支援します。同社では実装をサポートするために、機械学習に基づいたコグニティブエンジンを採用しています。システムは豊富なデータ解析結果と視覚効果を出力します。 インターネット上のデータ転送を抽象化する多層プロトコルをTCP/IPが提供するのと同様に、NetSpeedのSOCソリューションは、多層プロトコルの実装を利用して最適なパフォーマンスと高スループットを実現します。これによって、AI処理で必要とされている、QoS、マルチキャストサポート、ブロックのない動作がもたらされます。

NetSpeedによるプレゼンテーションは同社の技術を詳しく掘り下げたもので、十分に見る価値があります。ご覧いただければ、すっかり刷新された設計方法こそが、今後のSOCにおいてAIのニーズに対応するために必要なものであることにご納得いただけることでしょう。パンチカードや磁気テープを懐かしむように、この先、CPUベースのコンピューティングを思い返す日が来るのかも知れません。

Request A Demo

ajaxloader

Crafted @ Lollypop.biz