AIに対応するSOCの構築にAIを活用

  • By Tom Simon
  • 25th 6 2018

私が1982年に初めて半導体業界で働き始めたとき、設計しているシステムの複雑さと、設計に使用するツールおよびシステムの技術力の間でせめぎ合いが続いていることを実感しました。次世代ハードウェアの設計に使用するテクノロジは、常に遅れていましたが、このテクノロジは世代的により大きくより複雑なシステムの構築に使用されていました。それは、竜が自分の尻尾を追いかけているようなものです。設計者はいつも、次世代のハードウェア設計に使用できる次世代の計算能力を手に入れることを切に望んでいました。

それはかなり昔のことですが、状況は当時からさほど変わっていません。しかし、おそらくAIの登場はその動向に変化をもたらす可能性があります。AIには、プロセッサ、メモリ、ネットワーキング要素を増やしても解決できない複雑な問題を解決できる、桁外れの能力があります。それは、多数の可変要素やパフォーマンス上の複雑な側面がある問題を、根本的に異なる方法で解決することを意味します。

機械学習が、SOCや複雑なシステムを設計するためのソフトウェアやツールにまで組み込まれるようになったは、驚くことではありません。その最終段階では、機械学習システムの設計に機械学習を使用します。そこで、AIが導入されるわけです。

SOC設計において最も複雑で非決定的な問題の一つはインターコネクトです。配線で接続されたインターコネクトの能力は、遠い昔に消え去りました。その結果、SOC設計において、ブロックを相互接続するためのネットワークオンチップ(NoC)アプリケーションが広がってきました。NoC構造を設計するためのトップダウン方式の要件主導のツールを使用しても、効率のよいNoCインターコネクトの実装を設計するうえで大きな課題があります。現在では、NoC内にあるルータによってトラフィックを動的に管理しています。

NetSpeedは、NoCのIPおよび開発ツールの主要プロバイダですが、先頃、同社のビジネス開発部門副社長Anush Mohandass氏と話す機会がありました。私たちは、機械学習アルゴリズムを組み込んだNoCテクノロジであるOrion AIの発表について話しました。彼はすぐに、AIチップを設計するうえでの課題が、SOC設計の要件の大幅な転換につながったことを指摘しました。AIチップでは、インターコネクトのニーズが大きく異なります。AIチップには、主にフラットトポロジで接続されている独自のローカルメモリストアとともに、多数の計算要素があります。中央のプロセッサによって処理される中央のメモリとの間で、データの移動が行われません。これは、低レイテンシ、高バンド幅、驚くべき柔軟性を必要とするピアツーピアシステムです。

AIに対応するNoCでは、マルチキャストおよびブロードキャストのデータ転送をサポートする必要があります。応答を必要とするトランザクションと応答を必要としないトランザクションの使用へのニーズもあります。総合的なQoSも必要であり、非ブロッキングであることが求められます。実際のAIアプリケーションには、ソフトウェアで定義されたNoCが必要です。NetSpeedは、物理的および機能的な実装の間で抽象化レベルを生み出す、多層プロトコルによってこれを解決しました。

NetSpeedのOrion AIは、NoCテクノロジにおける飛躍的な前進です。Orion AIは、その前の世代よりも大幅に大きいスケーラブルなデータバンド幅を提供します。1024ビットのバス幅により、2~3GHzの速度で動作できます。数千もの要素の相互接続をサポートできます。Orion AIに組み込まれたAIアルゴリズムにより、最終的な実装を効率よく最適化できます。つまり、Orion AIは、AIシステムを実装するための最適なテクノロジであるということです。

多分まだ私たちはロボットがロボットを組み上げるレベルには至っていません。しかし、私たちはSoCを作る手助けとなるAIを利用する時代に到達しています。NetSpeedのOrion AIは、テクノロジーがいかにして応用可能かを示す最上の例となっています。

Request A Demo

ajaxloader

Crafted @ Lollypop.biz