Microsoft Researchは、先日米クパチーノで開催された「Hot Chips 2017」にて、システムが要求を受信するのと同じ速さで超低遅延のDeep learningモデルを実現するリアルタイムAIアクセラレーション・プラットフォーム「Brainwave」を発表しました。
Brainwaveは、製造後に再プログラミングできるFPGA（field-programmable gate array）タイプのチップで動作するハードウェア・ディープニューラルネットワーク（DNN）エンジンです。
FPGAを、同社のデータセンター・ネットワークに直接接続することで、DNNをハードウェア・マイクロサービスとして提供することができ、そのためCPUが要求を処理する必要がなく、高いスループットを可能にするため受信するのと同じ速さでレイテンシを短縮します。
早期のベンチマークでは、Intel Stratix 10 FPGAを使用した場合、バッチ処理を行わずに大規模な「GRU（Gated Recurrent Unit）」で39.5 Teraflopsを維持できることを示しました。
また、Brainwaveは幅広いDeep learningフレームワークのサポートを意識しており、Microsoft Cognitive ToolkitとGoogle Tensorflowのサポート、そして他の多くのサポートを予定しています。
関連
Microsoft Research、次期バージョンHoloLensにAIコプロセッサを組み込むことを発表。DNNを実装するため自社チップHPUに統合 | Seamless