神經網絡加速器基本上是一個中介拓撲架構的神經網絡加速器，其通過指令解析模塊將不同指令分發到不同的數據處理模塊。這些數據處理模塊共享片上的存儲。這種結構的優點有： 1） 結構簡單，控制起來容易。對應每個數據處理模塊都對應一個復雜指令，在進行神經網絡加速的時候，只需要根據神經網絡的中的不同數據計算部分，提取出可在硬件上進行布置的部分，根據這部分完成指令編寫。同時一個神經網絡的計算流圖決定了不同類型指令之間的依賴關系。 2） 可擴展性強。數據處理模塊可以任意進行擴展，對應著指令集也可以任意增加。每個模塊和指令的接口以及cache的接口形式是一定的，它們之間可以通過cache來進行數據交互。指令集和模塊的增加和減少都不會影響到整體架構。我們只要開發出新的模塊IP以及指令就夠了。