產品分類
TI - 嵌入式邊緣AI應用開發簡化指南
25
拍明
原標題：TI - 嵌入式邊緣AI應用開發簡化指南
《TI-嵌入式邊緣AI應用開發簡化指南》主要介紹了在沒有嵌入式處理器供應商提供的合適工具和軟件的支持下，如何設計高能效的邊緣人工智能（AI）系統，并加快產品上市時間。以下是對該指南的詳細解讀：
一、面臨的挑戰
在嵌入式邊緣AI應用開發中，主要面臨以下挑戰：
選擇恰當的深度學習模型。
針對性能和精度目標對模型進行訓練和優化。
學習使用在嵌入式邊緣處理器上部署模型的專用工具。
二、TI提供的解決方案
為了簡化嵌入式邊緣AI應用的開發流程，TI提供了以下工具、軟件和服務：
Model Zoo：
Model Zoo是TensorFlow、PyTorch和MXNet框架中常用的開源深度學習模型的大型集合。
這些模型在公共數據集上經過預訓練和優化，可以在TI適用于邊緣AI的處理器上高效運行。
TI會定期使用開源社區中的新模型以及TI設計的模型對Model Zoo進行更新，提供性能和精度經過優化的廣泛模型選擇。
Model Zoo囊括數百個模型，TI模型選擇工具可以幫助開發者在不編寫任何代碼的情況下，通過查看和比較性能統計數據（如推理吞吐量、延遲、精度和雙倍數據速率帶寬），快速比較和找到適合AI任務的模型。
訓練與優化：
憑借TI的軟件架構和開發環境，開發者可以隨時隨地訓練模型。
從TI Model Zoo中選擇模型時，借助訓練腳本可以讓開發者在自定義數據集上為特定任務快速傳輸和訓練模型，而無需花費較長時間從頭開始訓練或使用手動工具。
訓練腳本、框架擴展和量化感知培訓工具可以幫助開發者優化自己的DNN模型。
模型評估與部署：
在開發邊緣AI應用之前，需要在實際硬件上評估模型性能。
TI提供靈活的軟件架構和開發環境，開發者可以在TensorFlow Lite、ONNX RunTime或TVM以及支持Neo AI DLR的SageMaker Neo運行環境引擎中選擇習慣的業界標準Python或C++應用編程接口（API），只需編寫幾行代碼，即可隨時隨地訓練自己的模型，并將模型編譯和部署到TI硬件上。
在這些業界通用運行環境引擎的后端，TI深度學習（TIDL）模型編譯和運行環境工具可以讓開發者針對TI的硬件編譯模型，將編譯后的圖或子圖部署到深度學習硬件加速器上，并在無需任何手動工具的情況下實現卓越的處理器推理性能。
在編譯步驟中，訓練后量化工具可以自動將浮點模型轉換為定點模型。該工具可通過配置文件實現層級混合精度量化（8位和16位），從而能夠足夠靈活地調整模型編譯，以獲得出色的性能和精度。
基準測試與性能評估：
同樣位于GitHub上的TI邊緣AI基準工具可以幫助開發者為TI Model Zoo中的模型無縫匹配DNN模型功能，并作為自定義模型的參考。
評估TI處理器模型性能的方式有兩種：TDA4VM入門套件評估模塊（EVM）或TI Edge AI Cloud。后者是一項免費在線服務，可支持遠程訪問TDA4VM EVM，以評估深度學習推理性能。
借助針對不同任務和運行時引擎組合的數個示例腳本，五分鐘之內便可在TI硬件上編程、部署和運行加速推理，同時收集基準測試數據。
GStreamer框架：
為了協助快速構建高效率的邊緣AI應用，TI采用了GStreamer框架。
借助在主機Arm內核上運行的GStreamer插件，開發者可以自動將計算密集型任務的端到端信號鏈加速部署到硬件加速器和數字信號處理內核上。
三、學習資源與支持
TI Edge AI Academy：
即使不是AI專家，亦可開發和部署AI模型或構建AI應用。
TI Edge AI Academy有助于開發者在自學、課堂環境中通過測驗學習AI基礎知識，并深入了解AI系統和軟件編程。
實驗室提供了構建“Hello World”AI應用的分步代碼，而帶有攝像頭捕獲和顯示功能的端到端高級應用使開發者能夠按照自己的節奏順利開發AI應用。
開源項目與工具：
EdgeAI TIDL Tools：該工具集由德州儀器（TI）開發，旨在加速深度神經網絡（DNN）在TI嵌入式設備上的執行。它支持跨Cortex-A系列MPU、TI最新一代C7x DSP以及TI的DNN加速器（MMA）的異構執行。作為TI軟件開發套件（SDK）的一部分，TIDL還提供額外的計算機視覺功能及優化庫，包括OpenCV。適用于多種TI嵌入式設備，是TI邊緣AI解決方案的核心部分，旨在簡化DNN開發與部署的整個生命周期。
綜上所述，《TI-嵌入式邊緣AI應用開發簡化指南》為開發者提供了從模型選擇、訓練優化到部署評估的全方位解決方案和支持。通過遵循該指南并利用TI提供的工具和資源，開發者可以更加高效地開發嵌入式邊緣AI應用并應對未來的挑戰。
責任編輯：
【免責聲明】
1、本文內容、數據、圖表等來源于網絡引用或其他公開資料，版權歸屬原作者、原發表出處。若版權所有方對本文的引用持有異議，請聯系拍明芯城（marketing@iczoom.com），本方將及時處理。
2、本文的引用僅供讀者交流學習使用，不涉及商業目的。
3、本文內容僅代表作者觀點，拍明芯城不對內容的準確性、可靠性或完整性提供明示或暗示的保證。讀者閱讀本文后做出的決定或行為，是基于自主意愿和獨立判斷做出的，請讀者明確相關結果。
4、如需轉載本方擁有版權的文章，請聯系拍明芯城（marketing@iczoom.com）注明“轉載原因”。未經允許私自轉載拍明芯城將保留追究其法律責任的權利。
拍明芯城擁有對此聲明的最終解釋權。
相關資訊
：
云母電容公司_云母電容生產廠商
開關三極管13007的規格參數、引腳圖、開關電源電路圖?三極管13007可以用什么型號替代?
74ls74中文資料匯總（74ls74引腳圖及功能_內部結構及應用電路）
芯片lm2596s開關電壓調節器的中文資料_引腳圖及功能_內部結構及原理圖_電路圖及封裝
芯片UA741運算放大器的資料及參數_引腳圖及功能_電路原理圖?ua741運算放大器的替代型號有哪些?
28nm光刻機卡住“02專項”——對于督工部分觀點的批判（睡前消息353期）
2012- 2022 拍明芯城ICZOOM.com 版權所有 客服熱線：400-693-8369 (9:00-18:00)
