燧原科技發布業內帶寬最大的云端AI推理卡“云燧i20”


原標題:燧原科技發布業內帶寬最大的云端AI推理卡“云燧i20”
燧原科技發布的業內帶寬最大的云端AI推理卡“云燧i20”是一款具有顯著技術優勢和廣泛應用前景的產品。以下是對該產品的詳細介紹:
一、產品概述
產品名稱:云燧i20
發布時間:2021年12月7日
發布公司:上海燧原科技有限公司
產品定位:第二代人工智能推理加速卡
二、技術特點
高帶寬:
云燧i20擁有迄今為止業內最大的AI加速卡存儲帶寬,高達819 GB/s,遠超行業同類產品水平。(數據來源:百度百科)
高算力:
全面支持從FP32、TF32、FP16、BF16到INT8的計算精度。
單精度FP32峰值算力達到32 TFLOPS,單精度張量TF32峰值算力達到128 TFLOPS,整型INT8峰值算力達到256 TOPS。(數據來源:百度百科)
相較于第一代推理產品,云燧i20將浮點算力提升到1.8倍,整型算力提升到3.6倍。(數據來源:燧原科技官網)
高效能:
高吞吐、低延時,滿足云端AI的多種需求。
采用PCIe 4.0×16接口規格,16GB HBM2E內存容量,最大150W功耗。(數據來源:百家號)
廣泛支持:
支持175+主流模型,包括視覺、語音、自然語言處理等主流場景。
原生支持開源推理框架ONNX,支持國產ARM64服務器平臺,支持國產Linux操作系統。(數據來源:百家號)
核心技術:
四大核心技術(SuperFusion、SuperQuanti、SuperDynamics以及SuperTuner)支持模型多層算子超級融合,支持推理的低精度量化和混合精度,支持AI應用和算法的動態性,支持面向數據流的自適應性能優化策略,充分釋放算力。(數據來源:百家號)
三、應用場景
云燧i20可廣泛應用于計算機視覺、語音識別與合成、自然語言處理、搜索與推薦等推理場景。它能夠滿足大語言模型、搜廣推及傳統模型的需求,具有模型覆蓋面廣、易用性強、易遷移易部署等特點。(數據來源:燧原科技官網)
四、市場反響
云燧i20的發布引起了業界的廣泛關注。它不僅在技術上實現了突破,還在實際應用中展現了強大的性能。隨著人工智能技術的不斷發展,云燧i20有望在更多領域發揮重要作用,推動人工智能技術的普及和應用。
綜上所述,燧原科技發布的云燧i20是一款具有顯著技術優勢和廣泛應用前景的云端AI推理卡。它的高帶寬、高算力、高效能以及廣泛支持等特點使其在市場上具有強大的競爭力。
責任編輯:David
【免責聲明】
1、本文內容、數據、圖表等來源于網絡引用或其他公開資料,版權歸屬原作者、原發表出處。若版權所有方對本文的引用持有異議,請聯系拍明芯城(marketing@iczoom.com),本方將及時處理。
2、本文的引用僅供讀者交流學習使用,不涉及商業目的。
3、本文內容僅代表作者觀點,拍明芯城不對內容的準確性、可靠性或完整性提供明示或暗示的保證。讀者閱讀本文后做出的決定或行為,是基于自主意愿和獨立判斷做出的,請讀者明確相關結果。
4、如需轉載本方擁有版權的文章,請聯系拍明芯城(marketing@iczoom.com)注明“轉載原因”。未經允許私自轉載拍明芯城將保留追究其法律責任的權利。
拍明芯城擁有對此聲明的最終解釋權。