新聞來源：

張江發布

在張江這片創業熱土上，駐扎著大批集成電路龍頭企業。除了在張江扎根多年的“老企業”，許多芯片界的新生力量也在這里蓬勃發展。在張江科學城成立不到五年，肇觀電子已經在計算機視覺的賽道上殺出重圍，“拳頭產品”N1系列計算機視覺芯片刷新了端側AI芯片性能紀錄，并達到了幾乎“無損”的精度。

AI芯片界的“黑馬”刷新芯片性能紀錄

對于AI應用和系統廠商而言，AI芯片是其核心元器件，每個應用和系統廠商都在尋找在性能、功耗、成本等方面綜合因素下合用的AI芯片。評估AI芯片是否適合使用往往從每元錢能獲得的性能、每度電能獲得的性能、部署實施的成本、元器件是否穩定可靠等幾個方面來衡量。其中，芯片廠商宣稱的每TOPs（Tera operations per second）的算力對應的實際每秒計算多少幀數據（例如圖片或者視頻），以及算法從訓練到部署的轉換中對精度的保持成為關鍵。

2016年成立的肇觀電子在芯片、數學、算法等方面深耕多年，潛心研發核心技術，已獲60余件國內外專利授權。基于多年研發的CVKit? NN IP的N1系列SoC芯片刷新了端側AI芯片性能紀錄。領先的每TOPs處理幀數，實時數據流處理能力，支持高精度FP16神經網絡模型直接無損部署，高性能的INT8網絡支持能力，多級精細功耗控制，將端側AI芯片的能力提升到了一個新的高度。

AI芯片性能“又快又準”是主要指標

AI應用和系統的客戶對于AI芯片實際的深度神經網絡處理能力有著明確需求。對于系統性能而言，“又快又準“是其主要指標。“快”主要取決于芯片的每秒計算能力。如何能夠在單位成本和單位功耗下最優地支持神經網絡模型的各種神經層的不同數據類型并使得客戶的模型部署的精度損失最小，體現出不同公司之間的技術水平的差異。

根據不同算法網絡的測試結果，N161芯片每TOPS算力下每秒可推理圖片的數量展示出了業界領先的水平。同時，N161還支持FP16高精度網絡，同樣展示出強悍的性能。

在FP16的精度下，N161跑各項網絡可以達到的每秒幀數“準”主要取決于芯片對于算法中的神經網絡模型的各種神經層的不同數據類型的支持。客戶在算法運行中產生的精度損失往往十分昂貴。肇觀電子負責人跟我們介紹，以無人零售設備的應用為例，如果物體識別算法在實際運行中有1%的精度下降，會直接導致貨損率的上升以及運營成本的增加。根據各種不同網絡的測試結果，N161 INT8量化網絡幾乎無精度損失（1%以內）。此外，肇觀電子創新的CVKIT? NN IP在諸多方面遙遙領先，并已部署至N1系列芯片，以及D163(3D視覺)、V163(車載)芯片。

5分鐘快速部署解決“算法落地難”問題

人工智能落地的挑戰，一方面在于整個產業鏈稀缺在性能、成本、功耗等方面合用的上游核心芯片；另一方面在于產業依賴高度專業的知識技能而導致人才投入等綜合成本高昂。人工智能落地難度大已是業界不爭的事實。

為了解決“算法落地難”的問題，肇觀電子發布了“5分鐘部署”的AI應用開發平臺Infer Studio?，助力算法快速商用。Infer Studio? 能夠將算法“翻譯”成芯片能讀懂的表述文件，并快速部署，這種“一鍵式”開發體驗顯著地提高了開發者的效率。據肇觀電子介紹，Infer Studio?支持TensorFlow/TensorFlow Lite/ONNX/Caffe這些主流框架，開發者可以自由選擇訓練框架。從功能上來說，在軟件層Infer Studio?具有Model Visualization可視化模型、Compiler編譯器、Evaluator效果評估器、Debugger調試器四種功能。

據悉，“肇觀”取自“開啟視覺”之意。在張江成立以來，肇觀電子從計算機視覺出發，在芯片核心技術上不斷突破，致力于為工業檢測、智慧安防、輕量AIoT等領域的用戶賦能。肇觀電子表示，計算機視覺的市場還處于發展期，這意味著肇觀這類計算機視覺芯片企業并無太多經驗可以借鑒，只能摸索前行。期待通過肇觀等先行者的探索，AI視覺應用能夠在更大范圍、更加深入幫助行業提質增效。