我們擅長商業策略與用戶體驗的完美結合。
歡迎瀏覽我們的案例。
上月,全志科技發布了新款智能語音專用處理器,這是 Arm 中國耗時兩年研發的周易 AIPU 的落地首秀。近日,雷鋒網與 Arm 中國產品研發副總裁劉澍和全志科技副總裁陳風進行了深度交流,了解到了 Arm 中國的產品進展以及 Arm 中國與全志科技定制周易 AIPU 的更多細節。
Arm 和 Arm 中國的 AI 產品沖突了嗎?
Arm 中國在 2018 年注冊成立,中方投資團隊占股 51%,Arm 公司占股 49%,接管 Arm 在國內的所有業務。同時,Arm 中國也會研發更符合中國市場需求的產品。據悉,Arm 中國從 2018 年開始就在推進 3 個產品線,分別是:周易 AIPU、山海平臺安全解決方案、星辰處理器。
劉澍透露:“這三個產品線從團隊建立、到產品開發到發布客戶、到客戶芯片流片回來測試的工作,目前一切進展順利。今年第一季度恰好都有客戶的芯片返回而且工作正常。”
周易 AIPU 屬于當下最受關注的 AI 產品品類,也是 Arm 中國最先看到落地應用的產品。“與 Arm 不久前推出的配合 Arm Cortex-M 處理 Ethos-U55 和配合 Cortex-A 處理器的 Ethos N 系列 NPU 相比,Arm 中國周易 AIPU 更加通用,既可以跟 Cortex-M 或 Cortex-A 一起工作,也可以作為處理器進行獨立工作。”劉澍對雷鋒網(公眾號:雷鋒網)表示。
也就是說,周易 AIPU 既不是 CPU 處理器,也不是神經網絡加速器。這是因為,周易 AIPU 定義了一套新的適用于 AI 算法的指令集,通過指令來驅動里面的向量處理單元和固定的 AI 算法處理單元,從而完成各種復雜網絡的組合的操作。
但作為一款 AI 處理器,周易 AIPU 也必須尋找通用性和效率的平衡點,以提升產品的競爭力。周易 AIPU 的做法是,用向量處理單元 Vector/Tensor Process 的并行的8-bit 向量陣列進行向量計算,Arm 中國為 Vector/Tensor Process 定義了一整套向量處理指令集,有點類似于 Arm 此前的 NEON 指令集。
另外,周易 AIPU 中的 AI Fix Function 把常見的 AI 網絡里所通用的部件和單元固化為硬件,通過指令就可以驅動硬件工作,提升效率。
標量部分,周易 AIPU 也有標量單元,這個單元并非完成的 CPU,但有類似標量處理器的功能。
因此,周易 AIPU 用標量處理單元 Scalar Unit、向量處理單元 TensoCre Ellxe.Cell,還有能提升 AI 效率的 AI Fix Function,最終實現通用性和效率的兼顧。
除此之外,周易 AIPU 的架構中還有可擴展的安全架構和可擴展的用戶定義架構。“可擴展的用戶定義架構其實就是給像全志科技這樣的戰略合作伙伴準備的,因為有的客戶可能很簡單地把 AIPU 集成下來就可以了,但也有一些比較有深入研究的芯片公司,會對里面的算子有自己定制的理解和需要。”劉澍進一步指出,
“我們開放了這樣的接口,可以用特殊的指令來驅動用戶定義的算子。因此,不同周易 AIPU 平臺的產品最終的效能可能不同。”
當然,周易 AIPU 也是一些列高度可配置的處理單元,開發者既可以配置通用的 Tensor 算力,也也已配置 AI Fix Function 專用算力。周易 AIPU 單核性能為 0.2TOPS-4TOPS,用多核配置組成系統最高可實現 64TOPS 的算力。
全志科技最新發布的 R329 語音專用 SoC 中集成的正是定制的周易 AIPU。
定制化是 AI 處理器提升競爭力的關鍵
全志科技 R329 中集成了定制的周易 Z1-0701,1 代表的是 Arm 中國第一代周易 AIPU 架構,07 指它有 2 的 7 次方個硬件 MAC,01 表示還有一個通用的 Tensor 處理單元。劉澍說:“0701 是專門針對智能家居、智能樓宇、智能機器人這樣的場景深度定制的,它可以非常高效地運行在本地的 ASR 的各種語音算法。同時,它也有相對比較簡單的視覺的分析能力,比如說圖像和人臉識別以及感知。”
劉澍也表示,Arm 中國是根據全志科技給出的市場定位,在周易 AIPU 的處理器上又花了數月的時間進行定制,最終做出全志科技所需要、在市場上具備競爭力的產品。這樣,通過全志科技這個戰略合作伙伴,不僅帶來了準確的市場需求信息,更用頂實話的方式開發 IP 保證 Arm 中國的產品最切合客戶需求。
全志科技副總裁陳風也說:“當下僅僅把芯片做好還不夠,在過去幾年里,我們花了非常多時間進行市場信息搜集,涉及市場需求,實現方式、手段、技術細節等。所以,在我們雙方探討合作的時候,Arm 中國也發現全志科技擁有非常多有價值的市場需求信息和思考,這也促成了雙方的迅速合作。”
“通過跟非常多的友商和算法公司進行了大量的交流,發現大家對專用算力是有明確需求的,所以我們就推出了全志科技 R329 這樣的芯片,經過了 10 個月左右的研發,這款新品已經有樣片和樣機。”陳風也透露。
“各家知名的算法廠商,包括訊飛、思必馳還有其他的合作伙伴都已經開始做了算法的工作,他們的反饋現在都是非常好的。”
對于算法公司而言,算法移植的難度以及與硬件匹配的軟件的易用程度成為關鍵。據悉,通過 Arm 中國和全志科技的合作,可以實現 TensorFlow 模型的 24 小時移植。未來,周易 AIPU 還會支持更多的業界主流的 AI 框架。
不過,在 AI 框架之下,還需要 Arm 的 Compute Library 或者是 Open AI Lab 的異構計算庫,進一步去支持像 Arm NN、安卓 NN 比較流行的接口。像全志這樣有實力的公司,則會有自研的 Tina OS 和 Runtime 的框架,只要把周易 AIPU 的驅動層接進去都可以正常工作。
陳風介紹,Tina OS 在全志科技內部使用已經有5、6 年的歷史,它是一個輕量級的 Linux OS,使用 Tina OS 的名稱后已經迭代了三個大的版本,整個 OS 完全開源,并且啟動速度非常快,現在全球已經有累計超過 5 千萬臺的設備使用了 Tina OS,包括音箱、掃地機、冰箱和微波爐等。
品質和靠譜是 AI 芯片落地的關鍵
成立于 2007 年的全志科技,早在 2011 年就開始進入智能音箱產品,但那時的智能音箱是能連上 Wi-Fi 就叫智能,和 2013 年之后我們所說的智能音箱的概念還是有所不同。全志科技新發布的 AI 芯片會以智能音箱為切入點,然后滲入到智慧城市,包括智能樓宇、智慧工業以及智慧生活當中。
陳風預計,家電產品應該在 2020 年和 2021 年左右開始迎來第一波的智能化的普及浪潮。
他指出,語音面板看起來不起眼,實際上量非常大的市場。因為工業控制器、電梯、汽車的駕駛平臺以及一些專業的電子設備都會有控制面板,這個面板的語音化現在也已經開始全面啟動了。
談及全志科技 AI 產品的核心競爭力,陳風說:“我們現在是有非常明確的答案和信心的,任何一個產品或者是技術的落地,需要的是非??煽康囊环N實現方式。我所說的可靠,不僅來源于全志科技有實力,過去的經歷也證明我們公司能夠向客戶提供極其持久的技術支持和產品支持。”
另外就是品質,“電子產品是否可靠,在消費電子領域、工業電子領域,以及在智慧家庭領域有截然不同的等級要求。在家電領域,品質也是客戶重點考量的對象,要求的級別可能是 99.9%,也可能是 99.99%,最高達到了 99.9999%,這么高的可靠性要求,背后也是客戶精細化經營的要求。”陳風指出,“通過類似的場景大家可以感受到,語音技術在商品化的過程中,靠譜這兩個字是有多么重要,它擺在了先進性之前。”
雷鋒網小結
Arm 的 AI 產品的發布和落地進展在業界都并非最快,這其中很重要的原因就是 Arm 在權衡 NPU 的效率和靈活性花了更多時間。在 Arm 中國的產品中,周易 AIPU 作為 Arm 中國的首款 AI 產品,通過一套新的 AI 算法指令集適應 AI 處理器的需求,兼顧通用性和效率。并且,周易 AIPU 的指令集設計和架構設計都由 Arm 中國完成,因此這也是一個 Arm 中國自主可控的產品。
Arm 中國與全志科技的合作,是周易 AIPU 的首秀,最終的競爭力到底如何,我們將保持關注。另外,Arm 中國除了將周易 AIPU 授權給智能家居領域的公司,還授權給了汽車應用領域、手機領域和安防監控等領域的芯片合作伙伴,周易 AIPU 的表現值得期待。
還有一個值得關注的問題,周易 AIPU 和 Ethos NPU 在中國市場會如何協同發展?
?。?a href="http://www.lifeprint.cn">邯鄲網絡公司)