
為了讓AI特別是在自動駕駛汽車中,加速器在最短延遲內達到最佳精度,TFLOP然而,一些專家認為,這種野蠻的處理方法已經成為許多所謂大腦芯片的關鍵指針。……
芯片采購網專注于整合國內外授權IC代理商現貨資源,芯片庫存實時查詢,行業價格合理,采購方便IC芯片,國內專業芯片采購平臺。
人工智能(AI)特別是在自動駕駛汽車中,加速器在最短延遲內達到最佳精度(AV)中,TFLOP(兆次浮點運算)已成為許多所謂大腦芯片的關鍵指針。比賽的選手包括Nvidia的Xavier、Mobileye的EyeQ5、特斯拉(Tesla)全自動駕駛(FSD)以及計算機芯片NXP-Kalray芯片。
然而,一些專家認為,這種野蠻的療是不可持續的。在EE Times在獨家專訪中,DeepScale執行長ForrestIandola提出其不可持續的原因是因為AI硬件設計師持有的許多常見假設已經過時。隨著AI應用越來越多,AI供應商積累更多的經驗,導致不同的經驗AI任務開始需要不同的技術方法。假如是這樣,AI使用者購買AI技術方式會改變,供應商也會做出回應。
DeepScale執行長ForrestIandola
Iandola這意味著搜索神經網絡架構(NAS)例如,其快速發展不僅加快了對深度神經網絡的優化(DNN)搜索過程,降低成本。他認為,有一種方法可以在目標任務和目標操作平臺上建立最低延遲和最高精度DNN,而不是依靠更大的芯片來處理所有的事情AI任務。
Iandola設想未來AI芯片或傳感器系統(如計算機視覺、雷達或光達)供應商不僅提供硬件,還提供自己的高速高效DNN——為應用而設計DNN架構。任何供應商都將匹配他們需要的不同操作平臺DNN,假如真的是這樣,那么AI比賽中的所有賭注都將失敗。
需要明確的是,芯片公司和傳感器供應商都沒有提出上述前景。很少有人在特定的硬件上有針對性地運行AI任務的可能性。
Iandola及其DeepScale最近團隊設計了一系列DNN模型被稱為SqueezeNAS”。在最近的一份報告中,他們聲稱在目標平臺上搜索延遲,SqueezeNAS能夠建立更快、更準確的模型。這份報告被推翻了AI小區先前對NAS、乘積累加(MAC)運算和將ImageNet精度應用于目標任務中的一些假設。
DeepScale于2015年由Iandola和KurtKeutzer教授共同成立,是位于加州山景城的一家新公司,致力于發展微型DNN。兩位聯合創始人曾在加州大學柏克萊大學分校工作,DeepScale因其快速高效DNN研究在科學界備受推崇。
手工設計(Manual designs)
要真正理解機器學習在計算機視覺方面的最新進展,需要了解其發展歷史。
還記得AlexNet2012年,網絡結構模型獲勝ImageNet圖像分類競賽嗎?這為研究人員專注于競爭打開了大門ImageNet在計算機視覺任務中找到最高精度的研究DNN,競爭。
基于強化學習和超級網絡的基礎NAS比較(數據源:DeepScale)
過時的假設
機器學習的簡短歷史向我們展示了神經結構搜索的出現如何為計算機視覺研究奠定基礎。但在這個過程中,它也反駁了研究小組的一些早期假設,Iandola指出。
那么,需要糾正哪些假設呢?
Iandola稱,大多數AI系統設計師認為,ImageNet分類中最精確的神經網絡可以為目標任務提供最精確的骨干網絡。但計算機視覺包括許多AI任務-從目標檢測、分割和3D從空間到目標跟蹤、距離估計和自由空間。并非所有任務都是平等的。Iandola強調。
ImageNet目標任務的準確性與目標任務的準確性關系不大。這不能保證。
來看由Iandola團隊創建的SqueezeNet。Iandola這是一個小的神經網絡,它的解釋ImageNet分類精度明顯低于VGG,但在識別一組圖像中類似斑塊的任務時,它比VGG更準確。
當分類任務達到極限時,Iandola是時候為不同的任務設計不同的神經網絡了。
另一個常見的假設是Raltron代理在目標運算平臺上減少MAC然而,最近的研究表明,減少了MAC與減少延遲沒有太大關系。MAC神經網絡并不總能實現較低的延遲,Iandola指出。
在Iandola的SqueezeNAS在報告中,他堅持認為不僅僅是不同的AI任務需要不同DNN。為目標運算平臺(如CPU、GPU或TPU選擇合適的版本)DNN也很重要。
例如,他引用了優化不同智能手機網絡的方法FBNet作者的話。他們發現了DNN在iPhonex它在三星運行得很快,但在三星運行得很快Galaxy S八上執行得很慢。報告中,Iandola即使MAC數量保持不變,不同的卷積維數會根據處理器和核心來決定更快或更慢的運行。
對自動駕駛的影響
今天,DeepScale與包括在內的多家汽車供應商建立了合作關系Visteon、Hella Aglaia Mobile Vision GmbH其他未透露姓名的公司。DeepScale一直在開發微型DNN,該公司聲稱,在保證最先進性能的同時,它們需要更少的計算。
在SqueezNas的報告中,Iandola他向同事解釋說,他的團隊使用超級網絡NAS用于語義分割的設計DNN,用于識別道路、車道、車輛和其他物體的準確形狀。NAS系統配置優化Cityscapes語義分割數據集精度高,在小型車輛級運算平臺上實現低延遲。
隨著SqueezNAS的發展,DeepScale對自己的定位是:優化DNN、AI硬件和特定AI任務之間的協同關系成為先驅。
隨著AI芯片即將席卷市場,Iandola認為系統設計師必須明智地選擇加速器。他們應該準確地考慮硬件應該執行AI以及硬件加速器應在哪種神經網絡上運行。
將使用安全攝像頭、自動駕駛汽車和智能手機AI芯片。考慮到每個系統所需的速度、準確性、延遲和應用程序,確定合適的硬件和NAS它變得至關重要。
Iandola表示,對于OEM對于汽車制造商來說,要將測試版的自動駕駛汽車轉化為商業產品,必須提取存儲在自動駕駛汽車后行李箱中的刀鋒服務器。Iandola預計汽車制造商可能會要求硬件芯片公司提供適合硬件平臺的優化DNN。
對于Nvidia這樣的公司可能不是問題,因為它GPU它得到了大型軟件生態系統的支持。然而,其他大多數AI硬件供應商會嚇出一身冷汗。
此外,隨著一系列新的傳感器-攝像頭、光達和雷達的設計,汽車OEM例如,不同類型的神經網絡可能會面臨一些殘酷的現實。另一個例子是,不同品牌設計的光達使用不同的光達AI硬件。Iandola今天,無論是傳感器供應商還是傳感器供應商AI處理器公司沒有為其硬件提供優化推薦的神經網絡。”
Iandola表示,OEM汽車廠和一級零部件供應商將開始要求優化DNN,匹配特定硬件和AI任務,這將是不可避免的。我們相信使用NAS在目標運算平臺上優化低延遲變得越來越重要。
以超級網絡為基礎NAS出現,NAS成本一直在下降。因此,是時候讓硬件供應商開始尋找自己的優化了DNN。當被問及DeepScale通過合作、授權或AI開發和優化硬件公司DNN填補這個缺口時,Iandola我們還沒有真正考慮過這個問題。
- Gurman:新款蘋果 MacBook Pro 和 Mac mini 將在幾個月內推出
- 德科技助力5G賦能垂直產業
- 富士康于明年第一季度開始生產自動駕駛電動拖拉機訂單
- 滿滿的知識點|關于射頻微機電系統開關的事情
- 聯想凌拓和Veritas合作推出企業級備份解決方案,護送數智世界
- 張翔:發達國家正成為中國汽車出口的主要市場
- 擴大西部數據WD_BLACK SSD產品組合,滿足各類游戲玩家的多樣化需求
- 卓勝微:芯卓半導體卓半導體產業化建設項目濾波器產品小批量生產
- 萬萬沒想到,NFT日常應用這么多!
- 研華發布兼容性NVIDIA Jetson的AI邊緣智能系統EPC-R7200
- 羅德和施瓦茨推出了新的戶外頻譜監控和無線電定位解決方案
- 45.98 萬元,理想 L9 旗艦 SUV 正式發布:1315km 綜合續航,零百加速 5.3s
