fpga論壇|fpga設計論壇

 找回密碼
 我要注冊

QQ登錄

只需一步,快速開始

搜索
查看: 24|回復: 0
打印 上一主題 下一主題

當AI遇上FPGA會產生怎樣的反應

[復制鏈接]
跳轉到指定樓層
1#
機器在ImageNet中圖像識別錯誤率達到了3.5%,遠遠超出了人類平均的5.1%。在越來越多的領域,AI已經擁有了超越人類的能力,比如象棋、圍棋,比如圖片、語音識別。AI計算平臺和相關算法的發展是人工智能大躍進的基礎,在線下模型訓練中Xeon-Phi、GPU等發揮著巨大的作用,而在線上的推理任務中,浪潮FPGA深度學習加速解決方案則能夠實現7倍以上的能效比提升。
卷積網絡之父、Facebook人工智能實驗室主任Yann LeCun在一次采訪中表示,“大規模的在卷積神經網絡訓練上可能是比較慢,但是在一個實際的應用中,沒人關心訓練到底要花多長時間,人們只關心運行需要多久。”
也就是說,當模型一旦被訓練完成,線上推理的效率才決定用戶體驗。比如,有2個同樣AI模型的訓練,一家公司用了1天訓練完成,但線上推理的效率只有每秒100個任務;另一家公司用了7天訓練完成,但線上推理效率可以達到每秒1000個。那么對于最終用戶而言,第二家公司的應用無疑更快、用戶體驗更佳。那么如何才能提升人工智能應用的線上推理任務的效率?

目前,GPU已經在深度學習訓練模型領域開創性地創建了包含CNN、DNN、RNN、LSTM以及強化學習網絡等算法在內的應用加速平臺和完整的生態系統。深度學習包含兩個計算環節,即線下訓練和線上推理環節。GPU在深度學習算法模型訓練上非常高效,但在推理時,一次性只能對于一個輸入項進行處理,并行計算的優勢不能發揮出來。
相比較而言,運行深度學習算法實現同樣的性能,GPU所需功耗遠大于FPGA,通常情況下,GPU只能達到FPGA能效比的一半或更低。目前來看,深度學習算法還未完全成熟,算法還在迭代衍化過程中,若深度學習算法發生大的變化,GPU無法像FPGA一樣可以靈活的配置硬件結構,快速切入市場。
因此,FPGA和GPU未來在超級數據中心將成主流應用。尤其是在深度學習方面, GPU強在訓練,而FPGA強在推斷。原百度IDL常務副院長、現地平線機器人創始人&CEO余凱博士在北大一次公開課中透露:“百度廣告系統上線跟語音系統上線都需要實時計算,并且它的流量特別大,特別是廣告,這種情況下 CPU 跟 GPU 其實都扛不住,所以我們當時用 FPGA 去做專門的硬件加速。”
由于FPGA具有可編程專用性,高性能及低功耗的特點,浪潮推出基于FPGA的深度學習加速解決方案,希望通過更高配置的硬件板卡設計和內置更高效已編譯算法,來加速FPGA在人工智能領域的應用。
這一方案基于浪潮研發的業界最高密度的FPGA卡——F10A,單芯片峰值運算能力為1.5TFlops,而功耗僅35W,每瓦特性42GFlops。同時,F10A設計半高半長PCI-E插卡,具有靈活的板卡內存配置,最大支持32G雙通道內存,能夠寄存更多的并行任務數據。此外,F10A支持2個10Gb光口,可以實現數據直接從網絡到板卡處理,無需經過CPU,減低了傳輸延時。

而在算法上,浪潮FPGA深度學習加速解決方案針對CNN卷積神經網絡的相關算法進行優化和固化。客戶在采用此解決方案后,只需要將目前深度學習的算法和模型編譯成與浪潮深度學習加速解決方案的配置腳本,即可進行線上應用,省去至少3個月到半年的開發周期和相關成本。并且在算法運行效率上,浪潮FPGA加速方案相比CPU、GPU都有著很大優勢。
目前,浪潮FPGA方案可加速ResNet等神經網絡,能夠應用于圖片分類、對象檢測和人臉識別等應用場景。以通過構建ResNet殘差網絡的圖片識別分類任務為例,對通用圖像識別基礎數據集CIFAR-10進行測試,通過浪潮FPGA解決方案進行處理,能夠實現每秒742張的處理速度,Top-5識別準確率達到99.7%。而在同樣的模型下,使用NVidia M4僅能達到172張每秒,并且M4的功耗為50-75W,浪潮FPGA的功耗僅為30-45W。因此,從能效比來看,浪潮FPGA加速解決方案在圖片識別分類應用上,相比GPU能效比能提升7倍以上!同樣,與通用CPU對比,在處理這種高并行、小計算量的任務時,FPGA的優勢將更明顯。
除了在AI的線上推理方向,FPGA在其他很多方面也能發揮價值。在面向計算密集型任務,比如矩陣運算、圖像處理、機器學習、壓縮、非對稱加密、搜索的排序等的時候,擁有流水線并行和數據并行的FPGA效率會高很多。目前,浪潮已經推出面向WebP圖片轉碼、Gzip數據壓縮和深度學習等方向的完整解決方案,能夠實現10倍以上的圖片壓縮吞吐能力,8-10倍的數據壓縮效率和10倍以上的圖片分類識別能效比。
分享到:  QQ好友和群QQ好友和群 QQ空間QQ空間 騰訊微博騰訊微博 騰訊朋友騰訊朋友
收藏收藏
您需要登錄后才可以回帖 登錄 | 我要注冊

本版積分規則

QQ|小黑屋|手機版|Archiver|FPGA論壇 ( 京ICP備10035964號  

GMT+8, 2019-7-7 16:37 , Processed in 0.085695 second(s), 24 queries .

至芯科技 Powered by Discuz X3.2

© 2001-2014 Comsenz Inc.

快速回復 返回頂部 返回列表
送财童子电子游艺