首頁 > 數碼 >

WAVE SUMMIT+ 2021深度學習開發者峰會召開 飛槳開源框架v2.2重磅亮相

12月12日消息,由深度學習技術及應用國家工程實驗室主辦的WAVE SUMMIT+ 2021深度學習開發者峰會今日召開。此次峰會,飛槳開源框架v2.2重磅亮相。

百度深度學習技術平臺部高級總監馬艷軍與百度AI產品研發部總監忻舟,就飛槳新版 本特性與落地部署應用做了詳盡解讀。

飛槳新版本將如何在解決AI落地產業方面提供全新解答?一起看看。

踐行融合創新,飛槳核心技術持續積累與突破

峰會現場,馬艷軍表示,飛槳作為中國首個自主研發、功能豐富、開源開放的產業級深度學習平臺,核心技術持續積累與突破,全新發布的開源框架2.2版本,涉及深度學習開發、訓練、文本任務極致優化、硬件高效適配、低門檻推理部署等多方面創新性技術,賦能開發者,為產業應用和前沿探索提供技術源動力。

開發方面,飛槳提供豐富的API,支持開發者便捷、高效地開發深度學習模型。飛槳框架v2.2的API更加豐富、高效并保持良好的兼容性,有針對性地豐富了100多個API,可支持更廣泛模型開發,尤其針對科學計算的模型應用,增加了傅里葉變換、Jacobian/Hessian/VJP/JVP等一系列API,支持量子計算、生命科學、計算流體力學、分子動力學等應用,助力前沿技術探索。

訓練方面,全新發布端到端自適應大規模分布式訓練技術。針對不同的模型和硬件,抽象成統一的分布式計算視圖和資源視圖,并通過硬件感知切分和映射功能及端到端的代價模型,搜索出最優的模型切分和硬件組合策略,將模型參數、梯度、優化器狀態按照最優策略分配到不同的計算卡上,達到節省存儲、負載均衡、提升訓練性能的目的。

基于全新的端到端自適應大規模分布式訓練技術,百度飛槳在鵬城云腦II集群上采用自適應優化,訓練速度達到優化前2.1倍。而近期發布的全球首個知識增強千億大模型鵬城-百度·文心,也是基于端到端自適應大規模分布式訓練技術。

文本任務方面,從文本處理、訓練、解碼到部署進行全面加速。升級對字符串張量的支持,為開發者提供端到端文本任務開發體驗。在預訓練模型方面,針對Transformer Encoder的網絡結構實現了極致的性能優化,并通過自定義算子功能,融合了NVIDIA FasterTransformer的高性能算子?;谶@些優化,框架針對預訓練模型形成了訓推一體全流程開發體驗,讓部署代碼節省94%。

硬件接入方面,多層次、低成本的硬件適配方案降低了框架與芯片的適配成本。百度自研Kernel Primitive API、NNAdapter、編譯器CINN(預發布)三大優化方案,分別對AI算子庫、圖、編譯器后端進行軟硬件結合的深度融合優化,極大降低了硬件適配成本,賦能硬件生態圈。

持續降低應用門檻,飛槳模型庫、企業版全新升級

除了飛槳深度學習框架技術的領先發布,峰會還帶來了飛槳產業級開源模型庫和企業版的全新升級。

馬艷軍在會上表示,目前,百度飛槳官方支持的產業級開源算法模型超過400個,并發布13個PP系列模型,在精度和性能上達到平衡,將推理部署工具鏈徹底打通。

飛槳產業應用能力全方位升級的同時,飛槳企業版也在著力提升模型部署能力。會上,忻舟帶來了飛槳企業版模型部署升級和飛槳EsayDL桌面版的全新發布。

飛槳企業版包括EasyDL和BML雙平臺開發模式,致力于提升AI開發效率和資源使用效能,目前已經成為應用和落地最廣泛的AI開發平臺。此次模型部署的全新升級基于飛槳推理部署工具鏈,與平臺深度融合,打造自動高效的企業級部署功能。

首先是全自動模型組合壓縮,顯著提升推理性能?;赑addleSlim,根據不同模型和硬件的特點,設計了多條全自動組合壓縮流水線,能夠自動選擇最佳壓縮路徑。對常見的模型,精度損失控制在1%下,加速比能達到3-5倍。

其次基于飛槳推理引擎,廣泛適配推理芯片。新版本采用了飛槳推理引擎,廣泛適配推理芯片且性能優異。目前,平臺已完成9345種模型芯片的組合的真實測試和調優,可以覆蓋95%的需求場景,相比自行適配節省97%的開發時間。

最后是模型服務化與智能邊緣控制臺,大幅提高部署效率。尤其是全新發布的智能邊緣控制臺,提供了全可視化的操作界面,使得模型與業務集成的效率顯著提升,模型部署時間從天級別縮短至5分鐘。忻舟現場演示了如何5分鐘讓機器狗學會手勢識別的新技能。

最后,飛槳EasyDL桌面版全新發布。開發者不必繁瑣的配置各種環境,在桌面一鍵極速安裝即可實現本地高效建模,1分鐘安裝完成,15分鐘就可完成模型開發,本地實現數據管理、算力調度、部署應用,讓AI“觸手可得”。

源于產業實踐的百度飛槳產業級深度學習開源開放平臺,是百度踐行融合創新、降低行業發展門檻的AI大生產平臺。飛槳的一代一代迭代更新,更是中國人工智能產業的一步一步的向上攀登。AI促動中國產業繁榮,飛槳一直在路上。

責任編輯:Rex_13

国产欧美日产一区二区三区