Arm 將 Kleidi 擴展到汽車市場,加速提升 AI 應用的性能
Arm控股有限公司(納斯達克股票代碼:ARM,擴展以下簡稱“Arm”)今日宣布將Arm® Kleidi技術擴展到汽車市場。到汽Arm Kleidi是車市場加一項廣泛的軟件及軟件社區(qū)參與計劃,旨在加速人工智能(AI)的速提升發(fā)展。通過Arm Kleidi,應用合作伙伴將能夠充分挖掘下一代特定應用AI模型在汽車中的擴展優(yōu)勢,并加快其部署速度。到汽
Arm汽車事業(yè)部產品和解決方案副總裁Suraj Gajendra表示:“在汽車行業(yè)中,車市場加AI通常被稱為自動駕駛汽車的速提升核心——聽起來頗具未來感,距離其大規(guī)模量產上路還有數(shù)年時間。應用然而,擴展實際的到汽情況是,當下新車型中的車市場加很多應用和功能,從自適應巡航控制、速提升個性化車載信息娛樂系統(tǒng)到駕駛員和乘客監(jiān)控系統(tǒng),應用都已經在使用AI技術,并且這些特定應用的模型和工作負載已在Arm平臺上高效運行。這歸功于Arm計算平臺卓越的靈活性、性能、能效和可擴展性,使其成為整個汽車行業(yè)中開發(fā)者的首選平臺。”
然而,隨著這些汽車應用與功能日益精進,對更多的AI功能與日益復雜的工作負載的需求不斷提高,汽車行業(yè)正面臨著一系列獨特的挑戰(zhàn),包括:
·相較于其他行業(yè),汽車行業(yè)擁有龐大而復雜的軟件系統(tǒng),使得開發(fā)環(huán)境極為復雜。
·需要一個強大的從云端到車端的軟件開發(fā)和驗證基礎設施,以便將云端開發(fā)的應用無縫部署到汽車中。
·軟件必須符合嚴格的汽車功能安全和信息安全方面的行業(yè)標準和法規(guī)。
·汽車的使用周期較長,這意味著軟件必須具備升級能力,以適應未來不斷新增的功能和更新(類似于在最新軟件版本發(fā)布時對智能手機進行同步更新,但汽車的產品周期要更長)。
Arm通過領先的汽車增強型(AE)技術和在汽車生態(tài)系統(tǒng)中的合作,應對這些獨特的挑戰(zhàn)。這些合作涵蓋了虛擬平臺和基于標準的軟件解決方案,通過面向嵌入式邊緣側的可擴展開放架構(SOAFEE)來加速汽車開發(fā)周期。所有這些解決方案都為開發(fā)人員提供了工具,使他們能夠通過應用廣泛的Arm計算平臺無縫獲取更高的性能,并加快其產品的上市時間。
利用Arm Kleidi實現(xiàn)性能自動優(yōu)化
Arm Kleidi于2024年推出,旨在為Arm CPU上運行的AI推理工作負載提供軟件性能優(yōu)化,開發(fā)者無需進行任何額外的工作,目前該軟件庫已應用于移動端、云和數(shù)據(jù)中心等關鍵領域,包括Kleidi已被集成到ExecuTorch、Llama.cpp、MediaPipe和PyTorch等熱門AI框架的最新版本中,開發(fā)者只需開始構建應用程序,即可在基于Arm架構的平臺上自動獲取性能的顯著提升。
Kleidi的性能優(yōu)化特性已引入汽車市場,領先的科技公司已經在他們的汽車軟件中體驗到了一系列新應用的性能提升。從車載聊天機器人、個性化駕駛員建議,到圖像和運動增強以輔助用戶、診斷和解決問題,Kleidi庫與關鍵的開發(fā)者框架的集成正在加速AI應用的開發(fā),為用戶提供更快、更高效的車載體驗。
·AWS Automotive將車載聊天機器人的響應速度提高了10倍
利用Arm與Corellium聯(lián)合開發(fā)的虛擬平臺,亞馬遜云科技(AWS)為軟件定義汽車(SDV)打造了一款全新的概念驗證(proof-of-concept) AI聊天機器人,允許駕駛員直接與汽車進行互動,提出問題或詢問儀表盤警報,而無需翻閱汽車用戶手冊。借助集成了KleidiAI的最新版Llama.cpp開發(fā)聊天機器人,AWS實現(xiàn)了其聊天機器人性能的顯著提升,響應時間縮短至一到三秒,性能提升達10倍。由于開發(fā)者無需在底層軟件優(yōu)化花費心力,KleidiAI為聊天機器人的開發(fā)節(jié)省了六周時間。
·VicOne加快了對汽車網絡安全威脅的應對速度
VicOne面向SDV的xCarbon車載解決方案能使車輛學習和識別網絡安全威脅,減少對云端技術的依賴,進而降低成本并更好地保護數(shù)據(jù)安全。借助TinyLlama-1 1B模型,VicOne解決方案的性能實現(xiàn)了顯著提升,預填充提示速度翻倍,詞元生成速度提升了60%以上,從而縮短了車輛檢測網絡安全威脅的響應時間。Kleidi實現(xiàn)的性能優(yōu)化使VicOne能夠在無需額外開發(fā)工作的情況下,為用戶帶來更安全、更可靠的駕駛體驗。
·Sonatus專為OEM打造的AI Technician Builder平臺,能夠無縫運行于基于Arm架構的AWS Graviton CPU
Sonatus的AI Technician Builder是一個從云到邊緣側的平臺,可幫助OEM廠商創(chuàng)建客戶服務代理,以迅速響應用戶對汽車的問詢,進而改善駕駛體驗。該平臺最初運行于云端環(huán)境的GPU,而通過引入Kleidi優(yōu)化框架,它現(xiàn)可輕松移植到搭載Arm架構的AWS Graviton EC2云實例上運行。這不僅確保了用戶所需的性價比和響應時間,還為在基于Arm架構的汽車計算平臺上運行邊緣AI工作負載鋪平道路。
在Arm平臺上推動汽車及其他領域的AI創(chuàng)新
如今,全球94%的車廠都在其最新車型中使用了Arm技術。Arm計算平臺在汽車領域的廣泛應用,表明其在推動關鍵車載AI應用實現(xiàn)顯著性能優(yōu)化方面具備得天獨厚的優(yōu)勢,AWS、VicOne和Sonatus的成功實踐便是很好的例證。將Kleidi集成到現(xiàn)有的軟件堆棧中,推動了更高效、更先進的AI應用場景的實現(xiàn),并為那些分秒必爭的關鍵汽車應用提供了更快的響應速遞。這賦予了開發(fā)者超能力,使他們能夠在Arm CPU上優(yōu)化并運行新的特定應用的AI模型和工作負載,而無需額外的成本或開發(fā)工作量。
通過將Kleidi擴展到汽車領域,Arm持續(xù)兌現(xiàn)其承諾——為包括從云到邊緣側的各個Arm應用市場的AI開發(fā)者提供無縫的性能加速,助其打造有吸引力的全新用戶體驗,不斷挖掘AI變革的潛力。
(免責聲明:本網站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網站出現(xiàn)的信息,均僅供參考。本網站將盡力確保所提供信息的準確性及可靠性,但不保證有關資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網站對有關資料所引致的錯誤、不確或遺漏,概不負任何法律責任。
任何單位或個人認為本網站中的網頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時,應及時向本網站提出書面權利通知或不實情況說明,并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網站在收到上述法律文件后,將會依法盡快聯(lián)系相關文章源頭核實,溝通刪除相關內容或斷開相關鏈接。 )