耐能智慧 AI晶片 GPT AI NPU

耐能最新 AI 晶片驅動 GPT 解決方案的大規模應用

2023-08-16
以開創性的神經處理單元(NPU)而聞名的AI公司耐能,發佈KL730晶片。整合車規級NPU和影像訊號處理器(ISP),並將安全而低耗能的AI能力賦能到邊緣伺服器、智慧家居及汽車輔助駕駛系統等各類應用場景中。

KL730作為耐能最新款晶片,從設計之初就以實現AI功能為目的,並更新了多項節能及安全的技術創新。該晶片具備多通道介面,可無縫接入圖像、影片、聲音和毫米波等各種數位訊號,支持各產業的人工智慧應用開發。

該晶片還解決了目前人工智慧的廣泛瓶頸之一:普遍的低效能硬體導致的系統高成本。

在這個晶片的開發工作中,KL730在效能方面取得了極大的進步,效能比相較於過往耐能的晶片提升3至4倍,且比主要產業同等產品提高150%至200%。

耐能創辦人兼執行長劉峻誠表示,運行AI功能需要專用AI晶片,其體系架構與以前瞭解的晶片完全不同。簡單地重新使用相鄰技術(如圖形處理專用的GPU晶片),不能很好地勝任這項工作。KL730將會是邊緣AI的革新者。憑藉其前所未有的效率和對Transformer等框架的支持,耐能正在為各行各業提供強大的AI能力,在極具安全性和保護資料隱私的情況下充分發揮人工智慧的潛力。

耐能長期專注於邊緣AI,並研發一系列輕量且可擴展的AI晶片,以安全地推動AI能力的發展。2021年,耐能發佈首款支援Transformer神經網路架構的邊緣AI晶片KL530。而Transformer神經網路架構是所有GPT(Generative Pre-trained Transformer)模型的基礎。KL730晶片進一步豐富該產品系列,提供每秒0.35-4 tera有效計算能力,擴展了支援最先進的輕量級GPT大型語言模型(如nanoGPT)的能力。

KL730具有獨特的定位,可以改變AIoT領域的安全性,從而使用戶能夠部分或完全離線地在終端運行 GPT模型。該晶片配合耐能的私有安全邊緣AI網路KNEO,讓AI運行在用戶的邊緣設備上,從而讓他們更好地保護資料隱私。這些應用是全行業的:從企業伺服器解決方案到智慧駕駛車輛再到以AI驅動的醫療設備,所增加的安全性允許設備之間進行更大的協作,同時保護資料的安全。例如,工程師可以設計新的半導體晶片,而無需與大型雲端公司營運的資料中心共用機密數據。


追蹤我們Featrue us

本站使用cookie及相關技術分析來改善使用者體驗。瞭解更多

我知道了!