//

2024年9月6日 星期五

終端AI時代來臨 NPU架構AI晶片崛起

 

終端AI時代來臨 NPU架構AI晶片崛起


AI晶片示意圖。圖/freepik

已將目前網頁的網址複製到您的剪貼簿!

邊緣AI運算晶片廠耐能智慧,是國際上最早將AI晶片量產的公司之一。這家2015年才成立的新創獨角獸,目前已得到紅杉資本、高通以及李嘉誠旗下維港投資等國際大咖的投資,另外國內如台達電、鴻海、光寶、華邦、旺宏等多家科技大廠也紛紛入股,創辦人劉峻誠有信心將來NPU AI晶片會是由耐能智慧來定義。本周【財經相對論】邀請劉峻誠為我們介紹NPU AI晶片以及邊緣運算在AI爆發式成長過程中的重要性。

耐能智慧自2015年成立,迄今已經獲得了超過1.9億美元融資。創辦人劉峻誠說,當初耐能剛宣布要推出AI晶片時,大家都笑他,但如今耐能智慧的晶片,效能卻可以跟世界一級大廠平起平坐。耐能EDGE GPT解決方案產品憑藉其強大的算力、優異的性能表現、高效的功耗控制、便捷的部署以及可靠的訊息安全保障等特性,在學界與業界都樹立技術領先的市場標竿和典範。

長期以來在人工智慧、機器學習等前沿技術領域保持全球領先的史丹佛大學,今年也正式宣布採購耐能的EDGE GPT解決方案,進一步加強學校在先進科技領域的教研能力,並推動更個性化和智能化的教學模式,提高學習效率。

在商業應用方面,耐能智慧AI晶片有四大產品線,包含邊緣伺服器、車用、安控及AIoT,高通除了是耐能股東之外,也與其進行各式各樣合作,其中高通在其RB1、RB2機器人平台搭載耐能晶片,讓高通AI算力提升4倍,為智慧掃地機器人及無人機部署物體檢測等能力。

耐能邊緣伺服器晶片可以像樂高積木一樣,進行多顆堆疊,達到高算力、低功耗效果,適用於小型伺服器。另外耐能也聚焦車用,已經打入前/後裝車用一級國際大廠,例如後裝晶片應用打進日本豐田車廠、前裝也有德系車廠進行緊密合作。耐能在2023年收購台達集團晶睿通訊旗下子公司歐特斯,準備切入先進駕駛輔助系統(ADAS)及駕駛行為偵測系統(DMS)。

即便過去在半導體與IC設計上,與台灣存在很強競爭關係的韓國,耐能晶片也有辦法打入當地市場。例如跟Line同集團的韓國搜尋引擎Naver,以及全球第四大、韓國第一大安控產品領導廠商韓華集團等,都選擇採購使用耐能的晶片。

雖然GPU晶片目前在AI市場上占據主導地位,但AI應用的爆發式發展,也產生了巨大的能源消耗。未來電費將可能占據整體AI運營成本的40%。目前碳中和已是大勢所趨,除了更高的算力、更優異的性能,實惠的成本與節能勢必會成為客戶考慮的因素。

CPU其實是專為邏輯運算而生,電腦的主要的運算其實就是CPU在做;GPU一開始設計則是專為遊戲或圖像運算去設計的專用晶片;只有NPU才是真正專為AI而生的晶片,也因此它本身在性能、效率跟功耗上,相較於CPU與GPU在AI上使用會有大幅的綜合優勢。

劉峻誠打比方說,如果把未來百花齊放的AI應用比喻為城市裡的大街小巷,那麼CPU之於這座城市就像是坦克車,GPU則像是搬運貨物的大卡車,NPU則如同一般家用房車。雖然CPU與GPU各自有當初設計的目的與優點,但若說到要在城市裡面行駛與通行,那當然還是能夠在城市裡鑽來鑽去的小客車最省油、最好開,這就是NPU晶片在未來AI應用上的優勢。

想更進一步了解NPU晶片技術、終端裝置邊緣運算的發展現況,以及台灣半導體與IC設計過去的成功經驗在未來NPU AI時代有何優勢?耐能科技創辦人劉峻誠在本集【財經相對論】裡,深入淺出地帶您了解未來AI應用爆發時真正趨勢之所在,敬請至Youtube工商時報頻道收看。


沒有留言:

張貼留言

熱門文章