終端AI時代來臨 NPU架構AI晶片崛起
已將目前網頁的網址複製到您的剪貼簿！
邊緣AI運算晶片廠耐能智慧，是國際上最早將AI晶片量產的公司之一。這家2015年才成立的新創獨角獸，目前已得到紅杉資本、高通以及李嘉誠旗下維港投資等國際大咖的投資，另外國內如台達電、鴻海、光寶、華邦、旺宏等多家科技大廠也紛紛入股，創辦人劉峻誠有信心將來NPU AI晶片會是由耐能智慧來定義。本周【財經相對論】邀請劉峻誠為我們介紹NPU AI晶片以及邊緣運算在AI爆發式成長過程中的重要性。
耐能智慧自2015年成立，迄今已經獲得了超過1.9億美元融資。創辦人劉峻誠說，當初耐能剛宣布要推出AI晶片時，大家都笑他，但如今耐能智慧的晶片，效能卻可以跟世界一級大廠平起平坐。耐能EDGE GPT解決方案產品憑藉其強大的算力、優異的性能表現、高效的功耗控制、便捷的部署以及可靠的訊息安全保障等特性，在學界與業界都樹立技術領先的市場標竿和典範。
長期以來在人工智慧、機器學習等前沿技術領域保持全球領先的史丹佛大學，今年也正式宣布採購耐能的EDGE GPT解決方案，進一步加強學校在先進科技領域的教研能力，並推動更個性化和智能化的教學模式，提高學習效率。
在商業應用方面，耐能智慧AI晶片有四大產品線，包含邊緣伺服器、車用、安控及AIoT，高通除了是耐能股東之外，也與其進行各式各樣合作，其中高通在其RB1、RB2機器人平台搭載耐能晶片，讓高通AI算力提升4倍，為智慧掃地機器人及無人機部署物體檢測等能力。
耐能邊緣伺服器晶片可以像樂高積木一樣，進行多顆堆疊，達到高算力、低功耗效果，適用於小型伺服器。另外耐能也聚焦車用，已經打入前／後裝車用一級國際大廠，例如後裝晶片應用打進日本豐田車廠、前裝也有德系車廠進行緊密合作。耐能在2023年收購台達集團晶睿通訊旗下子公司歐特斯，準備切入先進駕駛輔助系統（ADAS）及駕駛行為偵測系統（DMS）。
即便過去在半導體與IC設計上，與台灣存在很強競爭關係的韓國，耐能晶片也有辦法打入當地市場。例如跟Line同集團的韓國搜尋引擎Naver，以及全球第四大、韓國第一大安控產品領導廠商韓華集團等，都選擇採購使用耐能的晶片。
雖然GPU晶片目前在AI市場上占據主導地位，但AI應用的爆發式發展，也產生了巨大的能源消耗。未來電費將可能占據整體AI運營成本的40％。目前碳中和已是大勢所趨，除了更高的算力、更優異的性能，實惠的成本與節能勢必會成為客戶考慮的因素。
CPU其實是專為邏輯運算而生，電腦的主要的運算其實就是CPU在做；GPU一開始設計則是專為遊戲或圖像運算去設計的專用晶片；只有NPU才是真正專為AI而生的晶片，也因此它本身在性能、效率跟功耗上，相較於CPU與GPU在AI上使用會有大幅的綜合優勢。
劉峻誠打比方說，如果把未來百花齊放的AI應用比喻為城市裡的大街小巷，那麼CPU之於這座城市就像是坦克車，GPU則像是搬運貨物的大卡車，NPU則如同一般家用房車。雖然CPU與GPU各自有當初設計的目的與優點，但若說到要在城市裡面行駛與通行，那當然還是能夠在城市裡鑽來鑽去的小客車最省油、最好開，這就是NPU晶片在未來AI應用上的優勢。
想更進一步了解NPU晶片技術、終端裝置邊緣運算的發展現況，以及台灣半導體與IC設計過去的成功經驗在未來NPU AI時代有何優勢？耐能科技創辦人劉峻誠在本集【財經相對論】裡，深入淺出地帶您了解未來AI應用爆發時真正趨勢之所在，敬請至Youtube工商時報頻道收看。
沒有留言:
張貼留言