憂心發展過快引發危機 AI教父辭Google工作籲勿擴大研發規模

Yahoo奇摩（即時新聞）

2023年5月2日 週二 下午6:44

奠定人工智慧（AI）系統科技基礎的辛頓（Geoffrey Hinton）素有「AI教父」之稱，美國媒體報導辛頓辭去了Google的工作，呼籲科學家在瞭解能否控制AI以前，不應該進一步擴大研發的規模。

人工智慧之父辛顿（Geoffrey Hinton）辭去Google職務，並表示對AI未來發展感到憂心。（美聯社資料照）

辛頓接受紐約時報訪問，公開談論AI的風險和引發的危機，憂心科技發展過快，將危及人們的就業機會和散布錯誤的資訊。辛頓說，AI領域的進步對社會和人類構成極大的風險。很難看出要怎麼預防壞人用它（AI）來做壞事。

根據紐約時報的報導，辛頓已在上月向Google提出辭呈。Google的AI負責人狄恩（Jeff Dean）在給美國媒體的聲明中，表達了對辛頓的感謝。聲明中還提到說：「身為率先發布AI原則的公司之一，我們仍致力對AI採取負責任的態度。」「我們在大膽創新的同時，也不斷發現新冒出來的風險。」

紐約時報今天刊出的報導引述了辛頓的話，指看到AI在5年前和現在的模樣，那樣的差異和成長，真的很驚人。辛頓指出，科技巨擘間的競爭，促使這些公司以危險的速度發布新的AI科技，那將危及人們的就業機會，也會散布錯誤的資訊。

谷歌（Google）和目前最夯的AI聊天機器人ChatGPT背後的新創公司OpenAI，2022年開始運用比過往更多的數據資料來開發系統。辛頓認為這些系統在某些方面，正在超越人類的智慧，因為它們分析的數據資料量很龐大，說不定這些系統其實已經比人腦更強。

雖然AI已被用來支援人類的工作所需，但像ChatGPT 這樣的聊天機器人快速發展，可能會讓人類的飯碗不保。

辛頓說，AI擔下了苦差事，但它會去做的可能不僅於此。辛頓還警告說，AI可能散布錯誤的訊息，一般人將再也無法知道什麼是真的。

科技業億萬富豪馬斯克（Elon Musk）和許多專家呼籲，暫停AI系統的開發，以便有時間能確保這項科技是安全的。在比ChatGPT所使用的AI更強大的GPT-4推出後，馬斯克和蘋果（Apple）共同創辦人沃茲尼亞克（Steve Wozniak）等逾千人，連署發表一封公開信。辛頓並未參與連署，但他告訴紐約時報，科學家在瞭解能否控制AI以前，不應該「進一步擴大研發的規模」。

責任主編：于維寧