ChatGPT可一鍵產出詐騙「情書」 歐洲刑警組織：AI恐成犯罪新利器

歐洲刑警組織警告，犯罪分子恐開始將ChatGPT等人工智慧（AI）技術，用於詐騙和其他網路犯罪手段。（法新社檔案照）

2023/03/29 06:04  自由時報

〔編譯林雨萱／綜合報導〕歐洲刑警組織（Europol）27日警告，ChatGPT等聊天機器人快速進化而產生的能力，不僅有利於人類生活，同時也可能為不肖人士所用，犯罪分子恐開始將人工智慧（AI）技術，用於詐騙和其他網路犯罪手段，包括網路釣魚、散布假訊息和惡意軟體等敲詐手法。

美國新創公司OpenAI去年11月推出的ChatGPT迅速吸引消費者目光，用戶對它明確回答困難問題、編寫詩句和程式，甚至是通過考試等能力驚嘆不已。不過，總部設於荷蘭海牙的歐洲刑警組織指出，犯罪者恐利用這種AI系統犯案的前景令人擔憂。

已有美國國會議員公開宣稱自己「被AI嚇壞了，尤其是不受限制和監管的AI」，並提出決議草案，呼籲強化對AI的監管。

歐洲刑警組織新設的「創新實驗室」（Innovation Lab）整體聚焦於聊天機器人的使用，但在一系列研討會中特別聚焦ChatGPT，因為ChatGPT最引人注目、使用最為廣泛。他們發現，犯罪分子可能會利用ChatGPT大幅加速對未知領域的研究進程，包括草擬詐欺犯案計畫，或查詢如何闖入民宅、執行恐怖行動、網路犯罪、兒童性虐待等資訊。

聊天機器人擬人化敘事的能力，對於網路釣魚攻擊特別有用，犯罪者可藉此引誘使用者點擊假的電子郵件連結，再試圖竊取他們的資料。此外，ChatGPT快速產出逼真的語音文本能力，使其成為宣傳和散布假消息的理想工具，犯罪者不需花費太大力氣便可產出、散佈特定論述的訊息。ChatGPT也可用於撰寫電腦程式，對那些對編碼和開發所知甚少，或一竅不通的犯罪者特別管用。

歐洲刑警組織指出，美國與以色列網路威脅情報公司Check Point Research的初步研究顯示，聊天機器人可用來製作釣魚電子郵件，滲透網路系統。儘管ChatGPT具備內容審查等防護措施，會拒絕回答被歸類為有害或有偏見的問題，卻仍有大批駭客透過巧妙的提示加以規避。

不久前，網路安全平台GBHackers便披露一段駭客利用ChatGPT實施詐騙的犯罪行為，駭客利用ChatGPT在短時間內產生完整的詐騙話術，迅速創建一個「虛擬角色」，從自我介紹、聊天內容到精心製作的「情書」，ChatGPT都可以一鍵產出，讓受害人以為自己「墜入愛河」，最終遭受金錢詐騙。

據報導，這種詐騙手法其實並不新穎，問題在於如今有了AI加持，人們開始難以分辨螢幕的另一端到底是人還是機器。