▲圖片標題(來源：bnext.com)

OpenAI近日發表了全新神經網路GPT-4，這個擁有優秀推理能力的聊天機器人，能夠如何應用、發揮更強大的價值，毫無疑問是許多人所關注的焦點。然而在AI推動世界進步的同時，有研究人員指出，他們成功誘導GPT-4協助開發惡意軟體、開發釣魚電子郵件。

GPT-4也能被用於為非作歹？

根據《富比士》報導，網路安全公司Check Point的研究人員表示，他們透過避免在對話中使用「惡意軟體」一詞，就成功讓GPT-4幫助他們打造惡意軟體，繞過OpenAI對這些犯罪行為的封鎖。 OpenAI在發布GPT-4時，強調的一大特點便是安全性，並能確保這項技術不被網路犯罪使用。但看起來道高一尺魔高一丈，在研究人員的測試中，GPT-4能夠用C++為惡意軟體編寫程式，該惡意軟體可以收集PDF檔案並傳輸到遠端的伺服器。值得一提的是，GPT-4還向他們提供建議，如何讓惡意軟體在Windows 10上運行、縮減檔案大小，並且降低被防毒軟體發現的可能性。

「GPT-4可以幫助惡意人士——甚至是非技術背景的人——加速並實現他們的預謀。」最終Check Point在報告中表示，「我們看到的是，GPT-4可以用在正反用途上，良善的使用者會利用GPT-4打造各種有助於社會的程式，而惡意使用者則會利用人工智慧快速進行網路犯罪。」

黑帽大會審議委員會成員丹尼爾．卡斯伯特（Daniel Cuthbert）指出，GPT-4可以幫助沒有充足技術知識的人打造惡意工具，讓網路犯罪變得輕而易舉，大大降低其門檻。

不會寫程式也能做釣魚信件，GPT-4可能降低網路攻擊門檻？

Check Point過去也曾追蹤過ChatGPT被用於網路犯罪的情況，去年12月就發現有網路犯罪份子利用ChatGPT撰寫能用於惡意攻擊的Python腳本。即使發布者沒有任何開發背景，這個由聊天機器人輔助打造的惡意軟體大致上是正確的，只有少部份的程式碼錯誤。

另一間網路安全公司Blackberry也透露，他們針對1,500名資訊技術專家的調查中，多達74%的人都擔憂ChatGPT可能助長網路犯罪。同時還有71%的人擔心，這項技術可能會被國家政府利用，來對其他國家展開網路攻擊。

Check Point威脅行為團隊經理謝爾蓋．舒克維奇（Sergey Shykevich）表示，利用GPT-4生成網路釣魚信件或惡意軟體程式碼的難度，比以前的版本要來得更低。可能是因為目前僅開放給ChatGPT Plus的付費用戶有限使用，才沒有立刻遭到有心人士濫用。

事實上，OpenAI發布GPT-4時也打了「預防針」，一併發布的論文中就坦承，GPT-4可能會降低進行網路攻擊的成本，聲稱事前找來資安專家測試時發現在網路安全相關操作上有「重大缺陷」，但也強調他們已透過訓練模型、增加內部監控及檢測等方式加強圍堵。

不過，GPT-4打造的釣魚信件及惡意軟體並不特別，專家認為現代的檢測系統都能辨識出這些惡意軟體，且就如水能載舟亦能覆舟，GPT-4充其量只是工具，結果的好與壞仍端看使用者如何利用這項技術，GPT-4同樣存在著用於教育、管理資料、辨識詐欺等種種面向上巨大的可能性。

轉貼自： bnext.com

若喜歡本文，請關注我們的臉書 Please Like our Facebook Page： Big Data In Finance