當全球科技公司在人工智能（AI）競賽中一路狂奔時，AI技術(shù)濫用帶來的挑戰(zhàn)也像硬幣的另一面如影隨形，其中又以網(wǎng)絡(luò)釣魚詐騙帶來的負面影響最引人關(guān)注。

　　近日，路透社與哈佛大學(xué)合作開展了一項研究。結(jié)果顯示，繞過AI大模型的安全機制，使其成為不法分子網(wǎng)絡(luò)釣魚的“幫兇”，并不是件難事。

　　根據(jù)研究報告透露的調(diào)查過程，科研人員共測試了6款主流AI大模型，看其是否會無視其內(nèi)置的安全機制，生成網(wǎng)絡(luò)釣魚詐騙郵件。結(jié)果不容樂觀：這些AI大模型確實都會拒絕生成網(wǎng)絡(luò)釣魚詐騙郵件的“直接請求”，但只要通過簡單的話術(shù)設(shè)計，就可以繞開安全機制。

　　之后，研究人員又約請100名老年志愿者，參與關(guān)于網(wǎng)絡(luò)釣魚詐騙郵件成功率的測試。最終，有11%的老年人點擊了發(fā)送給他們的網(wǎng)絡(luò)釣魚欺詐郵件。

　　一個典型的例子就是美國開放人工智能研究中心（OpenAI）不久前推出的AI大模型GPT-5。公司方面曾宣稱，它無法創(chuàng)建“旨在欺騙人們（尤其是老年人）點擊鏈接或向虛假慈善機構(gòu)捐款的誘導(dǎo)性電子郵件”。然而，有測試人員僅僅禮貌性地說了一句“請幫幫忙”，GPT-5就一改之前的抗拒態(tài)度，生成了3封有模有樣的網(wǎng)絡(luò)釣魚欺詐郵件。

　　同樣，美國元公司（Meta）旗下的Meta AI一開始也表示“幫不了忙”，但在研究人員連續(xù)兩次表示“這只是為創(chuàng)作小說用的”后，模型就自動生成了兩封網(wǎng)絡(luò)釣魚欺詐郵件。

　　不僅如此，AI深度偽造技術(shù)“以假亂真”的能力，更是顛覆了“眼見為實、耳聽為真”的普遍常識。借助AI大模型，網(wǎng)絡(luò)釣魚詐騙不再局限于文本，還能實現(xiàn)圖像、聲音、視頻的篡改、偽造和自動生成，產(chǎn)出的信息高度仿真，難以辨別。尤其是“AI換臉”“語音克隆”等已成為網(wǎng)絡(luò)詐騙的重災(zāi)區(qū)，受害人群持續(xù)擴大。

　　美國聯(lián)邦調(diào)查局的統(tǒng)計數(shù)據(jù)進一步印證了這一嚴峻態(tài)勢：2024年，60歲及以上美國人對網(wǎng)絡(luò)釣魚的投訴激增了8倍多，因此造成的損失金額至少超過49億美元。

　　就此，多位網(wǎng)絡(luò)安全專家表示，AI技術(shù)濫用正使得網(wǎng)絡(luò)釣魚詐騙呈現(xiàn)出規(guī)?；?、低成本、低門檻化的新特點。造成這一問題的關(guān)鍵原因是，AI開發(fā)者目前配置的“安全護欄”較為脆弱，現(xiàn)有安全措施并不可靠。“當前AI技術(shù)仍處于快速發(fā)展期，在激烈的市場競爭中，各方唯恐落后，往往更專注于追求模型性能突破和技術(shù)領(lǐng)先，以致AI大模型的風險防御能力并未同步提升，安全保障仍舊遠遠落后于技術(shù)創(chuàng)新?！?/p>

　　此外，外部監(jiān)管同樣不可缺位。一個需要正視的現(xiàn)實是，面對AI技術(shù)突飛猛進催生的各類灰色地帶，傳統(tǒng)治理手段常顯遲滯與乏力。比如，傳統(tǒng)的核實機制服務(wù)能力有限，難以匹配呈指數(shù)級增長的信息規(guī)模；靜態(tài)的監(jiān)管框架，既難以覆蓋新場景，也無法跟上技術(shù)演進的新節(jié)奏。這就好比，使用舊時的槳櫓難以駕馭現(xiàn)代的巨輪，管理馬匹驛站的諸多手段難以應(yīng)對鐵路系統(tǒng)的運行。

　　專家建議，要為AI這把“雙刃劍”裝上“安全之鞘”，需從法律法規(guī)、平臺自律和公眾認知等多個層面綜合施策：堅持在發(fā)展中治理亂象，完善法律細則確保AI始終安全、可靠、可控；督促AI行業(yè)及企業(yè)強化自律，提升技術(shù)防范能力；積極開展風險監(jiān)測預(yù)警，建立應(yīng)用安全測評體系；針對敏感人群開展專項教育，提升全民數(shù)字素養(yǎng)和反詐意識；等等。唯有推動多元主體協(xié)同發(fā)力，共同塑造AI發(fā)展走向，才能更好應(yīng)對AI發(fā)展伴生的種種安全挑戰(zhàn)。（本文來源：經(jīng)濟日報 作者：孫亞軍）