環球即時：孫燕姿后輪到“卷福”？AI合成聲音技術遭濫用 電信詐騙險些得手

AI為各行各業裝上效率加速器的同時，也可能被不法之人用作詐騙工具。

(資料圖)

據英國媒體《每日郵報》報道，一家西班牙小型電影制作公司（Peabody Films）稱收到英國著名男演員“卷福”本尼迪克特·康伯巴奇（Benedict Cumberbatch）發電話，對方表示對該公司即將拍攝的電影感興趣，想尋求合作。

這部電影的導演稱，他們最初收到了自稱是好萊塢明星經紀人發來的電子郵件，謹慎起見，他建議打個電話，而來電聲音與康伯巴奇的相似度有100%，“是那個聲音，毫無疑問。”該公司后又與“康伯巴奇”進行了幾次通話。

這導致這位導演一開始完全相信對方正是康伯巴奇本人，“當我們接到電話時，簡直不敢相信自己的運氣，康伯巴奇是當下最有才華的演員之一，他居然會主動聯系我們并對我們的項目表現出興趣。”

隨后，該電影公司幾次邀約見面，“康伯巴奇”都拒絕了，甚至還提出要該公司先打款20萬英鎊（約合人民幣170萬元）。這時公司意識到了可能遇到了騙子，向“康伯巴奇”的經紀公司確認后才發現，這是一場AI騙局。

“當發現自己是AI詐騙受害者時，我們感到非常震驚和失望。”該導演表示。目前，該電影公司正考慮是否報警。

被中國觀眾稱為“卷福”的本尼迪克特·康伯巴奇可以說是英國國寶級演員，他被英國女王授予大英帝國司令勛章，也被《時代周刊》評為全球最具影響力人物之一。不論在熱門英劇《神探夏洛克》里，還是在好萊塢大片《奇幻博士》中，康伯巴奇都是自己配音。由于聲音很有辨識度，“卷福”還被力邀為《霍比特人》里的惡龍等虛擬形象配音。

這僅僅是AI合成聲音用于詐騙的一例。

據報道，近日，國外一名網友用美國知名歌手弗蘭克·奧申（Frank Ocean）的歌曲片段用以訓練AI，之后用AI生成了大約9首仿冒其風格的歌曲，隨后該網友于4月初在論壇上發布了這些曲目，并將其偽造成唱片錄制時的泄露片段，通過出售這些音樂騙取了約970美元（約合人民幣6700元）。

當下的AI技術不僅可以克隆真實的人聲，還可以通過聲音進行“二次創作”。近段時間，通過模型訓練和后期處理，模擬真人歌手孫燕姿聲音進行翻唱的“AI孫燕姿”走紅網絡。

另一方面，越來越多的開源模型讓相關工具的使用門檻進一步降低，非編程人員便可利用AI工具快速“調教”出想要的聲音。

AI歌手的翻唱歌曲，正是由多位創作者通過開源項目“so-vits-svc”自制后并上傳。今年早些時候，微軟研究人員展示了一種文本轉語音AI模型“VALL-E”，該模型只需3秒鐘音頻，就可以合成任何人的聲音，保留說話者的情緒基調，并可以說出任何內容。

這些都便利了騙子制造假信息。網絡安全公司邁克菲發現，在美國、英國、法國、德國、日本、澳大利亞和印度，有10%的人曾被人工智能語音詐騙。

除了聲音詐騙，AI在圖像、視頻上的創造能力同樣不得不讓人提高警惕。AI專家阿列克謝·希特羅夫曾向媒體表示，AI生成的虛假圖像和聲音已經被廣泛用于商業欺詐。

關鍵詞：