最近幾個月，人工智能生成內(nèi)容（AIGC）的關(guān)注度持續(xù)升溫，全球競逐AI賽道，人工智能的發(fā)展速度已遠超我們的想象。以ChatGPT、文心一言等為代表的大模型以“聊天式”交互界面不斷降低AI的使用門檻，AI產(chǎn)業(yè)迎來高光時刻，但利用AI進行詐騙的案例時有發(fā)生，人工智能技術(shù)突破和進步結(jié)出的AI碩果不應成為滋養(yǎng)“深度偽造（Deepfake）”的沃土。
【資料圖】
AI發(fā)展狂飆
但給它的自由不能過了火
今年2月，一段由AI生成的美國主持人喬·羅根（Joe Rogan）推銷保健品的廣告在某社交平臺上瘋傳。這段由Deepfake制作的內(nèi)容使得公眾難以分辨名人形象的真?zhèn)危罱K被平臺刪除。“深度偽造（Deepfake）”一詞由深度學習（Deep Learning）和偽造（fake）組合而來，Deepfake是一種人工智能技術(shù)，能夠?qū)⑷说拿娌勘砬楹吐曇襞c另一個人的圖像和聲音結(jié)合起來，從而創(chuàng)造出虛假的視頻或音頻。這種技術(shù)可用于制作虛假新聞、電信網(wǎng)絡(luò)詐騙、制作色情作品等，具有極大的潛在危險性。
未經(jīng)授權(quán)的深度偽造視頻開辟了一個新的法律灰色地帶，名人個人形象的品牌價值管理受到影響，多維度精心打造的商業(yè)形象可能不復存在。那么對于普通人，深度偽造視頻會帶來怎樣的危害？近日，一起由“AI換臉”實施的詐騙引發(fā)熱議，受害人10分鐘被騙走430萬元，視頻通話的“好友”竟不是朋友本人，“確認過眼神”還是一腳踏入AI騙局。
伴隨AI技術(shù)的革新和突破，生成虛假視頻的技術(shù)難度和成本大幅降低，為深度偽造野蠻生長提供了養(yǎng)料，相關(guān)法律法規(guī)也要及時更新，整治AI換臉、AI偷臉，積極引導負責任的AI研發(fā)與應用活動，用“法”打敗“魔法”。去年12月，《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》發(fā)布，對人臉生成、替換、操控，合成人聲、仿聲等都有明確約束。顯然，隨著制度設(shè)計更精準、相關(guān)立法更健全，深度偽造的生長空間將越來越逼仄。
防范AI濫用
確保技術(shù)健康有序發(fā)展
使用ChatGPT導致芯片機密數(shù)據(jù)泄露，“AI孫燕姿”靠翻唱成為音樂圈新頂流，推特瘋傳AI生成的“五角大樓爆炸圖”引美股下跌……隨著人工智能技術(shù)的蓬勃發(fā)展，AI已經(jīng)融入日常娛樂、企業(yè)生產(chǎn)的方方面面，與此同時，數(shù)據(jù)泄露、作品侵權(quán)、虛假新聞傳播等濫用AI的事件也層出不窮，為人工智能技術(shù)健康有序發(fā)展帶來挑戰(zhàn)。
ChatGPT雖然是工作效率提升“神器”，寫方案、調(diào)代碼等游刃有余，但是，把數(shù)據(jù)尤其是涉密數(shù)據(jù)“投喂”給AI大模型，也意味著，這些數(shù)據(jù)可能成為大模型的訓練數(shù)據(jù)，進而泄露給未經(jīng)授權(quán)的第三方，對國家安全、企業(yè)競爭力等產(chǎn)生嚴重影響。為確保涉密數(shù)據(jù)的安全性，通常不建議將其輸入ChatGPT中，應使用更加安全的方法來存儲、處理涉密信息，例如使用專用的安全存儲設(shè)備或系統(tǒng)、采用加密技術(shù)對敏感信息進行加密和保護等。
此外，借助AI能夠制作出非常逼真的虛假視頻或圖像，這些虛假作品很難被人眼識別出來，容易誤導公眾。為規(guī)范人工智能發(fā)展，去年12月，《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》正式發(fā)布，明確了合成數(shù)據(jù)和技術(shù)管理規(guī)范。其中提到：深度合成服務提供者對使用其服務生成或編輯的信息內(nèi)容，應當添加不影響使用的標識。提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等生成或者顯著改變信息內(nèi)容功能的服務的，應當進行顯著標識，避免公眾混淆或者誤認。
近期，也有平臺和企業(yè)發(fā)布了“關(guān)于人工智能生成內(nèi)容的平臺規(guī)范暨行業(yè)倡議”，明確禁止利用生成式人工智能技術(shù)創(chuàng)作、發(fā)布侵權(quán)內(nèi)容，包括但不限于肖像權(quán)、知識產(chǎn)權(quán)等，一經(jīng)發(fā)現(xiàn)，平臺將嚴格處罰。
AI創(chuàng)新在前
但要嚴守科技倫理底線
2019年，英國一家能源公司的CEO接到其母公司總裁的電話，要求將22萬歐元轉(zhuǎn)入匈牙利銀行賬戶，他照做了，但實際這個“總裁”的聲音是人工合成的。Deepfake不僅能夠用于偽造他人的人臉和聲音信息，“復活”已故人士也不在話下。2020年10月，美國網(wǎng)紅卡戴珊發(fā)布了一段由Deepfake創(chuàng)建的其已故父親的視頻；2022年，貓王埃爾維斯·普雷斯利在美國達人秀第17季中被Deepfake“復活”……
為應對深度偽造帶來的潛在問題，各國政府紛紛出臺相關(guān)法規(guī)和措施。2018年12月，美國參議院提出了《2018年惡意偽造禁令法案》，對制作深度偽造內(nèi)容引發(fā)犯罪和侵權(quán)行為的個人，以及明知內(nèi)容為深度偽造還繼續(xù)分發(fā)的社交媒體平臺，進行罰款和處以長達兩年的監(jiān)禁。2019年6月，美國眾議院提出《深度偽造責任法案》（Deepfakes Accountability Act），要求任何創(chuàng)建深度偽造視頻媒體文件的人，必須用“不可刪除的數(shù)字水印以及文本描述”來說明該媒體文件是篡改或生成的，否則將屬于犯罪行為。
歐盟主要通過個人信息保護和虛假信息治理等法律法規(guī)來從法律層面限制人工智能造假技術(shù)的應用。2022年6月，歐洲委員會公布了加強版《反虛假信息行為準則》，要求谷歌、Meta等在歐盟擁有巨量用戶的大型科技公司，采取措施來打擊其平臺上的深度偽造和虛假賬戶，否則將面臨高達其全球營業(yè)額6％的罰款。
在應對深度偽造帶來的監(jiān)管挑戰(zhàn)上，中國有關(guān)部門行動迅速，制定的規(guī)章更為精細全面，去年12月發(fā)布的《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》覆蓋了深度偽造的文本、圖像、音頻、視頻和虛擬場景等，進一步明確了合成數(shù)據(jù)和技術(shù)的相關(guān)管理規(guī)范。值得注意的是，其中提到的文本內(nèi)容包括由AI大語言模型生成的文本，AI生成虛假新聞等情況的應對和處理將有規(guī)可依。
此外，近日成立的工業(yè)和信息化部科技倫理委員會、工業(yè)和信息化領(lǐng)域科技倫理專家委員會，將為進一步健全產(chǎn)業(yè)科技創(chuàng)新體系、完善工業(yè)和信息化領(lǐng)域科技倫理治理體系等提供重要基礎(chǔ)。AI技術(shù)和應用要創(chuàng)新要發(fā)展，但不可跨越倫理紅線。
關(guān)鍵詞：
