最近幾個月，人工智能生成內容（AIGC）的關注度持續升溫，全球競逐AI賽道，人工智能的發展速度已遠超我們的想象。以ChatGPT、文心一言等為代表的大模型以“聊天式”交互界面不斷降低AI的使用門檻，AI產業迎來高光時刻，但利用AI進行詐騙的案例時有發生，人工智能技術突破和進步結出的AI碩果不應成為滋養“深度偽造（Deepfake）”的沃土。
AI發展狂飆
但給它的自由不能過了火
(相關資料圖)
今年2月，一段由AI生成的美國主持人喬·羅根（Joe Rogan）推銷保健品的廣告在某社交平臺上瘋傳。這段由Deepfake制作的內容使得公眾難以分辨名人形象的真偽，最終被平臺刪除。“深度偽造（Deepfake）”一詞由深度學習（Deep Learning）和偽造（fake）組合而來，Deepfake是一種人工智能技術，能夠將人的面部表情和聲音與另一個人的圖像和聲音結合起來，從而創造出虛假的視頻或音頻。這種技術可用于制作虛假新聞、電信網絡詐騙、制作色情作品等，具有極大的潛在危險性。
未經授權的深度偽造視頻開辟了一個新的法律灰色地帶，名人個人形象的品牌價值管理受到影響，多維度精心打造的商業形象可能不復存在。那么對于普通人，深度偽造視頻會帶來怎樣的危害？近日，一起由“AI換臉”實施的詐騙引發熱議，受害人10分鐘被騙走430萬元，視頻通話的“好友”竟不是朋友本人，“確認過眼神”還是一腳踏入AI騙局。
伴隨AI技術的革新和突破，生成虛假視頻的技術難度和成本大幅降低，為深度偽造野蠻生長提供了養料，相關法律法規也要及時更新，整治AI換臉、AI偷臉，積極引導負責任的AI研發與應用活動，用“法”打敗“魔法”。去年12月，《互聯網信息服務深度合成管理規定》發布，對人臉生成、替換、操控，合成人聲、仿聲等都有明確約束。顯然，隨著制度設計更精準、相關立法更健全，深度偽造的生長空間將越來越逼仄。
防范AI濫用
確保技術健康有序發展
使用ChatGPT導致芯片機密數據泄露，“AI孫燕姿”靠翻唱成為音樂圈新頂流，推特瘋傳AI生成的“五角大樓爆炸圖”引美股下跌……隨著人工智能技術的蓬勃發展，AI已經融入日常娛樂、企業生產的方方面面，與此同時，數據泄露、作品侵權、虛假新聞傳播等濫用AI的事件也層出不窮，為人工智能技術健康有序發展帶來挑戰。
ChatGPT雖然是工作效率提升“神器”，寫方案、調代碼等游刃有余，但是，把數據尤其是涉密數據“投喂”給AI大模型，也意味著，這些數據可能成為大模型的訓練數據，進而泄露給未經授權的第三方，對國家安全、企業競爭力等產生嚴重影響。為確保涉密數據的安全性，通常不建議將其輸入ChatGPT中，應使用更加安全的方法來存儲、處理涉密信息，例如使用專用的安全存儲設備或系統、采用加密技術對敏感信息進行加密和保護等。
此外，借助AI能夠制作出非常逼真的虛假視頻或圖像，這些虛假作品很難被人眼識別出來，容易誤導公眾。為規范人工智能發展，去年12月，《互聯網信息服務深度合成管理規定》正式發布，明確了合成數據和技術管理規范。其中提到：深度合成服務提供者對使用其服務生成或編輯的信息內容，應當添加不影響使用的標識。提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等生成或者顯著改變信息內容功能的服務的，應當進行顯著標識，避免公眾混淆或者誤認。
近期，也有平臺和企業發布了“關于人工智能生成內容的平臺規范暨行業倡議”，明確禁止利用生成式人工智能技術創作、發布侵權內容，包括但不限于肖像權、知識產權等，一經發現，平臺將嚴格處罰。
AI創新在前
但要嚴守科技倫理底線
2019年，英國一家能源公司的CEO接到其母公司總裁的電話，要求將22萬歐元轉入匈牙利銀行賬戶，他照做了，但實際這個“總裁”的聲音是人工合成的。Deepfake不僅能夠用于偽造他人的人臉和聲音信息，“復活”已故人士也不在話下。2020年10月，美國網紅卡戴珊發布了一段由Deepfake創建的其已故父親的視頻；2022年，貓王埃爾維斯·普雷斯利在美國達人秀第17季中被Deepfake“復活”……
為應對深度偽造帶來的潛在問題，各國政府紛紛出臺相關法規和措施。2018年12月，美國參議院提出了《2018年惡意偽造禁令法案》，對制作深度偽造內容引發犯罪和侵權行為的個人，以及明知內容為深度偽造還繼續分發的社交媒體平臺，進行罰款和處以長達兩年的監禁。2019年6月，美國眾議院提出《深度偽造責任法案》（Deepfakes Accountability Act），要求任何創建深度偽造視頻媒體文件的人，必須用“不可刪除的數字水印以及文本描述”來說明該媒體文件是篡改或生成的，否則將屬于犯罪行為。
歐盟主要通過個人信息保護和虛假信息治理等法律法規來從法律層面限制人工智能造假技術的應用。2022年6月，歐洲委員會公布了加強版《反虛假信息行為準則》，要求谷歌、Meta等在歐盟擁有巨量用戶的大型科技公司，采取措施來打擊其平臺上的深度偽造和虛假賬戶，否則將面臨高達其全球營業額6％的罰款。
在應對深度偽造帶來的監管挑戰上，中國有關部門行動迅速，制定的規章更為精細全面，去年12月發布的《互聯網信息服務深度合成管理規定》覆蓋了深度偽造的文本、圖像、音頻、視頻和虛擬場景等，進一步明確了合成數據和技術的相關管理規范。值得注意的是，其中提到的文本內容包括由AI大語言模型生成的文本，AI生成虛假新聞等情況的應對和處理將有規可依。
此外，近日成立的工業和信息化部科技倫理委員會、工業和信息化領域科技倫理專家委員會，將為進一步健全產業科技創新體系、完善工業和信息化領域科技倫理治理體系等提供重要基礎。AI技術和應用要創新要發展，但不可跨越倫理紅線。
關鍵詞：
