原標題：記者調(diào)查AI換臉擬聲技術(shù)使用亂象—— 騙子來電，聲音容貌和我家人一模一樣 　   媽，8000元不夠，給我轉(zhuǎn)1.5萬元吧。 一位母親正和女兒視頻聊天，聽著在外地上學(xué)的女兒在視頻里撒嬌抱怨 生活費不夠用了 ，她心疼不已打算立刻給孩子轉(zhuǎn)賬。就在這時，家門打開了，她的 真女兒 走了進來。而另一頭，視頻里的 假女兒 還在央求媽媽 給生活費 。  這是一則AI反詐視頻。在這條反詐視頻評論區(qū)中，不少網(wǎng)友反映自己也有過類似的被騙經(jīng)歷， 騙子來電，聲音容貌和我家人一模一樣 。  《法治日報》記者近日調(diào)查發(fā)現(xiàn)，AI換臉擬聲技術(shù)已成為簡單易操作的 低門檻 技術(shù)，只需擁有聲音與照片等 素材 ，借助軟件即可瞬間實現(xiàn) AI克隆 。實踐中，一些不法分子試圖利用AI換臉擬聲技術(shù)實施違法犯罪活動。  近日，國家金融監(jiān)督管理總局金融消費者權(quán)益保護局發(fā)布防范新型電信網(wǎng)絡(luò)詐騙風(fēng)險提示，將 AI換臉擬聲 納入其中，作為專門類詐騙。據(jù)介紹，AI換臉擬聲類金融詐騙，多為不法分子以 網(wǎng)店客服 營銷推廣 等為借口聯(lián)系消費者，采集發(fā)音、語句或面部信息，之后利用 換臉 擬聲 等技術(shù)合成消費者虛假音頻、視頻或圖像，模擬他人聲音或形象騙取信任，誘導(dǎo)其親友轉(zhuǎn)賬匯款等。  受訪專家指出，擅自使用他人信息制作換臉擬聲視頻涉及多重法律風(fēng)險。需要進一步完善相關(guān)領(lǐng)域的立法，加大執(zhí)法力度，秉持包容審慎的態(tài)度平衡技術(shù)的安全與發(fā)展。  幾乎沒有使用門檻 輕松實現(xiàn)換臉擬聲   只需要一段語音，幾乎完美還原音色語氣，今天就教大家如何簡單、快速復(fù)制一個人的聲音。 在某社交平臺上，一名科技博主發(fā)布了一段教學(xué)視頻，向網(wǎng)友介紹如何用AI精準克隆人聲。   只需要準備一段25秒的聲音，構(gòu)建聲音進行訓(xùn)練，訓(xùn)練完畢后就可以輸入想要的文本進行語音合成。 教學(xué)視頻中，這名博主用時不到1分鐘，就把AI擬聲的原理講解得清清楚楚，與此同時，一段 孫悟空 的擬聲就這樣誕生了。他輸入了一段文本，AI便能用與 孫悟空 近乎一模一樣的聲音語氣念出來。  記者按照視頻中的指示打開鏈接發(fā)現(xiàn)，這個AI擬聲工具無需下載，也不收費，是可以免費使用的網(wǎng)頁，而如此制作出來的音頻可以公開供他人使用，也可以導(dǎo)出使用。記者在網(wǎng)頁中分別上傳了5種不同聲音，經(jīng)過訓(xùn)練，這5種聲音被幾乎無差別地成功 克隆 ，能夠用來讀出任意文案。除此之外，用戶還能在輸入文案時加入情緒的描述，使得AI擬聲如同能夠 談笑風(fēng)生 的真人。  除了AI擬聲，AI換臉也成了 熱門 技術(shù)。在一些圖片處理軟件中， 一鍵AI換臉 能瞬間將圖片甚至視頻中的臉毫無痕跡地置換成另一張臉。   一天能做100個原創(chuàng)作品，這個工具太強了。 在社交平臺某AI科技博主的短視頻里，該博主向粉絲介紹一款視頻換臉軟件。屏幕中，博主所展示的兩段視頻中的女生除了五官不同，其余的外貌、穿著及動作完全一致。視頻中，女孩不論如何轉(zhuǎn)身或做出任何表情，面部都沒有產(chǎn)生畸變。 一鍵就能高清換臉，讓你們變成另外一個人。   記者嘗試了該博主所推薦的軟件及操作方法，成功將一段視頻中的人臉換成了另一張人臉。即使是 技術(shù)小白 ，上手也幾乎毫無門檻。記者瀏覽發(fā)現(xiàn)，這樣類似的視頻換臉軟件還有許多，除了進行視頻剪輯換臉之外，部分軟件在技術(shù)操作之下還能實現(xiàn)實時換臉擬聲。  換臉軟件明碼標價 鮮有賣家詢問用途  記者在某社交平臺檢索 AI換臉 時，發(fā)現(xiàn)頁面彈出了 無痕換臉，只需5元到20元 的廣告。在評論區(qū)中，有不少買家詢問能否提供視頻換臉擬聲服務(wù)，也有不少賣家混雜其中尋找 客戶 。記者在評論區(qū)留言咨詢后，很快便收到幾名賣家的回復(fù)或私信。   需要自定義AI換臉軟件嗎？ 一名賣家通過私信聯(lián)系記者，推銷其軟件。記者進一步詢問賣家該軟件是否能夠?qū)崟r視頻換臉擬聲，賣家稱 任何社交平臺都能夠支持實時 。  隨即，該賣家向記者展示了其在社交平臺上發(fā)布的換臉演示。在換臉演示中，一名男子以 英俊的臉龐 出現(xiàn)在視頻頁面中，而這張 英俊的臉 則是換臉后的 假面 ，該賣家配以文字 網(wǎng)戀神器，直接變小哥哥，換個面貌可以去找小姐姐網(wǎng)戀了 。  為了讓記者更真切地體會到換臉技術(shù)的高超，該賣家提出可以 打個視頻看效果 。記者打開某社交軟件視頻通話，只見視頻畫面里是與 換臉演示 中樣貌不同的另一名男子。該賣家稱，二者都是自己通過換臉軟件制作的。在視頻中，他展示了喝水、捂嘴、捏臉、捂臉等多個動作， 做動作是沒問題的，只要打開視頻前把這個軟件打開就可以了 。  在交流時，賣家不斷向記者強調(diào)其所售賣的技術(shù)操作難度不大，且在視頻時 看不出破綻 。價格方面，其介紹299元可以裝好軟件，操作一遍演示；如果支付599元，則可以一對一教學(xué)， 教會為止，軟件可以永久不限次數(shù)地使用 。  調(diào)查中，記者還收到了另一名賣家的 推銷 ，其同樣向記者推薦了自定義AI換臉軟件。該賣家稱，軟件分為手機版和電腦版，手機版的價格為40元，電腦版為69.9元，兩者均可以永久不限次數(shù)使用。當記者問及電腦版與手機版為何存在價格差異時，該賣家告訴記者，電腦版的軟件包含一鍵 AI去衣 功能，即可以把照片上的衣服脫下來。  在調(diào)查過程中，記者注意到，類似提供 自定義AI換臉擬聲軟件 的賣家還有不少，他們大多在社交平臺上尋找買家。對于買家購買技術(shù)的目的，有些賣家毫不在意，甚至?xí)��?去衣 等擦邊功能作為一大賣點進行推銷。  除此之外，記者還發(fā)現(xiàn)，在某二手交易平臺上，也有賣家出售相關(guān)技術(shù)。比如有賣家在產(chǎn)品描述中這樣寫道： 有手就可以，拍下就發(fā)完整視頻資料和制作方法，可批量搞，虛擬資源能夠變現(xiàn)。    有些人會利用技術(shù)去做違法犯罪的事情，尤其是在近幾年，這種技術(shù)更容易使用了。 一名業(yè)內(nèi)人士向記者透露，他就曾接到過一些 出格 的客戶需求， 有人聯(lián)系希望我們能用AI克隆技術(shù)突破銀行和一些支付軟件的刷臉功能。還有人打離婚官司，要我們用擬聲作偽證。如果沒有問清楚，換臉擬聲很容易淪為一些不法分子詐騙、犯罪的工具。   及時規(guī)定使用原則 增強個人反詐意識   如果不是做深度訓(xùn)練的話，目前換臉擬聲的技術(shù)門檻是比較低的。 南京 超級頭腦 工作室（一家AI工作室，主要經(jīng)營 AI數(shù)字生命 業(yè)務(wù)）創(chuàng)始人張澤偉告訴記者，目前非技術(shù)人員也可以通過軟件進行較為簡單的換臉擬聲，使得 假人假聲 的合成視頻、圖片可能被用于違法違規(guī)用途，而一些年紀稍大的長輩很難分辨出來。  北京大成（深圳）律師事務(wù)所律師陳翠說，擅自使用他人肖像制作換臉視頻可能侵犯他人肖像權(quán)、隱私權(quán)。根據(jù)民法典第一千零一十九條，未經(jīng)本人同意，不得以營利為目的使用他人肖像。 換臉視頻即便不以營利為目的，也可能因未獲授權(quán)而侵犯肖像權(quán)。同時，未經(jīng)許可傳播涉及含有個人隱私的視頻會侵犯個人隱私權(quán)。   陳翠進一步補充道，若換臉擬聲視頻內(nèi)容不當或引發(fā)公眾誤解，可能會構(gòu)成名譽權(quán)侵權(quán)。如果視頻中包含他人享有著作權(quán)的內(nèi)容（如影視片段），則可能構(gòu)成著作權(quán)侵權(quán)。同時，未經(jīng)授權(quán)制作和傳播換臉視頻還可能違反網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法等相關(guān)法律規(guī)定，面臨行政處罰或刑事責(zé)任。  陳翠認為，目前，我國在相關(guān)領(lǐng)域仍缺乏系統(tǒng)性立法，涉及人工智能的法律規(guī)范較為分散。同時，人工智能倫理規(guī)范尚未形成統(tǒng)一標準，為有效遏制此類技術(shù)被用于違法犯罪，需進一步明確其應(yīng)用邊界。  中國傳媒大學(xué)文化產(chǎn)業(yè)管理學(xué)院法律系主任鄭寧認為，我國《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》明確，任何組織和個人不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播法律、行政法規(guī)禁止的信息，并要求深度合成服務(wù)提供者應(yīng)當建立健全辟謠機制，這在一定程度上為深度合成服務(wù)的技術(shù)應(yīng)用劃定了底線。 要正面劃定AI換臉擬聲能夠用于什么范圍有一定難度，及時規(guī)定使用原則，比如合法、必要條件等。當前我國有《具有輿論屬性或社會動員能力的互聯(lián)網(wǎng)信息服務(wù)安全評估規(guī)定》，如果人工智能應(yīng)用符合該規(guī)定應(yīng)用條件，也可以遵循其要求進行安全評估。    AI產(chǎn)業(yè)是需要規(guī)制的，但安全與發(fā)展應(yīng)該并重。 鄭寧提到，對于新興技術(shù)，要保持審慎監(jiān)管的態(tài)度，結(jié)合具體的應(yīng)用場景，在分級分類的基礎(chǔ)上進行預(yù)防式的治理，同時也要秉持包容的態(tài)度，促進產(chǎn)業(yè)發(fā)展，鼓勵創(chuàng)新。   大家盡量不要在公共平臺上過多地上傳個人聲音、圖像等信息，這些可能成為不法分子的合成素材。 在張澤偉看來，信息時代，每個人都應(yīng)當增強個人信息保護意識、反詐意識。實踐中，可以注意觀察屏幕分辨率的變化，以此識別對方是否利用AI擬像， 也可以與本人約定一些暗號，必要時對一下暗號再進行轉(zhuǎn)賬 。
**AI 換臉軟件擬聲術(shù)使用亂象調(diào)查** 近日，法治日報記者調(diào)查發(fā)現(xiàn)，一些 AI 換臉軟件和擬聲術(shù)工具在網(wǎng)絡(luò)上廣泛流傳，被用于制作虛假視頻、音頻等內(nèi)容，嚴重侵犯了他人的肖像權(quán)、名譽權(quán)等合法權(quán)益，也給社會帶來了諸多安全隱患和不良影響。 AI 換臉軟件是一種利用深度學(xué)習(xí)技術(shù)，將一個人的面部特征轉(zhuǎn)移到另一個人的面部圖像或視頻上的軟件。它可以讓用戶在不改變身份的情況下，模仿他人的聲音、表情、動作等，從而實現(xiàn)欺騙、惡搞、色情等目的。擬聲術(shù)工具則是一種利用人工智能技術(shù)，將文字轉(zhuǎn)換成語音的工具。它可以讓用戶輸入任何文字內(nèi)容，然后生成相應(yīng)的語音音頻，從而實現(xiàn)配音、朗讀、演講等功能。 這些 AI 換臉軟件和擬聲術(shù)工具在網(wǎng)絡(luò)上的傳播和使用，給個人和社會帶來了諸多危害。首先，它們嚴重侵犯了他人的肖像權(quán)、名譽權(quán)等合法權(quán)益。用戶在使用這些軟件和工具時，往往需要上傳自己或他人的照片或視頻，這些信息可能會被不法分子竊取或濫用，從而制作出虛假的視頻或音頻，損害他人的形象或聲譽。其次，它們也給社會帶來了諸多安全隱患。用戶可以利用這些軟件和工具制作出虛假的語音或視頻，從而進行詐騙、敲詐、誹謗等犯罪行為，給他人造成財產(chǎn)或精神上的損失。最后，它們還可能對社會的道德風(fēng)尚和公序良俗造成負面影響。用戶可以利用這些軟件和工具進行惡搞、色情等不當行為，破壞社會的和諧穩(wěn)定。 針對這些問題，記者采訪了相關(guān)專家和法律人士。他們建議，相關(guān)部門應(yīng)該加強對 AI 換臉軟件和擬聲術(shù)工具的監(jiān)管和打擊力度，及時發(fā)現(xiàn)和處理違法違規(guī)行為。同時，也應(yīng)該加強對用戶的教育和引導(dǎo)，提高他們的法律意識和安全意識，避免在網(wǎng)絡(luò)上隨意使用這些軟件和工具。此外，用戶也應(yīng)該加強對自己隱私信息的保護，不要輕易上傳自己或他人的照片或視頻，避免被不法分子利用。