AI換臉還不夠，居然有人用真人配音生成色情內容？

       隨著AI在生成圖片和文字方面的技術日漸成熟，不少人開始另辟蹊徑，探索起了 “AI聲音”的可能性。

       前段時間，B站上的“AI孫燕姿”似乎已經超過了本人，成為了新的網際網路頂流。

       令人感到驚訝的是，AI生成的音色竟然真的和孫燕姿本人的聲音差不多，如果不仔細聽根本聽不出和本人的區別。

       但就和AI圖片、文字所經歷的一樣，AI聲音也在缺乏監管的情況下開始走向了歪門邪道。

       最近，一位Twitter使用者Robbie92發布了一篇帖子，控訴起了《上古卷軸5》的Mod社區正在使用AI配音來創建和傳播未經本人允許的色情內容。

       眾所周知，《上古卷軸5》打沒打Mod完全是兩個遊戲。所以，上古卷軸5的Mod社區也可以說是比遊戲還要重要的一個存在。

打了Mod的上古卷軸5

       其中，Nexus Mods是上古卷軸5最大的Mod社區。

       畢竟這個網站始於《上古卷軸3》的Mod創建與分享，而如今已發展成為不止是上古卷軸系列的眾多遊戲的重要Mod來源。

網站中有著6w+的上古卷軸5Mod。

       今年4月，Nexus Mods發布了一篇公告，宣布“AI生成的Mod並不違反我們的規則”，公開歡迎Mod製作者利用AI工具製作Mod。

Nexus表示AI生成的Mods並不違反網站規則

       或許正是因為這個原因，Mod社區中的AI創作作品也變得更加普遍，像是用AI改善NPC行為方式等的Mod也有不少。

上古卷軸5的AI對話Mod

       老實說，把AI技術加進遊戲裡，其實能夠很大程度上提升玩家的遊戲體驗。畢竟當NPC有了“自我意識”，會根據玩家的舉動做出反應，也會讓玩家得到更加沉浸的體驗。

       但是一旦有製作者開始利用AI工具做些“不正當的事情”，事情就開始變得沒那麽簡單了。

       據twitter使用者Robbie所說，在上古卷軸5的Mod社區中，不少系列的配音演員都在不知情的情況下被Mod製作者利用在了色情內容中。

       Mod製作者將這些配音演員的聲音輸入到一個叫做“ElevenLabs”的AI聲音克隆工具中，並且生成了明顯帶有色情性質的對話，例如讓玩家和遊戲中的吸血鬼Serana用著真人配音的聲音做一些不可描述的場景。

       雖然看上去並沒有什麽，畢竟在上古卷軸5中打上R18Mod在玩家眼中已經算是正常操作了，但問題就在於——這些聲音都是由真人配音演員配音的。

       在Robbie列的列表中，包括了不少非常成功的配音演員，例如其中的April Stewart，她不僅在上古卷軸系列中擔任了多個角色的配音，同時也為《命運2》和《恥辱2》提供了聲音；還有在《闇龍紀元：起源》中為澤弗蘭配音的Jon Curry，以及一直在動畫和遊戲中為神奇女俠配音的Susan Eisenberg。

配音演員April Stwart和她配音的影視角色

       在上古卷軸5數以萬計的Mods中，這位博主列出的只是自己所看到的少數配音演員，實際上有更多的配音演員在不知情的情況下，他們的聲音被用於了色情內容。

       在Robbie發推並且指責之後，這件事情也引起了網際網路上的熱烈討論。

       和之前AI繪圖的爭議一樣，這次的配音演員們也和畫師一樣，聯手開始在網際網路上發聲，以“VA（Voice Actor/Actress，配音演員）＞AI”的宣言抵制AI聲音的不當利用。

       但就在配音演員們的抗議聲響起時，似乎還有更多的網友支援AI真人聲音的二次創作。

       前幾天，P5中佐倉雙葉的英配演員Erica Lindbeck發現了Youtube上有人利用了自己在P5中的配音翻唱了其他歌曲，於是將這個影片的連結轉發到推特上，並且說明：“請舉報這些內容，這是一種違法行為。”

       但很快，Lindbeck的做法引來了不少網路噴子的注意，他們開始在評論區中爭吵和謾罵，並且故意把這段影片大量投放在Youtube上。

       最終，Lindbeck在一片爭議聲中刪除了她的twitter和Instagram帳號，不再發表任何聲音。

YouTube 上大量投放的影片

       在我看來，在相關法律得到完善之前，這還是一個道德方面的問題。

       雖然AI聲音的確在某些情況下提供了許多便利，製作者可以以更低的成本進行創作，但是從配音演員的角度來看，當AI無需經過任何許可或付費就可以模仿和複製他們的聲音時，這無異於是摔了人家的飯碗。

       更重要的是，缺少法律的保護，不止是配音演員的聲音，所有將自己的聲音訊息暴露在公共平台的人，都可能會在他們不知情的情況下被用於一些敏感內容，比如說色情或暴力內容，甚至是被用於詐騙訊息。

       當一個人的面孔甚至聲音都能用AI重塑，那麽這個人所有的行為都可能被惡意曲解，不難想像會遭遇什麽樣不可逆轉的傷害。

和之前的換臉風波一樣，Twitch的女主播仍在面臨著被AI色情化的問題

       所以我說，大家在AI聲音這方面還是要謹慎一些吧——畢竟今天AI換了別人的聲，明天可能就輪到我們自己了。

來源：遊俠網