“國慶假期7天，被‘雷軍’罵了8天？” “十一”期間，一批以“雷軍”的聲音為配音的視頻在社交媒體上快速傳播，除了吐槽國慶過得太快、堵車太煩以外，一些“AI雷軍”化身游戲npc，言辭犀利且常常語出不遜。這些聲音以假亂真，以至于有網(wǎng)友在雷軍本人微博下留言，“雷總，最近你怎么在罵人”，雷軍迅速回復(fù)了三個憤怒的表情。

在“AI雷軍”事件之前，AI在聲音領(lǐng)域因技術(shù)濫用、侵權(quán)等問題曾引發(fā)國內(nèi)外的聲討。今年1月，多名巴西配音演員發(fā)起抵制運(yùn)動呼吁對影視行業(yè)中AI的使用進(jìn)行監(jiān)管，在國內(nèi)“AI孫燕姿”等網(wǎng)友篡改歌手演唱視頻的傳播也引發(fā)了諸多爭議。

今年4月，北京互聯(lián)網(wǎng)法院對全國首例“AI聲音侵權(quán)案”做出了一審判決，判決中提到，利用人工智能合成的聲音，如果能使一般社會公眾或者相關(guān)領(lǐng)域的公眾根據(jù)其音色、語調(diào)和發(fā)音風(fēng)格，關(guān)聯(lián)到該自然人，可以認(rèn)定為具有可識別性。

暨南大學(xué)法學(xué)院/知識產(chǎn)權(quán)學(xué)院副教授吳雨輝向南都記者表示，“雷軍AI聲音熱傳現(xiàn)象”是典型的深度偽造行為，需要在源頭上加強(qiáng)對于生成式人工智能服務(wù)商的監(jiān)管，要求其切實(shí)履行《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等規(guī)定。

國慶7天被“AI雷軍”罵了8天？

國慶期間，一批以“雷軍”的聲音為配音的視頻在社交媒體上快速傳播，除了吐槽國慶過得太快、堵車太煩以外，一些“AI雷軍”化身游戲npc，言辭犀利且常常語出不遜。

國慶期間，“雷軍AI配音”話題在抖音平臺的瀏覽量過億，B站上相關(guān)創(chuàng)作也已超過上百條，不少網(wǎng)友戲稱，“國慶假期7天，被‘雷軍’罵了8天”。

在雷軍的微博評論區(qū)中，連日來也有不少網(wǎng)友留言詢問此事。10月7日，有網(wǎng)友留言詢問雷軍，“雷總，最近你怎么在罵人”，雷軍迅速回復(fù)了三個憤怒的表情。

10月9日，小米公關(guān)部總經(jīng)理王化在微博上公布了雷軍“金光閃閃名場面”這個經(jīng)典梗的完整視頻，并澄清大家“被目前網(wǎng)絡(luò)中斷章取義的五個字給誤導(dǎo)了”。隨后有網(wǎng)友在評論區(qū)呼吁，“把‘雷軍 AI’ 語音罵人的事情先解決一下”，王化評論回應(yīng)稱已將此事轉(zhuǎn)給了小米法務(wù)部。

目前，南都記者檢索視頻平臺，相關(guān)罵人視頻已不見蹤影。

涉事軟件平臺仍未下架“雷軍罵人AI”

在“AI雷軍”事件中，不少網(wǎng)友曾在發(fā)出的視頻評論中提及，自己是使用了reecho睿聲聲音軟件來制作相關(guān)惡搞視頻。

南都記者登錄睿聲官網(wǎng)的聲音市場看到，用戶自創(chuàng)的社區(qū)角色中除了雷軍以外，還有周杰倫、成龍、劉亦菲、馬云等名人。用戶在語音生成功能中，只需輸入一段文案，即可快速生成一段相關(guān)語音，可以選取上述名人的聲音來讀出輸入的文案，效果非常逼真。

南都記者隨意點(diǎn)開一個“AI雷軍”語音，該語音開頭便使用不雅用語，并提到“最煩你們這些打游戲喜歡犟嘴的畜生了”。目前，該語音已經(jīng)被使用了3.7萬次。南都記者實(shí)測發(fā)現(xiàn)，截至發(fā)稿時間，該雷軍相關(guān)的AI聲音仍可生成和下載，并未下架。

南都記者采訪獲悉，reecho睿聲聲音軟件由深圳言域科技有限公司開發(fā)，該公司于9月30日曾獲得奇績論壇的天使輪投資。言域科技創(chuàng)始人兼CEO謝偉鐸告訴南都記者，該公司目前已接到了小米公司的聯(lián)系，正在配合對方訴求對涉及侵權(quán)的用戶內(nèi)容做告知和下架等處理，對于其它可能涉及侵權(quán)的內(nèi)容也正在逐步排查處理中。

值得一提的是，此前網(wǎng)絡(luò)上流傳的“三只羊”盧某某在酒后發(fā)表的一段言論，其中對“三只羊”處理客訴問題、競爭對手等發(fā)表了相關(guān)看法，還提及“與三只羊女主播之間的不正當(dāng)關(guān)系”，一度引發(fā)了熱議。后續(xù)合肥市公安局高新分局發(fā)布公告稱，該錄音系被人用AI軟件偽造克隆。該公告還提到了克隆的具體手段：犯罪嫌疑人利用從互聯(lián)網(wǎng)下載的音視頻資料，杜撰三只羊盧某某酒后言論腳本，先使用AI工具訓(xùn)練生成假冒盧某某的音頻(其中出現(xiàn)的女聲也系A(chǔ)I工具訓(xùn)練生成)，后用視頻軟件合成音視頻，并通過網(wǎng)絡(luò)發(fā)布，形成謠言大量傳播。

9月27日，reecho睿聲通過官方賬號表明，自己正是“三只羊盧某某錄音門”事件背后的大模型平臺，犯罪嫌疑人通過三只羊此前直播片段的約30秒錄音進(jìn)行克隆，并通過文本進(jìn)行了生成。

“AI聲音侵權(quán)”已有判例

在“雷軍AI”事件之前，AI在聲音領(lǐng)域因技術(shù)濫用、侵權(quán)等問題曾引發(fā)國內(nèi)外的聲討。

今年1月，多名巴西配音演員為呼吁對影視行業(yè)中AI的使用進(jìn)行監(jiān)管，曾聯(lián)合發(fā)起抵制運(yùn)動。在國內(nèi)，除了“AI孫燕姿”以外，網(wǎng)友篡改歌手演唱視頻的傳播也引發(fā)了諸多爭議。目前，AI在聲音方面的應(yīng)用仍有不少灰色地帶，諸多視頻經(jīng)過二次甚至是多次篡改、傳播，導(dǎo)致溯源環(huán)節(jié)長、當(dāng)事人維權(quán)成本高。

今年4月，對于全國首例“AI聲音侵權(quán)案”，北京互聯(lián)網(wǎng)法院做出了一審判決。在該案件中，配音師殷某發(fā)現(xiàn)，一款叫“魔音工坊”的配音APP將自己錄制有聲書的聲音AI化后以“魔小璇”的名義對外出售牟利。其中，自2021年9月7日至今，在短劇視頻“小禾侃劇”的賬號里，自己“被AI的聲音”已經(jīng)使用在了119部作品里。

原告配音師殷某稱，自己從未對“魔音工坊”的行為有過授權(quán)。溯源發(fā)現(xiàn)，殷某曾受中廣影音（北京）文化傳媒有限公司委托錄制了3本書的音頻，該公司又將音頻提供給微軟（中國）有限公司，后者將殷某的聲音進(jìn)行AI化處理后，生成了“曉萱”文本轉(zhuǎn)語音產(chǎn)品，并向兩家其他公司授權(quán)對外出售。之后，殷某“魔音工坊”所屬的公司直接調(diào)取該文本轉(zhuǎn)語音產(chǎn)品生成“魔小璇”的文本轉(zhuǎn)語音產(chǎn)品，并在該平臺使用。殷某認(rèn)為，在未經(jīng)自己授權(quán)的情況下，上述五家公司的行為已經(jīng)嚴(yán)重侵犯了自己的聲音權(quán)益。

南都記者關(guān)注到，該案雖加入了AI元素，但爭議焦點(diǎn)在于上述五家公司的行為是否構(gòu)成了對自然人的聲音權(quán)益侵犯的議題中。根據(jù)審判文書，法院認(rèn)為，自然人聲音以聲紋、音色、頻率為區(qū)分，具有獨(dú)特性、唯一性、穩(wěn)定性特點(diǎn)，能夠給他人形成或引起一般人產(chǎn)生與該自然人有關(guān)的思想或感情活動，可以對外展示個人的行為和身份。自然人聲音的可識別性是指在他人反復(fù)多次或長期聆聽的基礎(chǔ)上，通過該聲音特征能識別出特定自然人。利用人工智能合成的聲音，如果能使一般社會公眾或者相關(guān)領(lǐng)域的公眾根據(jù)其音色、語調(diào)和發(fā)音風(fēng)格，關(guān)聯(lián)到該自然人，可以認(rèn)定為具有可識別性。

而在該案中，被告軟件公司系僅使用原告?zhèn)€人聲音開發(fā)涉案文本轉(zhuǎn)語音產(chǎn)品，而且經(jīng)當(dāng)庭勘驗(yàn)，該AI聲音與原告的音色、語調(diào)、發(fā)音風(fēng)格等具有高度一致性，能夠引起一般人產(chǎn)生與原告有關(guān)的思想或感情活動，能夠?qū)⒃撀曇袈?lián)系到原告本人，進(jìn)而識別出原告的主體身份。

惡搞“AI雷軍”已構(gòu)成侵權(quán)

暨南大學(xué)法學(xué)院/知識產(chǎn)權(quán)學(xué)院副教授吳雨輝向南都記者表示，“雷軍AI聲音熱傳現(xiàn)象”是典型的深度偽造行為?！熬W(wǎng)友的惡搞行為顯然是對雷軍先生個人的權(quán)益侵害，如果這些視頻沒有清晰標(biāo)注‘深度合成’字樣的話，更是對社會公共利益的侵害。為了防止此類事件引發(fā)更嚴(yán)重的社會危害，需要在源頭上加強(qiáng)對于生成式人工智能服務(wù)商的監(jiān)管，要求其切實(shí)履行《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等規(guī)定?！?/p>

而上述的AI聲音侵權(quán)第一案，則是讓人們直觀地認(rèn)識到了一種新的聲音權(quán)益使用方式，尤其是意識到其與著作權(quán)的差異和相通之處?！吧深愃扑孙L(fēng)格的作品未必構(gòu)成著作權(quán)侵權(quán)，但是生成類似他人聲音的作品則構(gòu)成人格權(quán)侵權(quán)。這一判決有助于推動聲音權(quán)保護(hù)立法和實(shí)踐的進(jìn)一步完善，在聲音識別比對標(biāo)準(zhǔn)、聲音權(quán)商業(yè)化、普通人聲音權(quán)保護(hù)等方面做出更多的探索?！眳怯贻x稱。

吳雨輝還提到，目前已有法律對AI聲音進(jìn)行規(guī)范和限制?！霸谒饺藱?quán)利保護(hù)方面，AI聲音涉及到他人聲音權(quán)的侵犯，根據(jù)《民法典》的規(guī)定，使用他人聲音應(yīng)當(dāng)取得許可；在公共利益保護(hù)方面，未經(jīng)許可的AI聲音生成實(shí)際上是一種深度偽造行為。根據(jù)《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》和《生成式人工智能服務(wù)管理暫行辦法》等法律規(guī)定，未經(jīng)許可以他人聲音生成AI聲音是違法行為；生成AI服務(wù)提供商如未盡到標(biāo)記義務(wù)和審核義務(wù)，未及時采取處置措施，也有可能承擔(dān)法律責(zé)任。”

采寫：南都記者 林文琪