記者鐘雨欣 實(shí)習(xí)生劉爽 北京報(bào)道

“每個(gè)人都可擁有用AI克隆人開啟第二人生的機(jī)會(huì)。”近期，小冰公司宣布在中國(guó)及日本市場(chǎng)啟動(dòng)“克隆人計(jì)劃”，目前，首批網(wǎng)紅明星克隆人已上線，其中包括此前飽受爭(zhēng)議的“半藏森林”。

小冰公司表示，最短只要采集三分鐘數(shù)據(jù)，即可為明星紅人、專家學(xué)者或普通人創(chuàng)造源于本人性格、技能、聲音、外貌的AI克隆人。同時(shí)將提供平臺(tái)，便于本人把認(rèn)證的克隆人，有償或無(wú)償提供給自己的受眾。克隆人基于小冰框架大模型、神經(jīng)網(wǎng)絡(luò)渲染及超級(jí)自然語(yǔ)音技術(shù)，可進(jìn)行實(shí)時(shí)情感交互、提供AIGC能力，甚至有自己的朋友圈，如同人類在平行世界的第二人生。

【資料圖】

AI之火，可以燎原。此前，國(guó)外網(wǎng)紅Caryn Marjorie通過(guò)AI版的自己與1000多名“男朋友”同時(shí)交往，在小范圍測(cè)試的一周里就創(chuàng)收7萬(wàn)美元。電影《她》中的人機(jī)對(duì)話成為“情人絮語(yǔ)”，如今，在AI技術(shù)加持下，似乎人人都能創(chuàng)造一個(gè)“薩曼莎”。

主打“情感陪伴” 30元包月視頻聊天

記者了解到，目前，小冰公司后臺(tái)報(bào)名克隆人的網(wǎng)紅明星全網(wǎng)粉絲總數(shù)已超過(guò)5億，但出于安全考慮，首批克隆人仍限制在300人。經(jīng)過(guò)測(cè)試驗(yàn)證，預(yù)計(jì)年底前逐步放開到更大規(guī)模。

為避免克隆人被不當(dāng)使用而產(chǎn)生隱患，該公司并不開放技術(shù)接口，而是限制克隆人僅可在特定的 “X Eva”APP 中與用戶交流。“X Eva”APP 底層使用的技術(shù)包括小冰XLLM語(yǔ)言模型、聲音及神經(jīng)網(wǎng)絡(luò)渲染技術(shù)等，使克隆人兼具性格和完成工作的能力。

小冰公司將 “X Eva”APP 稱為“克隆人生活的第一個(gè)家園”。在這里，用戶可以創(chuàng)造自己的克隆人，或發(fā)現(xiàn)并獲取其他克隆人。用戶可與自己擁有的克隆人形成封閉安全的網(wǎng)絡(luò)，與克隆人進(jìn)行文本語(yǔ)音對(duì)話、音視頻通話、朋友圈交互或使用其他技能，從而實(shí)現(xiàn)情感交流或共同完成工作任務(wù)。此外，克隆人之間也會(huì)形成動(dòng)態(tài)的虛擬社交關(guān)系。

（用戶可以在“X Eva”APP選擇“克隆其他人類”或“克隆自己”）

6月1日，網(wǎng)紅“半藏森林”在自己的微博賬號(hào)中宣布AI版的自己正式上線。 據(jù)媒體報(bào)道，與AI克隆人互動(dòng)時(shí)，聊天界面上方設(shè)有增值服務(wù)入口，點(diǎn)擊即可付費(fèi)解鎖更多互動(dòng)形式。用戶支付6元/月或72元/年，可解鎖“情感模式”，能享受克隆人語(yǔ)音消息回應(yīng)、同步克隆人朋友圈。支付30元/月或360元/年，可解鎖“超級(jí)模式”，克隆人會(huì)成為用戶的辦公伙伴，提供撰寫文案等服務(wù)，用戶還能與克隆人視頻通話。數(shù)據(jù)顯示，截至6月2日，“半藏森林”AI克隆人已與用戶產(chǎn)生了30萬(wàn)次對(duì)話。但付費(fèi)數(shù)據(jù)并未公開。

記者發(fā)現(xiàn)，6月1日當(dāng)天，“半藏森林”在其微博評(píng)論區(qū)向網(wǎng)友提問(wèn)：“順便了解一下大家對(duì)人工智能的看法？你們更喜歡我像ChatGPT一樣幫忙干活，還是像朋友一樣交流情感呢！” 多位回復(fù)的網(wǎng)友表示更傾向于“交流感情”。

（網(wǎng)紅“半藏森林”在其微博評(píng)論區(qū)向網(wǎng)友提問(wèn)）

“提供情緒價(jià)值”正是AI克隆人的主要“賣點(diǎn)”。多位受訪專家表示，AI克隆人也是虛擬數(shù)字人的一種，在產(chǎn)品生成、應(yīng)用體驗(yàn)上“迭代升級(jí)”。

在中國(guó)傳媒大學(xué)文化產(chǎn)業(yè)管理學(xué)院法律系主任鄭寧看來(lái)，有了AI技術(shù)的加持，虛擬人變得更加仿真，在合法合規(guī)的前提下，未來(lái)在虛擬陪伴、虛擬社交等領(lǐng)域有較廣闊的商業(yè)前景。

AI盯上網(wǎng)紅經(jīng)濟(jì) 虛擬人再升級(jí)

據(jù)了解，小冰公司前身為微軟小冰人工智能團(tuán)隊(duì)，2020年獨(dú)立分拆。在安全性方面，該公司表示：由于克隆人具有與本人高度接近的對(duì)話性格、聲音及外貌，為避免克隆人帶來(lái)安全隱患或被濫用，小冰團(tuán)隊(duì)采用最高的安全標(biāo)準(zhǔn)，并希望此舉能為行業(yè)未來(lái)在人工智能安全性方面的創(chuàng)新提供參考實(shí)例：訓(xùn)練數(shù)據(jù)方面，僅使用本人小樣本數(shù)據(jù)，并在訓(xùn)練后清除，從而避免過(guò)多采集本人數(shù)據(jù)及濫用。技術(shù)運(yùn)用方面，使用經(jīng)小冰團(tuán)隊(duì)長(zhǎng)期驗(yàn)證的技術(shù)，例如安全的混合模型，而非單純的大模型，從而確保技術(shù)邊界已知。使用場(chǎng)景方面，嚴(yán)格限制克隆人在特定產(chǎn)品（X Eva APP）中，而非將技術(shù)接口API開放，從而避免克隆人被不當(dāng)使用。在本人對(duì)克隆人的控制方面，提供便利以使本人可隨時(shí)中止其克隆人。此外，全部C端或B端用戶均須提交本人權(quán)屬證明方可實(shí)施，以避免數(shù)據(jù)的侵權(quán)或不當(dāng)使用。

想要“治愈用戶孤獨(dú)”的并不止小冰公司。此前，美國(guó)網(wǎng)紅Caryn Marjorie的AI版本“Caryn AI”就已引起市場(chǎng)關(guān)注。其開發(fā)公司ForeverVoices主營(yíng)業(yè)務(wù)就是打造各種名人版AI聊天機(jī)器人，用戶付費(fèi)便可與之聊天。

“第一位網(wǎng)紅化身的AI——你的虛擬女友”Caryn AI的社交主頁(yè)網(wǎng)站如是說(shuō)。據(jù)介紹，Caryn AI由她本人2000多個(gè)小時(shí)的YouTube素材訓(xùn)練而成，記錄了她的聲音和性格。結(jié)合Open AI的GPT-4技術(shù)，能夠“實(shí)現(xiàn)動(dòng)態(tài)、獨(dú)一無(wú)二的互動(dòng)，就好像你是在直接和Caryn本人聊天一樣。”并且24小時(shí)秒回消息，絕對(duì)不會(huì)鬧脾氣、冷暴力，或者已讀不回。

Caryn本人在接受媒體采訪時(shí)表示，自己在網(wǎng)絡(luò)上有數(shù)百萬(wàn)粉絲，不可能做到和每一位粉絲交流。而AI版本的自己，可以用來(lái)“治愈孤獨(dú)”。Caryn AI在小范圍測(cè)試的短短一周內(nèi)就創(chuàng)收了7.16萬(wàn)美元，99%的用戶是男性。

談到AI克隆人的特點(diǎn)，中倫律師事務(wù)所合伙人王飛告訴記者，“AI克隆人完全基于現(xiàn)實(shí)世界真實(shí)存在的人進(jìn)行復(fù)制生成，將使用真人的肖像、聲音、姓名、隱私信息等，需授權(quán)的內(nèi)容、范圍、邊界等均與虛擬數(shù)字人差異明顯。”

浙江墾丁律師事務(wù)所人工智能法律研究部負(fù)責(zé)人程念也表示，“相較于之前我們看到的各種動(dòng)漫、卡通、仿人形象等風(fēng)格的虛擬數(shù)字人，AI克隆人是以真人的肖像、聲音、性格、技能為基礎(chǔ)，甚至在虛擬空間一比一還原真實(shí)的明星、專家教授等人群，從而也能一比一‘復(fù)制’現(xiàn)實(shí)的粉絲群體，給人更加新奇的體驗(yàn)。”

國(guó)盛證券分析，伴隨著AI生成算法和包括GPT4以內(nèi)的多模態(tài)的進(jìn)步，未來(lái)數(shù)字人的用途將遠(yuǎn)不限于主播、客服等，數(shù)字人將成為個(gè)人分身“Avatar”，輸出文字、圖像、音視頻，甚至細(xì)微到情緒表達(dá)，同時(shí)集社交、創(chuàng)作、分享于一身，有望成為GPT4之后、承載多模態(tài)的殺手級(jí)應(yīng)用。

據(jù)艾瑞咨詢，隨著ChatGPT、“文心一言”等大語(yǔ)言模型的發(fā)布，AI+虛擬數(shù)字人的發(fā)展領(lǐng)域?qū)⑦M(jìn)一步拓寬。預(yù)計(jì)到2025年，核心市場(chǎng)規(guī)模將達(dá)到480.6億元，帶動(dòng)周邊市場(chǎng)規(guī)模近6402.7億元。

伴生倫理和法律風(fēng)險(xiǎn) 企業(yè)應(yīng)重視合規(guī)建設(shè)

值得注意的是，多位受訪專家提醒，“AI克隆人”在為提供用戶提供情感交互體驗(yàn)與情緒價(jià)值時(shí)，也伴生著一定的倫理和法律風(fēng)險(xiǎn)。

“生成AI克隆人需要‘仿真’，這也意味著涉及采集人臉、聲音等生物信息，需要遵守個(gè)人信息保護(hù)法的相關(guān)規(guī)定。在內(nèi)容生成方面，AI交互過(guò)程中應(yīng)避免出現(xiàn)色情暴力等違法違規(guī)內(nèi)容。此外，利用AI技術(shù)進(jìn)行虛假宣傳、電信詐騙等濫用問(wèn)題也應(yīng)引起重視。”鄭寧說(shuō)。

王飛認(rèn)為，無(wú)論是否收費(fèi)，未經(jīng)授權(quán)而直接克隆現(xiàn)實(shí)世界的其他人類必定侵害他人的肖像、聲音、姓名、隱私甚至名譽(yù)等合法權(quán)益。用戶克隆自己屬于對(duì)其私權(quán)利的個(gè)人處分，但怎樣界定授權(quán)范圍、怎樣終止授權(quán)、因AI克隆人導(dǎo)致的侵權(quán)或違法犯罪等責(zé)任怎樣承擔(dān)均是亟需解決的難題。

“AI克隆人的行為與現(xiàn)實(shí)明星個(gè)人行為的混同，也會(huì)引發(fā)一些倫理挑戰(zhàn)。”程念分析，這些AI克隆人一旦被濫用或者出現(xiàn)有悖于公序良俗行為，則可能對(duì)于現(xiàn)實(shí)中對(duì)應(yīng)的主體產(chǎn)生非常大的影響。

“用戶在使用這些AI克隆人時(shí)，以何種態(tài)度對(duì)待它，是否能將AI克隆人的行為與現(xiàn)實(shí)中的人進(jìn)行區(qū)分，又或者因?yàn)楹虯I克隆人產(chǎn)生口角糾紛無(wú)法宣泄而對(duì)現(xiàn)實(shí)的人進(jìn)行打擊等，這些問(wèn)題都需要我們?nèi)ニ伎己徒鉀Q。”程念表示。

作為AIGC的應(yīng)用方式之一，AI克隆人是否能構(gòu)成“作品”？多位受訪專家指出，主要判斷標(biāo)準(zhǔn)為其是否具有“獨(dú)創(chuàng)性”。

“如果AI克隆人具有獨(dú)創(chuàng)性，就可能構(gòu)成著作權(quán)中的作品。至于權(quán)利歸屬的問(wèn)題，目前仍有爭(zhēng)議，建議通過(guò)合同來(lái)明確。”鄭寧說(shuō)。

在王飛看來(lái)，AI克隆人本身是基于AIGC軟件生成的內(nèi)容，滿足著作權(quán)法獨(dú)創(chuàng)性要求的前提下，類比于通過(guò)攝影機(jī)拍攝真人或者電影，創(chuàng)作的內(nèi)容構(gòu)成攝影作品或視聽作品，AI克隆人本身應(yīng)認(rèn)定為“作品”，其權(quán)利應(yīng)歸屬于生成AI克隆人AIGC軟件開發(fā)者。而對(duì)于AI克隆人在與用戶互動(dòng)過(guò)程中產(chǎn)生的內(nèi)容，同理在滿足獨(dú)創(chuàng)性要求的前提下應(yīng)認(rèn)定構(gòu)成“作品”，而其權(quán)利歸屬需依據(jù)用戶對(duì)于作品生成的貢獻(xiàn)或AIGC軟件的用戶協(xié)議約定。

程念認(rèn)為，AI克隆往往是基于一個(gè)算法項(xiàng)目，利用AI模型提取特征（面部特征、聲音特征、行為特征等），通過(guò)學(xué)習(xí)、合成技術(shù)以及效果優(yōu)化技術(shù)等進(jìn)行生成。“這一過(guò)程利用了較多現(xiàn)實(shí)人類的既有特征，需要考慮是否能滿足獨(dú)創(chuàng)性條件。如果獨(dú)創(chuàng)性體現(xiàn)不足，則不能進(jìn)入作品的范疇。”

程念補(bǔ)充道，應(yīng)用AI克隆人來(lái)演繹音樂(lè)作品、影視作品則需要按照具體情況分析，對(duì)于其中涉及的音樂(lè)作品著作權(quán)、表演者權(quán)需要分開評(píng)價(jià)。

AIGC技術(shù)“狂飆”，鄭寧指出，相關(guān)企業(yè)在開發(fā)和利用AI克隆人的過(guò)程中，應(yīng)注意完善自身合規(guī)建設(shè)，積極防范網(wǎng)絡(luò)安全、數(shù)據(jù)安全、內(nèi)容安全等方面的風(fēng)險(xiǎn)。

“鑒于AI克隆人本質(zhì)是對(duì)現(xiàn)實(shí)世界真實(shí)存在的人進(jìn)行復(fù)制生成，取得被克隆的真人相應(yīng)授權(quán)是合規(guī)核心。”王飛補(bǔ)充，而除獲得授權(quán)外，怎樣約定AI克隆人相關(guān)的權(quán)利歸屬，怎樣防范AI克隆人可能產(chǎn)生的內(nèi)容風(fēng)險(xiǎn)（不當(dāng)言論、侵害他人權(quán)益、虛假信息等）、違法犯罪行為（詐騙等）、侵權(quán)風(fēng)險(xiǎn)（未經(jīng)授權(quán)使用他人權(quán)利作品等），怎樣明確AI克隆人導(dǎo)致的侵權(quán)或違法犯罪行為的責(zé)任承擔(dān)，怎樣明晰AI克隆人與用戶之間的責(zé)任分擔(dān)等，均是AI克隆人開發(fā)者需關(guān)注的合規(guī)重點(diǎn)。

程念表示，企業(yè)需要注意人格權(quán)保護(hù)、個(gè)人信息保護(hù)與授權(quán)等問(wèn)題。同時(shí)，在內(nèi)容管理方面，企業(yè)應(yīng)注意對(duì)于AI克隆人輸出的內(nèi)容和發(fā)生的行為進(jìn)行預(yù)訓(xùn)練式的管理，采用關(guān)鍵詞屏蔽和行為監(jiān)督等方式來(lái)避免出現(xiàn)違法違規(guī)的內(nèi)容。積極履行科技倫理審查義務(wù)，尤其需注重避免算法歧視、價(jià)值觀偏向、用戶權(quán)益保障等。

關(guān)鍵詞：