被AI“復(fù)活”的親人們

近日，臺(tái)灣音樂(lè)人包小柏利用AI技術(shù)，令因病去世的女兒在數(shù)字世界“復(fù)活”，不僅可以唱歌、還能對(duì)話，原本天人永隔的親人竟通過(guò)數(shù)字實(shí)現(xiàn)互動(dòng)。

住在遼寧省撫順市的孫先生，不久前在網(wǎng)上發(fā)布的一則視頻也感動(dòng)了很多人。視頻中，他用AI換臉技術(shù)把自己在畫(huà)面中的臉改造成已經(jīng)病逝的父親的模樣，再以父親的口吻向91歲的奶奶報(bào)平安。

類似的案例已非個(gè)例，這種過(guò)去常在電影里出現(xiàn)的場(chǎng)景如今已經(jīng)漸漸走入大家的生活中，讓人驚嘆。

記者調(diào)查發(fā)現(xiàn)，在電商平臺(tái)上也有商家在售賣(mài)這樣的服務(wù)，而且銷(xiāo)量還算可觀。這也引發(fā)了網(wǎng)友對(duì)這種“數(shù)字生命”的廣泛討論。對(duì)于這項(xiàng)新興的服務(wù)，有人欣然接受，但是技術(shù)背后的風(fēng)險(xiǎn)也令人擔(dān)憂。

人工智能助逝者“歸來(lái)” 慰藉哀思也有風(fēng)險(xiǎn)

清明節(jié)快到了，人們陸續(xù)開(kāi)始祭掃，緬懷逝去的親人。今年以來(lái)，有不少利用AI“復(fù)活”逝者的新聞引起人們的關(guān)注，網(wǎng)絡(luò)上也出現(xiàn)了一批提供AI“復(fù)活”服務(wù)的商家，從“能活動(dòng)的照片”到“可以進(jìn)行對(duì)話”應(yīng)有盡有，這項(xiàng)服務(wù)顯然很有市場(chǎng)。

用AI“復(fù)活”已故親人，可以撫慰人心，填補(bǔ)或緩釋遺憾，是技術(shù)向善的例子。然而當(dāng)技術(shù)驅(qū)動(dòng)了生意，從法律、倫理、道德到心理，有多少邊界需要約束?

調(diào)查“AI復(fù)活”成生意 按客戶具體要求收費(fèi)

記者在某電商平臺(tái)搜索“AI復(fù)活親人”，發(fā)現(xiàn)不少商家提供此類服務(wù)，價(jià)格在十幾元到幾百元不等。

“只需要提供一張正面半身照，就能讓嘴巴眼睛動(dòng)起來(lái)。”在一家網(wǎng)店內(nèi)，商品首頁(yè)展示著這樣的標(biāo)語(yǔ)，還有一段視頻，展示著AI技術(shù)“復(fù)活”老人的樣品，視頻的底版是一張老人的正面照片，老人的嘴在說(shuō)話，頭也跟著輕微晃動(dòng)，雖然畫(huà)面略微生硬，但跟真人動(dòng)作還是相似的。

記者咨詢網(wǎng)店客服，她告訴記者，此類是定制服務(wù)，可根據(jù)客戶的具體要求制作視頻，不同要求的價(jià)格不一樣。該客服表示，首先要提供一張人物的正面照片，同時(shí)告知所需視頻的具體時(shí)長(zhǎng)。聲音有兩種形式，如果是固定音色的普通話，30秒內(nèi)的視頻約80個(gè)字，收費(fèi)160元，每增加30秒再加60元。如果客戶對(duì)聲音有要求，要還原逝者的原聲，需提供至少20分鐘高質(zhì)量無(wú)雜音的音頻做聲音采集，再完成原聲模擬。原聲的質(zhì)量也取決于音頻的長(zhǎng)短，30秒內(nèi)的視頻，配原聲的價(jià)格為560元，之后每增加30秒再加260元。

雖然這家網(wǎng)店的商品首頁(yè)標(biāo)明“只做逝者的懷念”，但是當(dāng)記者隨意發(fā)送一張照片后，商家也沒(méi)有進(jìn)行核實(shí)。

隨后，記者又咨詢了另一家網(wǎng)店，客服表示只需要提供一張正臉照片以及一分鐘音頻文件，即可讓親人“開(kāi)口說(shuō)話”，價(jià)格最低只要15元。

在店鋪的評(píng)論區(qū)，記者看到部分買(mǎi)家這樣評(píng)論：“做得太好了，聽(tīng)見(jiàn)親人的聲音，淚流滿面，萬(wàn)分感謝。”“方言還是不太像，但是已經(jīng)很好了，對(duì)家人是很大的慰藉。”“謝謝賣(mài)家，讓我們以后的日子里又能看見(jiàn)親人了。”“能再看到奶奶，真好!”

記者了解到，電商平臺(tái)上大多數(shù)店鋪的AI“復(fù)活”服務(wù)可以“讓照片動(dòng)起來(lái)”，但不能讓定制者與之“聊天”。記者從網(wǎng)上了解到，如果想實(shí)現(xiàn)聊天功能，則需要通過(guò)收集盡可能多的照片和影像資料，建立面部模型，用聲音樣本進(jìn)行模擬訓(xùn)練等各種復(fù)雜的技術(shù)操作，每單收費(fèi)5000元至10000元。

聲音“數(shù)字永生”緩解喪親之痛 精神安慰還是“精神鴉片”

有網(wǎng)友認(rèn)為，AI技術(shù)“復(fù)活”親人，對(duì)生者來(lái)說(shuō)可以撫慰心靈，填補(bǔ)或緩釋很多遺憾，這樣的需求顯然很有市場(chǎng)。對(duì)已故親人來(lái)說(shuō)，AI技術(shù)也可以讓他們以更立體的方式被“保存”下來(lái)，讓生者可以隨時(shí)回憶和感受親人的存在。“這是AI，也是愛(ài)，這才是AI存在的意義!”網(wǎng)友小王說(shuō)。“要是真的話，我好想‘復(fù)活’我爸，他離開(kāi)十多年了，以前沒(méi)有智能手機(jī)，一段影像都沒(méi)留下，只有幾張照片。”不少網(wǎng)友表示自己也想“復(fù)活”親人。

“其實(shí)‘復(fù)活’親人，并不是希望他永遠(yuǎn)不離開(kāi)我們。當(dāng)初我們來(lái)不及和親人好好告別，現(xiàn)在可以通過(guò)AI技術(shù)正式和他說(shuō)再見(jiàn)，彌補(bǔ)人生留下的遺憾。”網(wǎng)友小朱說(shuō)。

也有部分網(wǎng)友認(rèn)為，故人已去，執(zhí)著于具象的東西反而會(huì)讓親人再一次遭受傷害。“活著的人一直沉浸在過(guò)去走不出來(lái)也不好，‘數(shù)字永生’到底是精神安慰還是‘精神鴉片’?這真值得深思。”網(wǎng)友麗麗說(shuō)，虛擬畢竟不是現(xiàn)實(shí)，“我會(huì)對(duì)著媽媽的照片、視頻懷念她，但我不會(huì)用人工智能去‘復(fù)活’親人，人類的愛(ài)機(jī)器是不能復(fù)制的。”

一些網(wǎng)友也提出了自己的擔(dān)憂，比如有人可能利用AI技術(shù)“復(fù)活”一些有影響力的人物，進(jìn)行虛假的宣傳或誘導(dǎo)，影響公眾的判斷和選擇;有人可能利用AI技術(shù)“復(fù)活”一些親友，進(jìn)行詐騙或勒索，侵害他人的財(cái)產(chǎn)和利益;有人可能利用AI技術(shù)“復(fù)活”敵人，進(jìn)行威脅或報(bào)復(fù)，危害他人的安全和生命。“這項(xiàng)技術(shù)帶來(lái)了倫理和法律上的挑戰(zhàn)，需要我們?cè)谙硎芸萍紟?lái)便利的同時(shí)，關(guān)注潛在的風(fēng)險(xiǎn)。社會(huì)各界要共同探討和制定相應(yīng)的規(guī)則和標(biāo)準(zhǔn)，以確保這項(xiàng)技術(shù)的發(fā)展能夠在尊重倫理道德的前提下，更好地服務(wù)于人類的情感和生活。”網(wǎng)友阿白說(shuō)。

律師 平臺(tái)和商家責(zé)任大 要保證客戶不侵權(quán)

北京天馳君泰(泉州)律師事務(wù)所莊靈煜律師認(rèn)為，AI“復(fù)活”已故親人的服務(wù)雖然在一定程度上給親屬提供了精神慰藉，但是背后涉及隱私保護(hù)、數(shù)據(jù)安全、平臺(tái)監(jiān)管等法律問(wèn)題。

莊靈煜介紹，目前我國(guó)尚未就人工智能領(lǐng)域進(jìn)行專項(xiàng)立法，但該服務(wù)仍應(yīng)在法律允許范圍內(nèi)，不得損害他人合法權(quán)益，不得違反公序良俗。

從商家角度看，如果其未經(jīng)死者配偶、子女、父母同意或授權(quán)，自行通過(guò)AI手段再現(xiàn)死者形象，并將死者肖像用于商業(yè)用途或存在損害死者形象的行為，可能構(gòu)成侵犯他人肖像權(quán)、名譽(yù)權(quán)等，死者近親屬有權(quán)要求商家承擔(dān)民事責(zé)任。商家應(yīng)做好數(shù)據(jù)安全保障措施，避免因泄露用戶提供的照片、視頻、音頻等素材而侵害他人的隱私權(quán)。

從平臺(tái)角度看，平臺(tái)應(yīng)嚴(yán)格審查商家提供服務(wù)的資質(zhì)，制定明確的準(zhǔn)入規(guī)則，采取必要的監(jiān)管措施，并接受相關(guān)部門(mén)的監(jiān)督與管理。

最后，如果利用AI技術(shù)制作虛假圖像、音頻、視頻等進(jìn)行詐騙，或竊取個(gè)人信息牟取不法利益或存在其他犯罪行為的，還將承擔(dān)相應(yīng)的刑事責(zé)任。

案例 泉州女子接綁匪來(lái)電 竟是AI擬聲詐騙

AI技術(shù)的應(yīng)用范圍越來(lái)越廣，但存在濫用之嫌，甚至有人利用AI換臉、擬聲來(lái)實(shí)施詐騙。去年，豐澤的張女士就遭遇到AI擬聲詐騙。

去年10月14日14時(shí)許，張女士接到在外地工作的“女兒”來(lái)電。“女兒”哭哭啼啼，說(shuō)自己被人綁架了，要張女士向綁匪的賬戶中轉(zhuǎn)50萬(wàn)元贖金，否則綁匪要撕票。來(lái)電號(hào)碼確實(shí)是女兒的號(hào)碼，聲音也是女兒的聲音，電話那頭傳來(lái)哭喊聲：“媽媽，救我!”張女士一下子慌了神。通話結(jié)束后，張女士又撥打了女兒的電話，但一直未能接通。又慌又急的張女士趕緊籌集資金，先往對(duì)方提供的賬戶匯款2.4萬(wàn)元。此時(shí)，泉州市、豐澤區(qū)兩級(jí)反詐騙中心緊急發(fā)布預(yù)警指令給豐澤派出所。當(dāng)張女士又要將她卡上剩余的11萬(wàn)元轉(zhuǎn)出時(shí)，民警趕到張女士家門(mén)口。但她已把門(mén)反鎖，民警急忙讓她的丈夫開(kāi)門(mén)，見(jiàn)她正在操作轉(zhuǎn)賬，民警立刻上前制止并告訴她遇到電信網(wǎng)絡(luò)詐騙了。張女士將信將疑地暫停轉(zhuǎn)賬，民警迅速聯(lián)系張女士女兒的好友前往其住處了解情況。經(jīng)核實(shí)，張女士的女兒正在午休，并沒(méi)有被綁架。原來(lái)，詐騙分子利用虛擬號(hào)碼偽裝成張女士女兒的電話號(hào)碼，用AI合成的方式模擬張女士女兒的聲音實(shí)施詐騙。

此前，福州市某科技公司法人代表郭先生10分鐘內(nèi)被騙走430萬(wàn)元，也是一起使用智能AI技術(shù)進(jìn)行電信詐騙的案件。郭先生的好友通過(guò)微信視頻聯(lián)系他，自稱在外地競(jìng)標(biāo)，需要430萬(wàn)元保證金，且需要公對(duì)公賬戶過(guò)賬，想要借郭先生公司的賬戶走賬。基于對(duì)好友的信任，加上已經(jīng)視頻聊天核實(shí)了身份，郭先生沒(méi)有核實(shí)錢(qián)款是否到賬，就分兩筆把430萬(wàn)元轉(zhuǎn)到好友的銀行卡上。過(guò)后，郭先生撥打好友電話，才知道被騙。騙子通過(guò)智能AI換臉和擬聲技術(shù)，佯裝好友對(duì)他實(shí)施了詐騙。

據(jù)介紹，利用AI新型技術(shù)實(shí)施詐騙，不法分子通常先以“網(wǎng)店客服”“營(yíng)銷(xiāo)推廣”“招聘兼職”“婚戀交友”等為借口，通過(guò)微信、QQ、電話等方式聯(lián)系受害者，采集發(fā)音、語(yǔ)句或面部信息，再利用AI擬聲、換臉等技術(shù)合成虛假音頻、視頻、圖像，以借錢(qián)、投資、緊急救助等借口誘導(dǎo)受害者的親友轉(zhuǎn)賬匯款，或提供銀行賬戶密碼等敏感信息，隨后立即轉(zhuǎn)移資金。此外，不法分子還可能對(duì)明星、專家、官員等音視頻進(jìn)行人工合成，假借其身份傳播虛假消息，從而實(shí)現(xiàn)詐騙目的。

部門(mén) AI技術(shù)存在濫用風(fēng)險(xiǎn)

記者了解到，由國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》自2023年1月10日起施行。《規(guī)定》明確，提供智能對(duì)話、合成人聲、人臉生成、沉浸式擬真場(chǎng)景等生成或者顯著改變信息內(nèi)容功能服務(wù)的，應(yīng)當(dāng)進(jìn)行顯著標(biāo)識(shí)。深度合成服務(wù)治理需要政府、企業(yè)、社會(huì)、網(wǎng)民等多方主體共同參與，推動(dòng)深度合成技術(shù)的依法、合理、有效使用，積極防范化解深度合成技術(shù)帶來(lái)的風(fēng)險(xiǎn)，促進(jìn)互聯(lián)網(wǎng)信息服務(wù)健康發(fā)展，維護(hù)網(wǎng)絡(luò)空間良好生態(tài)。

國(guó)家網(wǎng)信辦等七部門(mén)聯(lián)合公布《生成式人工智能服務(wù)管理暫行辦法》，自2023年8月15日起施行。國(guó)家網(wǎng)信辦表示，出臺(tái)《辦法》既是促進(jìn)生成式人工智能健康發(fā)展的重要要求，也是防范生成式人工智能服務(wù)風(fēng)險(xiǎn)的現(xiàn)實(shí)需要。

近期，也有平臺(tái)發(fā)布了“關(guān)于人工智能生成內(nèi)容的平臺(tái)規(guī)范暨行業(yè)倡議”，明確禁止利用生成式人工智能技術(shù)創(chuàng)作、發(fā)布侵權(quán)內(nèi)容，包括但不限于肖像權(quán)、知識(shí)產(chǎn)權(quán)等，一經(jīng)發(fā)現(xiàn)，平臺(tái)將嚴(yán)格處罰。

警惕三類AI騙局

AI騙局主要有三類。1.AI換臉。人臉效果更易取得對(duì)方信任，騙子用AI技術(shù)換臉，可以偽裝成任何人，再通過(guò)視頻方式進(jìn)行信息確認(rèn)。2.聲音合成。騙子通過(guò)騷擾電話等方式，錄音提取某人的聲音，并對(duì)素材進(jìn)行合成，用偽造的聲音實(shí)施詐騙。3.轉(zhuǎn)發(fā)微信語(yǔ)音。騙子在盜取微信號(hào)后，向微信好友提出轉(zhuǎn)賬要求，盡管微信沒(méi)有語(yǔ)音轉(zhuǎn)發(fā)功能，但他們可以通過(guò)提取語(yǔ)音文件或安裝非官方版本(插件)實(shí)現(xiàn)語(yǔ)音轉(zhuǎn)發(fā)，進(jìn)而騙取錢(qián)財(cái)。

那么，如何防止上當(dāng)受騙呢?首先，要多重驗(yàn)證，提高安全意識(shí)，涉及錢(qián)款時(shí)要通過(guò)電話+視頻等多種方式確認(rèn)對(duì)方是否為本人;匯款時(shí)，一定要確認(rèn)對(duì)方提供賬戶的信息，確保是本人名下賬戶，避免通過(guò)微信等社交軟件轉(zhuǎn)賬。其次，加強(qiáng)個(gè)人信息保護(hù)意識(shí)，不要輕易透露自己的身份證、銀行卡、驗(yàn)證碼等信息，不要輕易提供人臉、指紋等個(gè)人生物信息給他人，不過(guò)度公開(kāi)或分享動(dòng)圖、視頻等，以防止騙子利用AI技術(shù)掌握大量個(gè)人信息，從而有針對(duì)性地實(shí)施詐騙。最后，不輕易點(diǎn)擊陌生人的短信鏈接，多提醒、告誡身邊的親友提高安全意識(shí)，拒絕誘惑，避免占便宜心理，警惕陌生人無(wú)端“獻(xiàn)殷勤”。如不慎被騙或遇可疑情形，注意保護(hù)證據(jù)，立即撥打96110報(bào)警。