被AI“复活”的亲人们

近日，台湾音乐人包小柏利用AI技术，令因病去世的女儿在数字世界“复活”，不仅可以唱歌、还能对话，原本天人永隔的亲人竟通过数字实现互动。

住在辽宁省抚顺市的孙先生，不久前在网上发布的一则视频也感动了很多人。视频中，他用AI换脸技术把自己在画面中的脸改造成已经病逝的父亲的模样，再以父亲的口吻向91岁的奶奶报平安。

类似的案例已非个例，这种过去常在电影里出现的场景如今已经渐渐走入大家的生活中，让人惊叹。

记者调查发现，在电商平台上也有商家在售卖这样的服务，而且销量还算可观。这也引发了网友对这种“数字生命”的广泛讨论。对于这项新兴的服务，有人欣然接受，但是技术背后的风险也令人担忧。

人工智能助逝者“归来” 慰藉哀思也有风险

清明节快到了，人们陆续开始祭扫，缅怀逝去的亲人。今年以来，有不少利用AI“复活”逝者的新闻引起人们的关注，网络上也出现了一批提供AI“复活”服务的商家，从“能活动的照片”到“可以进行对话”应有尽有，这项服务显然很有市场。

用AI“复活”已故亲人，可以抚慰人心，填补或缓释遗憾，是技术向善的例子。然而当技术驱动了生意，从法律、伦理、道德到心理，有多少边界需要约束?

调查“AI复活”成生意 按客户具体要求收费

记者在某电商平台搜索“AI复活亲人”，发现不少商家提供此类服务，价格在十几元到几百元不等。

“只需要提供一张正面半身照，就能让嘴巴眼睛动起来。”在一家网店内，商品首页展示着这样的标语，还有一段视频，展示着AI技术“复活”老人的样品，视频的底版是一张老人的正面照片，老人的嘴在说话，头也跟着轻微晃动，虽然画面略微生硬，但跟真人动作还是相似的。

记者咨询网店客服，她告诉记者，此类是定制服务，可根据客户的具体要求制作视频，不同要求的价格不一样。该客服表示，首先要提供一张人物的正面照片，同时告知所需视频的具体时长。声音有两种形式，如果是固定音色的普通话，30秒内的视频约80个字，收费160元，每增加30秒再加60元。如果客户对声音有要求，要还原逝者的原声，需提供至少20分钟高质量无杂音的音频做声音采集，再完成原声模拟。原声的质量也取决于音频的长短，30秒内的视频，配原声的价格为560元，之后每增加30秒再加260元。

虽然这家网店的商品首页标明“只做逝者的怀念”，但是当记者随意发送一张照片后，商家也没有进行核实。

随后，记者又咨询了另一家网店，客服表示只需要提供一张正脸照片以及一分钟音频文件，即可让亲人“开口说话”，价格最低只要15元。

在店铺的评论区，记者看到部分买家这样评论：“做得太好了，听见亲人的声音，泪流满面，万分感谢。”“方言还是不太像，但是已经很好了，对家人是很大的慰藉。”“谢谢卖家，让我们以后的日子里又能看见亲人了。”“能再看到奶奶，真好!”

记者了解到，电商平台上大多数店铺的AI“复活”服务可以“让照片动起来”，但不能让定制者与之“聊天”。记者从网上了解到，如果想实现聊天功能，则需要通过收集尽可能多的照片和影像资料，建立面部模型，用声音样本进行模拟训练等各种复杂的技术操作，每单收费5000元至10000元。

声音“数字永生”缓解丧亲之痛 精神安慰还是“精神鸦片”

有网友认为，AI技术“复活”亲人，对生者来说可以抚慰心灵，填补或缓释很多遗憾，这样的需求显然很有市场。对已故亲人来说，AI技术也可以让他们以更立体的方式被“保存”下来，让生者可以随时回忆和感受亲人的存在。“这是AI，也是爱，这才是AI存在的意义!”网友小王说。“要是真的话，我好想‘复活’我爸，他离开十多年了，以前没有智能手机，一段影像都没留下，只有几张照片。”不少网友表示自己也想“复活”亲人。

“其实‘复活’亲人，并不是希望他永远不离开我们。当初我们来不及和亲人好好告别，现在可以通过AI技术正式和他说再见，弥补人生留下的遗憾。”网友小朱说。

也有部分网友认为，故人已去，执着于具象的东西反而会让亲人再一次遭受伤害。“活着的人一直沉浸在过去走不出来也不好，‘数字永生’到底是精神安慰还是‘精神鸦片’?这真值得深思。”网友丽丽说，虚拟毕竟不是现实，“我会对着妈妈的照片、视频怀念她，但我不会用人工智能去‘复活’亲人，人类的爱机器是不能复制的。”

一些网友也提出了自己的担忧，比如有人可能利用AI技术“复活”一些有影响力的人物，进行虚假的宣传或诱导，影响公众的判断和选择;有人可能利用AI技术“复活”一些亲友，进行诈骗或勒索，侵害他人的财产和利益;有人可能利用AI技术“复活”敌人，进行威胁或报复，危害他人的安全和生命。“这项技术带来了伦理和法律上的挑战，需要我们在享受科技带来便利的同时，关注潜在的风险。社会各界要共同探讨和制定相应的规则和标准，以确保这项技术的发展能够在尊重伦理道德的前提下，更好地服务于人类的情感和生活。”网友阿白说。

律师 平台和商家责任大 要保证客户不侵权

北京天驰君泰(泉州)律师事务所庄灵煜律师认为，AI“复活”已故亲人的服务虽然在一定程度上给亲属提供了精神慰藉，但是背后涉及隐私保护、数据安全、平台监管等法律问题。

庄灵煜介绍，目前我国尚未就人工智能领域进行专项立法，但该服务仍应在法律允许范围内，不得损害他人合法权益，不得违反公序良俗。

从商家角度看，如果其未经死者配偶、子女、父母同意或授权，自行通过AI手段再现死者形象，并将死者肖像用于商业用途或存在损害死者形象的行为，可能构成侵犯他人肖像权、名誉权等，死者近亲属有权要求商家承担民事责任。商家应做好数据安全保障措施，避免因泄露用户提供的照片、视频、音频等素材而侵害他人的隐私权。

从平台角度看，平台应严格审查商家提供服务的资质，制定明确的准入规则，采取必要的监管措施，并接受相关部门的监督与管理。

最后，如果利用AI技术制作虚假图像、音频、视频等进行诈骗，或窃取个人信息牟取不法利益或存在其他犯罪行为的，还将承担相应的刑事责任。

案例 泉州女子接绑匪来电 竟是AI拟声诈骗

AI技术的应用范围越来越广，但存在滥用之嫌，甚至有人利用AI换脸、拟声来实施诈骗。去年，丰泽的张女士就遭遇到AI拟声诈骗。

去年10月14日14时许，张女士接到在外地工作的“女儿”来电。“女儿”哭哭啼啼，说自己被人绑架了，要张女士向绑匪的账户中转50万元赎金，否则绑匪要撕票。来电号码确实是女儿的号码，声音也是女儿的声音，电话那头传来哭喊声：“妈妈，救我!”张女士一下子慌了神。通话结束后，张女士又拨打了女儿的电话，但一直未能接通。又慌又急的张女士赶紧筹集资金，先往对方提供的账户汇款2.4万元。此时，泉州市、丰泽区两级反诈骗中心紧急发布预警指令给丰泽派出所。当张女士又要将她卡上剩余的11万元转出时，民警赶到张女士家门口。但她已把门反锁，民警急忙让她的丈夫开门，见她正在操作转账，民警立刻上前制止并告诉她遇到电信网络诈骗了。张女士将信将疑地暂停转账，民警迅速联系张女士女儿的好友前往其住处了解情况。经核实，张女士的女儿正在午休，并没有被绑架。原来，诈骗分子利用虚拟号码伪装成张女士女儿的电话号码，用AI合成的方式模拟张女士女儿的声音实施诈骗。

此前，福州市某科技公司法人代表郭先生10分钟内被骗走430万元，也是一起使用智能AI技术进行电信诈骗的案件。郭先生的好友通过微信视频联系他，自称在外地竞标，需要430万元保证金，且需要公对公账户过账，想要借郭先生公司的账户走账。基于对好友的信任，加上已经视频聊天核实了身份，郭先生没有核实钱款是否到账，就分两笔把430万元转到好友的银行卡上。过后，郭先生拨打好友电话，才知道被骗。骗子通过智能AI换脸和拟声技术，佯装好友对他实施了诈骗。

据介绍，利用AI新型技术实施诈骗，不法分子通常先以“网店客服”“营销推广”“招聘兼职”“婚恋交友”等为借口，通过微信、QQ、电话等方式联系受害者，采集发音、语句或面部信息，再利用AI拟声、换脸等技术合成虚假音频、视频、图像，以借钱、投资、紧急救助等借口诱导受害者的亲友转账汇款，或提供银行账户密码等敏感信息，随后立即转移资金。此外，不法分子还可能对明星、专家、官员等音视频进行人工合成，假借其身份传播虚假消息，从而实现诈骗目的。

部门 AI技术存在滥用风险

记者了解到，由国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》自2023年1月10日起施行。《规定》明确，提供智能对话、合成人声、人脸生成、沉浸式拟真场景等生成或者显著改变信息内容功能服务的，应当进行显著标识。深度合成服务治理需要政府、企业、社会、网民等多方主体共同参与，推动深度合成技术的依法、合理、有效使用，积极防范化解深度合成技术带来的风险，促进互联网信息服务健康发展，维护网络空间良好生态。

国家网信办等七部门联合公布《生成式人工智能服务管理暂行办法》，自2023年8月15日起施行。国家网信办表示，出台《办法》既是促进生成式人工智能健康发展的重要要求，也是防范生成式人工智能服务风险的现实需要。

近期，也有平台发布了“关于人工智能生成内容的平台规范暨行业倡议”，明确禁止利用生成式人工智能技术创作、发布侵权内容，包括但不限于肖像权、知识产权等，一经发现，平台将严格处罚。

警惕三类AI骗局

AI骗局主要有三类。1.AI换脸。人脸效果更易取得对方信任，骗子用AI技术换脸，可以伪装成任何人，再通过视频方式进行信息确认。2.声音合成。骗子通过骚扰电话等方式，录音提取某人的声音，并对素材进行合成，用伪造的声音实施诈骗。3.转发微信语音。骗子在盗取微信号后，向微信好友提出转账要求，尽管微信没有语音转发功能，但他们可以通过提取语音文件或安装非官方版本(插件)实现语音转发，进而骗取钱财。

那么，如何防止上当受骗呢?首先，要多重验证，提高安全意识，涉及钱款时要通过电话+视频等多种方式确认对方是否为本人;汇款时，一定要确认对方提供账户的信息，确保是本人名下账户，避免通过微信等社交软件转账。其次，加强个人信息保护意识，不要轻易透露自己的身份证、银行卡、验证码等信息，不要轻易提供人脸、指纹等个人生物信息给他人，不过度公开或分享动图、视频等，以防止骗子利用AI技术掌握大量个人信息，从而有针对性地实施诈骗。最后，不轻易点击陌生人的短信链接，多提醒、告诫身边的亲友提高安全意识，拒绝诱惑，避免占便宜心理，警惕陌生人无端“献殷勤”。如不慎被骗或遇可疑情形，注意保护证据，立即拨打96110报警。