“AI复活”的爆火已经打开了潘多拉魔盒，可以预见的是，未来的很长一段时间内，技术红利和“次生灾害”或将同时发生。“AI复活”存在诈骗的隐患，未来大量AI生成的虚假信息可能引发社会负面情绪、导致信任危机。为了防止“次生灾害”的发生，需要系统化、体系化的应对方式。
今年以来，“复活”案例越来越多。此前，包小柏用AI“复活”病逝女儿，女儿在妈妈生日时为她唱了一首生日歌；近期，有网友用AI技术“复活”李玟、乔任梁等已逝明星，备受争议。“AI复活”这门此前隐秘而小众的生意，开始受到广泛关注，不断增加的需求同时催生了流水线的生产。在电商平台上，此项服务的价格从5元至上万元不等，价格越高，效果越丰富。除了提供“复活”服务，“复活师”们还在寻找学徒和代理，从而将单一的产业向更远端延伸。
有需求就有供给。自从生成式AI技术出现后，类似服务就逐渐成为一门新兴的产业。
张泽伟是机缘巧合接触到“AI复活”业务的。他从2012年开始创业，起先做的是游戏行业，2016年转向虚拟现实领域，创业失败后，2020年他回到南京从事AI相关的研究，主要方向是AI教育。 有一次，一个朋友联系到他，朋友的父亲意外去世了，全家人一直瞒着奶奶，担心奶奶承受不住打击。朋友问他，有没有可能用AI还原父亲的形象，去给90岁的奶奶报个平安？张泽伟犹豫了。以前，他们做虚拟现实的时候，也接触过类似的需求，但受限于技术不成熟等种种原因，尝试并未成功。“当时内心比较挣扎，技术方面应该没什么问题，但是我不知道这样做对不对。”张泽伟告诉记者，当他看到老人露出真挚的笑容，以及慈祥、安心的眼神时，他觉得自己在做很有意义的事。 渐渐地，来找张泽伟的人越来越多。其中，一部分人是为了向家属隐瞒亲人离世的真相，也有的是为了疗愈伤痛，弥补心中的遗憾。比如，一个从小被外婆带大的外孙女，希望去世的外婆可以出现在她的结婚典礼上。他们根据她提供的素材，还原了外婆生前的音容笑貌，让她的外婆在婚礼上为她送去了鼓励的话。还比如，有个小女孩因为父亲的意外离世有了抑郁倾向，她的母亲很着急，找到他们制作了伴侣的数字生命，最终合力帮助小女孩从抑郁中走出来。
如何让技术的进步只带来益处，不带来危害，这是一个庞大复杂的命题，会随着科技的不断进步，不断地向人类提出新的问题和挑战。但一个不容置疑的共识是，技术不应也不能用于作恶，人类美好的情感，不应被利用来做一些“非法生意”，对于那些利用AI技术实施诈骗的行为，相关部门要从严打击，而针对这一技术被滥用的情况，也应有相应的防范和监督措施，打好规则的“补丁”，提升行业法律意识，尽快制定管理标准和规范，为技术发展留足空间的同时，也守护好人类物质与精神的安全。
6#
2024-3-27 18:45
评论(0)
收起评论
| 
楼主
