国产科幻电影《流(liu)浪(lang)地球2》中最感人的部分之一(yi),莫过于天才数字(zi)(zi)工程师图恒宇为了让因(yin)车祸去世的女儿丫丫成为永生数字(zi)(zi)生命,所(suo)做(zuo)出的种种决断。
该电影借用数字生命主题成功塑(su)造了(le)一(yi)个背(bei)负(fu)着(zhe)地球命运和(he)父爱私心的(de)人(ren)(ren)(ren)(ren)物(wu)角色,探讨(tao)人(ren)(ren)(ren)(ren)性深(shen)度的(de)同时,也与强(qiang)人(ren)(ren)(ren)(ren)工智能MOSS毫(hao)无人(ren)(ren)(ren)(ren)性的(de)一(yi)面形成鲜明(ming)对(dui)比(bi),进一(yi)步引发了(le)人(ren)(ren)(ren)(ren)工智能如何与人(ren)(ren)(ren)(ren)类文明(ming)共生共存的(de)思考。
随(sui)着近年来数字科技、人(ren)工智能的飞速发展,这已然成为人(ren)们现(xian)实生活(huo)中正在面临的新课(ke)题。
自(zi)ChatGPT引爆AIGC市场以来,短短一(yi)年(nian)多时间(jian),AI技术让创(chuang)造数字生命(ming)这件事变得(de)更加简(jian)单、真实。生成(cheng)式(shi)AI只需要一(yi)张照片(pian)、一(yi)段语(yu)音或一(yi)个视频(pin),就能创(chuang)造出一(yi)个能开口说话、做出表(biao)情的数字人。
然而,无(wu)论人(ren)工智能如何进化,却始终保留着作为机(ji)器(qi)的(de)工具(ju)属性(xing),它(ta)所被赋予(yu)的(de)“人(ren)性(xing)”,取决于(yu)投(tou)喂(wei)“食物”的(de)好(hao)坏(huai),以及背后使用它(ta)的(de)人(ren)。这(zhei)也意味着,AIGC的(de)自我成长(zhang)正给(ji)当今社(she)会带来双面冲(chong)击,有人(ren)在通过(guo)它(ta)“复(fu)活”亲人(ren)、改变世界,有人(ren)在利用它(ta)吸金(jin)引流、颠倒黑白。
#01
变脸
“我要给丫丫完整的(de)一(yi)生(sheng)。”《流(liu)浪地球2》中图恒宇(yu)道出了人(ren)们对(dui)于(yu)数(shu)字生(sheng)命(ming)的(de)终(zhong)极想象。但在现实生(sheng)活,能够与逝去的(de)亲人(ren)再次(ci)对(dui)话已足够慰(wei)藉(jie)不(bu)少人(ren)的(de)思念之苦。
今年初,著名音乐人包小柏(bo)(bo)用AI“复活(huo)”女儿以表达(da)思念。他的女儿三(san)年前因病不幸离(li)世,为了走出(chu)痛(tong)失爱(ai)女的阴影,包小柏(bo)(bo)开始钻研(yan)AI技术并(bing)攻读相(xiang)关专(zhuan)业博士,希望重现女儿的音容笑貌。
最(zui)近,包小柏终于如(ru)愿用AI复(fu)刻出“数位女(nv)儿”,可即时响应问话,还(hai)让女(nv)儿给妻子唱了生(sheng)日(ri)歌(ge)。他(ta)在(zai)访谈(tan)中表示:“我(wo)的女(nv)儿又回(hui)来(lai)了。”
消息发酵后(hou),“AI‘复活’亲(qin)人(ren)”这一话题再次引(yin)发网友热议。随着生(sheng)成式(shi)AI的(de)横(heng)空出(chu)世,近年来(lai)用AI“复活”亲(qin)人(ren)已(yi)不止在电影(ying)中(zhong)上演。早在去年清明,B站(zhan)00后(hou)UP主吴伍六就曾用AI工(gong)具还原已(yi)故(gu)奶(nai)(nai)奶(nai)(nai),并和她(ta)聊(liao)起家常。
AI技(ji)术的(de)不(bu)断迭代进化下,AI“复(fu)活”亲人的(de)门槛越(yue)来(lai)越(yue)低。在电商平台上,最便宜的(de)服务,只需要一张(zhang)照片就能(neng)让其动起来(lai)并做出表情,根据(ju)复(fu)刻效(xiao)果,价(jia)格在十元(yuan)到几百元(yuan)不(bu)等。
AI成了不(bu)少人(ren)寄托与传达思念的(de)工(gong)具,但(dan)一故(gu)事的(de)走向却并(bing)没有(you)到此为止。就在网(wang)友尚沉浸在AI传递出的(de)温情之际,不(bu)少逝世(shi)明(ming)星被人(ren)“复活”,频繁出现在短视(shi)频平台。
这(zhei)种现象遭到(dao)了(le)逝(shi)者家(jia)属的严厉谴(qian)责与坚决抵制,乔(qiao)任(ren)梁父亲对(dui)此表示感到(dao)非常(chang)不适,“他(ta)们(men)未征求我们(men)同意,这(zhei)是在(zai)揭(jie)伤疤。”
而在(zai)AI“复活”逝者的伦理(li)争议水面(mian)下,不止有人(ren)(ren)在(zai)通过“复活”别人(ren)(ren)的亲(qin)属赚取流(liu)量,还有人(ren)(ren)利用AI“换脸(lian)”技术,恶搞造谣以满足一(yi)己私欲(yu),更有黑产(chan)团伙(huo)伪装成他人(ren)(ren)的亲(qin)朋(peng)好友榨(zha)取钱(qian)财(cai)。
今年315晚会,AI 拟声(sheng)/变(bian)脸诈骗被点名(ming)曝光(guang)。过去一(yi)年的(de)相关诈骗案例(li)中(zhong),AI所展现的(de)拟声(sheng)、变(bian)脸技术已让普通(tong)大众真假(jia)难分。据央视报道(dao),在某些网络交易平台上,花 2 元钱就能买到上千张人脸照(zhao)片。
更早之前(qian),AI合成(cheng)技术在(zai)色情(qing)地带(dai)早已臭名昭著,合成(cheng)换脸(lian)色情(qing)内容泛滥成(cheng)灾,不少名人(ren)影星都曾(ceng)遭过毒手。但如今,随着AI技术已进(jin)化(hua)至“换脸(lian)”、“换头”,甚至能无中(zhong)生有(you)的阶段(duan),被偷脸(lian)、造黄谣等(deng)现象逐渐(jian)盯上了更多(duo)普通(tong)人(ren)。
AIGC繁荣发(fa)展的另(ling)一面,阴暗也在随之蔓延丛生(sheng)。
#02
界线
尽管人性(xing)才是(shi)造成一(yi)切(qie)祸(huo)水涌(yong)动的(de)根源(yuan),但不能否认的(de)是(shi),不断进化的(de)AI生产(chan)力,确(que)实让(rang)一(yi)些界线划分变(bian)得更加模(mo)糊不清,比如内容版权(quan)问题。
今年(nian)2月(yue),全球(qiu)首例生成(cheng)式(shi)AI服(fu)务侵犯著作权判决在广州(zhou)互联网(wang)法(fa)院生效,引(yin)发业内(nei)外广泛关注(zhu)。案件经过简单来说是一(yi)位(wei)用户在AIGC平台(tai)上,用AI画出了奥特(te)曼形(xing)象被诉侵权。
原告为(wei)拥有奥特曼系列独(du)占授权的动漫IP代理商(shang)上海新(xin)创华文(wen)化(hua),被告并非(fei)用(yong)户,而是为(wei)会员(yuan)用(yong)户提供(gong)AI绘画功能服(fu)务的一家AIGC网络公司。
最终(zhong),这家公司被判定在提(ti)供算力服务过(guo)程中,侵犯了原告(gao)对案涉奥(ao)特曼作品所(suo)享有的复制权(quan)和改编权(quan),并应承担(dan)相关(guan)民事责任。
这一(yi)判决的(de)意义已远超普通的(de)知识产权纠纷,亦(yi)可视(shi)为AIGC被划(hua)下法(fa)律界线的(de)一(yi)次落笔(bi)。
事实上(shang),自AIGC爆火出圈以来,关于它的洗稿(gao)、洗画等(deng)侵权疑虑与纠纷就(jiu)没有停止(zhi)过:去年1月,多名艺术家状告“Stable Difussion”从网络上(shang)采(cai)集近(jin)60亿张图像来训(xun)练其AI侵犯了(le)“数百万艺术家”的权利;去年12月,《纽(niu)约(yue)时报》诉Open AI事件持续发酵,多家媒(mei)体加入反(fan)抗队(dui)伍……
AIGC以强大(da)的学习能力(li)、理解能力(li)和创造(zao)力(li)颠覆(fu)行业过往的认知,但这些能力(li)来自于背(bei)后海量(liang)数据的投喂与训练。
在绘(hui)(hui)画创作(zuo)(zuo)领(ling)域,仅输(shu)入关(guan)键词便能(neng)生(sheng)成大(da)量(liang)新鲜(xian)画作(zuo)(zuo)的AIGC,无疑帮助缺乏足(zu)够绘(hui)(hui)画技能(neng)的广(guang)大(da)人群大(da)幅降低了(le)创作(zuo)(zuo)门槛。前提却先要(yao)被投喂大(da)量(liang)图片、画作(zuo)(zuo),其中(zhong)很(hen)大(da)一部分抓取于互联网上各类艺术家、画家的作(zuo)(zuo)品,以这(zhei)些作(zuo)(zuo)品为养(yang)料生(sheng)成新作(zuo)(zuo)品。
而在文本生成(cheng)层面,AIGC已不单单涉(she)及到侵权问题(ti)。不久前,有海外(wai)医学研究(jiu)团队(dui)进行了一项(xiang)用生成(cheng)式AI制造(zao)虚假信息的(de)(de)测(ce)试,短短一个小时内,他们就制作出超过100篇误导(dao)性(xing)的(de)(de)博客、20张(zhang)欺骗性(xing)图片,以及一段深(shen)度(du)伪造(zao)视频,声称有关健康的(de)(de)虚假信息。让人(ren)哭(ku)笑不得的(de)(de)是(shi),这段视频还能轻松转化成(cheng)40多种(zhong)语言。
AIGC当前最大的缺陷在于(yu)无法判断“食物”的好坏以(yi)及(ji)进(jin)食的界线,这(zhei)也让一些(xie)深受其害的人找到了反击空间。
美国芝加哥大学(xue)教(jiao)授(shou) Ben Zhao 领导开发(fa)(fa)团队,开发(fa)(fa)出了一款(kuan)名为(wei)Nightshade的工具,通过用AI给(ji)AI“投毒”的方式,帮助艺术家防止(zhi)作品风(feng)格(ge)被AI抄袭(xi)。
Nightshade利用生(sheng)(sheng)成式AI大肆(si)进(jin)食(shi)(shi)的(de)安全(quan)漏洞,训(xun)练出(chu)有毒(du)的(de)“食(shi)(shi)物”样本,一(yi)旦(dan)被AI模(mo)型抓取进(jin)食(shi)(shi),毒(du)素就会渗透整个(ge)模(mo)型集,导致用户想用AI画一(yi)只狗,最后却生(sheng)(sheng)成一(yi)只猫(mao),或(huo)者其他动(dong)物。
如今,这种方法被业内贴(tie)切形容(rong)为“毒丸”,原本发起的反(fan)击也(ye)演变(bian)成攻(gong)击,被不少(shao)人恶意使用。
#03
博弈
人工(gong)智能(neng)概念自20世(shi)纪中(zhong)叶诞生以来,就一直(zhi)被视为一把(ba)双刃剑。《终结(jie)者》《黑客帝国》等许多早期(qi)经典科幻作品的创(chuang)作,都投(tou)射出人们(men)对于(yu)未(wei)来人工(gong)智能(neng)的恐惧情绪。毋庸置疑的是,过去七十余年里,人工(gong)智能(neng)化(hua)身为一个巨大生产力,在推(tui)动(dong)着人类文(wen)明(ming)不(bu)断(duan)前(qian)进。
2015年首次(ci)出版的(de)《未来简(jian)史:从智人(ren)到智神》一书(shu)中,以色列历史学家瓦(wa)尔·赫拉利以其独特的(de)视角,深入(ru)讨(tao)论了人(ren)工(gong)智能的(de)崛起将如(ru)何(he)改变人(ren)们的(de)生(sheng)活和工(gong)作(zuo)方式,又给社会带来何(he)种(zhong)挑战(zhan)。
这并非只是一部制造恐慌情(qing)绪(xu)的(de)预言。相反,作者在(zai)书中同(tong)样展现(xian)了科技(ji)发展所(suo)带来(lai)的(de)巨(ju)大(da)机遇,还提出一系列富有挑战(zhan)性的(de)观(guan)点,引(yin)导我(wo)们思考如(ru)何适应和引(yin)导科技(ji)的(de)发展。
事实上,人类与人工智(zhi)能的共生共存,本身就是(shi)(shi)一(yi)种博弈。这(zhei)是(shi)(shi)一(yi)个关于人机交(jiao)互和(he)协作的问题,涉及(ji)到人工智(zhi)能的可(ke)信度、可(ke)控性、可(ke)解释(shi)性、伦理性等诸多(duo)方面。核心宗旨(zhi)是(shi)(shi)让人工智(zhi)能更(geng)多(duo)的造福(fu)社会(hui),服务于人。
但作(zuo)为受人(ren)(ren)掌控的(de)智(zhi)(zhi)能(neng)(neng)体,人(ren)(ren)工(gong)智(zhi)(zhi)能(neng)(neng)显(xian)然又(you)陷入一(yi)种双面性(xing)的(de)矛(mao)盾中,这也导致每(mei)一(yi)次人(ren)(ren)工(gong)智(zhi)(zhi)能(neng)(neng)的(de)进化,都会对社会文明(ming)带(dai)来一(yi)种新(xin)的(de)博弈和挑(tiao)战。
当前,以ChatGPT代(dai)表的AIGC的诞生,无(wu)疑让人们对(dui)人工(gong)智能(neng)风险的防备(bei)心(xin)日益(yi)加(jia)深(shen)。
去年年底,中国信息通(tong)信研究院发布了2023年人工智能(neng)(neng)风(feng)险管(guan)理体系(xi)。该体系(xi)将(jiang)人工智能(neng)(neng)带来的风(feng)险分为两(liang)类,即自身(shen)技术系(xi)统造成(cheng)的风(feng)险和应用产生的风(feng)险,并参考我国现(xian)行(xing)网络安全(quan)等级保护要求将(jiang)人工智能(neng)(neng)风(feng)险划分为5个等级。
其中,最低(di)层风险是指(zhi)不会(hui)对个人(ren)(ren)、企业(ye)、组织(zhi)造成权益伤害的产品(pin),如专用于下棋(qi)领(ling)域的AlphaGo;最高(gao)层风险则是指(zhi)对人(ren)(ren)类(lei)社会(hui)有一定颠覆(fu)性影(ying)响,如不受(shou)人(ren)(ren)控制的强人(ren)(ren)工智能(neng)。
法律界线(xian)的(de)划分无疑能人(ren)类在这场博弈中更加占据主动权。过去几年,全球都在积极探索(suo)人(ren)工智能层面(mian)的(de)监(jian)管和治理路径(jing):
2019年4月(yue),欧盟委(wei)员会(hui)发布《可(ke)信(xin)赖(lai)人工(gong)(gong)智(zhi)(zhi)能(neng)道德准则(ze)》,列出(chu)了(le)可(ke)信(xin)赖(lai)人工(gong)(gong)智(zhi)(zhi)能(neng)系统应满足的七项(xiang)重要(yao)要(yao)求;同在这年通(tong)过(guo)的经合组织(OECD)《确定OECD的人工(gong)(gong)智(zhi)(zhi)能(neng)发展原(yuan)则(ze)》报告,提出(chu)了(le)人工(gong)(gong)智(zhi)(zhi)能(neng)的五项(xiang)原(yuan)则(ze);2023年8月(yue),我(wo)国(guo)公布的《生成式人工(gong)(gong)智(zhi)(zhi)能(neng)服务管理暂行办(ban)法》正(zheng)式施行,首次针对(dui)于当下爆火的AIGC产业进行规制(zhi)。
就在(zai)不久(jiu)前,欧洲议会全体会议通过(guo)《人工智(zhi)能(neng)法(fa)案》,标志(zhi)着(zhe)欧盟扫清了立法(fa)监管(guan)人工智(zhi)能(neng)的(de)最后障碍。这是全球首(shou)部(bu)人工智(zhi)能(neng)法(fa)案,也预(yu)示着(zhe)2024年将迎来人工智(zhi)能(neng)全球治(zhi)理(li)的(de)“大年”。
如果说“没有(you)人类的(de)文明毫无意(yi)义”,那么没有(you)科(ke)技的(de)世界也将(jiang)无法前进,我们与人工智能的(de)博弈永远不会结束(shu)。