难(nán)以置信,这(zhè)竟是Google如(rú)今的(de)做事方(fāng)式。
或许你还没有忘记,有(yǒu)个叫(jiào)Maven的美国国防部AI武器项目(mù)。
而且就是因为Google参与该项目(mù),内(nèi)部抗(kàng)议(yì)一(yī)波接一波,离职进谏者不计其数,近4000员工联名声讨。
后来,内外压力(lì)之下,2018年6月(yuè),Google官方宣布停止参与AI武器研发,并发布AI原则作为(wéi)指导。一时(shí)化舆论(lùn)危机为道德风骨。
然而万万(wàn)没(méi)想到,不作恶巨头(tóu)也有明修栈道(dào)暗度陈仓那一套。
一边是高调建牌坊,另一边则背地里雇佣众(zhòng)包(bāo)零工人员继续进行(háng)AI武(wǔ)器训(xùn)练(liàn)。
这,就(jiù)是Google刚刚被曝光的新春之(zhī)雷。
众包平台训练(liàn)武器AI
事情从一家名为Figure Eight(图八)的众包公司(sī)说起。
图八公司,做的(de)就是数据标注一类的工作。他们接项目,然后安排给平台上的“工人”,并以时薪1美元(yuán)(7元)支付(fù)报酬。
工人们任务也不(bú)难,看起来都(dōu)是(shì)一(yī)些简短(duǎn)且无须思(sī)考的任务,比如(rú)识别(bié)区分所(suǒ)给图像中的(de)人物,是否符合(hé)要求——符合就(jiù)框出来(lái),不符(fú)合(hé)就(jiù)下一张(zhāng)。
但根据美媒The Intercept最新截获(huò)的邮件(jiàn)显示,其中就有一(yī)个专门为Google和国防部完(wán)成的项目。
而且就是那(nà)个“声名在外”的Maven项(xiàng)目(mù)。
所谓Maven项(xiàng)目,简而言之就(jiù)是无人机武器(qì)。但跟战狼中所用的(de)人控无(wú)人机不(bú)同,这里的无人(rén)机有AI加持(chí),拥有视觉能(néng)力,可以区分“敌(dí)我(wǒ)”,最后甚至能自主决定攻击。
但你也知道,AI实现(xiàn)区分(fèn)“敌我”之前,需要人类通过(guò)大量数据和(hé)案例教会AI谁敌谁友、分清楚哪些是树木哪些是人——有多少人工,就有多少智能。
这个图八公司,接的就(jiù)是这(zhè)个(gè)生意。
所(suǒ)以按理来说,Google宣布(bù)停止参与(yǔ)Maven项目后,合作方图八的(de)任务应该也就一并(bìng)中(zhōng)止了。
但The Intercept截获的邮件显示,图八的数字(zì)工人们还在(zài)不断交付(fù)工作,只(zhī)是他(tā)们并不知(zhī)道究竟在完成什么项目、又是为谁工作而(ér)已。
图(tú)八方面也确认,Maven项目的任务还在继(jì)续。
所(suǒ)以换(huàn)而(ér)言之,在Google宣布中止(zhǐ)Maven项目大半(bàn)年后,背地里还有模型训练(liàn)的工作马不停蹄。
不知道那些(xiē)以(yǐ)离职抗议的(de)Google员(yuán)工,知道真相后作何感想?
但Google官方(fāng)已(yǐ)经对此表示未置可否。
The Intercept就此向Google求证时,发(fā)言人(rén)把问题转交给了图八公(gōng)司——大概就是(shì)想表明这事儿得问图八。
不过就(jiù)外(wài)泄的邮件内(nèi)容来(lái)看,Google从中标(biāo)Maven项目后(hòu)不(bú)久,就(jiù)已经(jīng)跟图八公司展(zhǎn)开了(le)合作。
现在想要切(qiē)割,为(wéi)时(shí)晚矣。
评论(lùn)汹(xiōng)涌(yǒng)
事情被爆料后,网友搬板凳看(kàn)热闹的(de)阵仗好不热闹。
无论(lùn)是外媒(méi)、推特、论坛还是国(guó)内的微博,网友(yǒu)都开(kāi)启了(le)热议模式,针对此事的观点评论几乎可以一分为(wéi)三(sān)。
有吃瓜群(qún)众对谷(gǔ)歌“表里(lǐ)不一”的行为表(biǎo)示大跌眼镜,把“不作恶”写进自己(jǐ)的准则却又一再(zài)打(dǎ)破,不(bú)少网友表示“让人(rén)失望”。
有网友感慨人工智(zhì)能技术(shù)在成熟前竟然需要这么大的标注工作,先有(yǒu)人工后才有智能。
外媒VentureBeat的记者John Koetsier认为(wéi),整(zhěng)件事太讽刺了,人们(men)为了训练AI最终能替(tì)代(dài)自(zì)己干活(huó),竟然在做一些不需要动脑子的微小工作。
也有微博网友(yǒu)提供了一个(gè)点子,认为与其利用零工经济聘请(qǐng)兼(jiān)职来标注,不如直接放到游戏里让玩家对其(qí)训练。
最(zuì)多的讨(tǎo)论,是关于谷歌这次处(chù)理(lǐ)问题的(de)态(tài)度以及影(yǐng)响,不少国外(wài)网友气愤的同时,又在“瑟瑟(sè)发抖”。
社(shè)会(huì)学家Casilli推特表示,这是一个有关发(fā)言权的(de)问题。无论(lùn)是兼职也好、零工也(yě)罢还是社交平(píng)台的(de)用户,都(dōu)有权利认识(shí)和监督其(qí)生(shēng)产活动。
不少(shǎo)国内微博网友(yǒu)也(yě)认(rèn)同此(cǐ)事,表示心疼这(zhè)些连自(zì)己在做什么都不知道的(de)公认。
网友TeameZazzu开始担忧谷歌的一系列AI军事项目(mù),他认为正如美国国家安全局此前(qián)国内大规模监听丑闻那样(yàng),反恐工(gōng)具(jù)很(hěn)快就(jiù)会转移到国(guó)内(nèi)警察部门。在WAMI(广域运动图(tú)像)案例中,被执法机构使用显(xiǎn)然(rán)是(shì)违(wéi)反美国宪法的,是对自由、隐私和民主的生存威胁。
王子&庶民
当然,事件曝光后的评论(lùn)中,另一个问题也被(bèi)凸显。
在图八的(de)整个工作中,由于雇(gù)主和(hé)项目可以选(xuǎn)择匿名,而且工作任(rèn)务被切分(fèn)得极其细致。
所以工人们根(gēn)本不(bú)知道自己在(zài)为谁(shuí)工作,也不(bú)知(zhī)道自己(jǐ)正在(zài)做(zuò)什(shí)么(me)。
那(nà)么争议(yì)来了:
在AI武器(qì)这样的“是非题”中,Google的(de)员工有选择的权(quán)利(lì),但图八的工人们,甚至连知(zhī)情权都没有。
未来这些AI武器大杀四方(fāng)甚至被非人道使用时,他们也不知道(dào)自己曾(céng)帮助过(guò)这些武器的(de)实现。
所以在涉及道德(dé)争议任务时,是否也该(gāi)让众包工人跟Google员工享有(yǒu)同等(děng)的知情权(quán)?
而且就(jiù)在最近,参与Maven项目抗议的Google员工,还获得了“2018年度军(jun1)控人员”的全球评眩(xuàn)
但图八公司的众包工人呢?如果不是今日事(shì)件曝光,可能(néng)他们永远不知(zhī)道(dào),自己一直在(zài)参(cān)与Maven项目。
迫于生计,他(tā)们可能也没有选择(zé),但是否(fǒu)就此变相剥夺他们(men)的选择权?
另外,明修牌坊,暗地里继续训练军事(shì)AI,这真的是Google的(de)选(xuǎn)择吗?