在人工智能呈现一番欣欣（xīn）向荣的（de）景象之时，这项（xiàng）技术的（de）问题和（hé）潜在威胁也正（zhèng）在显现。是（shì）时候认真（zhēn）探讨一下AI技术的（de）“价值（zhí）观”问题了。

很（hěn）多人（rén）最近一定注意到，有关AI的负面新闻频频上头条，而且还带（dài）有很强的魔幻色彩。

11月20号，韩国（guó）13岁的天才（cái）围棋少女金恩持承认了她在9月底的一（yī）场在线围（wéi）棋比赛中作弊，使用了AI推荐的棋（qí）谱，约（yuē）等于（yú）断送了（le）自己的职业生涯。11月27日，伊朗核武器专家法赫（hè）里扎（zhā）遭到（dào）一（yī）挺由AI控制（zhì）的自动机枪的袭击而（ér）身亡，这意味着精准的人脸识别技术作为AI武（wǔ）器已经（jīng）参与到人间的杀戮当（dāng）中。

说回国内，前一段（duàn）时间有人带（dài）头（tóu）盔（kuī）去售楼处（chù）看房，就是为避免被（bèi）房地产商进行精（jīng）准的（de）人脸（liǎn）识别而被（bèi），当做“熟客”来“宰杀”，人脸识（shí）别滥用问题已（yǐ）摆在我们（men）面前。更荒诞的（de）是（shì），最近曝出一（yī）个（gè）房产（chǎn）中介就利用政府机（jī）构的在线（xiàn）服务的流程流动，轻而易举地让售房者在不知情的状况下通过人脸识别系统把房子过户给了买家，自己套（tào）取了交（jiāo）易（yì）款。原本为民提供便利的（de）AI服务成了别有（yǒu）用（yòng）心（xīn）者的帮凶。

“杀人者人也，非刀也”，这（zhè）是（shì）我们为（wéi）“工具无道德价（jià）值”做辩护的古老理由，也是（shì）人类确证自己具有独一无二的道德价值（zhí）的傲娇说辞（cí）。同样（yàng）这一（yī）理由似乎也（yě）可以为上面这些AI的负面案（àn）例做解释，可（kě）以说（shuō）这里的AI技术（shù）也都（dōu）只是人（rén）类应用的工具，真正始（shǐ）作俑者的还（hái）是人类。

这样说似乎无可厚非，正如一切技术的发（fā）明带给人（rén）类巨大福祉的同时也可能带来可能的灾祸一样（yàng），反之亦然。比如（rú）诺贝尔发明的炸药可以（yǐ）开矿（kuàng）搬山（shān）也（yě）可以投（tóu）入（rù）战场屠戮（lù）生灵（líng），核技术（shù）可以用来制造原（yuán）子弹（dàn）毁天（tiān）灭（miè）地也可（kě）以用来做核电（diàn）站造福大众。理性乐观派总是相信人类（lèi）可以通过（guò）技术进步（bù）创造一个美丽新世界，并（bìng）克（kè）服技术（shù）产生的种（zhǒng）种负面效应。

不过，我们需要注（zhù）意的是，这一次人工智（zhì）能技术革命的（de）不同之处（chù）在于（yú）它将真（zhēn）正重塑人（rén）类。以往（wǎng）的任何（hé）一（yī）场技术革命只是增（zēng）强了人类在体力、脑力（lì）等方（fāng）面的（de）专项能力，但这一次（cì）AI将直接抵达人（rén）的核心本质——那（nà）个所谓撑起人尊严和价值的“自（zì）由意志”。

大多数人（rén）会将这种宏（hóng）大议题当（dāng）作杞人忧天的无（wú）稽之谈（tán），因为“狼来了”的故事人们已经听过多次。很多大人物对于人工智（zhì）能威胁人类（lèi）地位的告诫，也（yě）有种“口嫌体（tǐ）正直”的意味（wèi），无不（bú）在自己（jǐ）的领域内推（tuī）动AI技术的进化和使用。

但是作（zuò）为（wéi）人（rén）类（lèi）社会基石的“自由意（yì）志”本身已经从脑神经科学和（hé）社（shè）会学上被严重挑战，而（ér）人工智能在模拟（nǐ）和指导人类决策的能力又（yòu）在大幅提升（shēng），这样我们就将接近（jìn）这（zhè）个人类命运改变的交汇点（diǎn）：人（rén）的（de）自（zì）由（yóu）被还原（yuán）为一种（zhǒng）可计（jì）算（suàn）的生理机制，AI的计算能力又超过人类（lèi）的计（jì）算（suàn）能（néng）力。

这时（shí），我们（men）也（yě）就如同温水（shuǐ）中的青蛙，只（zhī）能（néng）黯然接受“被煮熟（shú）”的命（mìng）运安（ān）排。幸而在AI技术正在日（rì）渐暴露出这些无（wú）伤（shāng）大雅的问题之（zhī）时，我们仍（réng）然（rán）要有一（yī）种（zhǒng）对（duì）AI的（de）警惕。

那（nà）就是AI拥有“自由意（yì）志”之时，可（kě）以做（zuò）到（dào）价值中立（lì）吗？

技术的价（jià）值（zhí）中立难（nán）成立，AI亦然

在关于“技术是否价值中立”的探（tàn）讨中，现实的人（rén）们（men）大多会倾（qīng）向于（yú）“技术中立”的（de）观点。

我们通常认为一项技术（shù）的道德价值（zhí）在于使用它的人，比如决（jué）定一（yī）把刀是用（yòng）来烹饪还（hái）是用来行凶的关键（jiàn）是手握这把刀的那个人的（de）想（xiǎng）法；而一项技术（shù）的价值大小（xiǎo）也（yě）不在于（yú）它自身（shēn）而在于使用（yòng）它（tā）的人的用途，比如在电影《上帝也（yě）疯狂（kuáng）》里，非洲原（yuán）始（shǐ）部落（luò）的人（rén）们（men）获（huò）得了一（yī）个完整的可乐玻璃瓶，这个（gè）在现代（dài）社（shè）会（huì）平平无（wú）奇的消费（fèi）品，从一开始被（bèi）当做无所不能（néng）的（de）神（shén）物（wù）到后面变成引（yǐn）发族（zú）群纷争的魔鬼（guǐ）。这个（gè）可乐瓶（píng）的价值在土著（zhe）人手里就经历了天壤之别（bié）的变化。

这一假设的好处就是维护了（le）人（rén）的（de）尊（zūn）严（yán），选择什么样的技术用来做什么样的事情（qíng），都是我（wǒ）们自己的选择，最（zuì）终的（de）后果都（dōu）要（yào）由我们来负责。

但实际上真（zhēn）的如此吗？

从最初的人类（lèi）开始掌握生（shēng）火和放火这一项最初级技术的时候（hòu），一个部落（luò）中的女性就能释（shì）放出超（chāo）出她体力数以（yǐ）万倍的能量，因为（wéi）一把火就能烧出一大片森林，他们（men）就（jiù）能收（shōu）获这片土（tǔ）地里没有来（lái）得及逃跑（pǎo）的（de）生灵的肉类（lèi），后面还可以开垦出一（yī）片（piàn）又一片的农田。想想今天的亚马逊雨林，在全球化的消费贸易网（wǎng）络中（zhōng），被巴西农（nóng）民几（jǐ）乎烧毁殆尽（jìn）来该种粮食作物。火本身是无目（mù）的（de）的，但是使用火的人是知（zhī）晓（xiǎo）火的特性（xìng）和威力，也（yě）能（néng）控制（zhì）火的范围和用途。人类之火（huǒ），与天然之火的不同之（zhī）处在于，火本身（shēn）已经包含了人类的意志和目的。

可（kě）以（yǐ）想见，人（rén）类此（cǐ）后发明（míng）的（de）任（rèn）何（hé）一个工具或技术都（dōu）或（huò）多或少包含着（zhe）发明者本身（shēn）的目的。一把锋利的石刀既带有（yǒu）了切割（gē）了功用，也带（dài）有了杀戮（lù）的能（néng）力，而一把（bǎ）枪（qiāng）发明出来，自然就有着（zhe）更高效地杀戮的功效在里面，不管买它的人（rén）是用来（lái）防身还是用来害（hài）人，都是深知这一点的（de）。一项（xiàng）技术的发（fā）明总是（shì）有原因的，而原（yuán）因背后一定是有目的方向（xiàng）性的，暗含了其主观（guān）价值。

随着人类的（de）技术工（gōng）具越来越复（fù）杂和高级（jí），技术的目的性对于（yú）使用者的影（yǐng）响（xiǎng）也就（jiù）越大。而且我们已经越（yuè）发习惯这些技术（shù），就如（rú）同（tóng）我们须臾离不开（kāi）电池（chí）和网络一样，这些技术已经在潜移默化地改变着我们的选择和判断。当我们以为自己（jǐ）的选择是自由选（xuǎn）择的时候，其实大多数都是被（bèi）工具（jù）所（suǒ）训（xùn）练（liàn）和改（gǎi）变了的。

最典型（xíng）的（de）现代技术莫过于各（gè）种互联网应用和游戏，以短视频（pín）最为典型。依托沉浸式展示、无（wú）限下滑换页和（hé）偏好推（tuī）荐（jiàn）算法，短（duǎn）视频（pín）成为手机用户（hù）的（de）“杀时间”神器，很多人不知不觉（jiào）就会在其中花（huā）费数（shù）十分钟时间。如果稍加反省，我们就会发（fā）现（xiàn）这套推荐技（jì）术当中所包含的（de）利用（yòng）人性弱点（diǎn）和上瘾机制来（lái）获取用（yòng）户（hù）时间的价值（zhí）倾向。

虽然（rán）我（wǒ）们清（qīng）楚这些公司和他（tā）们的聪（cōng）明（míng）无（wú）比（bǐ）的工程师未必有操纵人心的恶意，而只是有取得商业成功的动机，就会不断（duàn）地加入操纵人心的技术。而这一次，工程师（shī）们有了一（yī）个最好（hǎo）的助手（shǒu），那就是人工（gōng）智能。

AI算法的最初目标一定是体现了（le）人类的某一（yī）目的，比如在（zài）对抗学习中拿到最高的分数、在图像识（shí）别中得到最高的（de）识别率，在偏好推荐上要不断满足用户（hù）喜好，找到尽（jìn）可能多的相似内容。人工智能不仅在某些（xiē）方面表现不错，而且还有了赶超人类决策的计算能力。

从“不够好”的（de）AI到（dào）“被用（yòng）坏”的AI

AI威胁论，很多人已经（jīng）讲了很多次，但我们（men）这里并不是再重（chóng）复这种大众所理解的“AI统治人类（lèi）”“AI取（qǔ）代人类工作（zuò）”的（de）观点（diǎn）。因为这种观点也仿佛（fó）再说AI会成为一（yī）个独立于人（rén）的（de）新的物种（zhǒng）存在，而如今（jīn）来看（kàn），这样的AI不知要到猴年马月才实现（xiàn），或者根本无法实现。

我们（men）这里强调的是（shì），不同于以往（wǎng）任何力学的、化学的、生物的技（jì）术（shù），仅仅提高人类的局（jú）部性的能力，这（zhè）一次AI技术这次要替代的是人的（de）感知、判断（duàn）和决策能力，是对人的理性（xìng）行为的一种“复刻”。

AI技术的这种“非中立”特性难免会导致以下结果：

一、AI算法在数据训练中由于模型设计和数据样本不足（zú）等（děng）问题会难以避免地出现偏见。

比如，2018年的一（yī）则报道中（zhōng），亚马（mǎ）逊的AI招聘系（xì）统被指出系统（tǒng）性地歧视女性，在发现简历中出现“女性”字样就会降低（dī）应（yīng）聘者的分数（shù），而且（qiě）还被发现，标注某两所女子（zǐ）大学的简历也会在排（pái）序上被降级。而（ér）人工智（zhì）能（néng）的这一（yī）权重（chóng）决策正是来自（zì）于学习了亚马逊此前10年的简历数据。显然，这十（shí）年中，大部（bù）分（fèn）被（bèi）录（lù）用的候（hòu）选（xuǎn）人都（dōu）是男性，人类HR在招募技术岗位上的偏（piān）好也教会了人工（gōng）智能采用同样的策（cè）略。

而在（zài）更常见（jiàn）的人脸（liǎn）识别领域，则（zé）出现了（le）明显的性别和种族（zú）歧视的算法偏见。根（gēn）据（jù）美国NIST（国家标准及技（jì）术研究（jiū）院）在2019年12月的一份报告，在美国人（rén）脸识别系统中，黑人的人脸识别错（cuò）误率是（shì）白（bái）种人的100倍，与黄种人相（xiàng）比（bǐ），黑（hēi）人（rén）人脸的（de）识别错误率也是前者的10倍，而在执法机关的人脸（liǎn）图（tú）片库中，识别错误率最高（gāo）的是美（měi）国原住民。另外，女性和老（lǎo）人的脸部也更难以识（shí）别。这一研究的数据来源是（shì）美国签证申请和过境（jìng）数据（jù）库中的1800万张人脸照片（piàn），并测（cè）试了（le）189种人（rén）脸识别算（suàn）法，研究结果代表了绝（jué）大部分商业应用算法的（de）结（jié）果。

今年上（shàng）映（yìng）的一部（bù）《编码偏见》的流媒体影片正揭（jiē）露（lù）了这一问（wèn）题（tí），人工智（zhì）能正在接管（guǎn）着关于人们的信息、安全、机会甚至自由等（děng）权力的时候，如果人（rén）们不改正这些算法中存在的偏见和歧视，那么AI技术会必然创造（zào）一（yī）个更加糟糕的世界，比如被错误识别并（bìng）逮捕的少数族裔青（qīng）年、被算法判断为能力不（bú）足（zú）的女性（xìng）员工，被垃圾信息所包围的（de）少年。

当（dāng）然（rán），这还只是AI技术不够好（hǎo）的一（yī）种（zhǒng）表（biǎo）现。很多人觉得我（wǒ）们可以不（bú）断调整算法，增大数（shù）据样本就可以（yǐ）解决这（zhè）些低级错误、算法歧视等（děng）问题。假如偏见可以消除、算（suàn）法可以优（yōu）化，我们又将迎来一（yī）个怎样的局面呢（ne）？

二、AI技（jì）术很可能会由于数（shù）据的规模聚集和技术竞（jìng）赛的排他性（xìng）中，掌握在少数技术公（gōng）司和政（zhèng）府手中，帮助拥有技术特（tè）权的人（rén）群（qún）和组织获得难以（yǐ）撼动的权力和财富，从而巩固这一趋（qū）势。

我们不能说（shuō）AI技术一定会助长极权和（hé）垄断，但是我们正在看到这（zhè）样的（de）苗头出现（xiàn）。

普通大众不仅通过（guò）在（zài）互联网上的（de）各种操作交（jiāo）出了自己（jǐ）的习惯偏好和消费数据，而且现在还在通过（guò）可穿戴设备等信息来（lái）获（huò）取我们的生理指标数据。如果任何（hé）一个AI算法系（xì）统能够（gòu）同时拥有这两种数（shù）据，并且对其建立起相对应的相关性，那么，这（zhè）一系统将真正全面获得操纵人心的能力。

正由于我们人类的任何（hé）决策可以转化（huà）为各种生理、心理和（hé）行为（wéi）的各（gè）种（zhǒng）数据，而我们又想通过AI技术（shù）来洞悉（xī）这一切背后的因果链条（tiáo），那么AI将有极大地可能（néng）完成人类（lèi）的这（zhè）一使命，如（rú）果往好处走，AI将代（dài）替人类的智力释放出前所（suǒ）未（wèi）有的生产力，如（rú）果往坏处走，AI技术也将（jiāng）产生无法想象的破坏力（lì）。

比如，在（zài）核冬（dōng）天的（de）威慑之后，AI武器的发展将（jiāng）使（shǐ）得精准杀戮成为可能，虽然在（zài）一定（dìng）意义上可（kě）以避免大规（guī）模的（de）热武器冲（chōng）突（tū），但是（shì）每个国家都将在这（zhè）种无孔不入（rù）的AI武器或杀手机器人的威胁下产生十足的敌意（yì）。如果这些AI武器一旦被极端组织（zhī）掌握，更有可能（néng）成为挑起事端的大杀器。再比如（rú）更有可能的（de）一个趋势是，AI算法（fǎ）只是代表了少数（shù）特权阶层的意志，而大部分人沦为供AI进化的数据（jù）源。

尽（jìn）管（guǎn）来说，AI直接统（tǒng）治（zhì）人类既无可能，但AI被人类用坏，成为塑造人类不平等的帮凶是极有可能的。

现在，我们更重要的是，放弃对AI技术（shù）客（kè）观中立性的幻（huàn）想，也要警惕AI算法对于我们决策的强大操纵力，同时又（yòu）得致力于（yú）推动人工智能的普惠（huì），才是接下（xià）来要（yào）做的事情（qíng）。

对AI的自由意志保留拒绝的权利

我们这里只是指明了一个问题：人工智能是存在（zài）价（jià）值（zhí）观的，其价值观的来源并（bìng）非来自于突然的“自我（wǒ）觉醒”，而是从人这里继承（chéng）了相应（yīng）的（de）价值观，“复（fù）刻”了人的所（suǒ）谓（wèi）“自（zì）由意志”。

当（dāng）AI算（suàn）法不够（gòu）强大（dà）的时候，其可（kě）能继承人（rén）类的认（rèn）知错误和偏见，但当AI算法足（zú）够强（qiáng）大的时候，其也并不会变得“客（kè）观中（zhōng）立”，而是体现了（le）人类工具（jù）理性推向（xiàng）极致的价（jià）值观，那（nà）就是更集中的（de）权力、更（gèng）多的财富、不（bú）断自（zì）我强化和升（shēng）级。

这一价值观反（fǎn）作用（yòng）到普通的人（rén）类个体身（shēn）上，可能有两（liǎng）个结果，一种是与AI算（suàn）法协同进化，在智识（shí）上（shàng）甚（shèn）至生理上不断升级自（zì）己，成为（wéi）掌控（kòng）AI的（de）发展（zhǎn）趋向（xiàng）的超级人（rén）类；一种是无法理解AI技术运行逻辑，也没（méi）有办法参（cān）与自主（zhǔ）决（jué）策的大众，将自己的生活决策交给（gěi）算法（fǎ）。

因（yīn）为人的生（shēng）物（wù）学的进化（huà）速度（dù）实（shí）在难以赶上AI计算能（néng）力的增长，人类的知识（shí）只（zhī）能以线性循环的方式一代又（yòu）一代传授，而AI则是以指数级方式累（lèi）计（jì）增长（zhǎng），这就决定了大（dà）多数人（rén）只能（néng）交付出自己的决（jué）策机制，而由AI来判断我们的各种（zhǒng）想法的成功概率。

而在今天，这一问题（tí）已以种很隐蔽（bì）的方（fāng）式（shì）呈现（xiàn）着（zhe）。正（zhèng）如很多人（rén）认为（wéi）自己要听（tīng）从自己（jǐ）内心的声音，但是我（wǒ）们却并不知（zhī）道这些（xiē）内心的（de）需求哪些是我们的“自（zì）由（yóu）意志”想要的，哪些是被各种（zhǒng）价值（zhí）体系所塑造的。而我们知（zhī）道（dào）AI算（suàn）法（fǎ）已经开始从每一个广告推荐、每一个内容筛选、每一次自拍美颜、每一次你的行（háng）为追踪下（xià），就已经开始为（wéi）你（nǐ）进行需求的植（zhí）入了。

在人工（gōng）智能狂（kuáng）飙突进的这几年当中，我们其（qí）实已经过分站（zhàn）在“AI将造福人类”的（de）宏大叙（xù）事当中，毕竟我们对于这一（yī）新型技术产业（yè）寄予了太多的希望（wàng）。但是我们看（kàn）到现在针（zhēn）对个人隐私领域上马的AI应用，正在竭尽所（suǒ）能地掌握人们的（de）全方位数（shù）据，但其实我们并未对这（zhè）一（yī）趋势做（zuò）好（hǎo）准备（bèi）。

最（zuì）近（jìn）我们也注（zhù）意到，由于一些行业和（hé）场景中人脸识别技术被大（dà）量（liàng）滥用（yòng），一些地方的相关部门开始推出整（zhěng）治规范，要求拆除这些（xiē）AI设备。未来（lái），这场（chǎng）关于（yú）人工智能（néng）的应用边界博弈（yì）的拉锯战还将一直（zhí）持续下去（qù）。

但（dàn）未（wèi）来的长期博弈中，我（wǒ）们哪怕（pà）牺牲一点便利性，也要在让度自（zì）己（jǐ）的选择权，交给（gěi）人工（gōng）智能（néng）来处理的时（shí）候，保持足够的（de）冷（lěng）静（jìng），同时对AI有拥有“Say No”的力量。