现（xiàn）如今人类（lèi）对（duì）于AI的（de）应用，就（jiù）好像带妈妈去外面的餐（cān）厅吃饭，妈妈们不光要吃，还总（zǒng）想弄明白（bái）这（zhè）些菜是怎样做成的。就如（rú）同神经网络越是（shì）高（gāo）效，我们就越（yuè）好奇（qí）黑箱里究竟（jìng）发（fā）生了什么。

一直以来我们对于AI可解释性的追求可以被（bèi）分为两层，一是（shì）从技术（shù）角度（dù）探寻（xún）神（shén）经网络黑箱的运（yùn）行（háng）机（jī）制；二是从（cóng）社会角（jiǎo）度将AI技术原理更多地解释（shì）给各个行业。

虽然计（jì）算（suàn）机科学（xué）家们（men）一直（zhí）没有停止对（duì）神经网络黑（hēi）箱突破的探索，但（dàn）也有人曾经（jīng）明确地表（biǎo）示（shì）过，追（zhuī）求AI的可解释性并不（bú）是什么好主意。

去年（nián）年底，谷歌大脑（nǎo）负（fù）责人Geoff Hinton就曾在接（jiē）受（shòu）媒体采（cǎi）访时说过若干“AI不可解释”的理由。其中很（hěn）重要（yào）的一点是，他认为（wéi）大多数（shù）人也没法很好地解释自己做出一种决策的理由，如果强迫人类（lèi）对（duì）自己的行为做出解释，结果很可能就是让人类说出（chū）违心的（de）谎言。AI也是（shì）一样，也（yě）许强（qiáng）行在（zài）AI算法中（zhōng）加入（rù）可解（jiě）释性，得出的结果很（hěn）可能（néng）只（zhī）是一种“针对于解释需求的答案”，并不能发挥出人们所期望的作用（yòng）。Geoff Hinton可以（yǐ）说（shuō）是一位坚定（dìng）的“AI不可知（zhī）论（lùn）”支（zhī）持者。

让AI模型说人话

不过在（zài）几天前，佐治亚理工（gōng）学院就推出了一种让AI用人类（lèi）语言解释自己行为的模（mó）型。整（zhěng）个模型（xíng）的（de）训练过程，建（jiàn）立在（zài）一（yī）款“小（xiǎo）青蛙过马路”的古老（lǎo）游戏上。游戏中玩家（jiā）要操控着小青蛙前（qián）后左右躲（duǒ）避来往车（chē）辆，成功到达马路对岸。

佐治（zhì）亚理（lǐ）工（gōng）学院先是收（shōu）集了大量（liàng）的人类样本，让人类实验员玩（wán）一（yī）遍游戏（xì），然后再回溯整（zhěng）个游戏过程，解释出自己（jǐ）的每一步动作有（yǒu）哪些意图。例如向左走是想躲避开后方来车，向前跳跃是因（yīn）为漂浮的荷叶刚好来到自己面前。

portant;" />

这样一来，可以将自（zì）然语言（yán）与游戏控（kòng）制结（jié）合在一起建立映射。将这（zhè）一模型迁移到AI的训练中，最（zuì）终结果（guǒ）是AI在每进行（háng）一步动（dòng）作时，都会用自（zì）然语言解释（shì）出自己的意图。

实验者可（kě）以再根据四个（gè）维度对AI的行为和解释进行评（píng）分，这四个维度分别（bié）是（shì）“信任（认为AI的这一步行动是正确的）”、“人性化（认为这是人类采（cǎi）取的行动（dòng））”、“理由充（chōng）分（语（yǔ）言（yán）解释和行为动作有相（xiàng）关（guān）性）”、“可理（lǐ）解性（能看（kàn）懂所给（gěi）出的自然（rán）语（yǔ）言解释）”。由（yóu）此以（yǐ）来，就可以对（duì）AI的（de）游戏能（néng）力和自我解释能力进行共（gòng）同训练。

佐治（zhì）亚理工学院研发的这一模型（xíng），为AI的可（kě）解释性带来不（bú）少（shǎo）全新角度（dù）的突破。当AI进行错误决策（cè）时，我们可以清晰（xī）地（dì）看到AI究（jiū）竟（jìng）错在哪了（le）。比（bǐ）如在（zài）游戏（xì）中小青（qīng）蛙被路（lù）过的汽车撞死导致游戏（xì）失败，通过自然语言解（jiě）释，我们（men）可以看到可能是AI没有“想到（dào）”要躲避汽车而导致失（shī）败，还是已经“想（xiǎng）到”了，却（què）因想法（fǎ）和行为没能成功匹配而导（dǎo）致（zhì）失败。在后期进行参数（shù）调整时（shí）可以更加有（yǒu）的放（fàng）矢，明（míng）确（què）地找到问题所（suǒ）在。

更重要的是，这一过程完全是由（yóu）人（rén）类的自（zì）然（rán）语言所表达的，普（pǔ）通（tōng）人也能看到（dào）并（bìng）理解（jiě）问（wèn）题发生（shēng）的整个过程。技术的可解释权（quán）不再（zài）受信息科技知识基础（chǔ）的限制，甚至（zhì）可以让更（gèng）多（duō）人参（cān）与到AI训（xùn）练的过程中来。

AI可知论（lùn），是在开技术的倒车吗？

然而（ér），“小青蛙模型”并不能解决Geoff Hinton提（tí）到的（de）“AI不（bú）可知论”的很多问题。

首先，让（ràng）人类描（miáo）述自身行（háng）为，然后再将语言和行为建立对应关（guān）系（xì）的玩法适用度并不高（gāo）。在（zài）小青（qīng）蛙过马路这样简单的游戏中，人类可以清晰明了（le）地解释自己的行为。但换个场景，很多时（shí）候我们（men）就像Geoff Hinton所说的，自己也说不清自己做出决策的原因。尤其在一些场景，例（lì）如行车（chē）时是撞到（dào）马路上（shàng）的动物还（hái）是撞到其（qí）他车辆，人们自身的选择常常陷（xiàn）入道德困境而（ér）不能（néng）统一，和AI的决策模式（shì）有着天然的差异，就无法形（xíng）成（chéng）语言解释和行为之间的映射。

另一点则是（shì），让AI“自我解释”这种行为，投入和产（chǎn）出比究竟如何？我们知道自（zì）然语言处理是AI领（lǐng）域中一块相（xiàng）当难啃的硬（yìng）骨头，如果“AI说人（rén）话（huà）”这种模式（shì）成为标配，结（jié）果恐怕就是（shì）让所有领域的AI模型都要（yào）进行（háng）相关的训练。也就是说，未来（lái）一家做智能客（kè）服（fú）产品的企业（yè），为（wéi）了AI的（de）可解释性，需要（yào）招聘NLP领（lǐng）域（yù）人才；未来（lái）一家做人（rén）脸识别产品的（de）企（qǐ）业，为了AI的可解释性，同样也需（xū）要招聘NLP领（lǐng）域人才……NLP专（zhuān）业学子或成最大赢家。如此为AI产业带来的巨大（dà）成本，又将（jiāng）怎（zěn）样被覆盖呢？

世界在等待AI+X

在Geoff Hinton发表过那番“AI不可知论”后，有不（bú）少社会学专家进行了相关反（fǎn）驳。其中剑桥智能未来中心的研究员就提出，AI在事物效率上的提（tí）升和对于社会的影响（xiǎng），本来就（jiù）不（bú）能分开讨（tǎo）论（lùn），Geoff Hinton这样的科学家，如（rú）果认为（wéi）自己脱离了社（shè）会语境（jìng）和政（zhèng）策语（yǔ）境，那么很可能（néng）在研究过程的（de）一开始（shǐ）就走错（cuò）了方向。

其实AI的可知论和不可知论之间，最核心的问（wèn）题就是“AI出（chū）现了问（wèn）题该怎么（me）办（bàn）？”。不可知论者（zhě）认为，当AI出现（xiàn）了问题，我们就应该（gāi）像算（suàn）法训练（liàn）过程一样，在发（fā）现问题（tí）后立刻进行针对性（xìng）的训（xùn）练和矫正。但可知论者认为（wéi），如果我们等到AI在现实场景中出（chū）现（xiàn）问题（tí）再进行改善，一切就已（yǐ）经晚（wǎn）了。当前的要务是让（ràng）更多（duō）社（shè）会角（jiǎo）色参与到AI的研发过程中（zhōng）来，在广泛的现实（shí）应用之间就能够（gòu）从多种角（jiǎo）度发现问题。

正因如此，才会出现佐治亚理工学（xué）院（yuàn）这种“让（ràng）AI说人话”的项（xiàng）目出现。而（ér）在（zài）AI学会（huì）说（shuō）人话之前，AI与人之（zhī）间、AI专家与其他专家之间，仍（réng）然会呈现（xiàn）出（chū）严重的沟（gōu）通断层。在（zài）相当长的（de）一（yī）段时（shí）间内，AI+X的跨领（lǐng）域人才都将炙手（shǒu）可（kě）热。