密歇根州立最新《可信赖人工智能：计算视角》综述论文 ...

【导读】野生智能要给人类带来福祉，必须是可相信。来自密歇根州立大学等学者配合公布了可相信野生智能：计较视角等综述论文，共有55页pdf和380篇文献。

摘要

在曩昔的几十年里，野生智能技术迅猛成长，改变了每小我的平常生活，深入改变了人类社会的进程。开辟野生智能的目标是经过削减劳动、增加生活便当、促进社会公益来造福人类。但是，比来的研讨和野生智能利用表白，野生智能能够会对人类形成意外危险，例如，在平安关键的情况下做出不成靠的决议，或经过无意中轻视一个或多个群体而破坏公允。是以，值得相信的野生智能比来遭到越来越多的关注，人们需要避免野生智能能够给人们带来的负面影响，以便人们可以充实信赖野生智能技术，与野生智能技术和谐相处。近年来，人们对可信野生智能停止了大量的研讨。在本次综述中，我们从计较的角度对值得相信的野生智能停止了周全的批评，帮助读者领会实现值得相信的野生智能的最新技术。值得相信的野生智能是一个大而复杂的课题，触及各个方面。在这项工作中，我们关注实现值得相信的野生智能的六个最关键方面: (i) 平安性和硬朗性，(ii) 非轻视和公允，(iii) 可诠释性，(iv) 隐私，(v) 问责性和可审计性，和(vi) 情况福祉。对于每个维度，我们按照一个分类回首了比来的相关技术，并总结了它们在实在系统中的利用。我们还会商了分歧维度之间的协和谐抵触互动，并会商了值得相信的野生智能在未来研讨的潜伏方面。

https://www.zhuanzhi.ai/paper/f2796a0ab95ec97ada0fe1e5d1132d48

引言

野生智能(AI)是一门研讨和成长模拟、扩大和拓展人类智能的理论、方式、技术和利用系统的科学，为现代人类社会带来了反动性的影响。从微观角度来看，野生智能在我们生活的很多方面发挥着不成替换的感化。现代生活布满了与野生智能利用的互动: 从用人脸识别解锁手机，与语音助手扳谈，到采办电子商务平台保举的产物; 从宏观角度看，野生智能缔造了庞大的经济功效。天下经济论坛的《2020年失业远景报告》[136]猜测，野生智能将在5年内缔造5800万个新失业岗位。到2030年，野生智能估计将发生13万亿美圆的额外经济利润，对全球GDP的年增加率进献1.2%[54]。但是，随着其快速而使人印象深入的成长，野生智能系统也表露了其不值得信赖的一面。例如，平安相当重要的野生智能系统在匹敌进犯时很懦弱。无人驾驶汽车的深度图像识别系统能够没法识别被恶意进犯者点窜的路标[345]，对乘客平安组成极大威胁。此外，野生智能算法能够会致使偏见和不公允。在线野生智能聊天机械人能够会发生不雅、种族主义和性别轻视的内容[335]，冒犯用户，并发生负面社会影响。此外，野生智能系统还存在泄露用户隐私和贸易奥秘的风险。黑客可以操纵野生智能模子发生的特征向量来重构私人输入数据，如指纹[25]，从而泄露用户的敏感信息。这些缝隙会使现有的野生智能系统没法利用，并能够形成严重的经济战争安结果。对于野生智能来说，要想在一个范畴获得进步、获得更普遍的利用并缔造更多的经济代价，对诚信的担忧已经成为一个庞大的障碍。是以，若何构建可信的野生智能系统成为学术界和业界关注的焦点。

近年来，出现了大量关于可信野生智能的文献。随着构建可信野生智能的需求日益增加，总结已有功效并探讨未来能够的研讨偏向势在必行。在本次综述中，我们供给了值得相信的野生智能的周全概述，以帮助新手对什么使野生智能系统值得相信有一个根基的领会，并帮助老兵跟踪该范畴的最新停顿。我们廓清了可信野生智能的界说，并先容了可信野生智能的六个关键维度。对于每个维度，我们给出了它的概念和分类，并回首了有代表性的算法。我们还先容了分歧维度之间能够的互动，并会商了值得相信的野生智能尚未引发充足关注的其他潜伏题目。除了界说和概念，我们的综述还关注实现可信野生智能每个维度的具体计较处理计划。这一视角有别于现有的一些相关工作，如政府指南[307]，倡议若何以法令律例的形式建立一个值得相信的野生智能系统，或综述[51,318]，从高条理、非技术的角度会商值得相信的野生智能的实现。

按照欧盟(EU)比来供给的野生智能伦理指南[307]，一个值得相信的野生智能系统应合适四项伦理原则:尊重人类自立、避免危险、公允和可诠释性。基于这四个原则，野生智能研讨职员、理论者和政府提出了值得相信的野生智能的各个具体维度[51,307,318]。在这项观察中，我们重点关注已经被普遍研讨的六个重要和相关的维度。如图1所示，它们是平安性和妥当性、非轻视性和公允性、可诠释性、隐私性、可审计性和可问责性，以及情况福祉。

余下论文综述构造以下。在第2节中，我们明白了值得相信的AI的界说，并供给了值得相信的AI的各类界说，帮助读者了解来自计较机科学、社会学、法令、贸易等分歧学科的研讨职员是若何界说值得相信的AI系统的。然后，我们将值得相信的野生智能与伦理野生智能和负义务的野生智能等几个相关概念区分隔来。在第3节中，我们具体先容了平安性和妥当性的维度，这要求野生智能系统对输入的噪声扰动具有妥当性，并可以做出平安的决议。近年来，大量研讨表白，野生智能系统，特别是那些采用深度进修模子的系统，能够对成心或无意的输入扰动很是敏感，对平安相当重要的利用组成庞大风险。例如，如前所述，自动驾驶汽车能够会被改变的路标欺骗。此外，渣滓邮件检测模子能够会被设想杰出的文本[30]邮件欺骗。是以，渣滓邮件发送者可以操纵这个弱点，使他们的电子邮件不受检测系统的影响，这将致使糟糕的用户体验。已经证实，野生智能算法可以经过供给的练习例子进修人类的轻视，并做出不公允的决议。例如，一些人脸识别算法难以识别非洲裔美国人的面孔[280]或将其误分类为大猩猩[168]。此外，语音听写软件在识别男性声音时凡是比识别女性声音表示得更好[277]。

在第4节中，我们先容了非轻视和公允的维度，在这个维度中，野生智能系统被期望避免对某些群体或小我的不公允偏见。在第5节中，我们会商了可诠释性的维度，这表白AI的决议机制系统应当可以向好处相关者诠释(他们应当可以了解诠释)。例如，野生智能技术已经被用于按照患者的症状和身材特征停止疾病诊断[289]。在这类情况下，黑箱决议是不成接管的。推理进程应当对医生和患者通明，以确保诊断的每个细节都是正确的。

研讨职员发现，一些野生智能算法可以存储和表露用户的小我信息。例如，在人类会话语料库上练习的对话模子可以记着敏感信息，如信誉卡号码，这些信息可以经过与模子交互而获得[164]。在第6节中，我们提出了隐私的维度，这需要一小我工智能系统来避免泄露任何私人信息。在第7节中，我们描写了可审计性和问责性的维度，该维度期望野生智能系统由第三方评价，并在需要时为野生智能故障分派义务，出格是在关键利用中[307]。比来，野生智能系统对情况的影响引发了人们的关注，由于一些大型野生智能系统消耗了大量的能源。作为一项支流的野生智能技术，深度进修正执政着追求更大的模子和更多的参数的偏向成长。是以，会消耗更多的存储和计较资本。一项研讨[312]表白，练习BERT模子[110]需要排放大约1400磅二氧化碳，这与跨美国的往返飞翔相当。是以，野生智能系统应当是可延续的和情况友爱的。

在第8节中，我们回首了情况福利的维度。在第9节中，我们将会商分歧维度之间的相互感化。比来的研讨表白，值得相信的AI的分歧维度之间存在分歧性和抵触[307,333]。例如，深度神经收集的鲁棒性和可诠释性慎密相连，鲁棒模子常常更具有可诠释性[122,322]，反之亦然[255]。此外，研讨表白，在某些情况下，硬朗性和隐私之间存在权衡。例如，匹敌性防御方式会使模子更轻易遭到成员推理进犯，增加了练习数据泄露的风险[308]。

除了上述六个维度，值得相信的野生智能还有更多的维度，如野生代理和监视、可信性等。虽然这些额外的维度与本文中斟酌的6个维度一样重要，但它们还处于开辟的早期阶段，相关文献很是有限，出格是对于计较方式而言。是以，在第10节中，我们将会商值得相信的野生智能的这些方面，作为未来需要专门研讨的偏向。