我们可以完全信任人工智能吗

人工智能的概念自从被提出来以后，就备受关注。现在，这项新兴的技术也已经出现在了我们生活的方方面面，涉及各种各样的应用程序，比如各类搜索引擎、打车软件以及智能助手Siri或Alexa，这些都是人工智能可应用的场景。在某些人看来，人工智能是生活的一种添加剂，可以提高我们的生活质量，并为一些传统企业带来新的生机；但对另外一部分人来说，人工智能会带来一个恐怖的未来，或许我们人类早晚有一天会被机器取代。所以，在这种情况下，我们究竟该不该信任人工智能呢？

很早之前，科幻小说就已预料到了机器智能的兴起。而现在，新一代自主学习的机器人已开始重塑我们生活的方方面面：人类无法理解的大量数据正在被创建、解释，并在个人助理、智能设备、广告以及海量的应用程序中出现。

与此同时，随着人工智能的发展越来越成熟，一些科幻电影里的场景也正在成为现实，但从极端意义上想，这些人工智能会不会在某一天突然失控，成为统治人类的“怪物”呢？或许在有些人看来，这些都只是科幻场景罢了，但事实上，人工智能与人类肩并肩的日子也不远了。

今年4月，美国上线了一部名为《你信任这台计算机吗？》（Do you trust this computer？）的纪录片。据悉，这是电影制作人Chris Paine的最新作品，讲述了人工智能已经开始重塑人们生活的方方面面，从工作自动化到医疗诊断乃至军事行动，地球上的每一个行业正在经历转变。

拍摄这部电影的目的，Chris Paine表示，“我希望借助这部影片来鼓励人们在利用科学工具将工作更高效化，利益最大化的同时，还要时刻关注正在发生的事情。”只不过，这部影片的基调，似乎在某种程度上已经不仅仅是利用人工智能为人类带来便捷的目标了，反而一句话更让人感到心里一慌：AI可能会成为不朽的独裁者。

对于这个近乎疯狂的猜测，不少人工智能领域的专家表示，人工智能还有很长的路要走，科幻小说中的场景短期内不会出现在生活中，但我们不得不承认的一个问题是，人工智能对人们生活的影响和改变确实是可能存在的。从这部影片中也引发了一个耐人寻味的问题：人们对人工智能应该信任到何种程度？

从现在的情况来看，人工智能已经涉猎了多个行业领域，从日常生活到工作学习，人工智能的提及率越来越高，无论是军事还是医疗，交通还是电商……所有的人工智能应用都已经开始渗入其中。当然，这里面更多提到的是人工智能对人类生活带来的好处，比如人工智能带来了更准确的疾病诊断，自动驾驶有助于减少致命的车祸等等。然而这些依然抵挡不住人们对人工智能的悲观情绪。

在很多人看来，人工智能之所以会取代我们，是因为它们会变得比人类“更加聪明”，这就意味着有朝一日，它们可能会教会自己定位目标并自动发射导弹。而且，基本上任何有工作的人无论身处哪个行业，都将面临失业的危机。

其实这还是算比较轻松的一面。这部纪录片反应的问题在于，并不是全盘否定人工智能，而是说它在一个个人话语权、文化范式转变和与社会相关的日益高涨的运动时代，人们并没有提出针对该问题的解决方案。具体而言，这部纪录片错过了一个深度了解人工智能的机会，它没有深度探讨创造这种算法的工程师的偏见和潜意识，将会如何影响其应用的发展，以及如何解决这些问题，甚至是我们需要控制这种心理的社会原因。

所以，在这种情况下，人们要信任人工智能，就需要原因。当然，人工智能也在努力为自己赢得信任基础。近期，德勤对1100家公司进行了调查分析，其中提到“有些风险是与其他信息技术相关的典型风险，但人工智能技术本身是独一无二的。”

通常情况下，对于IT系统，用户可以先进行安装，如果进展不顺利，可以将系统回收直到发现问题的根源。所以，在这个方面来说，最容易受到影响的是IT人员。然而，对于人工智能来说，存在的问题可能很难被发现，并且盲目依赖机器做出的决策（如果有的话）可能不会立即进行审计。

德勤的调查显示，高管对人工智能最高风险的担忧包括：网络安全漏洞、基于AI做出错误的战略决策、人工智能决策的法律责任、以及AI在生死攸关背景下的失败，这也反应出了人们对人工智能信任的根本关键点。随着人工智能进入企业——从绘制交付路线到与客户聊天，它在管理决策中发挥更大作用——因此，对信任的需求也变得更加尖锐。

那么，如何在人工智能中建立信任呢？

追求卓越的执行力：为了推动跨业务领域的变革，公司应该专注于项目管理和变革管理。不过在基础实验和供应商的炒作下，促进组织变革的基本原则可能会“迷失方向”。

衡量并跟踪进度：使用人工智能时，要确保成本和产生的影响获得了仔细的跟踪，并确保成功无可争议的。这将有助于CFO在项目和预算变得更大的情况下进行所需的投资。

解决网络安全风险：掌握解决人工智能环境和数据集安全问题的最新工具和开发。没有任何网络安全措施可以阻止每次攻击，但早期采用者可以通过在流程开始时就整合安全措施，并将其作为更高优先级来提高防御措施。

将AI应用于IT功能之外：首先在需要IT部门大量参与的部门，应用复杂的技术是十分必要的。但是，只有当人工智能渗透到整个公司，并使得多个业务职能和部门有所改变时，人工智能的变革潜力才能充分地体现出来。

利用云资源：在一定程度上，云计算可以通过服务为实现这些目标发挥关键作用，而这些服务可以为广泛的用户提供轻松访问基于AI的功能。许多大型云服务提供商正在开发针对特定业务功能的基于订阅的AI服务，这可能是将人工智能带入产品设计、销售和营销等功能的最简单途径。

购买现成产品：尽管认知技术仍在不断发展，而且这种发展正在以极快的速度进行。具有认知功能的基于云的CRM和ERP软件正在变得广泛可用，聊天机器人也是如此。当然，公司的发展需要专业知识的支持，但他们也应该考虑，可以从这些企业软件以及基于云的平台中获得哪些功能。在一定程度上这些功能可以带来较快的成功并降低初始投资成本。

如果企业足够明智的话，就会发现只关注最难吸引和留住的人才，即人工智能研究人员和程序员，以及数据科学家，可能并不是最好的策略，特别是对刚刚起步的公司而言。如果科技巨头们在这场人工智能竞争中过分关注获取高成本的稀缺人才，那结果可能是令人失望沮丧的。除专业人才外，或许公司还会需要一些能够与数据科学家交流人工智能并了解数据分析用途和局限性的企业高管。

最重要的还是决定在何处实现或增强自动化，如果使用得当，那自动化势必会显示出比人工更高效的结果。在多数情况下，机器可以显示信息，做出预测并提供代替方案，而人类则可以通过自己的判断力、同理心以及商业技巧，将这些信息应用到最佳效果。这不仅仅是将人类放入了整个工作中，更是建立了一个可以增强人类决策能力的循环流程。

阅读全文