参与：朱思颖、Jane W

人工智能是一个大的领域，并且领域范围还在继续扩大。有机器学习相关经验的企业期望在人工智能的技术上占领先机。

还没有构建出自己机器学习业务专长的企业正急于理解和策划自己的机器学习和人工智能战略。在当下人工智能的浪潮中，困惑、妄想、落后的风险以及谷歌、Facebook、百度和微软这些公司做了大量的开源（如 TensorFlow、BigSur、Torch、SciKit、Caffe、CNTK、DMTK、Deeplearning4j、H2O、Mahout、MLLib、NuPIC、OpenNN 等项目）提供进军人工智能和机器学习的一个显而易见的方式，尤其是对人工智能技术行业之外的企业而言。

找到开源项目、下载、安装... 这个过程应该是很容易。但并不是如大家所想的那般容易。

目前的开源模式（Open Source model）是过时的且不能满足由人工智能驱动或影响的系统所主导的环境下软件之间的共享。在人工智能驱动的系统所主导的环境中，理论上用户可以在一天之内与成千上万的人工智能引擎交互。

仅靠人工智能和机器学习的先驱们分享他们的代码是远远不够的。工业界和整个世界需要一个新的开源模式，这个新开源模式能够实现人工智能和机器学习所训练的引擎自身同数据、特征以及真实环境下的表现细节一同开源。

目前的开源模式能力不足并且已过时

由人工智能和机器学习驱动（作用）的系统与运用开源组件构建的其它软件是不同的。运用开源组件构建的软件仍然具备「确定性」特质，例如软件的设计和编写都是为了保证每次按照相同的方式运行。

人工智能或者机器学习系统（尤其是人工智能系统）并不一定具备这样的「确定性」表现。在应用于和学习新情境（新环境或者新用户）时，这些系统能够改变自己的行为表现。本质上说，当人工智能系统应用于真实世界时，人工智能系统的构建者就失去对所构建系统的控制。

当然，创建者可以在学习框架中构建制衡的机制，然而，即使是在人工智能系统所设定的限制下，仍然还会有大量不同的解释。与此同时，面对一个由人工智能所包围的世界的更大挑战来自已证实的冲突——这些限制中人的作用因素。

最近的一个对梅塞德斯主席 von Hugo 报道中引用了其所说「梅塞德斯的无人驾驶汽车将会优先保护车上乘客而不是行人」，尽管事后公司表明报告中对 von Hugo 的引用有误，但仍然揭露出一个根本性问题——资本主义将如何作用设置于人工智能中的限制。

资本主义和人工智能的道德伦理

如果一个企业的目的是实现盈利，在产品和服务开始进入市场前所需要的时间是否表明基于人工智能的经验可以作为一个附加值、差异化体验来要求顾客为这项技术额外付费？

在这种情况下，原意并且具备差异化体验付费能力的用户将会获得比普通用户更多的好处。因为企业将会尝试和收回在人工智能上的投入成本，这项技术将只限于给能负担这项技术的用户群体使用。这将会导致人工智能系统的限制设置有利于（保护或者提供优先权）那些能够负担得起的用户。

另外一个担忧是法律和政策方面的问题——谁将对人工智能或者机器学习驱动的产品故障（次优）行为负责。由用户、服务提供商、数据科学家或者人工智能引擎负责？这个责任（过失）怎么确立？要回答这些问题需要对创建和使用人工智能以及机器学习的一系列过程有清晰的描述和跟踪。

人工智能到人工智能的交互

一张三维渲染图：一个机器人尝试解决木块拼图问题

人工智能-人工智能冲突

考虑到人工智能驱动的产品的不确定特质，那么在之前未查看的交互过程中人工智能驱动的产品将会和能够如何表现，人工智能驱动的产品在 2 个或多个不同用户的交互使用场景下，这个问题更加凸显出来。例如，如果两辆无人驾驶汽车是由两个独立的人工智能引擎（由不同的公司通过不同的训练数据和特征、相互独立的偏差和情景设置所构建）驱动和控制，当驶向一个停车标志或者一个撞车现场时将会发生什么。这些系统如何到达和应对相似场景上的轻微差别和变异，将会产生意想不到的且有潜在危害的副作用。

偏差泄露（Bias Leakage）