杨青山Jeffhill

　　谈起人工智能，科学家霍金和实业家Tesla创始人马斯克都十分警惕：一个没有边界，开奖，通过输入数据能够学习成长，又是冰冷没有感情的机器，谁都会心生恐惧。

　　今年年初上演的人机大战，AlphaGo战胜人类，夺取了最复杂人类智力游戏最后的骄傲——围棋。赛后有一个细节，AlphaGo为什么这么走，程序开发者说这是他们都看不懂的“黑盒”。一旦多层神经网络和学习算法运行起来，结果是无法预知的。

　　人工智能未来会不会变成“恶魔”，还真不好说。但是脱离制造者的“掌控”，程序就可能演变成灾难。这是已经发生在目前的信息化社会的案例。

　　Fintech金融科技是近两年开始流行的一个词，金融直接跟国计民生挂钩，而因为高效和自动化，互联网科技对金融的渗透目前是远超其他行业。

　　2012年8月1日，一个本应该寻常的交易日，当日自纽约证券交易所（NYSE）的开市钟声响起，上百支股票出现剧烈的波动。开市20分钟，j2直播，异常的交易订单海啸般涌向纽交所，没有人能判断出交易订单的来源，只能任由事态的肆意发展。直到9点50分，异常的交易订单才最终指向其来源— 华尔街上赫赫有名的骑士资本集团（Knight Capital Group）。短短的45分钟，骑士资本的做市部门因技术故障错误地进行超过400万笔交易订单，涉及的股票代码多达154个，进行了美股市场约10%的交易量，损失达4.4亿美元。骑士资本，这个成立于1995年，市场交易份额曾经占据纽交所17.3%，占纳斯达克16.9%，一向以稳健与专业著称的证券大鳄因此陷入经营危机，五个月后被竞争对手GETCO公司兼并。

　　祸乱始于一个弃用已久的模块，PowerPeg。

　　SMARS是骑士资本为了维持市场高度流通性而研发的一套智能系统系统，它一方面不间断收集市场信息，通过自带复杂算法对信息进行处理，另一方面将骑士资本的所有自营或来自客户的交易订单用最快的速度分成若干小的交易订单，形成股票组合送到最适合的交易所去交易。这种股票组合而非单独交易可以帮助投资者有效规避风险，而通过软件的快速分析、自动下单则可以在“时间即金钱”的股票市场抢占先机赢得利润。这种根据特定数据模型和算法，根据自动或半自动寻找交易机会、执行交易指令的技术手段就是我们所说的程序化交易。

　　2012年7月底，骑士资本为SMARS进行常规升级以激活新系统模块。而当那位计算机系统管理人员离开数据中心时，他遗漏了对第八台服务器SMARS软件系统进行升级。恰恰新系统模块的变量运行标志与PowerPeg 一致。PowerPeg是2003年就被废除而未被删掉的废弃模块，在此之前的“检验累计股票数量”功能已经被删除，而“分发订单”的功能仍旧错误地保留。2005年的系统升级，系统管理人员仍旧无视这个bug，违规的将其保留下来。因此当2012年该标志在未升级的旧SMARS软件系统的过程中被设置为“是”时，被执行的不是期望中的新模块而是功能残缺的PowerPeg。简单说来，PowerPeg被启动了，但是他并不清楚自己下单的数量，他只知道不停地交易，像发疯了一样。