深度丨霍金的去世让我想起了微软提出的人工智能十大原则

       霍金去世了，他曾经对人工智能提出了一些预言，也提出了一些警告，让我们对人工智能未来的期待充满了不确定性。霍金认为，AI的进化速度会比人类更快，而它们的终极目标是不可预测的。所以人类需要确保人工智能的设计符合道德伦理规范，保障措施到位。微软CEOSatyaNadella对此的看法相同，他认为人类在AI方面必须展开更深入的协调和协作，就设计的伦理和移情框架达成一致。为此他提出了人工智能需要遵循的六大原则，以及未来人类要想不被时代抛弃需要坚持和发展的四个东西。Nadella认为，未来的AI世界人和机器的关系不是非此即彼，而应该是人机携手，共创未来。

　　1、AI必须用来辅助人类：随着我们开发出来的自动机器越来越多，我们需要尊重人类自治。协作式机器人（co-bots）应当从事采矿之类的危险工作，从而为人类工人竖起一道安全网和提供保护措施。

　　2、AI必须是透明的：我们应该能知道技术是如何工作的，它的规则是什么。我们需要的不仅仅是智能机器（intelligentmachines），而且是可理解的机器（intelligiblemachines）。技术会了解人类的事情，但是人类也必须了解机器的事情。大家应该对技术如何审视和分析世界有了解。伦理和设计必须齐头并进。

　　3、AI必须实现效能最大化，同时又不能伤害人的尊严：它应该维护文化承诺，支持多样化。在设计这些系统时我们需要有更广泛更深入更多的各种互动。技术界不应该决定这个未来的价值观和美德。

　　4、AI必须用于智能隐私：要有复杂的手段保护个人以及群体信息，要能够以增进信任的方式进行。

　　5、AI必须承担算法责任以便人类可以撤销非故意的伤害。我们设计这些技术时必须考虑到预期和非预期的情况。

　　6、AI必须防止偏见，确保进行适当的、有代表性的调查，从而防止错误的启发法不会造成歧视。但是人类也必须遵守一些守则—尤其是在考虑清楚我们的后代必须重点考虑和培养哪些技能方面。为了不被时代抛弃，我们的孩子和他们的孩子需要有。

　　7、同理心—机器很难复制的同理心（Empathy）在人与AI共存的世界里非常有价值。感觉到别人的想法和感受，协作和建立关系将会变得至关重要。

　　8、教育—有人提出，因为寿命延长出生率会下降，因为在教育的投入也会降低。但我认为要想进行创新并管理好我们今天看不清楚的创新，我们就必须不断加大对教育的投资才能拔高我们的思考层次，才能获得更加公平的教育产出。新技术大规模实施所需的知识掌握和技能培养是一个非常困难的社会问题，要花很长时间才能解决。动力织机在1810年就发明出来了，但是由于经过充分培训的技工人手不足，服装业完成变革却花了35年的时间。

　　9、创造力—创造力是最梦寐以求的人类技能之一，这一点不会改变。机器会继续丰富和增强我们的创造力。小说家JhumpaLahiri最近在接受采访中被问到，作为有特殊影响的英国文学作家，为何要用自己的第三语言意大利语来进行新的文学创作？她说道：“不断探索难道不就是创造力的要点吗？”

　　10、裁决和责任—我们也许愿意接受一个计算机生成的诊断书或者法律判决，但我们更希望由人来最后对结果负责。