**最糟糕的版本** 学习机器让每个人失望。 它慢，笨拙，容易犯明显的错误。它需要不断的纠正。它的回答不稳定。记者称它为“有前途，但还需要几年。” 市议会问了一个简单的问题： “这就是我们将要得到的东西吗？” 没有人能确定。但一位工程师指着机器自己生成的一张粗略图表——它过去表现的记录。 “我不知道缩放在哪里结束，”她说。“但我知道它的方向。” 那天，议会做出了两个决定。 首先，他们限制了机器可以控制的内容。 其次，他们围绕这个假设设计了一切，即这是它最弱的版本。 他们在每个系统中都内置了纠正机制。社会假设不那么确定。学校教学生如何与之争论。医院记录分歧而不是隐藏它们。法律以审查条款而不是最终条款的形式编写。没有什么假设机器会保持不变。 早期的几年很混乱。 机器与专家相矛盾。它改变了主意。有时它在变好之前会变得更糟。 一个邻近的城市做出了不同的选择。 “让它先成熟，”他们的领导说。“等它准备好了我们再适应。” 五年后，差异显而易见。 ...