I'm sure your pleased too no.
It's letter perfect in it's weigh，
My checker tolled me sew.
—— Jerrold H.Zar，"Candidate for a Pullet Surprise"
我们使用的工具和技术会使某些做法变得更容易，从而会导致鼓励这些做法及其产生的后果。上面这首关于拼写检查的诗幽默地说明了这个问题：只做工具使之可以容易做的事情，而忽略了其他重要的任务。在人还没有来得及翻字典找到第一个单词的时候，软件可以飞速地完成一个文档中所有单词的拼写检查。但是，一个简单的拼写检查器只会查找每个单词，看它是否在字典中。至于说作家是否正确地使用了这个单词，它则无法去检查。[6]
使用计算机系统带来的便利，及推卸自己做出判断的责任，会鼓励伴有严重后果的精神上的懒惰。在英国，一个卡车司机因不听从“不适合大型车辆”的路标警告，而把他的卡车陷在一个羊肠小道上。因为他开车时不加质疑地听从了导航系统的指示。巴基斯坦一家报社的编辑，通过电子邮件收到了一封读者来信，只看了标题就将其插入了报纸中。然而，这封信的内容是对先知穆罕默德的攻击。愤怒的穆斯林到该报社驻地放火抗议。几位编辑被逮捕，并被控有亵渎罪，有可能被判处死刑。如果回到当年所有报纸内容都需要手动排版和编辑时，就不太可能发生这样的事故。
企业在风险分析软件的帮助下，做出贷款和保险申请的决定。学区根据计算机打分和校准过的考试结果了解学生的进展情况，并据此做出可能影响到学校管理人员职业生涯的决定。他们有时会做出错误的决定，因为系统本身的限制可能会导致各种无知的错误。当检查FBI数据库发现存在对类似姓名的人的通缉令时，执法人员可能会逮捕这些人。他们真的认为，因为计算机显示了一个通缉令，该系统就确定他们在检查的人就一定是被通缉的罪犯吗？还是说，执法人员了解该系统只是简单地列出任何接近的匹配，还需要他自己来做出是否逮捕的决定？
有时依赖计算机系统，而不是人为的判断，会造成一个组织的管理变得“制度化”。而法律制度会对每个专业人士或员工施加强大的压力，让他们不得不听从计算机的指示。在官僚机构中，如果只是简单地接受软件的建议，而不再做额外的检查或做出该软件不支持的决定，那么决策者可能会觉得这样会降低个人风险（或者减少麻烦）。计算机程序可用于对医生提出患者的治疗建议。关键要记住，在复杂的领域，计算机系统可能会提供有价值的信息和想法，但它可能还不足以好到可以代替经验丰富的专业判断。在一些机构中，当出了问题时，“我是按照程序建议做的”，相比“我是按照自己的专业判断和经验来做的”，在应对上级调查或诉讼时，会成为一个更好的辩护借口。然而，这样做的机构是在鼓励个人推卸责任，并且会带来潜在的有害结果。
7.1.2 计算机模型
貌似真理并不意味着就是真理。
——彼得·伯恩斯坦(Peter L. Bernstein)
评估模型
我们在新闻中经常会看到，计算机基于数学模型生成的预测会产生重要的社会影响。数学模型是数据和公式的一个集合，用来描述或模拟所研究对象的特点和行为。这里我们感兴趣的模型和模拟方法需要如此多的数据和/或计算，因此它们必须在计算机上运行。研究人员和工程师使用广泛的建模方法来模拟物理系统，例如设计一个新的汽车或预测一条河的水流量；也可以用来模拟无形的系统，例如经济学中的问题。有了模型，我们可以对不同的设计、方案和政策可能会产生的影响进行模拟和分析。它们具有明显的社会效益和经济效益：它们可以帮助培训电厂、潜艇和飞机的操作人员。它们使我们能够考虑替代方案，并做出更好的决策，以减少浪费、成本和风险。它们使我们能够预测趋势，并更好地规划未来。