2001年恐怖袭击后，美国联邦调查局向很多机构提供了一个“观察名单(watch list)”，包括警察部门和一些企业，例如汽车租赁公司、银行、赌场，以及货运和化工企业。收到名单的单位又把信息转给了其他人，最终有成千上万的警察局和公司都收到了这个名单。许多人把该名单添加到了他们的数据库和系统中，用来筛选客户或求职者。虽然该名单包括的人不全是犯罪嫌疑人，还包括警察需要质问的一些人，但是一些公司把列表中的人都标记为“恐怖分子嫌疑人”。其中许多表项不包含出生日期、地址或其他识别信息，使得错误识别很容易出现。有些公司收到通过传真收到这个名单，依照模糊的副本把错误的名字输入到他们的数据库中。联邦调查局停止更新列表之后，并没有告诉所有收到列表的人，因此许多条目的信息都过时了。即使有人在原始数据库中更正了错误，对受影响的人来说，麻烦也不会就此结束。在其他系统中，还会包含不正确或错误标记的数据副本。
因为在数据库中的错误，以及对其内容的误解，导致人们遭受问题的频率和严重程度取决于几个因素：
●人口众多（很多人都有相同或相似的名字，而且与我们交往的大部分人都是陌生人。）
●自动处理系统不具备人类的常识，或者没有识别特殊情形的能力。
●对在计算机上存储的数据准确性的过度自信
●在数据录入（有时候因为粗心）时出现的错误
●未能及时更新信息和纠正错误
●缺乏对错误的问责
第一个因素是不可能改变的，它是我们生活的环境。第二个因素部分上是计算机技术速度和处理能力的一个副作用，但是我们可以通过规范系统和培训用户来减少其负面影响。在上面列表中的其余因素都在个人、专业人士和政策制定者的控制范围之内。我们会在本章中讨论这些因素。
对于自由社会的原则来说，任何人都不应因政府疏忽而导致的计算机错误被警方逮捕，这是令人厌恶的。随着越来越多的自动化入侵到现代生活中，关于奥威尔描述的恶作剧的可能性也在增加。——亚利桑那州最高法院
8.1.3 系统故障
现代通信、电力、医疗、金融、零售、交通系统都严重依赖于计算机系统，它们并不总是按计划运行。我们会给一些失败的例子，并说明其原因。对于计算机专业的学生和其他可能会承包或管理定制软件的人来说，一个目标就是要看到故障的严重影响，以及看到你想要努力工作来避免的事情。充分的规划和测试、在出现错误的时候采取备份计划，以及在对付错误时以诚相待，这些教训同样适用于其他行业的大型项目。
在黑莓(BlackBerry)安装了错误的软件更新之后，数百万黑莓用户在九个小时内都无法获得他们的电子邮件。因为在一个四百万行的程序中的一个软件错误，AT＆T公司的客户在几个小时内都无法使用语音和数据的电话服务。在一个两百万行的电信交换程序中，因为修改了三行代码，就造成了几个主要城市的电话网络故障。虽然该方案经过了13周的测试，但是在进行该修改之后没有进行重新测试，其中包含了一个简单的拼写错误。在圣诞购物季，美国运通公司的信用卡验证系统发生了故障。商家只好打电话进行核实，铺天盖地的电话都打到了呼叫中心。当大量人群在安装常规的Windows更新之后，同时重新启动他们的计算机时，大量用户登录使得Skype的点对点网络系统出现了严重超载。大多数Skype互联网电话用户有两天时间无法登录系统。
黑莓拇指和重复性劳损(RSI)
无数少年儿童在小型电子设备上玩各种游戏，也有无数成年人在便携式电子产品上，使用迷你键盘来回复电子邮件。在许多行业，人们每天有好几个小时都花在键盘输入上。我们在本章中描述的大部分风险都来源于软件错误、系统设计不良，或不准确的和被误解的信息。在这里，我们来看一个物理现象，它被称为黑莓拇指、玩家的拇指、 任天堂综合症(Nintendonitis)、重复性劳损(repetitive strain injury， RSI)，以及其他各种名称。重复性劳损是比较正式的用语，它涵盖了各种受伤或疼痛的拇指、手指、手腕和手臂（有时还包括颈部和肩部）。你可能已经看到，计算机程序员、经常发博客的人或秘书都会佩戴手腕保护套（也称为夹板）：这是重复性劳损的一种常见标志。这些损伤可能会导致做一些日常活动时产生疼痛或无法完成，甚至可能会让人们无法工作。