繁体
首页

第85章 错误、故障和风险(6)(3 / 3)

在许多企业计算机系统的合同中,都会对客户从花费在计算机系统上的实际金额中可以拿回来的金额加以限制。客户在签订合同时就知道,不管任何原因,即使因为系统并没有满足他们的需要,一般来说也无法对所产生的亏损进行覆盖。法院会支持这样的合同限制。如果个人和企业不能指望法庭支持合同中的条款,那么合同将几乎毫无用处。每天都会发生的数以百万计的业务往来将会变得更加危险,因此也会更加昂贵。当然,因为欺诈和虚假陈述都不是合同中的一部分,因此一些公司在蒙受巨大损失之后,会指控销售者存在欺诈和虚假陈述以试图收回部分损失,而不管这些指控是否具有坚实的依据。

精心设计的责任法和刑事法,既没有极端到会阻碍创新,也能够做到足够清晰和强大到足以鼓励大家生产好的系统。这样的法律是提高计算机系统的可靠性和安全性和数据库中数据准确性的重要法律手段,它们同时也是保护隐私和保护其他行业的客户的重要法律手段。“事后”处罚并无法撤消已经发生的伤害,但是因为要为错误和草率支付赔偿,这样的措施会激励开发者更加负责和谨慎。赔偿会用来补偿受害人,并提供一些公正。如果个人、企业或政府不是必须要为自己的错误和不负责任的行为做出赔偿的话,那么他们就会犯更多的错误。(在许多情况下,政府不容许人们起诉政府。)

不幸的是,在美国的责任法中存在许多缺陷。人们常常会赢得数百万美元的诉讼,而其实并没有科学证据或合理的理由,来证明一个产品的制造商或销售商对事故或其他负面影响负有实际上的责任。对责任诉讼制度的滥用几乎使美国的小飞机制造业关停多年。大型计算机系统的复杂性使得制定责任标准变得很难,但这是一个必要的任务。

监管和安全攸关应用

是否有法律或监管可以用来防止危及生命的计算机故障?如果通过一项法律说,辐射治疗仪不应该对患者过量治疗,那看起来会很傻。我们都知道,它不应该这么做。我们可以禁止使用计算机来控制如果出错可能会致命的应用,但这样的禁令也是不明智的。在许多应用中,使用计算机的好处与其风险相比是非常值得的。

一个被广泛接受的选项是监管(regulation),其中可以包括在一个新产品出售前,必须通过特定的测试要求,以及政府机构批准的其他要求。FDA已经对药品和医疗器械实施了几十年监管。公司必须做大量的测试,提供大量的文档,并得到政府批准,才能销售新药品和一些医疗设备。对于药品和安全攸关的计算机系统,赞成这样的监管的论点包括以下内容:可能会处于危险中的大多数潜在客户和公众(如病人)并不具备专业知识来判断一个系统的安全性和可靠性。更好的措施应该是避免使用劣质产品,而不是在灾难之后才采取补救措施。对于普通人来说,要想成功起诉大公司实在是太困难和昂贵了。

如果FDA曾详细审查过Therac-25之后才让它投入运行,那么它就有可能在造成任何患者受伤之前就已经找到了破绽。不过,我们应该注意到在监管方式中的一些弱点和需要的权衡。审批过程是非常昂贵和费时的。在引进一个好产品的过程中拖延多年,可能要以付出许多生命作为代价。政治问题会影响审批流程。竞争对手也可能影响决策。此外,对于政府官员和监管者来说,会倾向于过于谨慎。如果被批准的产品造成损伤,那么会导致不好的宣传,并可能会导致批准它的人被解雇。由于延迟或未能通过一项很好的新产品,而造成的死亡或损失则通常并不是那么明显,也不会得到很多宣传。

勒沃森和特纳在他们关于Therac-25的文章中,总结了其中一些困境:

“对有风险的技术进行监管的有关问题是复杂的。过于严格的标准可能会抑制进步,需要远落后于当前技术发展水平的技术,并把责任从制造商转移给政府。责任的确定需要一种微妙的平衡。必须有人代表公众的需求,这可能会屈服于一个公司的利润期望。另一方面,标准可能会造成一些不期望的效果,限制公司采取的安全措施和投资,因为他们会觉得只要遵循标准,就可以达到自己的法律和道义责任。一些关于安全的最有效标准和措施是由用户提出的。制造商会有更多的动力试图去满足客户,而不是去满足政府机构的要求。”