近日，美国保险巨头联合健康的首席执行官遭遇街头枪击身亡，初步调查线索指向一场因公司高拒赔率而引发的复仇行动。这一悲剧性事件迅速引发了公众对美国医疗保障体系和保险制度公正性的广泛讨论。嫌疑人已被逮捕，据悉，他是一名毕业于常春藤名校宾夕法尼亚大学的优秀学子，家境殷实，在知名网络公司担任程序员，同时被标签为左翼激进分子。然而，具体作案动机及调查结果尚未对外公布。
联合健康保险公司在全美保险公司中，以其高达32%的拒赔率尤为突出，位居行业之首。这一数据引发了社会的广泛关注：
联合健康的高拒赔率问题，被部分舆论归咎于2020年前任CEO的一项重大决策——斥巨资收购人工智能软件公司NaviHeath，并将其开发的名为nH Predict的AI软件应用于保险理赔流程。该软件旨在预测患者急诊后的护理需求，包括出院时间等。然而，这一技术的引入似乎适得其反，引发了大量的保险拒赔争议，尤其是针对重病患者的理赔。
去年年底，联合健康因nH Predict软件的错误率高达90%而被患者告上法庭。尽管目前尚无确凿证据表明人工智能的应用与CEO遇害有直接关联，但社会各界普遍认为，这一技术的引入是此次悲剧事件的导火索之一。科学家曾指出，当前人工智能技术存在“可解释性”低的问题，即机器可以拒绝理赔申请，但无法提供合理的拒绝理由，这在企业应用中需要格外谨慎。
面对技术本身的缺陷，如何有效规避技术风险成为亟待解决的问题。有观点认为，结合人工审核或许是一个可行的方案，但这又似乎削弱了AI应用的意义。回顾过去，在企业引入新的自动化系统时，如ERP系统，通常会保留旧的手工系统并行运行一段时间，以确保新系统的准确性。那么，在当前企业使用AI处理流程时，是否也应该保留非AI的老流程进行对照检查呢？如果发现AI流程出现不合理的偏离，如拒赔率异常偏高，那么AI替代人工判别的效果就值得怀疑，此时不应轻易切换至完全依赖AI的流程。
