Retzloff的经历反映了美国最大医院连锁机构HCA Healthcare中其他护士的普遍感受。自2023年以来,HCA在其约190个医疗点中,有130个开始使用与Palantir联合开发的AI排班工具Timpani。Retzloff所在的医院近两年前就已采用该系统。

“没有人喜欢Timpani,”Retzloff说,这与其他五位护士在接受WIRED采访时的反馈一致。“大家一直在抱怨。”在Reddit等平台上,也有HCA员工表达了对该工具的类似不满。

接受采访的护士们指出,Timpani可能因导致护理团队人员不足、结构失衡和疲惫,进而危及患者安全。他们表示,该工具在缺乏足够监督的情况下,常常安排的护士人数不足,尤其是缺少经验丰富的资深护士,尤其在周日表现明显。同时,Timpani经常忽视护士们关于排班间隔、夜班、周末工作及特定休息日的偏好。

因此,护士们不得不花费更多时间去调换班次或申诉排班,这比软件引入前更为频繁。他们还认为,越来越多同事选择请假,无论是带薪还是无薪,尽管频繁请假可能导致被解雇的风险。

34岁的Retzloff是全国护士联合会的工会领导,拥有十年临床经验。她回忆起最近的班次中,四位同事都是新手,只有她一位资深护士。由于经验不足,她不得不推迟对最重症患者的护理,转而指导新手处理较轻的病例。

Retzloff批评说,HCA“让AI来主导一切”,“我们用一个应用程序取代了临床判断和人与人之间的医疗互动。”

此前,排班由管理者手动完成,且通常会提前与护士沟通调整请求。引入Timpani后,护士们反映需要在更短时间内做出调整,且临时调配到不同团队的情况增多。一位来自德州的非工会护士匿名表示:“以前从未出现过这些问题,一切都按时完成。”

HCA发言人Harlow Sumerford表示,最终排班决定权在护理领导手中,而非Timpani。他否认该工具“以牺牲患者护理为代价减少人员配置”的说法,并强调公司正根据护士反馈持续改进Timpani。

据HCA称,Timpani平均只安排护士在他们申请休息的“红色日”工作的比例为1%。密苏里州护士Lee Barker表示,虽然比例看似较低,但在引入Timpani之前,几乎没有护士被安排在红色日工作。

Barker说,管理层引入Timpani不到一年,几乎所有护士都被安排在本应休息的日子工作。她曾因难以调换红色日班次而推迟了长期预约的慢性病医生诊疗。“感觉我们已经很困难了,还被踢了一脚。”

针对Timpani的投诉促使HCA对软件进行了小幅更新,但问题依旧存在。代表约1万名HCA护士的全国护士联合会领导称,公司拒绝提供关于该技术的相关信息。

7月,一名前HCA数据科学经理Angelique Russell起诉公司,称因对Timpani提出质疑而遭解雇。她指控HCA经常删除用于排班的数据,阻碍了对工具效果的审计,且可能违反多项医疗法规。(HCA尚未在法庭正式回应,Russell拒绝置评。)

Timpani基于Palantir Foundry平台开发,该平台用于存储和分析企业运营中的各种数据。该工具以节奏乐器命名,利用算法预测患者数量和人员需求,自动生成护士排班表。2023年推出时,HCA创新主管Michael Schlosser曾表示,Timpani将节省时间和成本,消除排班中的偏袒现象。

Schlosser今年7月在一篇论文中称,Timpani显著减少了管理者每月花费在排班上的时间,降低了对高价合同护士的依赖,并提高了员工留存率。他写道:“效率来自AI生成的更优初始排班”,超过98%的排班“包含了技能和经验的合理组合”。

HCA的负责任AI政策强调保护个人免受“身体”或“情感”伤害,且高管表示在开发Timpani时曾与护士沟通,采取了同理心的态度。公司宣传资料中也有护士称赞该工具易用且节省时间。然而,其他护士感到被忽视和不尊重,这并非医疗行业中唯一对Palantir技术提出质疑的声音。

据WIRED获得的内部文件显示,美国大型影像连锁Rayus Radiology今年早些时候引入了同样基于Palantir Foundry的排班工具后,也收到了排班错误的投诉。该软件旨在根据医生指令自动填写排班,但多次将请求关联到错误的患者档案,列出与指令不符的检查项目,甚至捏造患者个人信息。Rayus的调度员怀疑非标准表格、难辨认的手写字迹及缺乏人工审核是主要原因。

Rayus发言人Kit Crancer表示,这些“笼统的描述”并不公正反映其“流程、保障措施或对安全、准确及时患者护理的承诺”,并强调公司使用技术是为了支持而非取代适当的人类判断和监督。

Palantir未以实名回应,但公司曾表示其软件仅以更有用的方式呈现信息,强调客户对数据、政策和决策负有责任。

Palantir近期销售额几乎翻倍,达到近20亿美元季度收入,因组织寻求其数据分析和任务自动化支持。医疗机构因成本飙升和人员短缺,成为其重要客户。克利夫兰诊所称,Palantir软件通过预测急诊出院情况和替代手动协调,提升了患者容量。

然而,Palantir也因其国防和移民项目以及联合创始人Peter Thiel和Alex Karp的政治立场,遭到民权活动人士反对。在英国,Palantir获得了价值4.4亿美元的国家医疗服务体系合同,旨在缩短预约等待时间,但护士和活动人士因隐私和安全问题要求取消合同。

在HCA,一些护士也希望Palantir退出。尽管研究显示基于AI的排班有潜力,护士们认为Timpani带来了焦虑。“每个人都会立刻查看,每个月都会听到‘为什么排我这个班?’”Barker说。

起初,部分地方管理者可以编辑Timpani排班。现在,护士必须向位于纳什维尔的HCA总部集中团队申诉,后者审查申诉时不与护士直接沟通,也不给解释空间。若申诉被拒,护士们只能尝试换班,但成功率约为50%,Barker和Retzloff称。

Barker是HCA精神科中心的全国护士联合会领导,她称多名同事因Timpani离职,且工具上线首年工作场所受伤率上升。该中心约500名护士的工会已就软件提出申诉,认为HCA未充分尊重排班偏好,案件可能进入仲裁程序。

Timpani刚推出时,HCA的Schlosser承认医疗工作者对新技术接受较慢,“因为他们掌握着生命”。但他设想未来一线护士会积极推动更多工具:“那时会很有趣。”三年过去,一些护士仍难以感到欣喜。