据民主前进(Democracy Forward)通过信息自由法(FOIA)请求获得的文件显示,被称为政府效率部(DOGE)的成员在住房和城市发展部(HUD)使用人工智能辅助政策制定。然而,该机构似乎拒绝公开有关人工智能工具开发和使用的相关信息。

去年,WIRED报道,时为芝加哥大学三年级学生的Christopher Sweet加入了HUD的DOGE团队,另一名成员Scott Langmack则来自一家名为Kukun的房地产科技初创公司。根据当时HUD员工的说法,Sweet的主要工作是利用人工智能识别可能废止的机构规则或合同取消,这也是政府范围内类似努力的一部分。

当时,HUD员工表示,工作人员会参与反馈人工智能标记为废止的法规,但也有员工认为这一过程存在重复劳动。

Sweet于去年6月获得芝加哥大学经济学学位;Langmack现任总统行政办公室管理和预算办公室(OMB)负责放松管制人工智能的执行董事。

民主前进请求的100多份关于HUD使用人工智能辅助决策的文件被拒绝公开。HUD引用的拒绝理由包括不存在的“人工智能特权”以及通常仅适用于总统及其直接顾问的总统通讯特权。部分被拒文件的名称显示,DOGE团队确实利用人工智能工具辅助政策制定,但具体内容尚未公开。

Sweet、Langmack、HUD、OMB及白宫均回应了置评请求。

一份名为“GPT defined Econ Analysis approach 11 10 25.docx”的文件归Langmack所有,被标记为“审议性人工智能输入”,因此免于公开。另一份名为“RegulatoryAnalysisPrompt.pdf”的文件显示,DOGE团队正在研究创建用于监管分析的提示。其他被拒文件也涉及HUD不同项目的“监管分析”,但是否使用了人工智能尚不明确。

电子前沿基金会(EFF)律师Tori Noble指出,缺乏透明度令人担忧,因为人工智能工具可能出现幻觉、偏见或错误。她强调,获取提示内容是了解官员如何使用这些工具及其潜在危害的最佳途径。

目前,美国没有法律要求政府披露是否在制定规则、政策或法规时使用了人工智能。

哈佛肯尼迪学院讲师Mark Fagan认为,如果人工智能作为政策评估工具之一,公开使用情况有助于建立公众信任。但他也指出,人工智能在审议过程中使用可能不需要公开,例如在政策修订或优化时通过搜索获取信息,这属于嵌入式流程,通常涉及多次提示,技术上属于审议性质。

由于多数文件被拒,具体人工智能的使用方式难以确定。

政府拒绝信息请求的理由有九种,包括保护个人信息或商业机密。HUD大部分文件以“审议过程特权”拒绝公开,该特权保护联邦工作人员在政策制定前的讨论和反馈,鼓励坦诚交流。

电子隐私信息中心执法副主任John Davisson表示,这种特权旨在保护工作人员在决策前的讨论自由,但人工智能不具备“坦诚”权利,因此与人工智能的互动不应享有此特权。

部分文件因涉及“人工智能提示草稿”和“审议性人工智能输入”被拒公开,如名为“Prompt.pdf”和“PROMPT+AB2(alr)+ab.dox”的文件。

另一份名为“DFR Template_Workflow Prompt Directory (3).pdf”的文件因涉及“监管变更审议”和“总统通讯特权”被拒,Davisson对此表示质疑,担心提示内容的来源不明。

民主前进高级监督律师Dan McGrath表示,政府隐瞒如何使用人工智能制定政策令人担忧。公众有权了解影响自身的政策背后的人工智能作用。将人工智能输入视为审议性和特权内容拒绝公开,严重质疑了现有特权的合理性,后者应保障官员坦诚表达,而非掩盖人工智能对政府的影响。