马斯克用AI削减政府开支：效率提升还是安全隐患？

据报道，埃隆马斯克的政府效率部团队正在使用人工智能来指导其削减成本的决策，人工智能专家表示，这种策略可能会导致安全漏洞、有偏见的解雇选择以及高素质、关键的政府工作人员的裁员。

“依靠人工智能系统来做这样的事情太复杂、太困难了，而且它还面临着侵犯公民权利的巨大风险，”曾在 Meta 的 Responsible AI 团队工作的人工智能研究员 David Evan Harris 说道。“我甚至可以说，以我们现有的人工智能系统，用人工智能来做这样的事情根本就是个坏主意。”

马斯克表示，他的目标是迅速削减至少 1 万亿美元的联邦预算赤字。但在此过程中，他与 DOGE 的合作给整个政府带来了不确定性、混乱和挫败感，因为他破坏了整个部门，并向联邦雇员提出了令人困惑的要求。

最近几家媒体援引未透露姓名的消息来源报道称，马斯克的 DOGE 团队目前正在使用人工智能来帮助加速这些削减。

专家表示，这种方法反映了马斯克两年前收购 Twitter时所采用的“先削减，后修复”的思维方式。这导致数千名员工失业，削减开支导致技术故障和诉讼，以及疏远用户并破坏该平台核心广告业务的有争议的政策。但拆除政府机构、系统和服务的后果可能比精简一家科技公司更为广泛和严重。

美国全国在职和退休联邦雇员协会政策和项目副总裁约翰·哈顿告诉 CNN：“私营公司的情况有所不同。如果在联邦政府这样做，可能会有人死亡。”

这些举措也正值马斯克试图将自己和他的初创公司 xAI 打造为人工智能行业的领导者之际。目前尚不清楚该公司的技术是否被 DOGE 使用。

马斯克、DOGE 和美国人事管理办公室的代表均未回应置评请求。

有关人工智能缩小政府规模的报道

两位了解该组织行为的匿名人士向《华盛顿邮报》透露， 2 月初，DOGE 成员将教育部的敏感数据输入通过微软云服务访问的 AI 软件，以分析该机构的项目和支出情况。

据《连线》上个月援引两位熟悉该项目的人士的报道， DOGE 员工还在为美国总务管理局开发一款名为 GSAi 的定制 AI 聊天机器人。其中一位未透露姓名的消息人士表示，该工具可以帮助“分析大量合同和采购数据”。

据NBC 新闻援引知情人士的话报道 ，2 月 23 日，人事管理办公室向联邦工作人员发送了一封电子邮件，要求他们发送五项要点，详细说明他们“上周完成的工作”。此后，人事管理办公室工作人员考虑使用人工智能来分析回复。据报道，人工智能系统将评估回复并确定哪些职位不再需要，但并未具体说明将使用哪种人工智能工具。

马斯克在 X 帖子中表示，不需要使用人工智能来审查回复，电子邮件“基本上只是检查一下员工是否有脉搏”。

虽然这些问题的性质并不新鲜，但使用人工智能来确定大规模政府削减开支的潜在后果可能比其他情况更为严重。

马斯克承认DOGE 可能会犯错，它已经取消了埃博拉预防等关键工作，但他表示会恢复这些工作。目前尚不清楚人工智能是否参与了该决策，或者如何参与其中。

人工智能确实具有提高效率的好处；它可以快速解析和分析大量信息。但专家表示，如果不谨慎使用，它也可能使敏感的政府数据或人们的个人信息面临风险。如果没有适当的保护措施和对谁可以访问系统的限制，在查询中输入到人工智能程序的数据可能会意外地出现在对单独请求的响应中——可能是那些不应该访问这些数据的人。

哈里斯特别担心 DOGE 对人事记录的处理，他将其描述为“任何组织中最敏感的文件类型”之一。

他说：“这群人没有时间接受大量培训来学习如何处理高度敏感的文件，突然间他们不仅可以接触到大量公共机构的人事记录，而且可以利用这些记录快速做出解雇决定，这非常令人担忧。”

伦特里亚表示，政府数据安全松懈的后果可能非常严重。

伦特里亚说：“如果我们整个社会不再认为政府会管理你的数据，那么至少这会开始影响人们报税和获取食品援助。”

但专家表示，最紧迫的问题可能是 DOGE 报告的人工智能使用情况缺乏透明度。他们使用了哪些人工智能工具？他们是如何审查的？是否有人在监督和审计结果？CNN 向 DOGE 提出了这些问题，但尚未收到回复。

纽约大学计算机科学副教授兼负责任人工智能中心主任朱莉娅·斯托亚诺维奇表示，为了使人工智能有效，用户必须明确他们使用该技术的目标，并充分测试人工智能系统是否满足这些需求。

她说：“我真的非常好奇想听听 DOGE 团队如何阐述他们如何衡量绩效、如何衡量结果的正确性。”