美国纽约地区法院法官Colleen McMahon周四裁定，政府效率部门（DOGE）使用ChatGPT审查并取消超过1亿美元联邦拨款的行为违宪，此举暴露AI在公共决策中的风险。
DOGE作为特朗普政府下属机构，旨在优化政府支出，其团队利用OpenAI的ChatGPT模型评估拨款必要性，导致多项科研和社区项目资金被砍。McMahon法官在长达143页的判决书中指出，这一过程“愚蠢且非法”，因为AI工具缺乏透明度和问责机制，无法替代人类判断，违反了行政程序法。
该案源于多家非营利组织起诉，称DOGE的AI驱动审查忽略了国会授权和正当程序。判决强调，AI虽高效，但若未经严格监管，可能放大偏见并损害公共利益。此前，DOGE已取消数百项拨款，引发国会民主党人质疑其合法性。
从全球视角看，此案或影响AI在政府中的应用，如欧盟正推动AI法案要求高风险系统接受审查。未来，这一判例可能迫使美国联邦机构改革AI治理框架，推动更可靠的公共AI标准。
