人工智能有可能为医学带来巨大的益处。一篇近期经过同行评审的相关领域综述发现，AI已经能够在医学扫描中以与放射科医生相当的准确度检测肿瘤，在数周内设计出新的抗生素，根据患者的基因组特征制定个性化癌症治疗方案，并在疫情达到高峰之前预测疾病暴发。另一项对《Healthcare》期刊约200项研究的分析也得出了相同结论：如果使用得当，AI能够降低成本并改善治疗效果。
难怪政策制定者和政界人士都在敦促美国食品药品监督管理局（FDA）更多、更快地采用AI。“释放繁荣”（Unleash Prosperity）的一份报告呼吁FDA利用AI进行药品审批和安全监测。美国卫生与公众服务部（HHS）部长小罗伯特·F·肯尼迪（Robert F. Kennedy Jr.）则表示，AI将让FDA能够“非常、非常迅速地”批准药物，并取代大量动物实验。
对前沿技术以及它如何能够大幅改善一个至关重要行业的兴奋是一回事。真正利用它完成这些雄心勃勃的任务，则是另一回事。工具的好坏取决于使用它的人，而政府在如何使用优秀技术这件事上，有着长期“搞砸好技术”的历史。
AI也不例外。去年，HHS发布了其旗舰报告《让美国再次健康》，其中引用了一些根本不存在的研究，同时还附上了几十个失效链接——这正是ChatGPT众所周知的缺陷之一。
ChatGPT是一款令人惊叹的产品，它本身并不是问题所在。HHS和FDA对它的使用方式，却差不多就像那些偷懒、靠作弊完成学期论文的大学生一样。
随后，Elsa登场了。FDA于2025年6月推出了这款AI助手，用于审查临床试验方案并加快药品审批。它很快就开始“胡编乱造”，出现AI幻觉，并歪曲临床试验结果。
公平地说，这已经是一年前的事情了——AI仍有充足的改进空间，政府工作人员也有时间学习如何正确使用这项技术。因此，FDA此后扩大了相关工作力度。
2026年5月，FDA推出了Elsa 4.0，将其与一个名为HALO的新数据平台整合，并宣布再次在整个机构范围内进行大规模推广。然而，新版本增加的是功能，而不是可靠性。审查人员仍称其“笨拙”，并表示它依旧会自信满满地产生AI幻觉，凭空捏造不存在的研究和引用。
但这显然不是AI本身的错。同样的技术在医疗领域的私人机构手中表现完全不同，并正在带来巨大的收益。远程医疗和减重公司利用AI调整药物剂量、识别并发症，并实时指导患者。制药企业则利用AI筛选数百万种化合物，将药物研发周期从数年缩短至数周。
代码是一样的，但结果却不同。差别在于激励机制。
一家私人企业如果旗下的工具捏造数据，就会失去客户、损失收入。因此，它必须进行测试、纠错和改进，否则就会被市场淘汰。但联邦机构没有这样的约束机制。它可以把一个有问题的工具称作“动态力量”，把批评者斥为不满者，然后按照既定时间表推出下一版本。
这正是官僚体系中的AI尤其危险的地方。
一款面向消费者的应用出现幻觉，可能只是惹恼一名用户，最终由产品制造商自己承担后果。但如果FDA在药品审查过程中出现AI幻觉，就可能批准或阻止一种最终被数百万人使用的产品。
由于FDA既不需要面对竞争对手，也不以财务目标为约束，因此很少有外部因素能够促使它发现错误，更不用说纠正错误了。
但工具只有在一个必须为自身错误付出代价的机构中，才会不断得到改进。
FDA不需要为错误付出这样的代价——这也是为什么，向它交付更多人工智能，最终很可能只是换来更多“人工自信”，以及更加严重、影响更大的错误。
（智算芯能前沿网综合）
本文由智算芯能前沿网编辑整理，转载请注明出处。