研究:AI 医疗建议存巨大安全隐患,22% 的回答可
一项新的研究表明,AI 提供的医疗建议可能会对用户造成严重伤害,甚至导致[*][*]。
据了解,研究人员对微软 Copilot 进行了测试,要求它回答美国最常见的 10 个医疗问题和 50 种最常用药物的相关问题,总计生成了 500 个答案。结果显示,Copilot 的回答在准确性和完整性方面都存在问题。其中,研究人员指出,人们不应该依赖 Copilot 或其他 AI 系统来获取准确的医疗信息,最可靠的方式仍然是咨询医务人员。然而,由于种种原因,并非所有人都能够轻松地获得高质量的医疗建议。因此,Copilot 等 AI 系统可能会成为许多人的首选,其潜在的危害不容忽视。