救命处方竟是由AI生成?湖南紧急叫停:患者安全谁来保障?

大道微言 2025-02-24 08:49:28

AI大模型开始看病了?还能开处方?

没错,随着AI的普及化程度越来越高,各个领域开始部署AI大模型,就连相对敏感的医疗领域也是不甘落后,开始借助AI大模型进行辅助治疗。

据爆料,在湖南某专科医院,DeepSeek大模型被用于辅助外科无管化临床手术路径制订、病历的生成等医疗场景。该医院还启动了“AI肺结核影像智能辅助诊断系统”,通过凸显病灶、提供异常提示及概率分值信息等方式来提高活动性肺结核的发现率。

在湖南的一些基层医疗机构,如某街道社区卫生服务中心,就引入了AI辅诊系统。尤其是在处方开具环节,如果处方不规范或存在潜在风险,系统会弹出页面提醒。

值得一提的是,从所掌握信息看,目前各大实体医院的AI系统并不直接开处方,仅限于为医生的诊断提供辅助。

网上 流传颇多的AI开药事件,并非实体医疗机构所为,只是网友或者在互联网医院问诊或者患者个人在网上进行AI提问时,AI模型所提供的参考答案。

但此事却被这位网友放大了,称“孩子发烧39度,DeepSeek 56秒开出中药方,和医生开的差不多!”,并发布在网上炫耀。

殊不知,这样的网友拿生命开玩笑,自以为是的通过AI模型进行问诊并自行开药,其实玩的是在进行健康赌B,不出事挺好,出事了的话,后悔药都没得吃。

就在近日,在发生过一起让人细思极恐的事件:湖南一患者在AI模型上问诊,简单输入“畏寒、流涕”症状,AI回答提问,直接开出了含麻黄的中药方子。但AI并不知道患者曾有心脏病史,无法进行综合施策。幸亏药师在审核时发现了问题,紧急叫停,否则引发的风险可能就是致命的……

所以说,AI并不是万能的,尤其是在中医方面,多凭医生的“望闻问切”,这是AI大模型不可能替代的。

如果你去向它提问,它只能凭算法进行“一刀切”的诊断,这样的风险极高,如果你信了它,那你就在不知不觉中成了AI算法漏洞那只小白鼠……

对此风险,湖南省医保局已于23日发布相关通知,严禁使用AI生成处方。这意味着,在湖南AI开处方的行为是受到严格监管的。

那么,为什么湖南紧急叫停AI开处方的行为呢?是不是有点逆潮流而动的感觉?其实,借助AI来开处方,就目前来说,还有着太多的不确定性,为什么?因为我们所依赖的数据,其实藏着致命的缺陷。

这些数据哪里来的?那不就是输入或搜索得到的数据。但我们个人在输入指令时,往往是不全面的,避重就轻,但往往某些关键信息就藏在某些细节中。

对此,笔者曾进行过相关测试,将“胸闷心慌”误述为“感冒”症状,AI直接就开出了常规的退烧药,殊不知,“胸闷心慌”症状的源头,那可多了去了,最常见的,如心脏病就有这种症状,如果只吃退烧药的话,延误了治疗,那可是致命的。

所以,AI处方看似严谨而“科学”,一旦“迷信”了,可能会铸下大错。

中医讲究“望闻问切”,观其颜,察其色,凭的是经验,而AI缺失的正是这些,它无法把脉,无法观察舌苔,仅仅凭借一段文字输入,就给你开出处方,你敢信吗?开出的药,你敢吃吗?

医疗的本质是什么?是“治病+治心”,在看病过程中,医生与病人的沟通互动至关重要。

而AI是冰冷的,没有任何的人文关怀,它只会为人进行冰冷的计算和冰冷的结果。

据报道,某互联网医院用AI批量生成了降压处方,结果导致3名患者因未排查肾病禁忌,使得肾功能出了问题,等于是说,AI处方还吃出了问题。

更有甚者,某平台的AI处方系统竟然有“症状自选套餐”,就像点餐一样,只要勾选选项,几秒钟系统就自动生成处方,全程不用医生。

我就想问一句,如此草率的行为,谁来保障我们患者的用药安全?

好在湖南紧急叫停,向AI处方亮剑,为患者用药安全兜底,值得全国抄作业。

个人觉得,用药安全,人命关天,必须重拳出击,硬核监管:可以对AI的医保电子处方自动拦截,直接通不过;同时,某些互联网医院一旦违规,连带实体机构一并处罚,斩断AI处方的生存空间。

当然,更重要的是,我们患者自己千万不要盲从,不要轻信AI处方,别拿生命去赌算法,别拿生命开玩笑。

AI只能辅助,不能替代,至少目前这样,要广泛应用那也是以后技术完全成熟后的事,目前最终的处方权、决定权得牢牢握在人类手中。

记住了,医疗可以智能化,但绝不能无人性化,毕竟,救命的从来不是算法,而是医者仁心。

0 阅读:28

大道微言

简介:人间正道,大义微言