首页 文章管理 家电百科 实时讯息 常识
您的位置: 首页 > 实时讯息 >

如何抑制“AI大模型幻觉”?方舟健客互联网医疗在做精准诊断实践

0次浏览     发布时间:2025-03-20 12:47:00    

(文/孙梅欣 编辑/张广凯)

当“老龄化”时代不可避免的到来,如何更好地对健康进行管理、提升生活质量,成为社会热议话题。加之人工智能普及,“AI+医疗”在多平台下得以使用,也让市场纷纷聚焦“银发经济”机遇下的互联网医疗新赛道。

尤其是今年DeepSeek宣布开源之后,三甲医院、智慧健康平台等不同层级的医疗关联机构,进行更深入的“AI+”尝试,如AI辅助诊断、AI医生助理、影像AI……

作为国内头部的互联网医疗平台,方舟健客在今年2月也宣布接入DeepSeek开源大模型并完成私有化部署。技术+算力的优化,为“AI+慢病管理”提供了数字驱动,方舟健客通过自主研发“H2H(Hospital To Home从医院到家庭)智慧医疗生态”为“AI+H2H”的升级,希望成为公司的智慧医疗业务的新增长点。

在AI协助下,升级后的“AI+H2H”智慧医疗服务平台对于咨询处理效率得到提升、回复内容更为精准有效,能够为患者端和医生端带来服务效率提升。

同时,随着DeepSeek大量使用后所暴露出的“AI幻觉”问题,方舟健客也通过混合云部署、内部准确知识库的建立,以及人机协同等方式进行抑制,给出了医疗大模型细分领域的创新解决方案。

用人机协同提升服务效率

“在我国,有数据显示,75%的老年人至少有一种慢性病,老年人对慢病服务管理的需求很强烈。但因医患之间信息不对称、医疗资源分布不均衡、慢病患者用药依从性低等情况,慢病患者尤其在复诊续方上还是存在着不少的痛点。”

作为方舟健客的创始人、董事长兼首席执行官,谢方敏希望能够通过公司创新研发的H2H智慧医疗服务平台,将在线复诊、慢病管理、医患教育、药品服务等从医院延伸至家庭。

此外,还能通过一对一服务的方式,有针对性地为慢病患者提供用药指导、健康知识科普等服务,解决患者用药依从性差等实际问题。

谢方敏表示,从多年实践经验来看,80%的医疗咨询存在重复提问,“一直回复同样的问题”也变相占用了医生大量时间。“接入大模型之后,AI医生助理不仅可以更准确识别语言歧义,并且可以按照医生的问诊逻辑进一步追问,再将问题初筛汇总后交由医生集中处理。”

但谢方敏强调,目前H2H智慧医疗平台采取的是人机协同的运作模式:“收集整理的患者问询,都会有专业的执业医生进行答复。若AI医生助理在处理用户问询判断为病情严重,也会第一时间首先建议患者线下就医。”

事实上,各大医疗咨询平台上目前入驻的医生,大部分还是在通过碎片化提供线上问诊回复,但对于患者端而言,就存在较长的等待时间、实时回答率太低的情况。

“接到用户问询时,AI医生助手经过医生准许,会针对患者提出的基础性问题,进行符合专业医学的解答。”谢方敏提到,尤其是老年慢病患者普遍会存在重复、多次提问的情况,这些老年慢病群体希望在就医过程中获得情绪价值的安抚。

“在合理时间内做到‘有问必答’,本身也是情绪价值的提供,叠加上算力提供较为准确的回答,能够让患者有更好的体验感。”他认为,体验感提升不仅能让用户增强对疾病认知、提升问诊信任度有较大的影响,同时也能提高平台用户忠诚度。

抑制“AI幻觉”,要“喂”更准确信息

在DeepSeek的迅速风靡的同时,海量的使用用户随即发现,人工智能会存在编故事一样的“AI幻觉”,并能达到以假乱真的程度。

在技术创新、文学创作方面,“AI幻觉”是可以被容错的领域,但在更为严谨的医疗行业,1%的差错都会带来严重的事故。如何规避可能由于“AI幻觉”所带来失误?业内也亟待一套完善的解决方案。

谢方敏坦言,“AI幻觉”是大型通用模型在应用阶段所遇到的第一大瓶颈,同时当前还存在医药领域的数据安全、个人隐私保护及合规性问题:“因此我们在借助DeepSeek能力的同时,也同步对公司的AI智能体平台也做了四个方面的升级。”

根据方舟健客技术负责人介绍,四方面的升级分别体现在技术、数据、安全管理和数据库等方面。首先,通过升级技术架构,用更大算力资源让模型变得更聪明;其次,升级了AI智能体开发平台,让应用可以更快搭建;再次,升级了安全管理平台,针对安全合规性设置更高要求;最后,升级知识库的体系和内容,尽可能让AI幻觉最小化。

“具体来说,一方面我们通过跟腾讯云合作,用私有化的弹性提供更高算力资源,跑V3和R1的一些微调模型。另外考虑到数据放在云端可能存在风险,我们把所有数据部署在本地,并有专门的安全管理平台做管理。”该负责人表示,方舟健客采用混合云部署架构,可以很好地平衡算力资源和安全性的问题。

据悉,方舟健客不仅对接了DeepSeek,也对接了千问、Kimi、混元、miniMax等等通用模型,他补充说:“在这样的部署实践下,一方面能为AI智能体平台算力赋能,另一方面针对专业性强的问答还会进行任务细分,还可以交予不同的专家模型回复,以抑制AI幻觉的产生。”

方舟健客技术负责人认为,AI幻觉产生的主要因素,一是由于内容缺失,二是因为训练内容之间相互存在歧义,所以抑制AI幻觉最好的方式,就是给模型提供准确的知识:“因此我们在内部构建了包括药品说明书、医学指南等专业信息在内的准确知识库,并且我们还会通过大模型对知识库再进行反复检查,让内容更加准确,避免输出内容时出现不可预测的情况。”

阿里前高管创业:曾获雷军2693万美元投资,海拍客为何带着20亿负债冲港股?

出品 | 子弹财经 左星月出身阿里系的赵晨,开始带着自己的公司冲刺资本市场了。近日,专注于家庭护理及营养产品领域的交易服务平台Yangtuo Technology Inc.(以下简称“海拍客”)在港交所递交了招股说明书,申报在港股上市。这家公司曾获得雷军旗下顺为资本的5轮注资,总额达2693万美元。

2025-07-28 12:16:00

基孔肯雅热患者怎么吃?营养科专家开出食谱

7月26日至8月1日,广州启动全市防蚊灭蚊攻坚行动周,推动全民参与清积水、除蚊害。基孔肯雅热是一种急性传染病,通过伊蚊(俗称花斑蚊)叮咬传播。多数患者症状较轻,病程1—2周后可自行恢复。“基孔肯雅热是自限性疾病,而科学饮食和良好的免疫力是防御和康复的基石。”广东省人民医院临床营养科主任医师马文君介绍

2025-07-27 08:37:00

市场监管总局支持引导电商平台开展信用修复服务

记者7月23日从市场监管总局获悉,市场监管总局向部分电商平台试点开放信用修复数据查询比对,截至目前已累计提供数据比对45.01亿条次,排查平台商家近1000万户,协助发现平台内列入经营异常商家名录167万户。据介绍,市场监管总局支持引导电商平台采取多种形式为平台内商家提供信用修复服务,推动平台商家提

2025-07-24 09:25:00

邵阳市第二人民医院脑四科精准施救 大面积脑梗死患者转危为安

红网时刻新闻7月16日讯(通讯员 唐雯 彭颖异)近日,邵阳市第二人民医院脑四科医护团队凭借介入微创手术,成功救治一名大面积脑梗死患者。目前,患者朱先生各项机能恢复良好,已好转出院。56 岁的朱先生于 6 月 20 日晚 9 时许突发右侧肢体活动障碍,被家人送至该院脑四科。入院时,患者意识不清、答非所

2025-07-17 10:19:00

工信部部署“人工智能+制造”行动 推动AI智能体深度赋能产业核心环节

央广网北京7月13日消息(记者奕延)据中央广播电视总台经济之声《环球新财讯》报道 当前,AI智能体(AI Agent)成为人工智能领域的热词,国内外科技巨头、初创企业纷纷加快布局。国际知名信息技术研究和咨询公司Gartner将AI智能体列为2025年十大战略性技术趋势之一。“AI智能体”是什么?那么

2025-07-13 13:42:00

行进中国|“AI+”箱包 出海加速度

天尚行有限公司箱包展示大厅。人民网记者 祝龙超摄“这个爆款是AI设计的,只需在软件界面输入面料、颜色、图案、款式、功能等多样化需求关键词,便能在极短时间内生成多种风格迥异的箱包效果图。”天尚行箱包皮具有限公司销售总监周鑫指着一款双肩包介绍,以前设计师手绘设计一款箱包需要3至7天,现在运用AI技术很快

2025-07-13 10:34:00

济南一7岁女孩给主播打赏超万元,家长想追回钱款又遭“客服”诈骗,两次转账共计1700元

“警察同志,我女儿给主播打赏,我想把钱要回来,结果,结果……”“您别急,慢慢说,需要我们做什么吗?”“我不光钱没要回来,还又被骗了,你们快帮帮我吧。”市民王女士(化名)是济南市公安局市中分局白马山派出所辖区的居民,今年5月,她7岁的女儿玩手机时,给某平台主播打赏,等王女士发现的时候,孩子已转出去了1

2025-07-12 08:37:00

外卖“疯狂星期六”加赛,谁家外卖能免费吃?

文 | 新识研究所这个星期六,大家预测又是要被外卖三大家投喂的一天。1分钱的奶茶,1.88元的炒饭,4块钱的面包硬是往消费者的嘴里塞。从上周六7月5日开始,美团和淘宝两个平台就像是提前约定好的一样,不约而同地开始“大撒币”。饿了么满25-24元,美团满48-28元、满30-20元是一个接一个送,随便

2025-07-12 08:16:00

跨越国界的生命守护者——南阳市第25批援赞比亚中国医疗队的国际友谊

他们,离别亲人,漂洋过海,在异国他乡治病救人,为当地群众提供优质医疗服务的同时,还通过“传帮带”为当地培养医务骨干。他们既是救死扶伤的白衣天使,也是传递友谊的使者……昨日,记者走近这群圆满完成任务归来的白衣天使——南阳承派的第25批援赞比亚中国医疗队队员,探寻他们的援外历程,倾听他们的援外故事。现场

2025-07-11 08:19:00

北大医院太原医院张丽:内镜下的生命守护者

当记者在北大医院太原医院(原太原市中心医院)见到张丽时,她刚完成一例高危患者的内镜检查,这位消化内科主任因处理消化道出血等危急重症内镜技术精湛,被同事誉为“血管焊工”。今年,山西省启动“为2万名高危人群进行上消化道健康筛查”的民生项目,北大医院太原医院是我市的筛查承担单位之一。张丽作为牵头人,迅速成

2025-07-06 18:08:00