首页 家电百科 实时讯息 常识
您的位置: 首页 > 实时讯息 >

如何抑制“AI大模型幻觉”?方舟健客互联网医疗在做精准诊断实践

0次浏览     发布时间:2025-03-20 12:47:00    

(文/孙梅欣 编辑/张广凯)

当“老龄化”时代不可避免的到来,如何更好地对健康进行管理、提升生活质量,成为社会热议话题。加之人工智能普及,“AI+医疗”在多平台下得以使用,也让市场纷纷聚焦“银发经济”机遇下的互联网医疗新赛道。

尤其是今年DeepSeek宣布开源之后,三甲医院、智慧健康平台等不同层级的医疗关联机构,进行更深入的“AI+”尝试,如AI辅助诊断、AI医生助理、影像AI……

作为国内头部的互联网医疗平台,方舟健客在今年2月也宣布接入DeepSeek开源大模型并完成私有化部署。技术+算力的优化,为“AI+慢病管理”提供了数字驱动,方舟健客通过自主研发“H2H(Hospital To Home从医院到家庭)智慧医疗生态”为“AI+H2H”的升级,希望成为公司的智慧医疗业务的新增长点。

在AI协助下,升级后的“AI+H2H”智慧医疗服务平台对于咨询处理效率得到提升、回复内容更为精准有效,能够为患者端和医生端带来服务效率提升。

同时,随着DeepSeek大量使用后所暴露出的“AI幻觉”问题,方舟健客也通过混合云部署、内部准确知识库的建立,以及人机协同等方式进行抑制,给出了医疗大模型细分领域的创新解决方案。

用人机协同提升服务效率

“在我国,有数据显示,75%的老年人至少有一种慢性病,老年人对慢病服务管理的需求很强烈。但因医患之间信息不对称、医疗资源分布不均衡、慢病患者用药依从性低等情况,慢病患者尤其在复诊续方上还是存在着不少的痛点。”

作为方舟健客的创始人、董事长兼首席执行官,谢方敏希望能够通过公司创新研发的H2H智慧医疗服务平台,将在线复诊、慢病管理、医患教育、药品服务等从医院延伸至家庭。

此外,还能通过一对一服务的方式,有针对性地为慢病患者提供用药指导、健康知识科普等服务,解决患者用药依从性差等实际问题。

谢方敏表示,从多年实践经验来看,80%的医疗咨询存在重复提问,“一直回复同样的问题”也变相占用了医生大量时间。“接入大模型之后,AI医生助理不仅可以更准确识别语言歧义,并且可以按照医生的问诊逻辑进一步追问,再将问题初筛汇总后交由医生集中处理。”

但谢方敏强调,目前H2H智慧医疗平台采取的是人机协同的运作模式:“收集整理的患者问询,都会有专业的执业医生进行答复。若AI医生助理在处理用户问询判断为病情严重,也会第一时间首先建议患者线下就医。”

事实上,各大医疗咨询平台上目前入驻的医生,大部分还是在通过碎片化提供线上问诊回复,但对于患者端而言,就存在较长的等待时间、实时回答率太低的情况。

“接到用户问询时,AI医生助手经过医生准许,会针对患者提出的基础性问题,进行符合专业医学的解答。”谢方敏提到,尤其是老年慢病患者普遍会存在重复、多次提问的情况,这些老年慢病群体希望在就医过程中获得情绪价值的安抚。

“在合理时间内做到‘有问必答’,本身也是情绪价值的提供,叠加上算力提供较为准确的回答,能够让患者有更好的体验感。”他认为,体验感提升不仅能让用户增强对疾病认知、提升问诊信任度有较大的影响,同时也能提高平台用户忠诚度。

抑制“AI幻觉”,要“喂”更准确信息

在DeepSeek的迅速风靡的同时,海量的使用用户随即发现,人工智能会存在编故事一样的“AI幻觉”,并能达到以假乱真的程度。

在技术创新、文学创作方面,“AI幻觉”是可以被容错的领域,但在更为严谨的医疗行业,1%的差错都会带来严重的事故。如何规避可能由于“AI幻觉”所带来失误?业内也亟待一套完善的解决方案。

谢方敏坦言,“AI幻觉”是大型通用模型在应用阶段所遇到的第一大瓶颈,同时当前还存在医药领域的数据安全、个人隐私保护及合规性问题:“因此我们在借助DeepSeek能力的同时,也同步对公司的AI智能体平台也做了四个方面的升级。”

根据方舟健客技术负责人介绍,四方面的升级分别体现在技术、数据、安全管理和数据库等方面。首先,通过升级技术架构,用更大算力资源让模型变得更聪明;其次,升级了AI智能体开发平台,让应用可以更快搭建;再次,升级了安全管理平台,针对安全合规性设置更高要求;最后,升级知识库的体系和内容,尽可能让AI幻觉最小化。

“具体来说,一方面我们通过跟腾讯云合作,用私有化的弹性提供更高算力资源,跑V3和R1的一些微调模型。另外考虑到数据放在云端可能存在风险,我们把所有数据部署在本地,并有专门的安全管理平台做管理。”该负责人表示,方舟健客采用混合云部署架构,可以很好地平衡算力资源和安全性的问题。

据悉,方舟健客不仅对接了DeepSeek,也对接了千问、Kimi、混元、miniMax等等通用模型,他补充说:“在这样的部署实践下,一方面能为AI智能体平台算力赋能,另一方面针对专业性强的问答还会进行任务细分,还可以交予不同的专家模型回复,以抑制AI幻觉的产生。”

方舟健客技术负责人认为,AI幻觉产生的主要因素,一是由于内容缺失,二是因为训练内容之间相互存在歧义,所以抑制AI幻觉最好的方式,就是给模型提供准确的知识:“因此我们在内部构建了包括药品说明书、医学指南等专业信息在内的准确知识库,并且我们还会通过大模型对知识库再进行反复检查,让内容更加准确,避免输出内容时出现不可预测的情况。”

张学文:用医者匠心托举生命之重

40年从医路,吉林大学第二医院外科教研室主任、主任医师张学文用仁心与匠心诠释了外科医生的使命。从文学启蒙到技术突破,从临床一线到三尺讲台,每一步都写满对生命的敬畏。健康报:当初是什么契机让您决定投身外科领域?在学生时代,有哪些经历对您的职业选择产生了关键影响?张学文:选择外科,源于学生时代两部文学作

2025-05-06 10:34:00

一条产妇信息售价50元,记者调查医疗信息泄露问题

近日,山东孕妇刘丽(化名)突然收到一条加“好友”申请:“××月子中心,为您提供专业产后服务。”她心头一紧——几天前,她刚在当地一家医院和妇幼保健院做完产检,并且此前从未在任何机构留下孕产信息。“电话、住址、怀孕周数,各种隐私信息对方了如指掌。”刘丽立即拨打12345投诉。次日,医院客服联系她:“可能

2025-05-06 08:03:00

女生拿电筒照手,被发现不对劲!这些危险信号要当心

【来源:现代快报】你相信吗?一个随手拍的手电筒光影照,竟能成为健康问题的线索!近日,#女生晒手电照手图被提醒疑似血管瘤#相关话题冲上热搜!事件回顾今年4月,重庆一位女生在社交平台晒出自己用手电筒照手上血管的照片,并配文“光穿过了我的手,发现了我另一个小心脏”。没想到照片发布后,有眼尖的网友提醒她这可

2025-05-04 20:37:00

智慧大脑来了!宝安区教育局宣布启动“宝教通”平台

南都讯 记者何思敏 日前,宝安区教育局举行宝安教育数字化转型“1+3”体系成果发布活动。现场,宝安区教育数字化转型“宝教通”平台正式启动,将全力构建深度赋能的智慧教育新生态。近年来,改革创新成为宝安教育弯道超车、高质量发展的奋斗共识和重要抓手,拥抱教育数字化的时代浪潮,宝安区将2024年确定为“宝安

2025-05-04 20:18:00

微博辟谣“董某爷爷外公”等信息,严厉打击蹭热点、编故事博流量等行为

5月1日,@微博管理员 发布消息:近日,肖某、董某相关事件引发热议,国家卫生健康委也已成立调查组开展调查工作。但站方发现,广大网友纷纷表达多元见解和真实观点的同时,在各互联网平台已衍生出各类无端揣测、恶意关联、利用AI编造故事甚至攻击无关人士的内容,对此类通过蹭炒热点、编造故事博取流量以及无故毁人声

2025-05-02 10:40:00

盛帆集团健康服务站揭牌投用 打造员工健康管理新标杆

【来源:长江网】长江网讯 4月29日,盛帆集团在盛帆工业园隆重举行健康服务站剪彩仪式。知名医院医疗专家、江夏区有关单位领导、集团领导及员工代表共同出席,见证这一关爱员工健康的重要举措。健康优先 构建全方位保障体系作为始终将员工健康放在首位的企业,盛帆集团自2023年11月起筹划建设健康服务站,旨在完

2025-04-30 21:17:00

重磅发布!刚刚,全线大涨!

周乐一则消息突然引爆。今日,小米系集体爆发,小米集团一度大涨超5%,金山云一度大涨超18%。消息面上,小米大模型微信公众号称,小米开源首个为推理(Reasoning)而生的大模型“Xiaomi MiMo”,联动预训练到后训练,全面提升推理能力。当前,AI大模型竞争再度进入白热化。4月29日,阿里巴巴

2025-04-30 14:55:00

“美国不要就给其他客户”,央视新闻助外贸企业拓销路

美国挥舞关税大棒,来势汹汹。面对严峻挑战,商务部等部门迅速采取措施,大力推动内外贸一体化;京东、阿里、拼多多、永辉等积极发布支持外贸的举措,一场拓销路、稳外贸、强信心的战役在电商平台、零售巨头的助攻下打响。中央广播电视总台央视新闻第一时间发布电商平台、零售巨头的扶持措施,成为连接供需的“信息枢纽”。

2025-04-30 12:47:00

瞄准先进制造业,成都简州新城发布20项科技创新应用场景

【来源:四川在线_滚动新闻】四川在线记者 肖莹佩 成都观察 王翱4月29日,在蓉举行的“产业兴东·智创未来”成都东部新区科技成果应用场景发布会——简州先进制造业专场活动上,《简州新城先进制造业科技成果应用场景清单》(下称:《清单》)发布,涵盖企业智能化改造、公共平台建设、园区智慧服务三大领域共20项

2025-04-30 05:09:00

碾压DeepSeek!阿里Qwen3到底成色几何?

今天(4 月 29 日)凌晨,阿里巴巴推出了 4 月压轴的一款大语言模型——Qwen3 系列。而在这个月,Meta、字节跳动、OpenAI、Google、百度都在稍早前推出了新的大模型,OpenAI 甚至一次性拿出三款大模型,百度也在这周举行的 Create 2025 百度 AI 开发者大会上发布了

2025-04-29 21:19:00