首页 家电百科 实时讯息 常识
您的位置: 首页 > 实时讯息 >

如何抑制“AI大模型幻觉”?方舟健客互联网医疗在做精准诊断实践

0次浏览     发布时间:2025-03-20 12:47:00    

(文/孙梅欣 编辑/张广凯)

当“老龄化”时代不可避免的到来,如何更好地对健康进行管理、提升生活质量,成为社会热议话题。加之人工智能普及,“AI+医疗”在多平台下得以使用,也让市场纷纷聚焦“银发经济”机遇下的互联网医疗新赛道。

尤其是今年DeepSeek宣布开源之后,三甲医院、智慧健康平台等不同层级的医疗关联机构,进行更深入的“AI+”尝试,如AI辅助诊断、AI医生助理、影像AI……

作为国内头部的互联网医疗平台,方舟健客在今年2月也宣布接入DeepSeek开源大模型并完成私有化部署。技术+算力的优化,为“AI+慢病管理”提供了数字驱动,方舟健客通过自主研发“H2H(Hospital To Home从医院到家庭)智慧医疗生态”为“AI+H2H”的升级,希望成为公司的智慧医疗业务的新增长点。

在AI协助下,升级后的“AI+H2H”智慧医疗服务平台对于咨询处理效率得到提升、回复内容更为精准有效,能够为患者端和医生端带来服务效率提升。

同时,随着DeepSeek大量使用后所暴露出的“AI幻觉”问题,方舟健客也通过混合云部署、内部准确知识库的建立,以及人机协同等方式进行抑制,给出了医疗大模型细分领域的创新解决方案。

用人机协同提升服务效率

“在我国,有数据显示,75%的老年人至少有一种慢性病,老年人对慢病服务管理的需求很强烈。但因医患之间信息不对称、医疗资源分布不均衡、慢病患者用药依从性低等情况,慢病患者尤其在复诊续方上还是存在着不少的痛点。”

作为方舟健客的创始人、董事长兼首席执行官,谢方敏希望能够通过公司创新研发的H2H智慧医疗服务平台,将在线复诊、慢病管理、医患教育、药品服务等从医院延伸至家庭。

此外,还能通过一对一服务的方式,有针对性地为慢病患者提供用药指导、健康知识科普等服务,解决患者用药依从性差等实际问题。

谢方敏表示,从多年实践经验来看,80%的医疗咨询存在重复提问,“一直回复同样的问题”也变相占用了医生大量时间。“接入大模型之后,AI医生助理不仅可以更准确识别语言歧义,并且可以按照医生的问诊逻辑进一步追问,再将问题初筛汇总后交由医生集中处理。”

但谢方敏强调,目前H2H智慧医疗平台采取的是人机协同的运作模式:“收集整理的患者问询,都会有专业的执业医生进行答复。若AI医生助理在处理用户问询判断为病情严重,也会第一时间首先建议患者线下就医。”

事实上,各大医疗咨询平台上目前入驻的医生,大部分还是在通过碎片化提供线上问诊回复,但对于患者端而言,就存在较长的等待时间、实时回答率太低的情况。

“接到用户问询时,AI医生助手经过医生准许,会针对患者提出的基础性问题,进行符合专业医学的解答。”谢方敏提到,尤其是老年慢病患者普遍会存在重复、多次提问的情况,这些老年慢病群体希望在就医过程中获得情绪价值的安抚。

“在合理时间内做到‘有问必答’,本身也是情绪价值的提供,叠加上算力提供较为准确的回答,能够让患者有更好的体验感。”他认为,体验感提升不仅能让用户增强对疾病认知、提升问诊信任度有较大的影响,同时也能提高平台用户忠诚度。

抑制“AI幻觉”,要“喂”更准确信息

在DeepSeek的迅速风靡的同时,海量的使用用户随即发现,人工智能会存在编故事一样的“AI幻觉”,并能达到以假乱真的程度。

在技术创新、文学创作方面,“AI幻觉”是可以被容错的领域,但在更为严谨的医疗行业,1%的差错都会带来严重的事故。如何规避可能由于“AI幻觉”所带来失误?业内也亟待一套完善的解决方案。

谢方敏坦言,“AI幻觉”是大型通用模型在应用阶段所遇到的第一大瓶颈,同时当前还存在医药领域的数据安全、个人隐私保护及合规性问题:“因此我们在借助DeepSeek能力的同时,也同步对公司的AI智能体平台也做了四个方面的升级。”

根据方舟健客技术负责人介绍,四方面的升级分别体现在技术、数据、安全管理和数据库等方面。首先,通过升级技术架构,用更大算力资源让模型变得更聪明;其次,升级了AI智能体开发平台,让应用可以更快搭建;再次,升级了安全管理平台,针对安全合规性设置更高要求;最后,升级知识库的体系和内容,尽可能让AI幻觉最小化。

“具体来说,一方面我们通过跟腾讯云合作,用私有化的弹性提供更高算力资源,跑V3和R1的一些微调模型。另外考虑到数据放在云端可能存在风险,我们把所有数据部署在本地,并有专门的安全管理平台做管理。”该负责人表示,方舟健客采用混合云部署架构,可以很好地平衡算力资源和安全性的问题。

据悉,方舟健客不仅对接了DeepSeek,也对接了千问、Kimi、混元、miniMax等等通用模型,他补充说:“在这样的部署实践下,一方面能为AI智能体平台算力赋能,另一方面针对专业性强的问答还会进行任务细分,还可以交予不同的专家模型回复,以抑制AI幻觉的产生。”

方舟健客技术负责人认为,AI幻觉产生的主要因素,一是由于内容缺失,二是因为训练内容之间相互存在歧义,所以抑制AI幻觉最好的方式,就是给模型提供准确的知识:“因此我们在内部构建了包括药品说明书、医学指南等专业信息在内的准确知识库,并且我们还会通过大模型对知识库再进行反复检查,让内容更加准确,避免输出内容时出现不可预测的情况。”

呼和浩特首个电子处方流转平台落户赛罕区医院

6月18日,记者从呼和浩特市赛罕区人民政府了解到,赛罕区医院互联网医院电子处方流转平台正式投入运行。  在赛罕区医院一楼互联网医院审方中心的大屏幕上,实时显示着电子处方的流转情况,从开具、审核,到药店接收,整个过程透明、高效且可追溯。“患者到药店购药时,只需将复诊信息上传至信息平台,我们的专业医师

2025-06-20 10:41:00

痛心!山东医生张军桥不幸牺牲,年仅38岁

记者从权威渠道获悉,6月15日,中国援助坦桑尼亚医疗队队长、麻醉科专家张军桥医生在达累斯萨拉姆Kigamboni海域英勇施救一名落水民众时,不幸溺水牺牲,年仅38岁。张医生在现场发现一位坦桑尼亚女性落水后,毫不犹豫跃入海中施救,并将自己的救生衣让给落水者,成功将其托举上岸,但自己却因体力不支被水流卷

2025-06-20 10:14:00

【央媒看沈阳】新华社:沈阳上线“一站式”服务平台助力智慧养老

通过养老地图可查看养老机构分布;通过助餐服务功能可便捷查找、筛选并预订周边老年食堂的餐饮服务;通过居家服务功能可预约居家养老服务……记者6月18日从沈阳市民政局获悉,“盛情康养”沈阳基本养老服务综合平台于当日正式上线,平台将以“互联网+”深度赋能品质养老,全面构建“一站式”智慧养老解决方案。“盛情康

2025-06-19 08:55:00

四川天府银行接入资金流平台,为征信白户企业融资注入新动能

在中国人民银行四川省分行的有力推动下,四川天府银行率先完成中国人民银行全国中小微企业资金流信用信息共享平台接入,成为四川省首家完成接入的地方性法人金融机构,为金融服务中小微企业带来新突破。资金流信息平台由中国人民银行主导建设,有效解决中小微企业信用信息不足的困境。四川天府银行高度重视,成立项目专班,

2025-06-17 19:48:00

成都推出“房产超市”平台 首批近30家房企入驻

观点网讯:6月16日,成都市住房和城乡建设局推出的“成都住建房产超市”正式投入运营,标志着成都住房消费市场迎来一个全新的开放平台。该平台集政策发布、项目信息展示、房产促消费活动推介于一体,首批近30家房地产开发企业携旗下在售项目入驻,为购房者提供一站式服务。“成都住建房产超市”的上线,不仅整合了房地

2025-06-17 00:01:00

零点有数金融案例分享:破局百万级客群经验

在互联网理财平台用户规模突破百万量级的背后,如何精准识别海量用户的差异化需求,实现从“流量”到“留量”的转化,成为平台持续增长的核心命题。 某领先互联网理财平台(下称A平台)正是面临这一挑战,委托零点有数金融团队开展了一项针对100万以下AUM(资产管理规模)用户的财富管理研究项目。核心目标是通过调

2025-06-16 11:34:00

豆包大模型1.6发布!更强模型、更高性价比

今天,在 FORCE 原动力大会上,火山引擎正式发布豆包大模型1.6、豆包·视频生成模型 Seedance 1.0 pro、豆包·语音播客模型,豆包·实时语音模型在火山引擎全量上线,豆包大模型家族已成为拥有全模态、全尺寸、高性价比的领先模型。截至2025年5月底,豆包大模型日均 tokens 使用量

2025-06-13 00:04:00

市场监管总局发布“618”网络集中促销合规提示

本报讯 (记者彭 燮 实习记者蒋函玉)近日,市场监管总局向综合电商、直播电商、跨境电商等平台企业发布“618”网络集中促销合规提示。主要包括以下内容:在落实平台主体责任方面,要切实落实审查核验义务,确保经营者主体信息真实有效。严格落实信息公示义务,加强算法合规管理,提升线上经营行为透明度和公平性。在

2025-06-11 11:19:00

丰泽区政府主要领导调研泉州数字经济产业园

6月9日,丰泽区区长林清伏带队到泉州数字经济产业园调研产业园区建设发展工作。副区长丁增辉参加。位于工业互联网产业园的国际儿童时尚产业园项目建设已进入冲刺阶段。林清伏先后察看了全场景数字研产运营中心、共享直播中心、自动化剪裁房、小单快反生产车间等功能区,详细了解项目建设进展和运营理念,并协调解决相关困

2025-06-10 17:35:00

新闻发布丨依托龙江特色品牌,联合头部电商平台,助力开拓国内外市场

黑龙江物产丰富、佳品众多,商务部门采取了哪些扩大销路的举措,让更多人通过网络购买到龙江好物呢?10日,在省政府新闻办举行的新闻发布会上,省商务厅党组成员、副厅长路相遇回答了记者提问。路相遇说,为推动龙江优质地产品走出黑龙江、畅销海内外,今年,省商务厅依托“黑土优品”“九珍十八品”“龙江老字号”等品牌

2025-06-10 16:06:00