随着AI工具的日益普及，“遇事问AI”正逐渐成为一种大众新常态，有医生在社交平台发帖称，患者当面打开AI软件询问医生诊疗手段是否“靠谱”。记者采访的多位医生指出，越来越多患者也会带着AI给的“答案”就诊，甚至以此怀疑医生的诊疗建议。
2025年初，就有媒体在报道中提到，有人根据某AI工具的回答吃药，住进了ICU。在AI时代，如何精准平衡技术的便利性与医疗的安全性，已成为大众类AI产品和广大使用者必须面对的关键命题。
实测：九款AI应用，仅3款未直接推荐用药
一位上海的AI领域技术人员向澎湃新闻记者表示，医疗领域的AI需要经过卫健委等有关部门的备案，目前监管较为严格，相关专业工具比较少。像平时大家常用的通用大模型AI工具，因为存在一定的“幻觉”，加上医疗合规要求更严格，有平台选择不予回答，有些通过添加“仅供参考，请及时就医”之类的提示来规避风险。
近期，澎湃新闻记者在同一台手机上向豆包、Deepseek、夸克、千问、文心、元宝、蚂蚁阿福、Kimi、智谱清言等9款AI工具，用同一个话术“咨询”了颈椎、肩膀疼痛的用药问题。
从结果来看，夸克的“搜索”模式、Kimi和智谱清言三款工具比较谨慎。夸克的“搜索”模式给出的结果明确“不建议自行用药”；Kimi强调“无法推荐具体的药物”，因为用药需要考虑很多因素，错误用药可能带来风险，建议尽快就医，让医生评估后开药；智谱清言给出了可考虑使用的药物，但提示在医生或药师指导下选择。同时强调“务必优先就医明确诊断”。
其他6款AI工具在回答中都给出了具体的用药建议，还涉及塞来昔布、盐酸乙哌立松片等处方药。
部分AI工具对肩颈疼痛用药咨询的回答截图
在医疗风险提示方面，多款工具的回答在正文给出了“如果无缓解，请及时就医”或“建议去医院排查”之类的提示；豆包还在回答结束用小字提示用户“若涉及医疗等人身安全问题，请咨询医生后再进行处理”；Deepseek在回答末尾例行用灰色小字提示“回答由AI生成，内容仅供参考，请仔细甄别”；蚂蚁阿福在回答末尾例行提醒“内容由AI生成”。
在千问APP提问，相关回答推荐了药物，并列出了需要立即就医的情况，但在夸克APP中使用千问，其给出的回答则是需要补充其他信息才能给出针对性建议。
“AI看病开药”，利好与风险并存
“自己或家里人生病了，其实也会很自然想到问问AI。”上述技术人员认为，应该看到AI在弥补“医患信息差”方面发挥的作用。国内医生通常非常忙碌，单个患者就诊时间可能只有几分钟，往往来不及详细解释病因及日常注意事项，而患者可以通过多轮对话让AI解释医生的诊疗逻辑、前因后果以及后续的建议。大部分常见病AI的回答与医生具有较高的一致性，能很好地弥补医患之间的信息差。
不过，该技术人员也指出，像豆包、Deepseek等通用大模型都存在AI的“幻觉”，或多或少。此外，AI也存在“讨好型倾向”，会客观判断用户的倾向性。如果用户在提问时带有强烈的预设立场或主观倾向，AI可能会顺着用户的思路去“附和”或“讨好”用户，从而失去全面客观性。如果难免使用通用大模型提问医疗问题，最好客观描述现象和症状，让AI根据现象提供解决方案，千万不要把自己的倾向性带入问题中。
在上海市第十人民医院肥胖症诊治中心主任、曜影医疗内分泌代谢及甲状腺中心主任曲伸看来，相比过去用搜索引擎查资料，现在的AI工具虽然让患者接触到了海量信息，但也带来了更多混乱。他坦言，现在确实会遇到患者拿着AI查出的“标准答案”来质疑医生的专业建议，医生不得不花费大量额外的时间去解释或纠偏。
“AI对医学知识的普及及一般的医学常识都带了极大的帮助，像标准化的东西，如糖尿病、肥胖的诊断标准，血压、血脂等的解读。”曲伸表示，AI的局限性在于通常是提供一套普适性的方案，落实到每一个具体的患者身上，这种方案往往是不精准的，甚至存在误导和安全隐患。更让人担忧的是，AI终究只是机器，它无法像真正的医生那样给予患者情感上的互动与慰藉，而这种心与心的交流，往往是治愈疾病的重要一环。
一千公里以外的河北省邯郸市大名县，长期在村卫生室工作的乡村医生翟大龙对AI的影响也颇有感触。他向记者表示，其所在的卫生室会时不时接诊到一些患者，说是被豆包、DeepSeek等AI工具推荐到这里。他很欢迎患者通过各种渠道了解并选择自己工作的医疗机构，但也有一些担忧：患者的个体差异极大，即使是两人患有相同的疾病，医生所采用的治疗方案和用药也可能截然不同，但AI 往往会给出千篇一律的方案。
翟大龙认为：“AI只能起到辅助作用，帮助大家了解可能的就诊方向。请大家理性看待AI的建议，结合自身情况加以甄别，切勿盲目依赖，这样才能更好地为自己的健康负责。”
出了事，个人和平台责任如何定？
在大众使用普通AI工具来问健康问题的讨论中，大众关注的一个关键问题是，如果真的出了问题，责任该到底怎么判定。
在上述技术人员看来，如果因听信AI建议而导致医疗不良后果的事件中，用户和平台可能都需要承担一定责任。对于大众，有关方面应该开展“AI通识教育”，也就是让大众了解AI的局限性，让用户清晰认知“AI说的不一定都对”。在涉及人命关天和自身健康的专业事情上，尤其需要保持谨慎。面对AI的建议，患者最好还是找专业医生进行最终确认。
医法汇创始人张勇律师向澎湃新闻记者表示，从现行法律框架看，AI平台作为网络信息内容生产者，对其生成内容并非“只生成、不负责”，尤其当输出内容涉及医疗健康等关系人身安全的领域时，平台负有更高程度的注意义务和审核责任。责任认定的关键在于平台是否尽到了审核义务、是否存在主观过错，尤其是是否构成“重大过失”。如果平台给出的内容突破基本安全常识，即便附有“仅供参考”等免责提示，相关免责条款也未必会被法院支持。
“如果AI给出错误医疗建议造成用户伤害，平台也需要承担法律责任。”北京中医药大学卫生健康法学教授邓勇在接受澎湃新闻记者采访时指出，我国法律不承认AI独立民事主体资格，其行为后果由生成式 AI 服务提供者承担。责任认定适用一般过错责任原则，用户需证明平台存在过错、自身有实际损害且二者存在因果关系。平台的核心法定义务包括：明确提示 AI 内容不能替代专业诊疗的告知义务、保障生成内容真实准确的质量义务，以及针对医疗等高风险内容的特殊防控义务。若平台未尽上述义务，需承担相应侵权责任。
对于个人的责任，张勇认为，对于医疗健康类问题，作为完全民事行为能力人的用户，同样负有自我判别的义务。如果用户盲目信任AI建议、自身未尽到合理注意义务，法院在审理时也会综合考量双方过错程度，据此划分责任。
围绕AI在医疗卫生领域的应用，国家已经有不少文件，如2025年10月，国家卫生健康委等5部门发布了《关于促进和规范“人工智能+医疗卫生”应用发展的实施意见》，从人工智能+基层应用、人工智能+临床诊疗、人工智能+患者服务等8个方向提出了具体部署。对于大众使用AI工具咨询健康问题，多位业内人士认为监管端还有不少提升空间。
张勇指出，现行规范主要锚定医疗器械类AI，比如影像诊断系统、手术机器人等，此类产品责任链条相对清晰。但对于向公众提供医疗咨询方面，现有法律法规难以精准适用。可以从三方面来优化，首先是建立分类监管机制， 将机构内辅助决策与公众健康咨询进行区分。公众健康咨询直接面向患者、人身风险高，需要设定更高的注意义务。其次是设置预警拦截机制，对创伤急救等高风险场景，平台应进行识别预警，识别到紧急医疗状况时，必须停止生成建议并强制引导用户立即就医，不能仅靠文末免责声明。第三，对高风险医疗 AI 实行资质准入，强制留存对话日志，对涉人身安全的错误AI诊疗信息，推行平台过错举证倒置，匹配更重法律责任。
邓勇也提到，我国现行 AI 诊疗法律法规体系还存在一些短板，比如责任划分与举证机制不完善，算法黑箱导致用户难以证明平台过错；缺乏风险分担机制，无强制责任保险，重大损害时用户权益难以保障。对此，应该完善责任机制，确立平台首责制，对医疗 AI 侵权案件实行举证责任倒置，由平台证明自身无过错。还可建立风险分担体系，推行 AI 医疗责任强制保险，设立行业赔偿基金，保障用户及时获得救济。
来源:澎湃新闻
同创优配提示：文章来自网络，不代表本站观点。
