健康 AI 这两年最热,也最容易出事。出问题的地方往往不是模型不够强,而是边界没画清:该拒答的答了,该提示就医的没提示,该由医生决定的事被 AI 替用户决定了。

合规不是给产品加一层审批,而是产品设计的前提。这条线画在哪里,决定了这个生意能做多久。
一、三条不能碰的红线
第一条是不做诊断。AI 可以解释指标含义、提示风险方向,但不能对具体用户下诊断结论。
第二条是不调整用药。剂量、停药、换药属于医生职权,任何 AI 产品都不应给出具体用药调整建议。
第三条是急症必须转诊。胸痛、呼吸困难、意识改变、大出血这类情况,正确动作只有一个:明确提示立即就医。
三条红线的表述可以极简:不做诊断、不调整用药、急症必须转诊。但在产品里落地时,每一条都会分解成大量具体规则——哪些词不能说、哪些问题必须拒答、哪些情况必须弹窗提示就医。
二、法规地图
| 规范 | 核心约束 | 对产品的含义 |
|---|---|---|
| 生成式 AI 服务管理暂行办法 | 内容安全、标识、训练数据合规 | 生成内容需审核与标识 |
| 互联网诊疗监管细则 | 不得由 AI 代替医师接诊 | AI 只能做辅助,不能独立开方 |
| 广告法与医疗广告规定 | 禁用疗效断言与绝对化表述 | 文案需过滤禁用词 |
| 个人信息保护法 | 敏感信息需单独同意 | 健康数据授权要显式、可撤回 |
| 人工智能医疗器械指导原则 | 作为医疗器械需注册审评 | 涉及诊断功能须走审批 |
这张表的共同指向很清楚:AI 可以做信息处理、可以做流程管理、可以做辅助建议,但不能越过“医疗行为”的界。
合规的复杂性在于,同一句话在不同场景下性质不同。在科普文章里说“高血糖可能提示糖尿病风险”是常识;在对话里对具体用户说“你这就是糖尿病”,就构成了诊断。场景决定了边界,而不是文字本身。
三、科普与诊疗的边界
健康内容与医疗建议之间有一条模糊地带。区别在于是否针对具体个人的具体情况给出结论性判断。
同样是谈血糖,讲“餐后血糖升高的常见原因”属于科普;对某位用户说“你的情况属于糖尿病前期,需要吃某类药”就越界了。
广告法对健康类内容的约束同样适用于 AI 生成的文本。“治愈”“根治”“无副作用”这类表述属于禁用范围,而大模型恰恰容易在润色时把这些词加回去。这是内容审核必须放在生成之后、发布之前的原因。
四、四个必须落地的动作
- 词库前置:疗效承诺、绝对化表述、处方药名进入拦截名单。
- 生成后复核:模型输出再过一遍规则与人工抽检。
- 全程留痕:输入、依据、输出与提示完整可回溯。
- 人工兜底:高风险场景强制升级给医生或健管师。
四件事里,人工兜底最贵,也最不可省。因为模型无法为结果负责,能负责的只有人。
四个动作里,最容易被低估的是留痕。健康建议一旦产生,就需要能回溯:当时用户说了什么、系统依据什么、给出了什么建议、有没有提示就医。没有留痕,出事时无法自证。
五、合规为什么是产品能力
很多团队把合规当成成本,做完审批就结束。但在健康场景里,合规恰恰是体验的一部分:用户能感知到产品有没有乱承诺、有没有在关键时刻让他去看医生。
凯同AI把合规做进了系统:5 万+ 合规词库常驻,内容发布前自动过审;对话链路设置风险分级,高风险问题直接转人工;所有建议留痕,可回溯、可审计。
这套机制带来的不只是安全,还有效率。因为规则明确,内容团队敢写、销售敢讲、客户敢用,反而跑得更快。
六、三种常见的踩线方式
第一种是疗效承诺:把“有助于”写成“能治好”。第二种是身份冒充:让 AI 以医生口吻回答,制造权威幻觉。第三种是越界建议:在用户追问下给出具体用药方案。
三种做法都能在短期内提升转化,但都会把风险留给用户和品牌。健康行业的信任一旦破裂,几乎没有修复的机会。
行业里最常见的三种踩线方式,本质都是把“效率”放在了“边界”前面:为了让转化更好而承诺疗效,为了让体验更顺而让 AI 冒充医生,为了让回答更贴心而给出用药建议。这三种做法短期有效,长期不可持续。
七、判断
监管只会越来越清晰,不会越来越松。对健康 AI 来说,早一点把边界画清楚,成本最低。
未来的竞争不是“谁敢说得更满”,而是“谁能在边界内把服务做得更实”。合规不是天花板,而是地板。
参考资料
免责声明:本文为行业观察与信息交流,不构成医疗建议、诊断或治疗方案,也不构成投资建议。文中涉及的疾病、用药、检查与营养方案,请遵医嘱;如有不适或急症,请及时就医。文中数据与观点来自公开信息,仅供参考。