摘要:
医疗 AI 进入多模态与基础模型阶段后,真正稀缺的资源不只是病例文件,而是能回答“模型在什么任务、何种人群、什么设备和临床流程中可靠”的高质量数据与评测协议。本次附件包含三种差异显著的样例:专项体检压缩包内有11份PDF、合计426页,覆盖代谢、心脑血管、消化、眼、肺、脑、口腔、肌骨、生殖、免疫与肿瘤等主题及一份综合报告;“全景曲面”包内有10份DICOM,头信息显示模态为PX、厂商字段为MEYER、图像矩阵主要为1536×3101,属于口腔全景X光样例而非CT;心电图包内有5份单页PDF和5份XLSX,每份表格只有一行数据,列名为性别、年龄、诊断。
这些材料可作为多任务医疗评测平台的需求起点,却不能直接作为训练集或榜单测试集。体检报告需要将自由文本、结构化结果、参考区间、异常标记和建议分开评;口腔影像需要牙位体系、病灶实例和影像质量标签;心电图需要波形与诊断标签的时间和来源对应、类别定义及患者级隔离。三类任务的输出、真值层级与错误代价不同,不应混合为单一准确率或总榜。
本文提出“治理准入—任务定义—参考标准—分层盲测—外部验证—工作流评估—版本治理”的评测架构,建议朗慧以独立赛道起步,采用隐藏留出集、跨机构与跨设备测试、专家仲裁和错误严重度分层,逐步形成可审计、可复现、可迭代的医疗数据 Benchmark 服务。
一、先准确识别样例,避免把文件样本误当成数据集
1.1 专项体检:专题报告与综合报告并存
压缩包里有11份PDF,共426页。文件主题覆盖多类专项健康方向,另有一份篇幅明显更长的合并报告。这说明数据资产可能同时包含专题模板、综合报告、跨章节重复和摘要/详细页等多种结构。仅按“PDF份数”统计不等于患者数、检查数或独立任务样本数;综合报告可能包含多个专题内容,若不做文档级与患者级去重,同一检查结论可能被重复计数。
建设时应先建立文档谱系:患者匿名键、检查事件、报告版本、专题类别、生成模板版本、页码区间、结构化字段来源和解析置信度。每个被抽取字段应能回到页码、段落或表格位置,区分原始测量、报告结论、规则推导和模型生成建议。对于参考范围,保留单位、实验室/设备来源、适用性别与年龄条件以及报告当时的版本,不能只保存一个“高/低”标签。
1.2 口腔全景影像:附件标称名称不等于真实模态
DICOM头信息显示10个独立Study和Series,Modality为PX,图像矩阵主要是1536×3101,也有1200×2326,厂商字段为MEYER。该批样本应按数字口腔全景X线影像理解,而不是按CT体数据设计任务。此处的专业修复建议是:项目名、接口标签、数据卡与文档应统一使用“口腔全景X光/全景片”,只有经影像科确认确属CT后才标为CT。错误模态分类会造成错误预处理、错误指标和采购验收争议。
此外,DICOM头中存在非空的患者姓名/ID、出生日期、性别、检查日期、机构等识别性字段。即使样例只作内部分析,也应先停止对外传播与上传,完成授权核验、去标识化和像素层文字/二维码检查;DICOM UID需按一致规则重映射,并保留受控映射表。只改文件名或删除姓名标签不足以完成去标识化。
1.3 心电图:配套表格只有5条记录,属于流程样例
附件含5份单页心电图PDF和5份XLSX,表格有性别、年龄、诊断三个字段,每份一条记录,适合检查“一个病例的波形文件是否对应一行临床标签”,也可以据此设计数据字典和交付验收。但这不构成有代表性的心律失常队列,也不足以估算灵敏度、特异度、亚组差异或模型泛化。只有五个病例时,新增一个错误样本会显著改变比例;即便算出漂亮分数,也没有稳定统计解释。
正式数据应明确ECG纸速、增益、导联数、采样率、设备、滤波、记录时长、导联脱落与波形质量;PDF图像需确认是否可回到原始数字波形。若模型只能读纸面图像,像素重建与时间/电压标定误差应进入评测;若有原始波形,则应保存采样单位、时间戳、导联顺序和信号校验值。
二、医疗 Benchmark 的核心:按临床任务和参考真值分赛道
榜单不应以“医疗AI综合准确率”起步,而应为三种模态设置分立任务,再在治理、报告和运行协议上统一。
赛道A:体检报告理解与风险沟通
可分为:字段抽取(检查项、结果、单位、参考区间、异常标记);报告结构解析(专题、摘要、结论、建议);规则一致性检查(结果与异常标记是否冲突);风险分层(按预先定义指南或专家规则);面向专业人员的摘要生成;面向受检者的解释性沟通。各任务需分别设计真值:字段抽取以双人标注和原文位置回链为主,医学风险判断需指南版本或专家共识,建议生成需评估事实支持、适用条件、风险遗漏及是否诱导自行诊疗。
赛道B:口腔全景影像分析
可分为影像质量与可读性、牙齿/牙位检测或实例分割、牙周或龋病等明确病灶任务、解剖结构定位、报告生成。牙位编码体系需要在项目开始前冻结,缺牙、阻生牙、混合牙列、修复体、重叠、运动模糊和截断等均应有显式标签。检测任务建议报告每病例假阳性数与FROC;分割任务报告Dice、表面距离及按牙位/病灶尺寸分层的结果;报告生成则不能只做文本相似度,需要临床事实正确率与遗漏/过度诊断错误审查。
赛道C:ECG波形判读与风险预测
应区分当前心电图的节律/传导/形态诊断,与利用ECG预测未来疾病或结局的前瞻性任务。前者参考真值可能来自多名心电专科医师判读、临床报告和必要的检查证据;后者必须预定义预测时间点、结局定义、随访窗口、竞争风险与治疗变化。指标至少报告宏平均AUROC、AUPRC、敏感度/特异度、校准、置信区间和决策阈值,并按病种患病率和设备来源解释阳性预测值。
跨模态综合能力:只做受控子榜
若希望评估多模态模型能否结合体检报告、口腔片和ECG,需要同一患者、同一检查事件或合理时间窗内的真实配对,并取得针对各模态的授权。不能把三个互不相关的样例拼成“多模态病例”。跨模态任务需额外检测时间错配、信息泄漏、模态缺失和模型是否在没有证据的模态上臆造结论。建议先分别建立三个赛道,满足数据关系和样本量要求后再设融合子榜。
*图2|榜单除任务效能外,还应报告安全、泛化、数据质量、成本和证据成熟度。*
三、样本规模与证据等级:五例ECG和十张全景片能说明什么
样例的价值主要在于验证文件读取、字段映射、匿名化、配对逻辑和标注手册是否可执行;它们不能证明模型临床性能。可将数据成熟度分为四级:
1. 文件可用性验证:压缩包完整、文件可解析、DICOM/PDF/XLSX无损坏,字段和图像能正确读取。 2. 标注可行性试点:少量代表性样本进行双标与仲裁,确认术语、牙位、ECG标签和报告字段定义无歧义。 3. 内部开发与测试:达到预先计算的样本量并按患者隔离,开发/验证/盲测集互斥,测试集封存。 4. 外部与前瞻验证:跨机构、设备、时间和人群验证,进一步观察真实工作流、安全和决策效用。
每级都要在数据卡中标明样本单位、纳入/排除、患者数、检查数、文件数及重复关系。样本量应根据主要终点、预期性能、置信区间精度、类别比例和聚类结构计算,而非以“手头有多少文件”倒推结论。多页体检报告不能被视为多名患者;同一个人的多张影像和多次ECG不能跨集合分配。
四、数据质量工程:从收件检查到可审计真值
建议建立六层质量流水线:
- 文件层:ZIP清单、校验和、文件格式、页数、分辨率、可解析率、重复文件和损坏文件。
- 身份与授权层:来源合法性、用途范围、知情同意/伦理路径、隐私影响评估、可撤回/删除约定。
- 结构层:患者—检查—报告—图像—表格关系,时间戳、单位、字段字典、空值语义和版本。
- 临床内容层:标签本体、指南版本、纳排标准、参考真值来源、疑难样本和无法判断状态。
- 标注层:专家背景、培训校准、独立标注、分歧分类、仲裁、抽检和版本追踪。
- 评测层:患者级切分、去重审计、盲测访问记录、运行环境、模型快照、阈值冻结、统计区间和错误分析。
专项体检应将每个字段的“源文位置—抽取值—单位—标准编码—模型改写”连起来,避免只留下最终摘要。口腔片需保留DICOM方向、像素间距、曝光与厂商/设备的可用信息,同时在公开版本中最小化可识别元数据。ECG需保留原始波形或明确图像来源,逐导联检查完整性和时间/电压标定。所有异常都使用可追溯错误码,例如解析失败、左右/牙位不确定、报告与影像不匹配、设备信息缺失、真值证据不足。
五、榜单统计设计:避免“高分但不可复现”
榜单应发布协议与结果版本,而不是只有一张排名表。每个模型需记录模型/权重/API版本、提示词、预处理、工具调用、阈值、随机种子、运行日期和失败样本处理。患者级训练、验证、测试隔离应在建模前完成;同患者多份报告、同一次检查衍生PDF和图像、重复ECG均须去重或聚组。测试答案由独立保管人控制,设置查询预算和重复提交审计。
主指标之外应提供置信区间、分层表现、校准与失败谱。对影像使用患者级指标和病灶级指标并列,避免单张牙齿或像素数造成伪大样本;对ECG考虑同一患者重复记录的统计相关;对体检报告按患者而不是按字段/页做聚类自助法。宏平均与微平均要同时解释,类别不平衡时提供AUPRC、每病例误报和阈值表现。
需要建立“分数—风险”映射:危及安全的漏诊、错误建议、无依据扩展和隐私泄漏应单独呈现,不能被格式或措辞高分抵消。专家评审可采用匿名随机顺序、双评与仲裁;LLM评分器仅用于规模化预筛或一致性辅助,须在人工标注金标准上校准,并监测其对语言风格、答案长度和模型品牌的偏好。
六、前沿研究给出的方法启示
近年来ECG基础模型和基准研究开始强调外部数据集、跨设备泛化、标签质量与临床诊断层级。CODE-II研究报告了在PTB-XL、CPSC等外部基准上的迁移评估,并指出标签质量和有临床意义的诊断系统与数据规模同样关键;ECG-CLIP等研究将评估扩展到疾病识别、未来风险与结局预测,说明“判读当前波形”和“预测未来健康”必须分开设题。2025年《Nature》关于EchoNext的工作展示了多医院评估及前瞻性检测研究的设计价值,提示静态回顾性AUC不足以回答是否能在临床场景发现未诊断疾病。
口腔影像方面,2026年《Nature Biomedical Engineering》发表的全景片视觉语言模型研究将实例级牙齿信息与文本报告结合,并设置专家偏好评估;这支持“影像结构化定位+报告语义”的任务路线,但并不意味着任何十张全景片就能复现论文级结论。Benchmark需要公开具体适用人群、影像设备、标注层级和外测中心,避免模型在单一设备或模板背景上取得捷径分数。
对体检和预防健康场景,评测更应从静态医学问答转向完整链条:模型是否正确读数、能否结合适用参考区间、是否识别需要专业复核的异常、是否给出清晰而不过度的沟通、是否建议适当的下一步且不替代医生判断。健康对话基准如HealthBench强调按真实健康互动和细化评分准则评估;将其思想迁移到体检报告时,应进一步加入原始报告证据回链、单位/参考范围校验、异常遗漏严重度和临床复核转介。
七、朗慧的榜单建设建议:以“证据可核验”形成差异
朗慧可把平台定位为医疗与生命科学AI团队的专业数据、专家生产和持续评测服务,而非未经验证的“模型排名机构”。首期建议建设三个私有评测赛道:体检报告理解、口腔全景影像结构化分析、ECG判读与预测。每个赛道交付数据卡、标注SOP、参考标准说明、盲测协议、基线结果、错误分层和版本报告。敏感数据尽量在医院或受控环境内评测,公开报告只发布经授权的聚合统计与方法学信息。
每个赛道由业务负责人定义用途,临床/生物专家定义真值和风险,数据工程师维护谱系和校验,算法团队冻结运行协议,独立质控人员管理盲测与复现。朗慧的优势应体现在需求澄清、专家匹配、标注一致性、跨模态数据治理、盲测和问题闭环上;任何案例规模、医生资历、模型效果或临床影响数字,都须有可公开证据后再用于市场传播。
八、建议的90天实施路线
第1—2周:数据与授权盘点。 建立文件级清单和哈希;对口腔DICOM执行隐私风险评估和去标识化核验;确认体检报告的来源、模板版本、重复患者与输出用途;核实ECG PDF与XLSX是否同一病例对应,并明确能否用于研究。
第3—5周:任务与标签设计。 为三个赛道分别定义输入、输出、目标人群、排除项、参考标准、错误严重度、专家角色和评分卡。体检字段做样例标注;口腔片冻结牙位体系与影像质量标签;ECG确定诊断分类和证据层级。
第6—9周:小规模双标试点。 用经批准的样本试标,测量一致性与仲裁率;修订规则并冻结版本。当前ECG五例和全景十例只用于流程试跑,不能发布效能排名。
第10—13周:扩容与盲测准备。 依主要终点计算样本量,建设多中心/设备来源;按患者级分区;封存测试集;完成基线模型、外测协议、隐私审计和数据卡。达到样本量与治理门槛后,才发布首版赛道结果。
结语:不要让样例规模制造“榜单幻觉”
三个压缩包各自提供了值得继续建设的入口:体检报告可以发展为报告理解与健康沟通评测,口腔全景DICOM可以发展为牙位与病灶识别基准,心电图配对表可作为波形—标签数据契约样例。但当前样例规模、元数据和标注证据尚不足以支撑临床性能宣称或公开模型排名。更负责任的路径是先核验来源与身份风险,再把任务、参考标准、切分、盲测和统计方案做扎实,最后用跨机构、跨设备和前瞻性证据检验模型是否真正可用。
朗慧的专业价值,不在于把有限样例包装成“大榜单”,而在于帮助医院、研究团队与算法团队把每一步变成可追踪、可复核、能持续改进的证据链。这既能提升训练数据价值,也能让榜单结果更公平、更可解释、更接近真实业务决策。
参考文献
下列研究用于支撑方法学讨论;论文结果不能直接外推为本附件样例的模型效果。
- CODE-II: a large-scale dataset for artificial intelligence in ECG analysis. npj Digital Medicine. 2026.
- Development and external validation of a contrastive learning foundation model for ECG-based prediction of cardiovascular diseases and outcomes. 2026.
- Detecting structural heart disease from electrocardiograms using AI. Nature. 2025.
- Bridging the gap from clinical to home ECG: quantifying and overcoming accuracy loss in AI-enabled single-lead ECG models. npj Digital Medicine. 2026.
- Towards clinical-level interpretation of dental panoramic radiography using an instance-guided vision-language model. Nature Biomedical Engineering. 2026.
- Towards Better Dental AI: A Multimodal Benchmark. NeurIPS Datasets and Benchmarks. 2025.
- HealthBench: an evaluation for AI systems and human health. OpenAI. 2025.
- Checklist for Artificial Intelligence in Medical Imaging (CLAIM): 2024 Update. Radiology: Artificial Intelligence. 2024;6(4):e240300.
方法边界:本文为研究设计与数据工程分析,不是诊断建议、医疗器械评价或法律意见。附件中的个人信息应在授权环境中处理;公开发表前须完成数据来源、授权、伦理/合规与去标识化复核。
