html html html html html html html html A IA pode avaliar com confiança as complicações do diabetes? Piloto de benchmark médico com 12 casos | LumeSage
LumeSage · Avaliação de IA médica · complicações do diabetes

A IA pode avaliar com confiança as complicações do diabetes? Piloto de benchmark médico com 12 casos

Estrutura rigorosa de avaliação baseada em 12 casos de quatro grupos de complicações do diabetes. O piloto testa métodos e fluxos de trabalho; não estabelece um ranking clínico de modelos.

Resumo: Primeiro transforme o “pacote de casos” em um protocolo de avaliação verificável

A dificuldade da IA para complicações do diabetes não é permitir que o modelo nomeie uma doença a partir de um registro médico, mas permitir que ele complete de forma estável tarefas definíveis em fontes reais, de tempo cruzado e complexas de evidências clínicas: ler os resultados corretos dos testes, reter a unidade e o tempo, distinguir entre base diagnóstica e especulação, identificar sinais de alto risco e parar claramente quando a evidência for insuficiente.Uma referência significativa deve medir estas capacidades separadamente e não pode substituir a eficácia clínica por uma “taxa de precisão” geral.

Este pacote compactado anexo contém 12 casos após inventário estrutural, abrangendo quatro categorias: neuropatia periférica diabética, nefropatia diabética, retinopatia diabética e pé diabético, com 3 casos em cada categoria; existem 78 PDFs e 251 CSVs, e o CSV totaliza cerca de 3.413 registros de dados.O número de arquivos e linhas da tabela descreve a estrutura de entrega e não é equivalente ao número de pacientes únicos ou ao tamanho da amostra disponível para inferência estatística.O anexo é adequado como dicionário de dados, manual de anotação, interface de avaliação, processo de arbitragem e piloto de viabilidade para classificação de erros;não é suficiente, nesta fase, fornecer classificações de modelos, prevalência de doenças, sensibilidade ou conclusões de benefícios clínicos.

LumeSage sugeriu nomear o projeto "LumeSage DiaComp-Bench" como estrutura piloto proposta.O nome não implica uma lista oficial existente ou verificação clínica concluída.Este artigo fornece instruções de avaliação auditáveis, tarefas candidatas e caminhos de construção; a lista oficial será divulgada após a revisão da governança, do tamanho da amostra, dos padrões de referência, da verificação entre agências e das regras operacionais.

1. O que o anexo nos diz e o que ainda não nos disse

1.1 Os quatro tipos de doenças não são quatro rótulos para uma tarefa

Os quatro tipos de casos apontam para diferentes cadeias de evidências clínicas. O julgamento da nefropatia diabética requer indicadores laboratoriais, duração, comorbidades e possíveis outras causas;a classificação da retinopatia depende da qualidade da imagem do fundo, das lesões padronizadas e das regras de classificação; a neuropatia periférica envolve diferentes evidências como sintomas, exame sensorial, sensação protetora e neuroeletrofisiologia; pé diabético pode incluir localização da úlcera, profundidade, infecção, isquemia, neuropatia e resultado de cura.Eles podem compartilhar a governança de dados e a infraestrutura de medição, mas os valores verdadeiros de referência, as populações-alvo, os custos dos erros e as implicações da disposição clínica não podem ser simplesmente mesclados. Os dados de descrição em PDF e CSV no anexo

contêm descrição do documento e campos estruturados.Códigos de itens de exames comuns, nomes, valores de resultados, unidades, intervalos de referência e marcas anormais em CSV também podem incluir pedidos médicos, medicamentos, conclusões de relatórios ou resultados de exames.O PDF pode fornecer informações contextuais, narrativas e de formatação.Mas "há um determinado campo no arquivo" não significa automaticamente que a definição do campo seja consistente, a unidade seja unificada, a fonte esteja completa ou o rótulo esteja correto.O arquivo de origem, número/coluna da página, valor original, valor padronizado, unidade, semântica de tempo, regra de conversão, motivo ausente e status de revisão devem ser registrados para cada campo durante a construção.

Atualmente o anexo não possui um catálogo de imagens entregue como arquivos independentes JPEG, PNG, DICOM ou fundo/OCT.Portanto, o que pode ser discutido nesta fase é a extração de evidências de relatórios e formulários existentes, a compreensão do documento e tarefas limitadas de texto quando existem evidências de imagem no relatório;não se pode afirmar que tenha condições para classificação de imagens de fundo de olho, interpretação de OCT, reconhecimento de imagens de feridas no pé ou avaliação de fusão de imagens intermodais.Quando as imagens forem recebidas no futuro, também deverão ser verificados o equipamento, o protocolo de imagem, a qualidade da imagem, as coordenadas anotadas, a instituição de aquisição e o escopo da autorização.

Quatro tipos de rastreamento de avaliação de complicações do diabetes e limites de evidênciasQuatro tipos de doenças requerem cadeias de evidências clínicas separadas; compartilhar governança unificada de dados, testes cegos e bases de auditoria. O atual pacote de casos pode apoiar documentação e processos-piloto de dados estruturados e não pode substituir a avaliação de fundo de olho, OCT ou imagem de feridas nos pés.LUMESAGE · PILOTO DE BANCO DIACOMPQuatro trilhas clínicas, compartilhando a base de gerenciamentoNefropatia diabéticaeGFR/UACRDetecção de repetição e janela de tempoIdentificação da causa e contexto da medicaçãoAtual: Piloto de Extração de Registro RetinopatiaQualidade de imagem do fundoqualidade das imagens de fundo de olhoETDRS/Consenso GraduadoLesões e limites de encaminhamentoImagens independentes ausentes: ainda não classificadasNeuropatia periféricaSintomas e exame neurológicoSensação de proteção/método de inspeçãoFontes de evidências e marcadores ausentesAtual: Piloto de Evidência Documental Pé diabéticopé diabéticoEstratificação de úlcera e infecçãoIsquemia, sensação e prognóstico Foto / final padronizadofotografias padronizadas / desfechosImagem de ferida ausente: visão acidentalBase compartilhada: Autorização e ética · Dicionário de dados · Anotação e arbitragem especializada · Conjunto oculto · Operação reproduzível · Auditoria de errosPosicionamento atual: 12 casos/categoria 4 = metodologia e fluxo de trabalho piloto; número de casos não suporta comparação de eficácia clínica estável
Figura 1 | Os tipos de doenças podem compartilhar bases de engenharia, mas devem ser avaliados separadamente de acordo com tarefas clínicas, padrões de referência e modalidades de evidência.“Atual” na figura indica a faixa que pode ser suportada de acordo com a estrutura deste anexo.

1.2 A “unidade amostral” em uma amostra pequena deve ser claramente indicada

A unidade independente de análise é o caso/paciente, não o PDF, CSV, número de página, item de teste ou linha de registro.Um caso dividido em dezenas de arquivos ainda contribui apenas para um paciente independente; vários testes na mesma pessoa também estão relacionados entre si.A divisão aleatória de linhas de arquivos em conjuntos de treinamento e teste permitiria que informações sobre o mesmo paciente ultrapassassem fronteiras e introduzissem vazamentos graves.Se futuramente for realizado treinamento ou desenvolvimento, os pacientes deverão ser agrupados como um todo; em ambientes multicêntricos, a validação externa deve ser projetada por instituição ou tempo.

Quando há apenas 3 casos por categoria de doença, um único caso representa um terço do grupo dessa categoria de doença.Mesmo que todos os 12 casos estejam corretos, não se pode inferir que a sensibilidade clínica atinja 100%.Nesta fase, o que se pode verificar é se o processo está em andamento, se os campos possuem fontes, se as divergências entre especialistas podem ser arbitradas e se os erros são atribuíveis; AUC, risco de doença, generalização entre populações ou listas de modelos de prós e contras não devem ser publicados.

2. Divida os quatro tipos de complicações em tarefas de avaliação reproduzíveis

A lista deve responder primeiro “o que é medido” e depois “quem pontua mais”.Recomenda-se estabelecer um catálogo de tarefas em dois níveis: tarefas gerais de compreensão de dados e tarefas específicas de doenças.Cada item forma um cartão de tarefas com tipo de entrada fixo, população aplicável, resultado alvo, fonte de evidência, padrão de referência, condições de exclusão, função de pontuação, nível de risco clínico, versão e usos proibidos.A resposta deve ser rastreável até à evidência original;um modelo que apenas fornece uma conclusão, mas não uma cadeia de evidências, não deve ter a mesma pontuação que um sistema rastreável.

Faixa A|Extração estruturada de registros médicos e dados de exames

Extrai itens de exames, resultados, unidades, intervalos de referência, sinalizadores anormais, medicamentos e diagnósticos de PDF/CSV e vincula cada valor a um caso, evento de exame e horário.Os indicadores não apenas verificam se os campos correspondem, mas também precisam verificar o valor, a unidade, o sinal, o limite do intervalo, a análise de data e o posicionamento da fonte, respectivamente.“Não visto”, “não verificado” e “negativo” no relatório não podem ser combinados no mesmo valor nulo; a fórmula e a precisão do arredondamento devem ser registradas para conversão de unidades.Recomenda-se relatar correspondência exata, precisão/recuperação/F1 em nível de campo, precisão numérica e de unidade combinada, precisão de análise de tempo, precisão de localização de evidências e precisão de processamento de rejeição/ausência.

Trilho B | Nefropatia diabética: status de risco longitudinal e consistência de evidências

Se os dados puderem ser rastreados até testes repetidos, o modelo de medição poderá identificar corretamente valores, unidades, tendências e intervalos de tempo em torno da TFGe, relação albumina/creatinina urinária (UACR), creatinina sérica, duração do diabetes, pressão arterial e informações sobre medicamentos.Os "Padrões 2026 para Diagnóstico e Tratamento de Diabetes" da ADA recomendam monitorar a TFGe e UACR para pacientes com diabetes e determinar a frequência de reexame com base na estratificação de risco de DRC; isso mostra que a "janela de tempo" e as próprias mudanças contínuas fazem parte da definição da tarefa, em vez de campos adicionais[1]. A inferência diagnóstica baseada em um único valor anormal não pode substituir o diagnóstico clínico padronizado e o julgamento contínuo.Se você estiver realizando uma tarefa de previsão, o ponto de partida da previsão, o período de previsão, o resultado, o risco da linha de base, o processamento da mudança de tratamento e os riscos concorrentes devem ser definidos antecipadamente, e este apêndice não possui o tamanho da amostra necessário para formar uma verificação confiável do modelo de risco.

Faixa C|Retinopatia diabética: compreensão do relatório e teste de imagem do fundo separadamente

Atualmente é possível avaliar a extração de "resultados-classificação-recomendações" de relatórios existentes, se os diferentes campos são inconsistentes entre si e se as recomendações de encaminhamento são baseadas no texto original; no entanto, sem imagens independentes de fundo de olho/OCT, a detecção de lesões em nível de imagem, a classificação, a localização da lesão ou a generalização entre câmeras não podem ser avaliadas.O benchmark de imagem do fundo de olho deve especificar o campo de visão da imagem, os olhos esquerdo e direito, a qualidade da imagem, o processamento de imagem não qualificado, o sistema de classificação e a arbitragem do leitor.Por exemplo, os dados de pesquisa multimodal da retina publicados pela "Scientific Data" em 2026 contêm 24.460 imagens, que são refinadas para cinco níveis de gravidade, sete tipos de lesões e classificação de edema macular OCT, refletindo os requisitos de avaliação de imagem para rótulos refinados, emparelhamento de modalidade e controle de qualidade.[2].Um estudo multimodal de grande modelo observou diferenças de desempenho entre diferentes modelos e menor sensibilidade de detecção de gravidade em 309 olhos de 188 pacientes, lembrando à lista que a lista não só pode relatar a precisão geral, mas também precisa mostrar diagnósticos perdidos e erros de classificação.[3]。

Faixa D|Neuropatia periférica e pé diabético: estratificação de evidências, gravidade e segurança

A tarefa administrativa de neuropatia periférica verifica se os sintomas, padrões de exame, achados sensoriais protetores e sua correlação temporal estão registrados corretamente e detecta se o modelo escreve erroneamente "não registrado" como "exame normal".Os capítulos sobre neuropatia e cuidados com os pés dos "Padrões 2026 para Diagnóstico e Tratamento de Diabetes" da ADA enfatizam a triagem de neuropatia, avaliação de risco nos pés e exame físico padronizado; portanto, o cartão de tarefas deve esclarecer o método de exame, a frequência do exame e o limite de encaminhamento para evitar tratar registros faltantes como negativos[7].As tarefas mensuráveis ​​do pé diabético podem começar pela extração da localização, tamanho da ferida, sinais de infecção, pistas de isquemia, classificação e resultado dos registros médicos;futuras tarefas de imagem devem ter condições padrão de filmagem, referência de escala, rotulagem de lesões e resultados clínicos.Quando não há imagens, a realização da tarefa de prontuário escrito não pode ser utilizada para indicar a capacidade visual da ferida.Perder um alerta de alto risco, rebaixar uma dica de emergência para uma de baixo risco ou inventar uma classificação de úlcera do nada devem ser registrados como erros graves e relatados separadamente, em vez de serem compensados ​​por respostas corretas em um grande número de campos simples. O indicador

Para evitar que as pontuações mascarem as diferenças clínicas, as quatro categorias de faixas não devem ser combinadas em uma única classificação geral.Se no futuro for necessário fornecer pontuações resumidas, os indicadores originais, a composição dos casos, os intervalos de confiança, as regras de ponderação e o âmbito de aplicação de cada faixa devem ser divulgados ao mesmo tempo;modalidades e tarefas faltantes devem ser exibidas como “não avaliadas” e não podem ser consideradas como zero pontos ou aprovadas por padrão.

3. Padrões de referência, anotações de especialistas e segurança do paciente

3.1 O padrão de referência é um sistema de evidências rastreáveis, não um voto

A verdade clínica não pode simplesmente copiar o último campo de diagnóstico que aparece no prontuário.É necessário primeiro definir o nível de evidência de referência para cada tarefa: por exemplo, testes laboratoriais utilizam relatórios laboratoriais qualificados e informações de unidade/método; os resultados renais são construídos de acordo com as definições das diretrizes e janelas de tempo específicas; a classificação do fundo de olho é baseada em escalas pré-registradas, imagens qualificadas e leituras de especialistas; os resultados dos pés definem claramente a base e o momento para infecção, isquemia, cicatrização ou amputação.Quando um caso não atende às condições, deve ser marcado como “incapaz de determinar/evidência insuficiente” e os rótulos não podem ser gerados à força.Quando diferentes evidências entram em conflito, a causa do conflito e o árbitro final devem ser mantidos em vez de substituir os dados originais.

recomenda que seja estabelecido um grupo de especialistas para cada doença: o departamento de endocrinologia é responsável pelo contexto clínico geral do diabetes, e os especialistas em nefrologia, oftalmologia, neurologia e especialistas em feridas/vasculares são respectivamente responsáveis ​​pela definição de doenças especializadas; engenheiros de dados, estatísticos e gerentes de segurança do paciente participam da revisão de tarefas e regras de pontuação.Desenvolver manuais, exemplos positivos e negativos, casos limites, códigos faltantes e números de versão antes da rotulagem; os rotuladores devem ser treinados e passar no conjunto de calibração antes de entrar na rotulagem formal.Pelo menos dois especialistas qualificados fazem anotações independentes; calcular indicadores de consistência apropriados e fornecer categorias de discordância; e um terceiro perito sênior arbitra.Cohen/Fleiss κ, κ ponderado, correlação intraclasse ou taxa de concordância devem ser selecionados de acordo com o tipo de variável, e uma estatística de consistência não pode ser aplicada mecanicamente a todos os rótulos.

3.2 Trate “pode se recusar a responder” como uma habilidade confiável

Os sistemas de saúde não devem obter notas altas apenas porque apresentam altas taxas de resposta.A tarefa precisa configurar situações como incapacidade de julgamento, qualidade de imagem insuficiente, falta de testes-chave, conflitos de rótulos e além da população aplicável, e avaliar se o modelo é apropriado para solicitar informações suplementares ou transferi-las para o pessoal clínico.As pontuações devem reportar a cobertura e as taxas de erro em conjunto: a redução da cobertura pode melhorar a precisão, mas se o sistema responder apenas a casos fáceis, deve ser apresentado através de uma curva de cobertura de risco ou de um limiar de cobertura predefinido; erros perigosos, garantias falsas e diagnósticos infundados devem ser listados separadamente para eventos de segurança.

3.3 Autorização, ética e anonimato devem preceder o benchmarking do modelo

O nome do arquivo anexado indica "dessensibilizado", que é apenas uma declaração de origem e não constitui prova independente de anonimato ou uso legal.A triagem automática de texto deste lote de materiais não conseguiu detectar padrões comuns de informações de identidade, mas não pode substituir a inspeção página por página de documentos originais, inspeção de imagem/OCR, inspeção de metadados, avaliação de risco de reidentificação de combinações raras, verificação de documento de autorização e julgamento ético.Os dados do paciente precisam estabelecer fontes legais, finalidades de uso, escopo de autorização, pessoal de acesso, períodos de retenção, regras de exclusão e auditoria; a desidentificação ainda não significa necessariamente anonimato.Apenas estatísticas gerais suficientes serão divulgadas para exibição externa, e nenhum texto, capturas de tela ou combinações raras que possam ser rastreadas até os casos serão divulgados.O conjunto de treinamento e o conjunto de testes privados implementam acesso descentralizado, e o envio de modelos e o acesso a dados deixam rastros.

4. Scorecard: De respostas corretas a confiáveis, robustas e utilizáveis

A seguir está uma sugestão de estrutura de avaliação, não uma pontuação calculada para o caso anexado ou qualquer modelo.O acesso à governança serve como limite de veto de um voto: aqueles que falharem na ética/autorização, na dessensibilização, na base de rotulagem, na verificação de vazamentos e nas informações de versão não participarão da comparação da lista. Após aprovação no ingresso, as pontuações são definidas de acordo com as tarefas-alvo da faixa específica; módulos como correção de tarefas clínicas, rastreabilidade de evidências, qualidade de dados estruturados, segurança e rejeição, robustez/desempenho entre domínios podem ser definidos em uma escala de 100 pontos.No entanto, os pesos específicos devem ser pré-registados conjuntamente por especialistas, utilizadores clínicos e equipas de estatística antes do congelamento do conjunto de testes, e verificados através de análise de sensibilidade. Os pesos não devem ser ajustados posteriormente para seguir a liderança de um determinado modelo.

DimensãoObservações sugeridas Exemplos de indicadores aplicáveisExemplos de métricas aplicáveisPrincipais riscos
Correção de tarefa clínicaExtração, classificação, tendência, classificação ou limite de processamento predefinidoprecisão/recall, macromédia F1, MAE, κ ponderadoOs indicadores gerais encobrem um pequeno número de diagnósticos perdidos de alto risco
Evidência rastreável ConclusãoA página original, os campos, o horário de verificação e as regras podem ser localizados?Precisão de localização de evidências, taxa de correspondência de junta de valor/unidadeA resposta está correta, mas a base está errada ou não pode ser auditada
Segurança e IncertezaRecusa em atender, atualização, reconhecimento de sinal de alerta, alucinação e omissões importantesTaxa de erro grave, curva de cobertura de risco, erro de calibraçãoA sugestão de erro é diluída igualmente
Robusto e justoausente, qualidade da digitalização, equipamento/instituição, idade e outras estratificaçõesDiferenças estratificadas, intervalos de confiança, indicadores de desvioResultados de amostra insuficientes em conclusões falsas de subgrupo A operação
pode ser reproduzida Versão do modelo, palavra de prompt, parâmetros de inferência, data e hash de dadosDiferença nas repetições e taxa de integridade dos registros ambientais Os resultados da listanão podem ser revisados O indicador

deve corresponder à tarefa. A extração de campo relata correspondência exata com precisão/recuperação/F1 em nível de campo; valores contínuos relatam erros e exatidão da unidade; a severidade ordinal usa κ ponderado ou matriz de confusão de classificação;as tarefas de predição fornecem simultaneamente discriminação, calibração, benefício líquido em limiares clínicos e intervalos de confiança;as respostas abertas usam listas de fatos atômicos desenvolvidas por especialistas, suporte de evidências, omissões críticas e escalas de gravidade, além de verificação manual de consistência de revisores automatizados. A calibração não pode ser substituída pela “confiança auto-relatada do modelo”. Os estudos preditivos devem seguir recomendações de relatórios transparentes, como TRIPOD+AI;os dados de múltiplas instituições/clusters também devem relatar a heterogeneidade institucional e a análise correspondente[4]。

Este tempo n=12 não é suficiente para estimar de forma estável estes indicadores globais.Os resultados piloto apropriados são listas de erros em nível de caso (somente em ambientes autorizados), lacunas na definição de tarefas, divergências de anotações, falhas sistemáticas de formatação, tempos de revisão manual, pontos de interrupção do processo e pontuação de resultados de testes de script.As classificações reais dos modelos não são divulgadas para o mundo exterior. Antes de entrar na fase de verificação formal, a demonstração do tamanho da amostra deve basear-se na prevalência esperada, metas de sensibilidade/especificidade, largura do intervalo de confiança permitida, agrupamento institucional, proporção de perda de seguimento e exames inválidos;pacientes, em vez de documentar unidades estatísticas de comportamento, a estimativa de intervalo deve preferencialmente usar métodos que possam refletir a estrutura de agrupamento.

DiaComp-Bench construção e avaliação em circuito fechadoDa governança de autorização ao pré-registro de tarefas, padrões de referência especializados, testes ocultos no nível do paciente, execuções congeladas de modelos, análise cega de erros de avaliação, validação externa multicêntrica e avaliação de fluxo de trabalho clínico e iterações de versão de formulário.LUMESAGE · PIPELINE DE AVALIAÇÃOProcessar casos em resultados de avaliação revisáveis1 Autorização e ÉticaFonte / Finalidade / Limite de Acesso Pré-registro de tarefa2Regras de multidão/rótulo/pontuação3 Padrão de referência especializadaanotação/arbitragem/versão independente4 conjunto oculto no nível do pacienteDuplicação/Segmentação/Auditoria de Permissão5 Operação do modelo congelado Versão/prompt/parâmetros/hash6 Avaliação cega e pontuação estratificadaDesempenho/Calibração/Incidente de Segurança7 Verificação externaEntre Agências/Tempo/Equipamento8 Fluxo de trabalho e reavaliação Eficácia clínica/fatores humanos/iteração de versãoEstágio piloto: Verificar protocolo e processo; discutir apenas resultados de classificação comparáveis após expansão e verificação da amostra
Figura 2|A entrega principal do Medical Benchmark não consiste apenas em pontuações, mas também inclui anotações revisáveis, registros de operação, descrições de erros, verificação externa e gerenciamento de mudanças.

5. Como evitar vazamentos, preconceitos e falsa precisão nas listas

5.1 Conjuntos de testes ocultos devem ser capazes de evitar "deslizar as classificações"

Se todos os casos de teste forem divulgados, o modelo poderá lembrar as respostas no corpus de treinamento, palavras de alerta ou regras artificiais.A lista deve usar um conjunto de desenvolvimento público e um conjunto oculto controlado em paralelo: definições de tarefas públicas, especificações de campo, procedimentos de pontuação e amostras de desenvolvimento representativas; reter um conjunto de testes privado autorizado, limitar a frequência de envio e reter registros de chamadas de API/contêiner, resumos de entrada e saída, versões de modelo e hashes de dados.A equipe do modelo precisa declarar se usará dados de teste para treinamento, ajuste ou revisão manual. A adaptação do conjunto de testes causada por envios repetidos deve ser controlada por meio de novos lotes reservados, conjuntos de desvios de tempo e perguntas ocultas rotativas.

A segmentação deve ser realizada pelo menos por paciente;depois que dados suficientes estiverem disponíveis, testes externos por hospital, equipamento e tempo podem ser adicionados.Verifique visitas ao mesmo paciente em visitas, cópias de relatórios, modelos homólogos, PDFs quase duplicados, texto copiado e duplicações de imagens.Em vez de “recolher algumas amostras aleatórias de mais centros”, a validação entre centros mantém a instituição completa como um domínio independente e reporta a composição da amostra, os intervalos dos indicadores e os modos de falha de cada centro.As tarefas multimodais precisam garantir que as chaves correspondentes de imagens, relatórios, testes e resultados de casos sejam confiáveis, sem vazar a identificação do paciente.

5.2 A avaliação deve focar nas consequências do uso clínico e não no desempenho do modelo O atendimento de caso

verifica apenas os recursos off-line; o valor da implantação também depende se o modelo pode reduzir entradas repetidas, melhorar a integridade dos dados, reduzir o tempo de revisão por especialistas e não aumentar referências erradas, relatórios perdidos ou carga de trabalho.Antes de entrar no fluxo de trabalho real, deve ficar claro, por meio de operação silenciosa, pilotos manuais, avaliações prospectivas de usabilidade e pesquisas clínicas necessárias, se os médicos podem ver o resultado do modelo, quando ele pode ser substituído, como as exceções são escalonadas e quem analisa os erros.A classificação de risco precisa abranger a triagem auxiliar de baixo risco e as recomendações de triagem/diagnóstico de alto risco, e pequenas pontuações off-line de amostras não podem ser usadas para substituir evidências regulatórias, éticas ou clínicas.

Pesquisas recentes mostram que o desempenho e a transferibilidade da IA de imagens médicas estão intimamente relacionados ao tamanho da coorte, aos padrões de referência, aos cenários de imagem e aos dados externos.O DeepDKD usou uma coorte de desenvolvimento em larga escala e foi validado em 10 conjuntos de dados multiétnicos no estudo de nefropatia diabética de inferência de imagens da retina, fornecendo um exemplo metodológico de "passar do desempenho de centro único para a validação externa", em vez de conclusões de modelo que podem ser transplantadas diretamente para esses 12 casos.[5]. Uma revisão sistemática da IA no pé diabético também observou que a subnotificação de métricas como a calibração prejudica a interpretação do risco individual e a confiabilidade da tomada de decisão[6]. Portanto, os pontos de inovação deste projeto devem residir no desenho da avaliação, no consenso de especialistas, na cadeia de evidências e nas capacidades de verificação entre domínios, e não devem ser embalados como um produto clínico verificado.

6. Do processo piloto de 12 casos à plataforma de avaliação multicêntrica

  1. Estágio 0|Acesso e InventárioConfirme a autorização do provedor de dados, caminho ético, uso de dados, período de retenção, método de desduplicação no nível do paciente e faixa de disponibilidade de imagens/documentos; cartão de dados do formulário, relatório faltante, dicionário de campo, pedigree de arquivos e lista de riscos de privacidade.Os casos não são carregados nos serviços de modelo externos até serem concluídos.
  2. Fase 1|12 Piloto de Metodologia de Caso1–2 tarefas julgáveis e revisáveis selecionadas por especialistas clínicos para cada doença; anotação e arbitragem de duas pessoas; bancada de anotação de verificação, citação de evidências, script de pontuação, processo de teste cego e rótulo de gravidade de erro.Somente relatórios de processo são entregues, nenhuma classificação ou estimativa de desempenho é publicada.
  3. Estágio 2|População alvo e desenho do tamanho da amostraNegociar com vários hospitais para coortes prospectivas ou retrospectivas para esclarecer critérios de inclusão, espectro de doenças, equipamentos, janela de tempo, acompanhamento de resultados e autorização de dados.A equipe estatística calculará o tamanho da amostra com base no intervalo de precisão/confiança do endpoint primário e requisitos de subgrupo; "reunir um lote de arquivos" não será usado como padrão para construção de banco de dados.Realizar mapeamento de variáveis ​​intercentros, padronização de unidades e alinhamento terminológico.
  4. Estágio 3 | Lista oficial e verificação ocultadivulga versão do protocolo, regras de envio de modelos, indicadores de pré-cadastro, tempo de atualização da lista, conflito de interesses e mecanismo de recurso; configura conjuntos de desenvolvimento público e conjuntos ocultos controlados, relata resultados de subcentros e subtarefas, calibração, incerteza, eventos de segurança e grupos aplicáveis.É proibido substituir modalidades de imagem não avaliadas por pontuações de tarefas de texto.
  5. Fase 4|Eficácia clínica e monitoramento contínuoAvalie tempo, qualidade, segurança e fatores humanos em fluxos de trabalho reais; monitorar desvios de equipamentos/população, mudanças na qualidade de entrada e escaladas de erros após a entrada em operação.Cada vez que dados, diretrizes, interfaces de modelo ou scripts de pontuação são alterados, uma nova versão é gerada, registros de reversão e listas históricas são retidos e resultados antigos não são substituídos silenciosamente.

Recomenda-se que a descrição dos dados siga a ideia de um cartão de dados reutilizável e indique o horário de coleta, categoria da instituição de origem, calibre de contagem de pacientes e casos, condições de inclusão, definição de rótulo de cada tarefa, padrões de referência, funções de especialistas, deficiências e vieses, permissões e métodos de acesso, cenários proibidos, diferenças de versão e limitações conhecidas.Para dados clínicos interinstitucionais, padrões internacionalmente comuns, como OMOP CDM, LOINC, SNOMED CT e ICD, podem ser usados ​​como referências de mapeamento, mas os códigos originais, as versões da tabela de mapeamento e os itens não mapeáveis ​​devem ser registrados, e a semântica clínica original não pode ser perdida por causa da "padronização".

7. Proposta de construção e ciclo fechado de negócios de LumeSage

Para hospitais, o pacote de casos específicos de doenças não é uma lista de IA pronta, mas a matéria-prima para iniciar projetos de produção e avaliação de dados.Para a equipe médica de IA, poder responder “A qual grupo de pessoas, qual tarefa, qual conjunto de rótulos, a qual versão corresponde esse resultado e a que erro correspondeu esse resultado?” pode apoiar melhor as decisões de P&D do que uma pontuação total separada dos limites da aplicação. A proposta diferenciada de LumeSage pode ser construída em três linhas de entrega verificáveis: primeiro, os especialistas definem tarefas e padrões de referência clínica;segundo, a equipe de engenharia agrupa documentos não estruturados, testes estruturados, tempo e fontes em dados rastreáveis;terceiro, a equipe de avaliação forma um ciclo fechado de iterações contínuas por meio de testes cegos, estratificação de gravidade, verificação externa e gerenciamento de versões.

O valor desta cadeia de negócios vai além dos modelos de treinamento: os hospitais podem usar rótulos e regras de qualidade unificados para realizar pesquisas científicas, governança de dados e cooperação multicêntrica;empresas modelo podem descobrir análise de documentos, erros de unidade, degradação de desempenho de subgrupos e subnotificações perigosas antes de entrarem online; as equipes de pesquisa podem obter protocolos experimentais que podem ser revisados;os pacientes se beneficiam de uma cadeia de evidências mais clara, de uma expressão de incerteza mais apropriada e de uma colaboração homem-máquina mais segura. Todos os valores precisam ser verificados por meio de indicadores específicos do projeto e não podem ser inferidos apenas com base na quantidade de dados ou classificação na lista.

Portanto, recomenda-se que este projeto seja iniciado como um "piloto de pesquisa DiaComp-Bench": primeiro crie um cartão de dados e quatro catálogos de tarefas de doenças, limitando 12 casos apenas para processo de anotação de especialistas e verificação de ferramentas de avaliação; construir uma coorte multicêntrica após concluir a revisão de conformidade; especialistas clínicos, estatísticos, engenheiros de algoritmos e pessoal de segurança do paciente congelam conjuntamente padrões de referência, indicadores e conjuntos ocultos; após verificação externa e avaliação real do fluxo de trabalho, decidir se divulgará as classificações e seus limites aplicáveis. Isto não apenas respeita as evidências atuais de apego, mas também deixa um caminho claro para a formação subsequente de um sistema de avaliação de IA de alta qualidade, reprodutível e clinicamente valioso para complicações do diabetes.

Referências

  1. [1] Comitê de Prática Profissional da American Diabetes Association. 11. Doença Renal Crônica e Gestão de Risco: Padrões de Cuidados em Diabetes – 2026. Cuidados com diabetes. 2026;49(Suplemento 1):S246–S260. DOI 10.2337/dc26-S011.
  2. [2] Tang Z, Wang L, Guo Z, et al. Um conjunto de dados de imagens retinais multimodais para detecção de retinopatia diabética usando modelos básicos. Dados Científicos Scientific Data. 2026;13:639. DOI 10.1038/s41597-026-07005-9.
  3. [3] Modelos multimodais de grande linguagem podem diagnosticar retinopatia diabética a partir de fotos de fundo de olho? Uma avaliação quantitativa. Ciência Oftalmológica. 2026;6(1):100911. DOI 10.1016/j.xops.2025.100911.
  4. [4] Collins GS, Moons KGM, Dhiman P, et al. Declaração TRIPOD+AI: orientação atualizada para relatar modelos de previsão clínica que usam métodos de regressão ou aprendizado de máquina. BMJ. 2024;385:e078378. DOI 10.1136/bmj-2023-078378.
  5. [5] Meng et al. Diagnóstico de biópsia não invasiva da doença renal diabética por meio de aprendizagem profunda aplicada a imagens da retina: um estudo de base populacional. The Lancet Saúde Digital. 2025. DOI 10.1016/j.landig.2025.02.008.
  6. [6] Modelos de classificação de úlceras de pé diabético usando inteligência artificial e técnicas de aprendizado de máquina: revisão sistemática. Jornal de Pesquisa Médica na Internet. 2025;27:e69408. DOI: Descrição da metodologia 10.2196/69408.
  7. [7] Comitê de Prática Profissional da American Diabetes Association. 12. Retinopatia, Neuropatia e Cuidados com os Pés: Padrões de Cuidados em Diabetes — 2026. Cuidados com diabetes. 2026;49(Suplemento 1):S261–S276. DOI 10.2337/dc26-S012.

Nota metodológica:A descrição dos anexos neste artigo está limitada a um inventário estrutural em nível de arquivo; o conteúdo do prontuário médico do paciente não é mostrado ou reproduzido. A triagem automatizada de dessensibilização não constitui certificação de conformidade de privacidade, nem os dados anexados constituem um conjunto de treinamento público ou classificações de modelos clinicamente validados. As definições clínicas e o uso devem ser avaliados por um profissional médico qualificado em conjunto com as diretrizes aplicáveis, um histórico médico completo e regulamentações locais.

Para benchmarks de IA médica, anotações de especialistas, avaliação de modelos ou projetos de qualidade de dados, entre em contato com a equipe LumeSage para discutir planos de implementação verificáveis.

Preencha o formulário de solicitação

Fale com a equipe LumeSage

Se você quiser discutir governança de dados de complicações do diabetes, anotação de especialistas, protocolos de avaliação ou verificação multicêntrica, entre em contato com a equipe LumeSage por telefone, e-mail ou formulário abaixo.Por favor, não envie informações de identificação do paciente.

电话
+86 150 1040 0907
邮箱
date@lumesage.com
WeChat de negócios
LumeSage contato comercial WeChat código QR
Digitalize o código QR para adicionar contatos comerciais E-mail comercial

Não envie o nome do paciente, número de identificação, informações de contato, registros médicos originais ou outras informações de identificação pessoal no formulário.

Ao enviar este formulário, você concorda que a Beijing Langhui Technology Co., Ltd. processe seus dados de contato para responder à sua solicitação. Política de privacidade · Conformidade