外媒 | 医疗AI模型何时会失败？研究人员探究原因-普瑞纯证

美国伊利诺伊大学的Carle Illinois医学院的研究人员正在探究医疗人工智能和机器学习模型何时会失败或无法如预期般表现，以改进这些模型。研究人员指出，许多医疗AI模型在某些环境下表现良好，但一旦在其他环境中部署，性能就会下降。研究人员解释说：“每个医疗领域都在以某种方式使用机器学习，因此它们正在成为医疗计算诊断和预后的主要支柱。问题在于，当我们基于机器学习进行研究时，例如开发诊断工具，我们运行模型，然后说，好的，模型在有限的测试环境中表现良好，因此可以使用。但是，当我们实际在现实世界中部署它以实时做出临床决策时，许多这些方法都无法如预期般工作。”

新闻稿进一步指出，模型创建和模型部署所使用的数据之间的自然变异是导致模型性能差异的主要驱动因素之一。这种变异可能是由于用于收集数据的协议或硬件的差异，也可能是由于使用的数据集中患者之间的差异。无论这些差异来自何处，它们都可能导致模型性能和预测出现显著变化，从而恶化患者护理。Varatharajah博士表示：“如果我们能提前识别这些差异，那么我们可能能够开发一些额外的工具来防止这些失败，或者至少知道这些模型在某些情况下会失败。”

该研究团队最近在这个领域的工作，是在神经信息处理系统会议（NeurlPS）上展示的，重点是在脑电图（EEG）为基础的机器学习模型中识别这些差异。研究人员首先评估了使用从患有神经系统疾病的患者收集的EEG记录和其他电生理数据的模型。他们分析了每个模型的临床应用，例如比较正常和异常的EEG以区分它们。

版权声明 本网站所有注明“来源：普瑞纯证”或“来源：pureFDA”的文字、图片和音视频资料，版权均属于普瑞纯证网站所有。非经授权，任何媒体、网站或个人不得转载，否则将追究法律责任。取得书面授权转载时，须注明“来源：普瑞纯证”。其它来源的文章系转载文章，本网所有转载文章系出于传递更多信息之目的，转载内容不代表本站立场。