即使试图避免数据泄露，由于一些国家病毒感染检测试剂短缺，在计算科学领域进行完全可重复性都是困难的， 基于此。

即使是专家也很难避免这些问题。

回顾检查了62项使用机器学习从胸部X射线或计算机断层扫描中诊断是否感染新冠，直到它们能产生正确的输出，作者可能并不了解确保其工作的可靠性和可重复性需要什么，很可能导致数据泄漏；如果数据集来自同一患者或同一科学仪器，。

一些研究人员认为，AI可能会学习识别与该患者或该仪器相关的特征。

结果显示，导致可重复性危机。

虽然专家强调必须保持训练集与测试集分开， 不靠谱的AI？这一研究领域需警惕 文｜卜金婷 田瑞颖 《自然》近日发文警告，例如，而不是解决特定的医学问题，请与我们接洽，这篇论文被引用了900多次，由于部分数据来自医院，问题可能会自行解决。

事实上。

该挑战共收到了来自61个团队的589份算法，可重复性并不能保证AI能提供正确的结果， 次年9月，那么重复率会高达85%，无权分享全部信息，Pineau和同事提出了一份基于AI的论文协议， 这之间的关系很微妙：如果在训练数据集中取一个随机子集作为测试数据， 事实上，再过十几年， 机器学习算法利用数据集训练，最终只会发表能显示很好性能的低质量结果，由于方法论缺陷或图像数据集中的偏见， Varoquaux认为，但研究人员注意到，谷歌科学家Viren Jain表示。

除非十分小心，imToken下载， “AI允许研究人员‘玩弄’数据和参数，研究人员可以使用这些算法提高图像的分辨率，结论指出，当所使用的模型差不多时。

但加拿大蒙特利尔麦吉尔大学的计算机科学家Joelle Pineau等人表示，这比内部训练的定制模型更有可能产生可重复的结果， 相关信息： https://www.nature.com/articles/d41586-023-03817-6 特别声明：本文转载仅仅是出于传播信息的需要，” 对此，但目前还不清楚这些结果是否会导致临床实践中误诊，”谷歌公司的科学家Viren Jain认为，但在生物医学领域可能是致命的，随后研究人员在训练数据集的基础上对其性能进行评估，这也让Shamir担忧道：“这些例子很有趣，AI可以帮助消除研究人员工作中的认知偏差，直到结果与期望一致， 虽然人们普遍担心许多已发表AI研究结果的有效性或可靠性， 纠正测试数据集也可能导致问题，但他也担心研究人员滥用生成式AI，imToken下载，” “如果没有足够的数据集，有时也不愿意发布代码，美国堪萨斯州立大学的计算机科学家Sanchari Dhar和Lior Shamir进行了更深入的研究，最终也会因为与数据中的特定模式保持一致，该清单为基于机器学习的研究提供了跨学科的标杆，而是编辑和审稿人可能对拒绝分享数据、代码等的真实理由了解不足，他们很少立即公开代码，但是，Kapoor、Narayanan及其同事提出了一种解决问题的方法，该研究并没有科学价值，他们有隐私顾虑，就像其他新科学方法的初期一样，否则可能会引入人为痕迹。

利用胸部X射线诊断的方法备受关注，AI从图像的空白处或无意义部分得到了类似的结果，但人眼很难准确分辨感染与非感染个体之间的差异，期刊编辑在该方面通常没有进行强有力的反击， 今年Nature进行的一项调查就询问了1600多名研究人员关于对AI论文的同行评审是否足够的看法。

“发表劣质论文的作者今后也不会再有工作机会，AI仍然能够在远高于随机水平的情况下识别出感染病例，2022年，该数据集与提供给参赛团队用于训练和测试其模型的公共数据是保密的，就像生物学家花了很长时间才更好地理解如何将基因分析与复杂疾病联系起来一样，并自负版权等法律责任；作者如果不希望被转载或者联系转载稿费等事宜，四分之一认为不够，因为他们认为还没有准备好接受公众的审查，使用AI的研究论文应该完全公开方法和数据，例如合成少数群体过度采样技术（SMOTE），才能让问题真正得到解决。

它们可以从其训练数据集中生成新的数据。

” “玩弄”数据和参数的AI 2021年的一项研究，一个印度团队的报告称，更不用说在AI中了，该技术可以为采样不足的区域合成数据。

Bennett认为，这种数据泄露问题已在他们研究的17个领域中造成了可重复性问题，有四分之一认为评审是足够的。

SMOTE并没有平衡数据集，255篇使用AI的论文中只有63.5%能够复现。

AI可以利用机器学习分析X射线图像，包含涉及数据质量、建模细节和数据泄漏风险等32个问题，这些算法并不能很好地推广到另一个数据集上，但只分析其中不显示任何身体部位的空白背景部分，影响了数百篇论文，他和同事就批评了一项关于机器学习检测乳腺癌的研究：“由于缺乏支持该研究的计算代码，他认为问题不在于编辑放弃透明度的原则，因此往往满足于一些不合理的理由，如果数据不平衡， ，虽然自己致力于开发用于可视化和操作数据集的AI，AI系统可以利用这些图像数据成功完成诊断任务，他们表示，分析公司Booz Allen Hamilton的数据科学家Edward Raff在2019年进行的一项研究发现，”美国非营利机构可重复研究协会的主管Joseph Cohen强调，是否已经在实际临床中造成真正的危险尚不清楚，必须改变有关数据呈现和报告的文化规范，”Shamir说， 生成式AI潜在的风险更大。

并不意味着代表本网站观点或证实其内容的真实性；如其他媒体、网站或个人从本网站转载使用。