何恺明ResNet登顶,Transformer加冕!Nature独家揭秘25篇高被引论文

何恺明ResNet登顶,Transformer加冕!Nature独家揭秘25篇高被引论文

编辑:桃子

【导读】21世纪最具影响力的25篇论文中,AI论文竟然独占鳌头!从席卷全球的ResNet到奠定ChatGPT基础的Transformer架构,Nature独家揭秘全球高被引论文。

21世纪第一个25年,AI领域被引最高25篇论文都有哪些?

近日,Nature头版独家文章,揭秘了不同科学领域最具影响力的论文。

何恺明ResNet登顶,Transformer加冕!Nature独家揭秘25篇高被引论文

然而,令人意外的是,那些广为人知的科学发现:从mRNA疫苗和CRISPR基因编辑技术,到希格斯玻色子的发现和引力波的首次测量,并没有出现在这些入选的论文中。

他们得出结论,被引最高的论文,正是描述科学方法、软件工具或系统性综述的「幕后英雄」。

那么,都有哪些论文上榜了呢?

何恺明ResNet登顶,Transformer加冕!Nature独家揭秘25篇高被引论文

引用:科学影响力的衡量标准

引用是学术界衡量论文影响力的重要指标,作者通过引用来致敬前人的工作。

Nature的分析基于五个学术数据库(涵盖了21世纪数千万篇论文),通过取中位数排名,筛选出本世纪最受引用的25篇论文。

结果显示,人工智能、提升研究质量提升、癌症统计、研究软件相关的论文占据了榜单前列。

唯一例外是一篇2004年关于石墨烯实验的开创性论文,这项工作为作者赢得了2010年的诺贝尔物理学奖。

AI崛起,ResNet登顶

人工智能论文,在本世纪引用榜单中独领风骚。

位居榜首的是,微软团队2016年发表的一篇论文——Deep Residual Learning for Image Recognition。

这恰恰是所有人熟知的「深度残差学习」神经网络——ResNets的开山之作,由AI大牛孙剑带队何恺明等人完成。

何恺明ResNet登顶,Transformer加冕!Nature独家揭秘25篇高被引论文

论文地址:https://arxiv.org/abs/1512.03385

ResNets解决了信号在多层网络中传播时衰减的问题,让研究人员能够训练约150层神经网络。

这大约是当时常规神经网络层数的5倍。

何恺明ResNet登顶,Transformer加冕!Nature独家揭秘25篇高被引论文

该论文首次作为预印本发布于2015年末,微软团队凭借其在图像识别竞赛中夺冠。

ResNets的突破为AI飞速发展铺平了道路,催生了AlphaGo、AlphaFold、ChatGPT等模型诞生。

现就职于麻省理工学院的何恺明表示,「在ResNets之前,深度学习并不那么『深』」。

据统计,这篇论文的引用量在10万-25.4万次之间。在五个数据库中有两个将其列为第一,两个列为第二,一个列为第三,综合中位数排名第一。

何恺明ResNet登顶,Transformer加冕!Nature独家揭秘25篇高被引论文

Google Scholar这篇论文被引数已超25万

此外,2017年谷歌发表的Attention is all you need排位列七,论文中提出了着名的Transformer架构,成为ChatGPT等大模型的核心。

何恺明ResNet登顶,Transformer加冕!Nature独家揭秘25篇高被引论文

论文地址:https://arxiv.org/pdf/1706.03762

AI论文的高引用量,主要是因为其广泛的应用领域和快速的研究进展。

同样,AI教父Geoff Hinton指出,「AI论文天然具有引用优势」。

2012年,Hinton带领学生Ilya、Alex Krizhevsky发表的AlexNet论文排名第八。

这篇巨作展示了神经网络在图像识别竞赛中的压倒性优势,掀起了后来的深度学习革命。

何恺明ResNet登顶,Transformer加冕!Nature独家揭秘25篇高被引论文

论文地址:https://proceedings.neurips.cc/paper_files/paper/2012/file/c399862d3b9d6b76c8436e924a68c45b-Paper.pdf

何恺明ResNet登顶,Transformer加冕!Nature独家揭秘25篇高被引论文

此外,开源也助推了AI论文的引用。

比如排名第六的Random Forests论文介绍了一种开源、易用的机器学习算法,广泛应用于多个领域。

何恺明ResNet登顶,Transformer加冕!Nature独家揭秘25篇高被引论文

论文地址:https://link.springer.com/article/10.1023/A:1010933404324

需要说明的是,许多AI论文以预印本形式发布,增加了引用统计的复杂性。

OpenAlex数据库尝试合并预印本与最终出版物的引用,而Google Scholar则努力将同一作品的所有版本归类并汇总引用。

研究软件:科学家的「工具箱」

除了AI领域,研究软件相关论文在本世纪引用榜单中表现亮眼。

排名第二的论文由Thomas Schmittgen等人于2000年发表,介绍了一种用于定量PCR(聚合酶链式反应)数据分析的方法。

这篇论文应审稿人要求而生,因其提供了计算基因活性变化的简单公式,被引量超过16.2万次,跻身历史前十。

何恺明ResNet登顶,Transformer加冕!Nature独家揭秘25篇高被引论文

论文地址:https://www.sciencedirect.com/science/article/abs/pii/S1046202301912629

排名第五的论文,是由英国化学家George Sheldrick撰写,介绍SHELX程序套件,用于分析X射线散射模式以揭示分子结构。

这篇2008年的综述论文建议使用SHELX时引用,引用量在7万至9万次之间。

何恺明ResNet登顶,Transformer加冕!Nature独家揭秘25篇高被引论文

论文地址:https://journals.iucr.org/a/issues/2008/01/00/sc5010/index.html

其他软件论文,如排名第十五的scikit-learn(Python机器学习库)和排名第十八的DESeq2(RNA测序分析),因其开源和易用性,成为科学家不可或缺的工具。

统计软件:数据分析的利器

统计软件相关论文,也在榜单中名列前茅。

例如,排名第15的scikit-learn论文和排名第22的lme4论文分别为Python和R语言用户提供了强大的数据分析工具。

排名第23的G*Power软件论文则帮助生物学家计算实验所需的样本量,以确保统计显着性。

值得注意的是,R编程语言本身未出现在榜单中,尽管OpenAlex记录其引用量超过30万次。

这是因为R的开发者建议用户引用其网站而非学术论文,导致数据库记录不一致。

这也提醒研究者:若开发了有影响力的程序,发表一篇相关论文至关重要。

癌症与健康:数据驱动的洞见

癌症研究领域的三篇论文在榜单中占据重要位置。

排名第四的Diagnostic and Statistical Manual of Mental Disorders(DSM-5)是精神病学领域的权威指南,2013年出版后广泛用于研究和临床,定义了精神障碍的诊断标准。

排名第九和第十的是世界卫生组织GLOBOCAN项目于2018年和2020年发布的全球癌症统计报告,为研究者和政策制定者提供了关键数据。

排名第十九的综述论文总结了癌症的「标志性特征」,激励了无数学生投身癌症研究。

提升研究质量

提升研究质量的论文在本世纪引用榜单中熠熠生辉。排名第三的论文Using thematic analysis in psychology,由心理学家Virginia Braun和Victoria Hannah Clarke于2006年发表,介绍了「主题分析」——一种分析定性数据的系统方法。

这篇为学生设计的指南意外成为本世纪第三高引用论文,彻底改变了两位作者的职业轨迹。

排名第11的PRISMA声明(2009年)为系统综述和荟萃分析提供了27项报告规范,引用量在5.3万至13.8万次之间。

2020年更新的PRISMA(排名第23)同样上榜。排名第17的论文(2003年)讨论了行为研究中的方法偏差,帮助研究者提高研究严谨性。

参考资料:

https://www.nature.com/articles/d41586-025-01125-9

内容来源于网络。发布者:科技网btna,转转请注明出处:https://www.btna.cn/4603.html

(0)
科技网btna的头像科技网btna
上一篇 2025年4月18日 上午9:52
下一篇 2025年4月18日 上午9:53

相关推荐

  • 采样越多越聪明?隐式扩展颠覆认知,采样搜索如何挑出完美解

    编辑:英智 【导读】采样多就一定准吗?研究人员用实验告诉你:是的,而且超乎想象!基于采样的搜索不仅能在并行处理中大展身手,还通过隐式扩展让验证更精准。 先让模型生成多个候选答案,再通过自我验证挑出「真金」。 基于采样的搜索在许多推理任务中表现优异,可关于它的扩展趋势,还有许多未解之谜。 随着采样数量的增加,模型的推理性能能否继续提升?这种简单的搜索范式能在多…

    2025年4月21日
    10700
  • 选AI比选对象还难!起名黑洞OpenAI的新模型,到底怎么选?

    编辑:犀牛 好困 【导读】一句话看懂:o3以深度推理与工具调用能力领跑复杂任务,GPT-4.1超长上下文与精准指令执行适合API开发,而o4-mini则堪称日常任务的「性价比之王」。 如果你最近关注AI新闻,可能会被各种层出不穷的新模型搞的眼花缭乱。 尤其是堪称「起名黑洞」的OpenAI,命起名来可谓是是毫无章法。 即便是AI圈的资深团队,在面对同时发布的o…

    2025年4月21日
    13400
  • 谷歌发76页智能体白皮书!你的「AI替身」已上线

    编辑:英智 【导读】谷歌最新发布的76页AI智能体白皮书,深入剖析了智能体的应用前景。智能体通过感知环境、调用工具和自主规划,能够完成复杂任务并做出高级决策。从智能体运维(AgentOps)到多智能体协作,这份白皮书为AI智能体指明了方向。 近日,谷歌发表了76页的AI智能体白皮书! 智能体通过感知环境,并利用工具策略性地采取行动,实现特定目标。 其核心原理…

    2025年5月11日
    3700
  • 全美高校被AI羞耻攻陷!普林斯顿教授预警:AI必将杀死人文学科

    编辑:Aeneas 英智 【导读】最近,一位普林斯顿教授在纽约客上发表长文,揭露美国高校中普遍存在的「AI羞耻症」。他预言,在AI的冲击下,人文学科必将消亡。所以,人文学科还有必要存在吗? 就在最近,科技史学家、普林斯顿教授D. Graham Burnett在《纽约客》上发表长文,探讨了这个如今愈发被热议的话题—— 人文学科,会在AI的冲击下消亡吗? 一开篇…

    2025年5月8日
    4200
  • OpenAI没说的秘密,Meta全揭了?华人一作GPT-4o同款技术,爆打扩散王者

    编辑:KingHZ 【导读】自回归模型,首次生成2048×2048分辨率图像!来自Meta、西北大学、新加坡国立大学等机构的研究人员,专门为多模态大语言模型(MLLMs)设计的TokenShuffle,显着减少了计算中的视觉Token数量,提升效率并支持高分辨率图像合成。 自回归模型的新突破:首次生成2048×2048分辨率图像! 来自Meta、西北大学、新…

    2025年4月28日
    6800

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

联系我们

400-800-8888

在线咨询: QQ交谈

邮件:admin@example.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信