裁剪：LRS开云体育

【新智元导读】东说念主工智能用具正在匡助科研东说念主员快速整合和领悟大批科学文件，但完全自动化的高质地文件综述生成仍濒临挑战，诚然能训诲照看后果，但也存在生成低质地综述的风险，需严慎使用，是以说现阶段如故东说念主眼看论文靠谱。

汇注的普及，加上文件数目的爆炸式增长，如今的科研东说念主员要濒临的一个主要贫穷等于，尽管可能仍是网罗了实足的数据来匡助领悟某个复杂的限制或系统，但由于信息量的繁密，东说念主类无法全面地阅读和领悟系数文件。

就像是面对一个繁密的藏书楼，诚然每本书齐包含了贵重的常识，但莫得东说念主能够阅读系数的竹素并从中取得一个完竣的领路。

因此，尽管科学的逾越为咱们提供了大批的数据，但怎样灵验地整合和领悟这些数据仍然是一个亟待贬责的问题。

最近Nature上有一篇专栏著述，先容了一些现存的、文件综述自动化生成的要领，并指出了这类要领主要濒临的逆境及用户痛点。

著述集中：https://www.nature.com/articles/d41586-024-03676-9

尽管身处ChatGPT期间，但思要完全莫得东说念主类参与，让AI「一键」完成系统性综述生成，集查询、整理、文件筛选、追忆归纳等于孑然，况且莫得幻觉无理，仍然是一项不可能完成的任务。

用AI作念文件综述

几十年来，照看东说念主员们一直在尝试训诲「将大批运筹帷幄照看汇编成综述」的速率，由于责任量过大，好多综述在提交的时候频频就仍是落后了。

ChatGPT等大模子展现出的超强言语领悟才调，也再次激勉了东说念主们关于自动化综述的兴趣，本年9月， 好意思国初创公司FutureHouse构建了一个新系统，声称能够在几分钟内生成一个比维基百科更准确的科学常识详尽页面，况且仍是为大致17,000个东说念主类基因（human gene）生成了维基百科作风的条件，其中大部分在此前短少矜重的描画先容。

一些科学文件搜索引擎也仍是运转引入AI驱动才调，来匡助用户通过查找、排序和追忆出书物来制作诠释性文件综述，但现在质地广泛比拟低。

大多数照看东说念主员齐认同，离罢了自动化「金模范综述」还有很长的路要走，通盘经由触及严格的模范来搜索和评估论文，还包括元分析来合成模范，大略10年、致使100年后才能略有进展。

野情绪赞助评审

几十年来，野情绪软件一直在赞助照看东说念主员搜索息争析照看文件。

早在大型言语模子（LLMs）出现之前，科学家们就运转使用机器学习和其他算法来匡助识别特定照看，或快速从论文中索求发现，但类似ChatGPT这么的大模子让自动综述的才调显耀训诲。

不外，照看东说念主员示意，要求ChatGPT或其他AI聊天机器东说念主重新运转撰写学术文件综述，是特别不试验的。

若是模子被要求对某个主题的照看进行综述，LLM可能会从一些实在的学术照看、不准确的博客中，或是其他未知的信息着手中整合信息，而不会对最运筹帷幄、最高质地的文件进行量度。

LLMs的运行机制，即通过反复生成对查询在统计上合理的单词，决定了模子对归拢个问题会生成不同的谜底，并「幻思」出一些无理信息，比如无人不晓的「不存在」的学术援用，和东说念主类进行综述的经由可以说是毫无相通之处。

一个更复杂的经由是检索增强生成（RAG），包括将事前摄取的论文语料库上传到LLM，并要求模子从中索求要害点，并基于这些照看给出谜底，可以在一定进度上减少幻觉表象，但无法完全灭绝幻觉。

RAG的经由中，还可以设立信息着手，类似Consensus和Elicit等专门的、AI驱动的科学搜索引擎等于这么作念的，诚然大多数公司莫得清楚系统责任确凿切细节，但大体上等于将用户的问题泛动为对学术数据库（如Semantic Scholar和PubMed）的搜索，并复返最运筹帷幄的模范。

基于搜索模范，大型言语模子（LLM）会追忆这些照看，并将其详尽成一个「带援用着手」的谜底，用户可以把柄具体需要接受要援用的责任。

丹麦南部大学奥登塞分校的博士后照看员Mushtaq Bilal觉得，这些用具细目能让训诲综述和写稿的后果，况且还我方斥地了一个用具Research Kick。

至少搜索引擎援用的骨子是实足信得过存在的，用户可以进一步点击稽查，我方诀别。

不同的赞助用具有不同的特质，举例Scite系统可以快速生成复旧或反驳某个意见的论文的矜重说明，Elicit等系统可以从论文的不同部分索求转折（要领、论断等）。

大多数AI科学搜索引擎不周全自动地生成准确的文件综述，其输出更像是「一个本科生连明连夜，然后追忆出几篇论文的主要不雅点」，是以照看东说念主员最佳使用这些用具来优化综述经由中的部分要道。

但这种用具还有一些过失，举例只可搜索灵通获取的论文和选录，而非著述的全文，Elicit搜索约1.25亿篇论文，Consensus包含杰出2亿篇。

大部分照看文件齐处于付费墙后，而且搜索大批全文野心量很大，让AI愚弄运行数百万篇著述的一齐文本将需要好多技能，野心老本也会相配高。

系统性综述仍然很难

诠释性地追忆文件仍是相配难了，若是思把运筹帷幄责任系统性地综述更是难上加难，一个专科的照看东说念主员也需要破耗数月致使数年才能完成。

把柄Glasziou团队的分析，系统综述包括至少25个仔细的要领，在梳理文件后，照看东说念主员必须从长列表中筛选出最运筹帷幄的论文，然后索求数据，过滤出可能存在偏见的照看，并详尽模范。

这些要领往买卖需要另一位照看东说念主员进行访佛，以查验不一致性。

在ChatGPT出现之前，Glasziou运转尝试创造科学界的天下记载：在两周内完成一篇系统综述。

Glasziou和其他几位共事，包括Marshall和Thomas，仍是斥地了野情绪用具来提高后果，其时可用的软件包括RobotSearch，能够快速从一系列照看中识别出连忙西宾；RobotReviewer可以匡助评估照看是否存在因为未充分盲化而产生偏见的风险。

第一次尝试最终所有用了九个责任日；其后团队又将该记录裁减到了五天。

这个经由还能变得更快吗？

Elicit是一家专注于匡助照看东说念主员进行系统综述而不单是是诠释性综述的公司，但该用具并不提供一键式系统综述，而是自动化其中某些要领，包括筛选论文和索求数据等。

大多数使用Elicit进行系统综述的照看东说念主员齐会上传使用其他搜索引擎找到的运筹帷幄论文，但用户广泛惦记这类用具可能无法得志照看的两个基本模范：透明度和可复制性。

若是不睬解具体的算法，那就不算是系统综述，而只是一篇简便的综述著述。

本年早些时候，Glasziou团队成员Clark磋商了一项系统综述，照看了使用生成式AI用具赞助系统综述的照看，最终团队只找到了15项已发表的照看，并将AI的性能与东说念主进行充分对比。

这些尚未发表或同业评审的模范标明，这些AI系统可以从上传的照看中索求一些数据，并评估临床西宾的偏差风险。

现存的模子在阅读和评估论文方面似乎作念得还可以，但在系数其他任务上发达得相配晦气，包括瞎想和进行完善绝对的文件搜索。

潜在风险

自动化信息合成也伴跟着风险。

照看东说念主员多年来就知说念许多系统评价存在冗余或质地差等问题，而东说念主工智能可能会使这些问题变得更糟；作家可能会特意或意外地使用东说念主工智能用具来快速完成不投降严格模范或包含低质地责任的评审，并得到误导性的模范。

除了综述别东说念主的责任外，Glasziou示意，这类模子还可以促使照看东说念主员快速查验过去发表的文件，找出其中的无理，来陆续提高照看东说念主员的水平。

致使在改日，东说念主工智能用具可以通过寻找P-hacking等昭着迹象来匡助象征和过滤掉质地较差的论文。

Glasziou将这种情况视为一种均衡：东说念主工智能用具可以匡助科学家作念出高质地的评审，但也可能会让部分照看者快速生成不对格的论文，现在还不知说念会对出书的文件产生什么影响。

有些照看者觉得，合成和领悟天下常识的才调不应只是掌捏在不透明的牟利性公司手中，但愿改日可以看到非牟利组织构建并仔细测试东说念主工智能用具，后怕虎地开云体育，尽可能保证每次提供的谜底齐是正确的。