借助AI輸出科研思路，好點子算誰的？
“過去招研究助理時，我會比較看重編程能力和執行效率。現在AI把這部分能力的門檻大幅降低了。”中國農業大學經濟管理學院教授朱晨說。今年春節前後，她搭建了自己的科研智能體系統，將經濟學實證研究的流程拆解爲7個環節，交由不同的AI代理分別執行。
變化是顯著的。朱晨發現，智能體可以基於本地數據庫自動生成候選研究問題。在她記錄的14次運行中，系統共生成79個候選問題，87%符合變量存在、研究設計與數據結構匹配、計量方法可行這三個基本條件。“從形式上來說過關了。”她評價道。
但“過關”離“出色”還有多遠？
一位長期關注中國宏觀經濟政策與微觀基礎領域的研究者，幾乎瀏覽了蘇黎世大學Yanagizawa-Drott團隊公開的全部200餘篇AI生成論文。他的評價相當克制：“只有極少數選題具備繼續推進的價值，大多數只是剛入門的研究生水平。如果送到我手裏，我會直接拒掉。”
問題在於分析深度。以經濟學常用的雙重差分方法爲例，這位研究者指出，一篇成熟的實證論文不僅要完成基準回歸，還需進行平行趨勢檢驗、敏感性分析和異質性處理效應分析。但在目前公開的AI生成論文中，這些關鍵步驟“往往缺失，或者只是形式性地出現”。
這指向了一個更深層的問題：當選題本身都可以由算法生成時，科研的原創性到底從哪裏來？
華大集團首席研究員徐訊將生命科學領域的AI能力分爲五個級別。他判斷，當前AI處於L3階段——“它能完成發現，卻不能自主提出原始問題，而提問仍是人類不可替代的核心價值。”在他看來，AI可以基於現有知識做組合與推理，但真正的科學問題，那些需要跳出已知框架、指向未知的追問，仍必須由人來完成。
西安交通大學網絡空間安全學院教授欒浩認爲，大模型本質上是一個知識搜索器。與傳統關鍵詞搜索不一樣的地方在於，它能理解搜索詞的意思，然後在已有的知識庫裏進行精準語義檢索。這意味着，AI能做的是“精準全面地檢索人類現有的知識庫”，而“怎麼去獲取人類未掌握的新知識，大模型無法代勞”。在他看來，有時AI給出的思路看似很新，“其實並非創造，是有其他人提供過相關的思路，被它錄入到自己的知識庫了”。
清華大學化學系副教授馬冬昕的實踐感受印證了這一點。她把AI稱爲“一個擁有大量跨學科知識，會聆聽、愛分享、隨叫隨到的好朋友”，但堅持認爲課題選擇不能完全交給AI。“AI會給出一系列參考文獻，旁徵博引地給出分析。但限於現有技術水平，難免出現謬誤。必須追溯原始文獻，獨立自主且具有批判性地思考。”馬冬昕說。
她特別提到，和AI探討科學問題本身就有價值——當AI“文不對題”時，恰恰促使她更清晰地提煉問題，“這個思考的過程，本身就可以幫助我理清思路”。
借助AI開展實驗分析，若出錯誰擔責？
構想落地，進入實驗與分析。這是科研最“硬核”的環節，也是AI介入最深入、風險最隱蔽的環節。
中國科學院自動化研究所研究員李林靜觀察到，科研智能體已經能夠完成“文獻研讀、實驗規劃、參數迭代、結果分析的閉環自主科研流程”。在北京大學幹細胞研究中心，一套佔地6平方米的智能平臺能獨立完成從指尖採血到幹細胞培育的120多個步驟，實驗誤差從最高10%降至1%以下。
效率令人振奮，但隱患同樣真實。
谷歌旗下DeepMind曾用AI預測出220萬種新的晶體結構，其中38萬種被判定爲“穩定”。然而，得到實驗驗證的不到0.2%。中國工程院院士李國傑將這一現象概括爲：AI產生了海量“看似合理”的假說，絕大多數無法被驗證，導致科研資源被浪費在低優先級選項上。
“看似合理”四個字，精準擊中了許多一線研究者的焦慮。
中國科學院空天信息創新研究院國家對地觀測科學數據中心常務副主任張連翀的觀察很直接：“通用AI系統缺乏主動拒答的能力——即便面對超出其知識範圍的問題，它仍會盡力生成一個看似合理的回答，而該回答的準確性並無保障。”
欒浩從技術原理上解釋了這種“一本正經胡說”的根源：當問題超出大模型的知識庫，或者大模型對於問題的理解有偏差時，它會“強行搜索”，給出不相關甚至錯誤的答案。
南京航空航天大學副研究員伍羣芳在電路設計中也反復遇到類似情形。他舉例，AI生成的電路方案從框架上看“基本原理確實可以這樣去工作”，但一旦涉及效率、紋波、動態響應等具體工程指標，“它不可能所有東西都兼顧得到”。學生拿AI給的濾波電路或信號調理電路去仿真，往往發現實際結果與紙面方案相去甚遠，“給個思路可以，最後實際用的東西還是要改變很多，要自己去仿真、優化、調整”。
朱晨的應對之道，是強制復現，同時保留人在關鍵節點的判斷權。在她的系統裏，每次研究完成後，都會生成完整的R代碼，研究者可以基於原始數據重新運行分析流程，確認回歸結果與報告一致。“這一步復現是整個流程中不可或缺的環節，也是確保研究可靠、避免AI幻覺的關鍵。”
張連翀和團隊有個類似的解決辦法——探索一條“可信語料庫+數據治理+檢索增強生成”的解決路徑。他們在後臺搭建了經過嚴格審核的可信語料庫，智能客服的所有回答均被限定在這一可控數據源內。
這種“人機協同但人最終負責”的模式，正在成爲越來越多實驗室的操作方式。但問題在於：當AI的輸出是一個“黑箱”，研究者既無法完全理解算法內部邏輯，又被要求爲結果承擔全部責任，這個責任邊界的劃分合理嗎？
“當下大模型在企業實際部署中推進緩慢，核心障礙正在於此。”在欒浩看來，大模型給出答案的準確性在理論上無法精準量化，是其在工業界大規模落地的根本瓶頸。科研場景與工業控制同理：AI可以輔助，但決策權必須留在人手裏。
中國人民大學物理學院副研究員高澤峯劃出的邊界更具體。他鼓勵學生用AI輔助寫代碼，但到了結果分析環節，要求學生獨立完成。“必須對自己學術成果中涉及的所有數據負責，絕不能外包，自己當‘甩手掌櫃’。”高澤峯說。
借助AI寫論文，邊界該劃在哪裏？
實驗結束，進入成文階段。這是AI介入最普遍、爭議最集中的環節。某高校化學方向博士生向記者坦言，課題組使用AI的頻率“近乎100%”，從選題、初稿到潤色都已滲入。
“100%”的高頻使用也放大了兩個問題：代筆界限模糊，虛假參考文獻泛濫。
“學生發來英文論文，句子語法規範、用詞地道，卻與學術表達不適配。”馬冬昕遇到的情況頗爲微妙，“我請AI譯回中文，發現譯文通暢。叫來學生一問，果然是先寫好中文再翻譯成英文。”
批評教育之餘，馬冬昕也在思考邊界到底在哪裏：“AI可以輔助搭建邏輯框架、梳理論文思路、修改語法、潤色語言，但絕不能代筆。”而高澤峯則進一步要求學生，在論文撰寫階段同樣必須獨立自主完成，不能使用AI工具進行輔助。
作爲學術期刊的審稿人，伍羣芳從審稿人角度印證了這一點：“審稿的核心還是看創新點——相比現有技術提高了多少？怎麼提高的？技術方案是什麼？最後驗證的是什麼？這些恰恰是AI無法替代專業判斷的地方。”
欒浩用“畫龍點睛”來概括人的不可替代性。“大模型可能可以幫你完成80%甚至90%的工作，但是畫龍點睛的那一筆，往往做不到。”他用做飯來打比方：AI做出來的菜，像食堂裏的大鍋飯，按照經驗和機械化流程完成，“這道菜畢竟沒有辦法喂到它嘴裏，它不知道鹹淡”；而人給家人做飯時，有觀察、有感知、有反饋閉環，“他知道這道菜做出來是什麼感覺”。在欒浩看來，科研中最關鍵的那一筆，恰恰來自這種只有人才能完成的“點睛之筆”。
依賴AI的代價不止於此。
中國環境科學研究院研究員陽平堅就發現，一些學生有了AI後自己不再認真讀英文文獻，“這對學生科研能力傷害非常大”。他現在要求學生文獻必須自己讀，讀完後可以用AI翻譯和總結。
“我一周至少看5篇跟我學術方向相關的論文，了解最前沿的指標。電力電子領域技術性特別強，效率能做到99%還是99.1%，這些我心裏都有數。”在伍羣芳看來，這種對領域核心指標的持續敏感，構成了判斷AI輸出可信度的基準線。
虛假引文是另一個更隱蔽的陷阱。
陽平堅舉了一個例子：AI在一次內容梳理中輸出“中國的碳市場即將啓動”，課題組成員沒有發現問題。“中國碳市場2021年就已經啓動了。AI調取的資料庫版本比較舊，沒有收錄最新的數據。”在他看來，如果研究者對自己領域的常識和前沿缺乏專業敏感，AI輸出的錯誤就會悄無聲息地進入正式文本。
前不久，學術預印本平臺arXiv發布了一項對250萬篇論文、1.11億條參考文獻的系統性審核，結果顯示：僅2025年，arXiv、bioRxiv、SSRN和PubMed Central四大平臺中就存在近15萬條由AI編造的虛假參考文獻。
專家分析，其根源在於生成式AI的運作方式——它傾向於生成“看起來像文獻”的內容，而非檢索真實存在的數據。
“很多專業領域的數據庫不對通用式AI開放，DeepSeek或者豆包查不到最新的前沿文獻。而且它生成的參考文獻，有些實際上根本就不存在。”陽平堅忍不住嘆息，“這類利用AI寫成的文獻綜述能有什麼意義呢？”
伍羣芳以自身領域爲例佐證了陽平堅的觀點：“電力電子學科高度依賴IEEE、IET等專業數據庫，但這些數據庫‘有權限、要版權’，很多內容沒有接入通用大模型。好的東西AI夠不着，所以生成的內容也流於大衆，沒有真正創新可言。”
這也提示，解決AI虛假輸出的關鍵或許不在模型本身，而在數據源的可控性——如果科研人員能夠將經過審核的專業文獻和自有數據“喂”給AI，而非任由它從開放網絡隨意抓取，虛假引文的風險將大爲降低。
