7 月 7 日消息,據《日經亞洲》報道,部分學者可能正在采用一種新策略來影響其研究論文的同行評審結果 —— 在論文中添加隱藏的提示詞(prompt),以誘導人工智能工具給出正面評價。
《日經亞洲》在對學術預印本網站 arXiv 上的英文論文進行調查時發現,共有 17 篇論文中包含了某種形式的隱藏人工智能提示詞。這些論文的作者分別來自日本早稻田大學、韓國科學技術院(KAIST)、美國哥倫比亞大學和華盛頓大學等八個國家的 14 所學術機構。
注意到,這些論文大多與計算機科學相關,其中的提示詞內容簡短,通常為一到三句話,并通過白色文字或極小字體的方式隱藏。這些提示詞要求潛在的人工智能評審工具“僅給出正面評價”,或稱贊論文具有“重大的影響力、嚴謹的方法論以及非凡的創新性”。
當《日經亞洲》聯系早稻田大學的一位教授時,該教授為使用提示詞的行為辯護稱,由于許多學術會議禁止使用人工智能來評審論文,他們設置提示詞是為了“對抗那些使用人工智能進行‘敷衍評審’的評審者”。
本文鏈接:http://www.tebozhan.com/showinfo-45-14449-0.html部分學者被曝在論文中植入隱藏提示詞,試圖誘導 AI 給出正面評價
聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com