8 月 11 日消息,據美媒 LIVE SCIENCE 9 日報道,一名 60 歲男子在調整飲食前曾向 ChatGPT 咨詢,結果在嚴格遵循這種新飲食計劃三個月后,他因為出現偏執、幻覺等精神癥狀被送進急診。
醫生最終確診他患上溴中毒綜合征 —— 這是一種由長期過量接觸溴化物或溴引起的罕見疾病。男子從網上買來溴化鈉,并完全用它取代日常食鹽。
該病例已于 8 月 5 日刊登在《Annals of Internal Medicine Clinical Cases》。OpenAI 的一位發言人表示,公司服務條款明確規定,這些服務并非用于診斷或治療任何健康問題;使用條款也指出,“不應將我們的服務輸出視為唯一事實依據或專業建議的替代”。他補充說,OpenAI 的安全團隊會努力降低使用風險,并訓練產品引導用戶尋求專業意見。
從報道中獲悉,19 至 20 世紀,溴化物常見于處方藥和非處方藥中,用作鎮靜劑、抗癲癇藥和助眠藥。但長期接觸(如濫用藥物)會導致溴中毒。患者會出現精神病、躁狂、妄想、記憶障礙和肌肉協調問題,因為溴化物會在體內積累并損害神經功能。
到了上世紀 70、80 年代,美國已將包括溴化鈉在內的多種溴化物從非處方藥中剔除,病例數量大幅減少。在當下,偶爾仍會因網絡售賣的含溴膳食補充劑引發病例。
這名男子在出事前曾查閱食鹽(氯化鈉)攝入過量的危害,但只找到減少鈉攝入的資料,幾乎沒有減少氯的建議。受大學時期營養學學習經歷的影響,他決定自己做實驗,從飲食中徹底去掉氯化物。
他咨詢了 ChatGPT(推測為 3.5 或 4.0 版本)。男子稱 ChatGPT 建議用溴化物替代氯化物,他于是將食鹽全部換成溴化鈉。醫生指出,這種替代本該用于清潔用途,而非食用。
醫生后來模擬提問 ChatGPT 3.5 也得到了類似回答。模型提到“需要結合情境”,卻沒有發出明確健康警告,也未像醫生那樣追問原因。
三個月后,男子因懷疑鄰居投毒前往急診。化驗顯示血液二氧化碳升高、呈堿性反應,并出現“假性高氯血癥”。溴化物干擾了檢測結果。結合中毒控制中心意見,醫生認定是溴中毒。
住院期間,他雖極度口渴卻懷疑飲水有毒,一天后偏執加重并出現幻覺,試圖逃離醫院,被強制精神科留院并開始服用抗精神病藥物。補液和補充電解質后,他的生命體征趨于穩定。隨著藥物控制癥狀,他透露了使用 ChatGPT 的經歷,并提到近期還出現痤瘡、皮疹、失眠、疲勞、肌肉協調障礙等癥狀,進一步印證了溴中毒。
三周后他停用抗精神病藥出院,兩周復查時情況穩定。
報告作者表示,AI 雖能在科學界與公眾之間搭建溝通橋梁,但也可能傳播脫離語境的信息。“幾乎不可能有醫生會建議用溴化鈉替代氯化鈉。”
另一項研究中,科學家測試了包括 ChatGPT 在內的六種大語言模型,讓其解讀臨床筆記,結果發現這些模型“極易受到對抗性幻覺攻擊”,會生成虛假的臨床細節。即便采用工程改進,也無法完全消除風險,為 AI 在醫療決策中的應用敲響了警鐘。
本文鏈接:http://www.tebozhan.com/showinfo-45-25996-0.html美國一男子向 ChatGPT 尋求飲食建議,卻被“誤診”導致罹患溴中毒
聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com
上一篇: OpenAI 的“iPhone 時刻”:奧爾特曼稱 GPT-5 是全球最佳寫作、編程 AI 模型,免費 ChatGPT 用戶也能體驗