英國(guó)衛(wèi)報(bào)昨日（12 月 24 日）發(fā)布博文，報(bào)道稱 OpenAI 的 ChatGPT 搜索存在安全問題，其返回結(jié)果可以被頁(yè)面的隱藏內(nèi)容操縱，甚至可能返回惡意代碼。
英國(guó)衛(wèi)報(bào)重點(diǎn)測(cè)試了 ChatGPT 搜索工具對(duì)包含隱藏內(nèi)容的網(wǎng)頁(yè)處理情況，IT之家注：這里的隱藏內(nèi)容可能包含來自第三方、可以更改 ChatGPT 響應(yīng)的指令（也稱為“提示注入”），以及填充大量虛假好評(píng)，影響生成結(jié)果的內(nèi)容。
根據(jù)測(cè)試結(jié)果，ChatGPT 搜索工具可以被惡意使用，盡管頁(yè)面存在部分負(fù)面評(píng)論，但可以影響 ChatGPT 結(jié)果為積極的正面評(píng)估，安全研究人員還發(fā)現(xiàn) ChatGPT 可以從其搜索的網(wǎng)站返回惡意代碼，出現(xiàn)了含有釣魚惡意行為的虛假網(wǎng)站。
CyberCX 的網(wǎng)絡(luò)安全研究員 Jacob Larsen 認(rèn)為，ChatGPT 當(dāng)前的搜索系統(tǒng)發(fā)布后，人們創(chuàng)建專門用于欺騙用戶的網(wǎng)站的風(fēng)險(xiǎn)很高，所幸的是該功能仍處于測(cè)試階段，OpenAI 團(tuán)隊(duì)正在努力解決這些問題。
安全公司 SR Labs 的首席科學(xué)家 Karsten Nohl 則建議將 AI 聊天服務(wù)視為“輔助功能”，不應(yīng)完全信任其未經(jīng)過濾的輸出內(nèi)容。
Nohl 將 AI 搜索面臨的問題比作“SEO 中毒”，黑客利用這種技術(shù)操縱網(wǎng)站在搜索結(jié)果中排名靠前，并在網(wǎng)站中植入惡意軟件或代碼，他認(rèn)為 ChatGPT 的搜索功能也面臨類似的挑戰(zhàn)。 
