據(jù) TechCrunch 獲得的內(nèi)部通信內(nèi)容顯示，參與改進(jìn)谷歌 Gemini 人工智能模型的承包商正在將其答案與 Anthropic 的競品模型 Claude 的輸出進(jìn)行比較。此舉引發(fā)了谷歌是否獲得 Anthropic 授權(quán)使用 Claude 進(jìn)行測試的合規(guī)性質(zhì)疑。
在科技公司競相開發(fā)更優(yōu)秀 AI 模型的當(dāng)下，模型性能的評估通常通過行業(yè)基準(zhǔn)測試進(jìn)行，而非由承包商耗費(fèi)大量精力評估競爭對手的 AI 回復(fù)。然而，Gemini 的承包商需要根據(jù)多個標(biāo)準(zhǔn)（例如真實(shí)性和冗長性）對看到的每個回復(fù)進(jìn)行評分。根據(jù) TechCrunch 獲得的通信內(nèi)容，承包商最多有 30 分鐘的時間來判斷 Gemini 或 Claude 的答案哪個更好。
內(nèi)部聊天記錄顯示，承包商注意到 Claude 的回復(fù)似乎比 Gemini 更強(qiáng)調(diào)安全性。一位承包商寫道：“在所有 AI 模型中，Claude 的安全設(shè)置是最嚴(yán)格的。”在某些情況下，Claude 不會回應(yīng)其認(rèn)為不安全的提示詞（prompt），例如扮演不同的 AI 助手。在另一次測試中，Claude 避免回答某個提示詞，而 Gemini 的回復(fù)則因包含“裸體和束縛”而被標(biāo)記為“嚴(yán)重的安全違規(guī)”。
Anthropic 的商業(yè)服務(wù)條款禁止客戶未經(jīng) Anthropic 批準(zhǔn)訪問 Claude“以構(gòu)建競爭產(chǎn)品或服務(wù)”或“訓(xùn)練競爭 AI 模型”。谷歌是 Anthropic 的主要投資者。
對此，谷歌 DeepMind（負(fù)責(zé) Gemini）發(fā)言人 McNamara 表示，DeepMind 確實(shí)會“比較模型輸出”以進(jìn)行評估，但并未在 Anthropic 模型上訓(xùn)練 Gemini。“當(dāng)然，按照行業(yè)慣例，在某些情況下，我們會比較模型輸出作為評估過程的一部分，”McNamara 說，“然而，任何關(guān)于我們使用 Anthropic 模型訓(xùn)練 Gemini 的說法都是不準(zhǔn)確的。” 
