化工儀器網(wǎng)首頁>資訊中心>時事熱點>正文

OpenAI開發(fā)反作弊工具 效用如何引發(fā)質(zhì)疑
2024年08月07日 10:16:33 來源：化工儀器網(wǎng) 點擊量：4344

《華爾街日報》消息顯示，反作弊項目在OpenAI內(nèi)部爭論了大約兩年，準(zhǔn)備發(fā)布的時間就有大約為一年。

　　【化工儀器網(wǎng) 時事熱點】《華爾街日報》消息顯示，反作弊項目在OpenAI內(nèi)部爭論了大約兩年，準(zhǔn)備發(fā)布的時間就有大約為一年。 OpenAI首席執(zhí)行官山姆·奧特曼(Sam Altman)和首席技術(shù)官米拉·穆拉蒂(Mira Murati)都參與了反作弊工具的討論。知情人士說，奧特曼鼓勵這個項目，但沒有推動發(fā)布。
 
　　OpenAI內(nèi)部在透明度承諾和留住用戶之間搖擺不定，它對ChatGPT用戶開展的一項調(diào)查發(fā)現(xiàn)，近1/3的用戶會因為反作弊技術(shù)而關(guān)閉服務(wù)，這些受訪者表示，如果ChatGPT使用反作弊技術(shù)而競爭對手沒有，他們會減少使用ChatGPT。
 
　　ChatGPT可以預(yù)測句子中接下來會出現(xiàn)的token，OpenAI的反作弊工具將略微改變token的選擇方式，這些變化會留下水印。這些水印對人眼來說是不明顯的，但可以被OpenAI的檢測技術(shù)發(fā)現(xiàn)。根據(jù)內(nèi)部文件，當(dāng)ChatGPT創(chuàng)建足夠多的新文本時，水印的有效性為99.9%。
 
　　首先，從技術(shù)角度來看，OpenAI的反作弊工具利用了一種類似“水印”的方法，在文本中嵌入不可見的標(biāo)記。這些水印對人眼來說是不明顯的，但可以被OpenAI的檢測技術(shù)發(fā)現(xiàn)。據(jù)稱，當(dāng)ChatGPT創(chuàng)建足夠多的新文本時，水印的有效性高達(dá)99.9%，且不會影響ChatGPT的性能。然而，內(nèi)部員工擔(dān)心這些水印可能通過簡單的技術(shù)被刪除，比如將文本翻譯成另一種語言再轉(zhuǎn)換回來，或者在文本中添加表情符號后手動刪除。此外，如何決定誰可以使用這種檢測器也是一個挑戰(zhàn)。
 
　　其次，從用戶角度來看，OpenAI對ChatGPT用戶進(jìn)行了多次調(diào)查，發(fā)現(xiàn)近三分之一的用戶表示，如果ChatGPT使用反作弊技術(shù)，他們會減少使用ChatGPT。這些用戶擔(dān)心，如果ChatGPT使用反作弊技術(shù)而競爭對手沒有，他們可能會轉(zhuǎn)向其他工具。此外，該工具還可能對非英語母語的用戶產(chǎn)生不成比例的影響，這進(jìn)一步增加了OpenAI在發(fā)布該工具時的顧慮。
 
　　因此，盡管OpenAI在技術(shù)上已經(jīng)取得了顯著的進(jìn)展，但在是否發(fā)布和使用這一反作弊工具上仍然存在諸多爭議和未解決的問題。目前，OpenAI尚未正式對外公開這一工具，但已有一些外部公司和研究人員正在開發(fā)類似的檢測工具，并嘗試在教育和學(xué)術(shù)領(lǐng)域中使用。
 
關(guān)鍵詞

相關(guān)閱讀 Related Reading

查看更多+

  • 打破同類催化劑單次生產(chǎn)效率記錄 科學(xué)家成功利用二氧化碳合成對二甲苯

    據(jù)悉，安徽工業(yè)大學(xué)曾杰教授團(tuán)隊與日本富山大學(xué)椿范立團(tuán)隊合作，研制了新型“金屬氧化物-分子篩”復(fù)合催化劑，基于多步串聯(lián)催化過程，成功...
    2025-06-12 16:45:36

  • 島津2024年財報：營收連續(xù)第五年創(chuàng)下歷史新高

    2024財年，島津營業(yè)收入5390億日元(約合人民幣268.8億元)，相比去年增長了5.3%。凈利潤537.76億日元，凈利潤率1...
    2025-06-12 15:02:09

  • 涉及四大方面 市場監(jiān)管總局新批準(zhǔn)發(fā)布一批重要國家標(biāo)準(zhǔn)

    6月12日，市場監(jiān)管總局(國家標(biāo)準(zhǔn)委)批準(zhǔn)發(fā)布一批重要國家標(biāo)準(zhǔn)，涉及交通運輸、農(nóng)業(yè)農(nóng)村、安全生產(chǎn)、高新技術(shù)等領(lǐng)域，標(biāo)準(zhǔn)的發(fā)布將進(jìn)一...
    2025-06-12 15:00:28

  • “聞飽了”竟有科學(xué)依據(jù)做支撐 現(xiàn)象背后或?qū)⒋蜷_肥胖防治新思路

    在許多國家都有類似“聞著都感覺飽了”的說法，似乎嗅覺也會直接帶來飽腹感。而就在最近，這種說法有了科學(xué)依據(jù)做支撐。
    2025-06-12 14:34:57

  • 廣東公示2025年國家科學(xué)技術(shù)獎提名項目

    近日，廣東省科學(xué)技術(shù)廳發(fā)布《關(guān)于2025年度國家科學(xué)技術(shù)獎提名項目的公示》，現(xiàn)將2025年度國家科學(xué)技術(shù)獎廣東省提名項目以及專家提...
    2025-06-12 10:28:09

  • 預(yù)算370萬元 廣西壯族自治區(qū)人民醫(yī)院采購液相色譜串聯(lián)質(zhì)譜檢測系統(tǒng)等儀器

    廣西壯族自治區(qū)人民醫(yī)院采購液相色譜串聯(lián)質(zhì)譜檢測系統(tǒng)及數(shù)字PCR儀器，預(yù)算370萬元，項目編號為GXZC2025-G1-001068...
    2025-06-12 09:24:53

版權(quán)與免責(zé)聲明

  • ①凡本網(wǎng)注明“來源：化工儀器網(wǎng)”的所有作品，均為浙江興旺寶明通網(wǎng)絡(luò)有限公司-化工儀器網(wǎng)合法擁有版權(quán)或有權(quán)使用的作品，未經(jīng)本網(wǎng)授權(quán)不得轉(zhuǎn)載、摘編或利用其他方式使用上述作品。已經(jīng)本網(wǎng)授權(quán)使用作品的，應(yīng)在授權(quán)范圍內(nèi)使用，并注明“來源：化工儀器網(wǎng)”。違反上述聲明者，本網(wǎng)將追究其相關(guān)法律責(zé)任。
  • ②本網(wǎng)轉(zhuǎn)載并注明自其他來源（非化工儀器網(wǎng)）的作品，目的在于傳遞更多信息，并不代表本網(wǎng)贊同其觀點和對其真實性負(fù)責(zé)，不承擔(dān)此類作品侵權(quán)行為的直接責(zé)任及連帶責(zé)任。其他媒體、網(wǎng)站或個人從本網(wǎng)轉(zhuǎn)載時，必須保留本網(wǎng)注明的作品第一來源，并自負(fù)版權(quán)等法律責(zé)任。
  • ③如涉及作品內(nèi)容、版權(quán)等問題，請在作品發(fā)表之日起一周內(nèi)與本網(wǎng)聯(lián)系，否則視為放棄相關(guān)權(quán)利。