OPENAI承認(rèn)自己也無法分辨內(nèi)容是否是AI生成 提醒教師慎用檢測器 – 藍(lán)點(diǎn)網(wǎng)
此前 OPENAI 曾推出一款名為 AI 分類器 (AI Classifier) 的自己工具，讓有需要的也無用戶例如教師可以使用該分類器檢測學(xué)生作業(yè)或論文是否由 ChatGPT 生成。
到 7 月份 OPENAI 悄悄下架了這款 AI 分類器，法分武漢漢陽在網(wǎng)上如何找上門服務(wù)vx《134-8006-5952》提供外圍女上門服務(wù)快速選照片快速安排不收定金面到付款30分鐘可到達(dá)OPENAI 稱其準(zhǔn)確性太差。辨內(nèi)
OPENAI：ChatGPT 沒能力檢測，就是生成慎用瞎編
OPENAI 在上周發(fā)布的一份新文件中承認(rèn)，檢測 AI 造假的提醒工具并不能找出不當(dāng)使用，而且還可能存在冤假錯(cuò)案的教師檢測情況。
這份文件是器藍(lán)面向教育工作者的，指導(dǎo)教師如何使用 OPENAI 提供的點(diǎn)網(wǎng) AI 類相關(guān)工具，文件由 OPENAI 和賓夕法尼亞大學(xué)沃頓商學(xué)院教師合作開發(fā)。自己武漢漢陽在網(wǎng)上如何找上門服務(wù)vx《134-8006-5952》提供外圍女上門服務(wù)快速選照片快速安排不收定金面到付款30分鐘可到達(dá)
OPENAI 在文件中特別強(qiáng)調(diào)，也無檢測學(xué)生是法分否使用 AI 生成論文或作業(yè)的 AI 檢測器沒用，OPENAI 稱，辨內(nèi)盡管一些業(yè)者，容否包括自己，都公開宣布能夠檢測 AI 生成的內(nèi)容，但沒有一項(xiàng)檢測工具 / 服務(wù)能夠穩(wěn)定分辨內(nèi)容到底是真人撰寫還是 AI 生成的。
此外 ChatGPT 也不知道哪些內(nèi)容是 AI 生成的，如果用戶嘗試使用 ChatGPT 來檢測內(nèi)容，由于 ChatGPT 沒有能力分辨，所以它會(huì)自己杜撰一個(gè)內(nèi)容回答給用戶，這都是 ChatGPT 隨便猜的，壓根沒有事實(shí)依據(jù)。
OPENAI 自己的研究也發(fā)現(xiàn)，AI 類檢測器有時(shí)候會(huì)將人類撰寫的內(nèi)容標(biāo)記為 AI 生成，例如 OPENAI 自己的 AI 分類器，就將莎士比亞劇本和美國獨(dú)立宣言標(biāo)注為 AI 生成。
當(dāng)然就算是這些工具可以在某些程度上分辨內(nèi)容是否由 AI 生成，但學(xué)生只需要簡單需改一些詞語或排序，就可以躲避檢測。
另一方面也造成冤假錯(cuò)案：
在 Reddit 上有不少學(xué)生抱怨自己的論文或一些報(bào)告被 AI 冤枉時(shí) AI 生成的，他們不得不花費(fèi)大量時(shí)間收集證據(jù)以向教師解釋這是他們自己撰寫的，而非 AI 生成。
基于這種情況 OPENAI 不建議教師再使用這類檢測工具，該公司鼓勵(lì)教師們自行研究最合適的方法。OPENAI 也建議教師允許學(xué)生使用 ChatGPT，以便觀察學(xué)生們利用 ChatGPT 解決問題的能力、培養(yǎng)求證 AI 答案的素養(yǎng)、建立負(fù)責(zé)任的使用態(tài)度。