我們擅長商業(yè)策略與用戶體驗的完美結(jié)合。
歡迎瀏覽我們的案例。
IT之家 8 月 6 日消息，據(jù)外媒 404 Media 5 日報道，維基百科的編輯者剛剛通過了一項新政策，以應(yīng)對大量 AI 生成條目充斥平臺的現(xiàn)狀。該新政策賦予管理員權(quán)限，在滿足特定條件的情況下可迅速刪除 AI 生成的文章。
WikiProject AI Cleanup 的創(chuàng)始成員 Ilyas Lebleu 表示：“雖然某些跡象可以幫助我們辨識 AI 內(nèi)容(例如措辭、破折號的使用、加粗標題的項目列表等)，但這些特征通常并不絕對明確，我們也不希望僅憑某段文字聽起來像是 AI 寫的就誤刪條目。”
“總體而言，AI 內(nèi)容的泛濫被描述為對維基百科的一種‘生存威脅’：我們的工作流程向來依賴(往往是冗長的)討論與共識構(gòu)建，而若沒有相應(yīng)的快速刪除機制，AI 可以極高效率地生成大量虛假內(nèi)容，就將成為嚴重問題。當然，AI 內(nèi)容未必特別糟糕，人類同樣可以寫出糟糕內(nèi)容 —— 但人類產(chǎn)出速度遠不及 AI。我們的工具是為完全不同的內(nèi)容產(chǎn)量規(guī)模而設(shè)計的。”
IT之家從報道中獲悉，維基提出的解決方案，是對明顯由 AI 生成、并符合兩個大致條件的條目予以快速刪除。其一是條目中包含“面向用戶的交流內(nèi)容”，即其中含有明顯是大語言模型對用戶提示的回應(yīng)語句，例如“這是你的維基百科條目……”、“截至我最后的訓(xùn)練更新……”以及“作為一個大語言模型”等。這類語言是我們在識別 AI 生成社交媒體貼文與科研論文時早已使用的典型特征。
Lebleu 說，團隊“已見過不少此類特征”，更重要的是，這類語句說明提交者甚至沒有通讀其所貼上的文章內(nèi)容。“如果使用者連這種最基本的問題都沒檢查，那我們可以合理推定，他們根本沒有審閱任何內(nèi)容，僅是照搬貼上，這種條目與白噪音無異。”
第二個符合快速刪除條件的情形，是條目的引文明顯錯誤，這也是大語言模型常見的失誤。這包括所列圖書、文章或論文的外部鏈接根本不存在、無法打開，或者鏈接內(nèi)容與主題完全無關(guān)。
Lebleu 表示，快速刪除是一種“權(quán)宜之計”，能處理最顯眼的案例，但 AI 問題將持續(xù)存在，因為仍有大量 AI 內(nèi)容未必符合這兩項刪除條件。他補充說，AI 有可能成為一種有益工具，未來或許能對維基百科發(fā)揮正面影響。
