人工智能初創(chuàng)公司OpenAI稱其正在測試基于GPT-4的內容審核系統(tǒng)，有望大幅縮短內容審核時間。

(資料圖片僅供參考)

當?shù)貢r間8月15日，OpenAI在官網(wǎng)上發(fā)布文章稱，將GPT-4用于內容策略開發(fā)和內容審核決策的測試已經(jīng)取得了很好的效果，能夠實現(xiàn)更一致的標簽、更快的策略優(yōu)化反饋閉環(huán)，并減少人工審核人員的參與。OpenAI認為，GPT-4內容審核工具可以幫助公司在一天內完成大約六個月的工作。

OpenAI表示，內容審核向來是一項既耗時又具有挑戰(zhàn)性的工作，需要很高的細致度、敏感度、對語境的深刻理解和對新案例的快速適應，還會對人工審核人員造成情緒負擔。通常，內容策略中的變更由于需要大量人力介入調整，往往要經(jīng)過數(shù)月才能落實到整個系統(tǒng)，而作為大型語言模型（LLM）的GPT-4可以將這一過程從數(shù)月縮短到數(shù)小時。

在具體的訓練過程中，制定好策略指南后，策略專家就可以通過識別少量示例、為其分配標簽來創(chuàng)建一組黃金數(shù)據(jù)。然后，GPT-4會讀取策略指南，并在看不到答案的前提下為同一數(shù)據(jù)集分配標簽，由專家來檢查這些標簽是否分配正確。

策略專家還可以要求GPT-4給出標簽背后的推理，分析策略指南中可能存在的歧義，并在指南中做出相應澄清。這些步驟可以被不斷重復，直到對AI審核的質量感到滿意。

另外，為了大規(guī)模地處理大量數(shù)據(jù)，可以在正式處理前先使用GPT-4的預測功能來微調一個較小的模型。

OpenAI一直在對該技術進行測試，也歡迎用戶加入訓練。任何擁有OpenAI API訪問權限的人都可以采用這種方法來創(chuàng)建自己的人工智能輔助審核系統(tǒng)。

不過，OpenAI承認GPT-4的標記質量與經(jīng)過輕度訓練的人類審核員相似，但與經(jīng)驗豐富、訓練有素的人類審核員相比仍有差距。對此，OpenAI強調，審核的過程不應該完全自動化。在新的內容審核系統(tǒng)中AI仍然需要人的領導。

值得一提的是，在此之前，已經(jīng)有多款由AI驅動的審核工具面世，其中較為出名的是谷歌（Google）的Perspective API，由谷歌反濫用技術團隊和Jigsaw聯(lián)合開發(fā)，被包括Reddit論壇、《紐約時報》和《金融時報》在內的一系列世界著名發(fā)布商、平臺和研究機構所使用。

不過，比起運用審核工具，許多企業(yè)仍然選擇將審核工作完全外包給其他人力公司來節(jié)省研究成本。據(jù)《華爾街日報》7月24日報道，在過去的幾年，OpenAI自己就為了清洗ChatGPT的數(shù)據(jù)雇傭了大量來自肯尼亞的廉價勞工。

而就在一周前的8月10日，印度媒體Analytics India Magazine剛發(fā)布了驚人的推論，稱OpenAI可能會在2024年底破產(chǎn)，因為僅僅運營ChatGPT，OpenAI每天的成本就高達70萬美元，馬斯克新成立的xAI和GPU短缺問題更是為還沒有盈利的OpenAI雪上加霜。

據(jù)網(wǎng)站數(shù)據(jù)分析工具SimilarWeb調查顯示，ChatGPT訪問量增長率在過去幾個月內一直在下滑，7月份的用戶數(shù)量為15億，環(huán)比下降了12%。

今年1月底，OpenAI曾推出一款AI工具AI-Text-Classifier（AI文本分類器），旨在用來識別由AI生成的文本內容。不過，在誕生還不滿半年后，這個新AI工具就在今年7月被OpenAI以“準確率太低”為由關停了。

關鍵詞：