12月9日，人民網(wǎng)正式發(fā)布“天目”智能識別系統，探索“用AI治理AI”的內容風(fēng)控新模式。
點(diǎn)擊鏈接開(kāi)始體驗 ：
http://117.80.234.9:5080/welcome
“天目”由傳播內容認知全國重點(diǎn)實(shí)驗室（人民網(wǎng)）研發(fā)，能夠對人工智能生成內容進(jìn)行識別，對深度偽造內容進(jìn)行檢測，對合成手段進(jìn)行追根溯源。公開(kāi)測試數據顯示，“天目”對國內外主要人工智能大模型生成中文文本的識別準確率達到93%。系統支持單次最多10萬(wàn)字的數據檢測，對疑似AI生成句段明確標識，一鍵生成檢測報告。同時(shí)，系統不留存、不轉用任何檢測數據，充分保護用戶(hù)的數據隱私與安全。
圖為“天目”系統檢測頁(yè)面
傳播內容認知全國重點(diǎn)實(shí)驗室首席科學(xué)家張勇東表示：“我們以語(yǔ)言模型的困惑度、詞頻特征為切入點(diǎn)，研究發(fā)現AI生成模型傾向于采用高頻詞，而人類(lèi)寫(xiě)作的選詞則更具有隨機性。”基于此，人民網(wǎng)研發(fā)了語(yǔ)義與風(fēng)格特征融合的語(yǔ)言模型評價(jià)方法，推出“天目”系統，用于快速區分機器生成內容與人工創(chuàng )作內容。
“我們肯定AI的技術(shù)價(jià)值，積極研發(fā)，主動(dòng)運用。我們也同樣重視人的創(chuàng )新創(chuàng )作創(chuàng )意。”人民網(wǎng)內容風(fēng)控負責人辛瑞佳表示，人類(lèi)的靈感和創(chuàng )造力無(wú)法被機器替代，也不應被機器替代，過(guò)度依賴(lài)AI可能會(huì )削弱人的獨特性。“識別AI生成的信息，從更深層講，也是保護人類(lèi)的創(chuàng )造價(jià)值。”
此外，人民網(wǎng)內容風(fēng)控的另一個(gè)智能產(chǎn)品“人民審校”，于近期同步升級4.0版本，新增了標識審校、地標審校、商標審校、版式審校等能力，優(yōu)化自定義詞庫功能，在涉政信息表述審校精度和廣度方面實(shí)現全面提升。
下一步，人民網(wǎng)將加大力度研發(fā)建設主流價(jià)值語(yǔ)料庫，幫助國產(chǎn)AI系統建設安全合規的語(yǔ)料體系，更好實(shí)現價(jià)值觀(guān)對齊，助力AI產(chǎn)業(yè)健康安全發(fā)展。
