國內GEO(生成式引擎優化)可信傳播標準立項通過 即日起征集
當生成式人工智能(GAI)開始重塑信息獲取的方式,一種新的生成式引擎優化(GEO)賽道正迅速崛起。在AI顛覆傳統迎來新機遇的同時,“語料投毒”、虛假信息、算法偏見等風險也浮出水面,各界對“信任”的要求更顯突出。4月10日,一項旨在為這一新興領域立規矩、劃紅線的團體標準《生成式引擎優化(GEO)可信信息傳播與信息生態治理規范》(以下簡稱規范)正式通過立項評審,標志著我國在人工智能信息生態治理領域邁出了關鍵一步。
該標準由中國新聞技術工作者聯合會歸口,新華網融媒體未來研究院、新華社國家重點實驗室生物感知智能應用研究部、新華社中國廣告聯合有限公司、復旦大學馬克思主義研究院人工智能倫理與意識形態安全實驗室、北京郵電大學網絡安全學院、新經濟學家智庫、江蘇天閎低空數字技術研究院等多家科研與產業機構共同發起。即日起向全國征集起草人與起草機構獻計獻策、共同參與。
隨著ChatGPT、DeepSeek等大模型應用的普及,用戶正習慣于向AI提問獲取答案。相應地,品牌方也開始通過優化自身內容,以期在AI生成的回答中獲得更高的“可見度”,這便是GEO的雛形。但問題也隨之而來:虛構資質、偽造行業數據、惡意植入競品負面信息等“語料投毒”行為時有發生,一旦被大模型抓取并反復引用,就會在AI信息生態中形成“持續性污染”,其負面影響已開始涌現。
“技術的進步不應以信息的真實性為代價。”中國新聞技術工作者聯合會相關表示,“當前市場上,GEO服務良莠不齊,部分行為已游走在虛假宣傳與不正當競爭的灰色地帶。這份規范的制定,就是要在行業發展初期就植入‘安全’與‘可信’的基因,避免重蹈互聯網早期信息失序的覆轍。”
據了解,該《規范》將“安全”確立為評價維度,構建了一套覆蓋全鏈條的治理體系。它明確了“白帽GEO”(正當優化)與“黑帽GEO”(違規操縱)的界限,嚴令禁止“語料投毒”“答案霸權”“提示詞注入攻擊”等行為。同時,草案創造性地提出了品牌知識庫“三區分治”原則,要求企業將事實、觀點與營銷表達分離,從源頭上確保AI引用的信息真實可靠。
根據計劃,該標準將在征求意見后正式向全社會發布。它不僅將為GEO全產業鏈的相關主體提供合規操作的“操作手冊”,也將為監管部門提供有力的技術參考,有望成為全球范圍內該領域的先行示范。