國家網(wǎng)信辦等七部門日前正式發(fā)布了《生成式人工智能服務(wù)管理暫行辦法》，該辦法于8月15日正式施行。

怎么理解生成式人工智能，該管理辦法有什么關(guān)鍵之處。我們請來“紅衣教主——三六零集團董事長周鴻祎，為您一一講解。

(資料圖片僅供參考)

首先我們了解一下生成式人工智能和政策背景：

1、不容錯過的AI 2.0

生成式人工智能，即AI Generated Content，是指利用人工智能技術(shù)來生成內(nèi)容，它被認為是繼PGC、UGC之后的新型內(nèi)容創(chuàng)作方式。

近來火爆出圈的ChatGPT等應(yīng)用就屬于AIGC范疇，也意味著人工智能正式從1.0時代邁入2.0時代。創(chuàng)新工場董事長李開復(fù)曾斷言，AI 2.0是絕對不能錯過的一次革命，它會是一個平臺級別的趨勢，超過移動互聯(lián)網(wǎng)10倍。

2、政策迅速跟上

自2022年底以來，生成式人工智能技術(shù)迎來快速發(fā)展期，今年4月11日，國家互聯(lián)網(wǎng)信息辦公室公布《生成式人工智能服務(wù)管理辦法》征求意見稿，7月10日七部門正式公布《生成式人工智能服務(wù)管理暫行辦法》（以下簡稱“《辦法》”）。

可見，從技術(shù)出現(xiàn)到意見征求再到辦法落地，僅用不到八個月的時間。

《辦法》旨在促進生成式人工智能健康發(fā)展和規(guī)范應(yīng)用，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權(quán)益。

周鴻祎帶您讀《辦法》：

1、《辦法》對AI行業(yè)可能帶來什么影響？

《辦法》明確了適用邊界，既能夠規(guī)范大模型的公眾服務(wù)，同時也有利于組織機構(gòu)的研發(fā)和應(yīng)用。

我認為，大模型未來真正的發(fā)展機會就是企業(yè)級市場。產(chǎn)業(yè)數(shù)字化戰(zhàn)略背景下，大模型作為工業(yè)革命級的生產(chǎn)力工具，應(yīng)當(dāng)幫助傳統(tǒng)產(chǎn)業(yè)特別是制造業(yè)實現(xiàn)數(shù)字化轉(zhuǎn)型到智能化升級。

2、《辦法》實施會對現(xiàn)有AI大模型的服務(wù)造成什么影響？

與征求意見稿相比，《辦法》中增加了“鼓勵各行業(yè)、各領(lǐng)域的創(chuàng)新應(yīng)用”，支持行業(yè)組織機構(gòu)開展協(xié)作；增加了“推動基礎(chǔ)設(shè)施和公共平臺建設(shè)”、“促進算力共享”、“推動公共數(shù)據(jù)開放”等內(nèi)容，表明了有關(guān)部門鼓勵創(chuàng)新，支持大模型發(fā)展的態(tài)度，為科技企業(yè)創(chuàng)新提供了信心和保障。

3、對生成式AI的監(jiān)管，是會助推其發(fā)展，還是帶來挑戰(zhàn)？

《辦法》針對大模型生成式的特點，遵循“促進創(chuàng)新和依法治理相結(jié)合的原則”，有關(guān)部門的監(jiān)管方式非常先進，將有效助推生成式人工智能的發(fā)展。

4、生成式人工智能服務(wù)提供商和開發(fā)者需要注意的主要責(zé)任和義務(wù)是什么？

《辦法》強調(diào)提供者應(yīng)當(dāng)依法承擔(dān)網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者責(zé)任，履行網(wǎng)絡(luò)信息安全義務(wù)，對此我對此表示認同。

大模型是數(shù)字化的頂峰，同樣是把“雙刃劍”，帶來生產(chǎn)力提升的同時存在安全風(fēng)險，包括網(wǎng)絡(luò)安全、數(shù)據(jù)安全、算法安全和生成內(nèi)容安全。

比如算法攻擊有可能致使大模型淪為犯罪工具，協(xié)助黑客寫攻擊代碼或釣魚郵件。此外，大模型存在“幻覺”問題，會“胡說八道”，難以確保生成內(nèi)容符合法律法規(guī)和倫理道德。

未來人工智能會跟整個數(shù)字化系統(tǒng)緊密結(jié)合，需要從現(xiàn)在開始關(guān)注和探索AI安全的解決之道。

關(guān)鍵詞：