國家網信辦等七部門日前正式發(fā)布了《生成式人工智能服務管理暫行辦法》，該辦法于8月15日正式施行。

怎么理解生成式人工智能，該管理辦法有什么關鍵之處。我們請來“紅衣教主——三六零集團董事長周鴻祎，為您一一講解。

(資料圖片僅供參考)

首先我們了解一下生成式人工智能和政策背景：

1、不容錯過的AI 2.0

生成式人工智能，即AI Generated Content，是指利用人工智能技術來生成內容，它被認為是繼PGC、UGC之后的新型內容創(chuàng)作方式。

近來火爆出圈的ChatGPT等應用就屬于AIGC范疇，也意味著人工智能正式從1.0時代邁入2.0時代。創(chuàng)新工場董事長李開復曾斷言，AI 2.0是絕對不能錯過的一次革命，它會是一個平臺級別的趨勢，超過移動互聯(lián)網10倍。

2、政策迅速跟上

自2022年底以來，生成式人工智能技術迎來快速發(fā)展期，今年4月11日，國家互聯(lián)網信息辦公室公布《生成式人工智能服務管理辦法》征求意見稿，7月10日七部門正式公布《生成式人工智能服務管理暫行辦法》（以下簡稱“《辦法》”）。

可見，從技術出現到意見征求再到辦法落地，僅用不到八個月的時間。

《辦法》旨在促進生成式人工智能健康發(fā)展和規(guī)范應用，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權益。

周鴻祎帶您讀《辦法》：

1、《辦法》對AI行業(yè)可能帶來什么影響？

《辦法》明確了適用邊界，既能夠規(guī)范大模型的公眾服務，同時也有利于組織機構的研發(fā)和應用。

我認為，大模型未來真正的發(fā)展機會就是企業(yè)級市場。產業(yè)數字化戰(zhàn)略背景下，大模型作為工業(yè)革命級的生產力工具，應當幫助傳統(tǒng)產業(yè)特別是制造業(yè)實現數字化轉型到智能化升級。

2、《辦法》實施會對現有AI大模型的服務造成什么影響？

與征求意見稿相比，《辦法》中增加了“鼓勵各行業(yè)、各領域的創(chuàng)新應用”，支持行業(yè)組織機構開展協(xié)作；增加了“推動基礎設施和公共平臺建設”、“促進算力共享”、“推動公共數據開放”等內容，表明了有關部門鼓勵創(chuàng)新，支持大模型發(fā)展的態(tài)度，為科技企業(yè)創(chuàng)新提供了信心和保障。

3、對生成式AI的監(jiān)管，是會助推其發(fā)展，還是帶來挑戰(zhàn)？

《辦法》針對大模型生成式的特點，遵循“促進創(chuàng)新和依法治理相結合的原則”，有關部門的監(jiān)管方式非常先進，將有效助推生成式人工智能的發(fā)展。

4、生成式人工智能服務提供商和開發(fā)者需要注意的主要責任和義務是什么？

《辦法》強調提供者應當依法承擔網絡信息內容生產者責任，履行網絡信息安全義務，對此我對此表示認同。

大模型是數字化的頂峰，同樣是把“雙刃劍”，帶來生產力提升的同時存在安全風險，包括網絡安全、數據安全、算法安全和生成內容安全。

比如算法攻擊有可能致使大模型淪為犯罪工具，協(xié)助黑客寫攻擊代碼或釣魚郵件。此外，大模型存在“幻覺”問題，會“胡說八道”，難以確保生成內容符合法律法規(guī)和倫理道德。

未來人工智能會跟整個數字化系統(tǒng)緊密結合，需要從現在開始關注和探索AI安全的解決之道。

關鍵詞：