5月18日，第七屆世界智能大會(huì)在天津開幕。大會(huì)期間舉辦開幕式、高峰會(huì)、平行論壇、智能科技展、智能體驗(yàn)等系列活動(dòng)。智能科技領(lǐng)域的院士專家和企業(yè)家聚焦智能網(wǎng)聯(lián)車、生成式人工智能、腦機(jī)交互等前瞻課題，深入探討AI與經(jīng)濟(jì)、社會(huì)、人文等領(lǐng)域的熱點(diǎn)話題。新華社記者 孫凡越 攝

  近日，由中國(guó)人民大學(xué)法學(xué)院、中國(guó)人民大學(xué)未來法治研究院主辦的“生成式人工智能算法規(guī)制——《生成式人工智能服務(wù)管理辦法（征求意見稿）》學(xué)術(shù)研討會(huì)議”召開，來自政府相關(guān)部門、高校研究機(jī)構(gòu)、人工智能產(chǎn)業(yè)界的專家參加了本次研討會(huì)。

  ■中國(guó)人民大學(xué)未來法治研究院執(zhí)行院長(zhǎng)張吉豫:

  可以以發(fā)展、安全和法治三個(gè)關(guān)鍵詞概括對(duì)ChatGPT為代表的大規(guī)模語(yǔ)言模型的系列關(guān)注。第一，生成式人工智能技術(shù)是劃時(shí)代的發(fā)展，大模型在互聯(lián)網(wǎng)、數(shù)據(jù)等架構(gòu)上可能形成新的層次，深刻影響產(chǎn)業(yè)的發(fā)展和未來技術(shù)的進(jìn)步。第二，從數(shù)據(jù)、算法、系統(tǒng)集成等角度來看，生成式人工智能的發(fā)展、創(chuàng)新中伴隨著風(fēng)險(xiǎn)與挑戰(zhàn)。第三，為調(diào)節(jié)好發(fā)展和安全之間的沖突，構(gòu)建以人民為中心的智能社會(huì)法律秩序，對(duì)于推動(dòng)人工智能技術(shù)健康有序發(fā)展具有重要意義。

  ■百度公司副總裁吳夢(mèng)漪:

  結(jié)合《生成式人工智能服務(wù)管理辦法（征求意見稿）》的幾個(gè)看法：一是將開放API和通過API調(diào)取功能認(rèn)定為內(nèi)容生產(chǎn)者可能提高了對(duì)合規(guī)義務(wù)的要求。二是將生成式人工智能認(rèn)定為具有輿論屬性和社會(huì)動(dòng)員能力的互聯(lián)網(wǎng)信息服務(wù)，可能泛化了適用范圍。三是從實(shí)踐的角度，內(nèi)容生成的準(zhǔn)確性與生成式人工智能技術(shù)原理存在沖突。因此，初始階段監(jiān)管層面的重點(diǎn)應(yīng)從追求內(nèi)容準(zhǔn)確性轉(zhuǎn)向?qū)`法利用行為的打擊。四是需要辯證看待數(shù)據(jù)的好壞。生成式人工智能具有一定的創(chuàng)作性，海量的訓(xùn)練數(shù)據(jù)有利于提高技術(shù)的發(fā)展速度，希望監(jiān)管的重點(diǎn)在于生成式人工智能產(chǎn)品的質(zhì)量，不宜對(duì)訓(xùn)練數(shù)據(jù)和技術(shù)路線做過于詳盡的規(guī)定。五是綜合考慮生成式人工智能服務(wù)的人機(jī)對(duì)話特點(diǎn)，簡(jiǎn)化對(duì)真實(shí)身份信息要求的規(guī)定。

  ■騰訊研究院首席數(shù)據(jù)法律政策專家王融：

  對(duì)生成式人工智能的規(guī)制的幾個(gè)建議。第一，生成式人工智能可能是未來新的信息時(shí)代最為基礎(chǔ)的工具，超越了單純的互聯(lián)網(wǎng)信息服務(wù)，應(yīng)以全新視角去看待。第二，制定規(guī)章是必要的，但是目前法律規(guī)范本身可能還需要進(jìn)一步討論新的問題；輸出信息的質(zhì)量方面有很強(qiáng)的市場(chǎng)自驅(qū)力；而大模型時(shí)代的底層網(wǎng)絡(luò)安全和數(shù)據(jù)安全，發(fā)展更為優(yōu)先。第三，三個(gè)月的模型優(yōu)化訓(xùn)練期限在實(shí)踐中難以落地，不妨考慮其他多種技術(shù)手段。最后，在AI發(fā)展領(lǐng)域，風(fēng)險(xiǎn)浮現(xiàn)是漸進(jìn)式的，市場(chǎng)主體和監(jiān)管主體應(yīng)在共同目標(biāo)和接近的立場(chǎng)下協(xié)同解決問題。

  ■中國(guó)人民大學(xué)法學(xué)院教授王利明：

  應(yīng)正視ChatGPT引發(fā)的問題，思考法律上如何積極應(yīng)對(duì)。首先，面對(duì)生成式人工智能引發(fā)的人格權(quán)和知識(shí)產(chǎn)權(quán)方面的問題，立法過于超前可能會(huì)阻礙技術(shù)的發(fā)展和創(chuàng)新，通過發(fā)布管理辦法或制定相關(guān)措施積累經(jīng)驗(yàn)，條件成熟后再立法可能是相對(duì)穩(wěn)妥的辦法。

  對(duì)ChatGPT引發(fā)的侵權(quán)問題，提出五點(diǎn)建議：一是在價(jià)值取向上積極支持人工智能產(chǎn)品的開發(fā)。二是ChatGPT不同于自動(dòng)駕駛等一般產(chǎn)品，讓服務(wù)提供者承擔(dān)無過錯(cuò)責(zé)任會(huì)阻礙技術(shù)發(fā)展，不符合鼓勵(lì)技術(shù)創(chuàng)新的價(jià)值取向。三是可借鑒醫(yī)療事故責(zé)任的減免規(guī)則，因技術(shù)水平限制而導(dǎo)致難以消除的漏洞時(shí)，可以適當(dāng)減輕甚至免除服務(wù)提供者的責(zé)任。四是加強(qiáng)和強(qiáng)化服務(wù)提供者對(duì)個(gè)人隱私信息的安全保障義務(wù)。五是關(guān)于ChatGPT的幻覺回答導(dǎo)致的侵權(quán)責(zé)任分配問題，應(yīng)區(qū)別平臺(tái)大規(guī)模生成與用戶惡意誘導(dǎo)的情形。

  ■中國(guó)社會(huì)科學(xué)院大學(xué)副教授劉曉春：

  從四方面提出監(jiān)管的建議。一是監(jiān)管必要性，若在新技術(shù)場(chǎng)景下，原有體系能解決大部分問題，就缺乏專門規(guī)制的必要性。生成式人工智能的重要風(fēng)險(xiǎn)點(diǎn)在內(nèi)容層面，如果生成的內(nèi)容沒有傳播，是否存在風(fēng)險(xiǎn)仍存在疑問；如果已經(jīng)傳播，則要考慮原有的治理系統(tǒng)是否能夠解決問題。二是監(jiān)管有效性，其核心問題是公權(quán)力對(duì)產(chǎn)業(yè)的治理或干預(yù)是否能真實(shí)、有效地達(dá)到基于監(jiān)管必要性的風(fēng)險(xiǎn)治理目的。三是結(jié)合我國(guó)現(xiàn)有產(chǎn)業(yè)背景考慮監(jiān)管技術(shù)的應(yīng)用場(chǎng)景。未必每個(gè)企業(yè)都研發(fā)大模型，但是在應(yīng)用層面具有各自極大的拓展商業(yè)的可能性，應(yīng)為應(yīng)用層面的商業(yè)模式留出發(fā)展的空間。特別是在對(duì)內(nèi)容生產(chǎn)者的定義上不應(yīng)拓寬。四是從立法基礎(chǔ)的角度考慮協(xié)調(diào)性。比如，在實(shí)名制問題上與網(wǎng)絡(luò)安全法相協(xié)調(diào)，在算法的評(píng)估和備案問題上，也應(yīng)基于現(xiàn)有的機(jī)制協(xié)調(diào)。

  ■對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)副教授許可：

  《生成式人工智能服務(wù)管理辦法（征求意見稿）》與之前的法律、現(xiàn)有的實(shí)踐和技術(shù)存在四大矛盾。第一，新法和舊法的矛盾?！痘ヂ?lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》中的深度合成技術(shù)和《生成式人工智能服務(wù)管理辦法（征求意見稿）》中的深層次人工智能技術(shù)之間有何異同尚不明確，未來執(zhí)法過程中可能產(chǎn)生矛盾。第二，域外效力和屬地管轄之間的矛盾?！渡墒饺斯ぶ悄芊?wù)管理辦法（征求意見稿）》涉及的內(nèi)容超出了《個(gè)人信息保護(hù)法》覆蓋范圍，部門規(guī)章是否能設(shè)立超出上位法的域外管轄權(quán)存在疑問。第三，網(wǎng)絡(luò)信息內(nèi)容安全管理和通用技術(shù)規(guī)制之間的矛盾。將通用性的人工智能限制在網(wǎng)絡(luò)信息內(nèi)容上，可能出現(xiàn)規(guī)制工具和規(guī)制目標(biāo)的不匹配。實(shí)際上，在不同的場(chǎng)景下，生成式人工智能的風(fēng)險(xiǎn)因形態(tài)而異，如何判斷其風(fēng)險(xiǎn)，需要模塊化判斷。第四，全流程安全要求和技術(shù)內(nèi)在特征的矛盾。全流程的管理和生成式人工智能的特性不符，例如，預(yù)訓(xùn)練數(shù)據(jù)的合法性難以實(shí)現(xiàn)，數(shù)據(jù)與最后信息生成之間也并不存在直接映射關(guān)系。

  ■對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)副教授張欣：

  在監(jiān)管對(duì)象上，我國(guó)的人工智能企業(yè)此前多集中在應(yīng)用層，在基礎(chǔ)層和技術(shù)層分布相對(duì)較少。在監(jiān)管方式上，面向生成式人工智能的產(chǎn)業(yè)鏈特點(diǎn)，可以提升監(jiān)管的互操作性、一致性。在監(jiān)管創(chuàng)新上，一方面應(yīng)注重監(jiān)管的韌性，另一方面應(yīng)積極探索以模塊化監(jiān)管為代表的新型監(jiān)管方式。對(duì)《生成式人工智能服務(wù)管理辦法（征求意見稿）》的四點(diǎn)修改意見：第一，進(jìn)一步厘清第2條對(duì)“生成式人工智能”的定義。第二，面向產(chǎn)業(yè)鏈特點(diǎn)明確第5條中“產(chǎn)品生成內(nèi)容生產(chǎn)者”的范圍，不宜通過一刀切的方式讓所有行為主體都承擔(dān)產(chǎn)品內(nèi)容生產(chǎn)者的責(zé)任。第三，第7條關(guān)于預(yù)訓(xùn)練數(shù)據(jù)和優(yōu)化訓(xùn)練數(shù)據(jù)來源的準(zhǔn)確性問題可以適當(dāng)調(diào)整，只要在可接受的技術(shù)水平條件下，組織和企業(yè)履行了相應(yīng)義務(wù)，可認(rèn)為符合人工智能準(zhǔn)確性原則。第四，第15條關(guān)于防止再次生成的期限和防止再次生成的方式聚焦于技術(shù)過程，目前的技術(shù)手段上難以達(dá)成，可以轉(zhuǎn)換為從結(jié)果監(jiān)管的角度防止被用戶舉報(bào)的不合法合規(guī)的內(nèi)容再次出現(xiàn)。

  ■中國(guó)人民大學(xué)法學(xué)院教授萬勇:

  在生成式人工智能對(duì)著作權(quán)法合理使用制度的挑戰(zhàn)方面，生成式人工智能可能涉及著作權(quán)法上的復(fù)制權(quán)、演繹權(quán)和向公眾傳播權(quán)。但是，目前的合理使用類型難以適用于人工智能技術(shù)。其次，為了解決相關(guān)的問題，應(yīng)人工智能產(chǎn)業(yè)發(fā)展的合理使用制度改革，主要有兩種解決方案：一是重塑理論基礎(chǔ)，提出“作品性使用”與“非作品性使用”的概念，為了數(shù)據(jù)挖掘目的而使用作品，只有部分情形屬于“非作品性使用”；二是改造制度規(guī)范，包括增設(shè)具體例外條款或引入開放式例外條款。建議修改《著作權(quán)法實(shí)施條例》，引入專門例外，兼顧產(chǎn)業(yè)發(fā)展和著作權(quán)人的權(quán)利。

  ■中國(guó)人民公安大學(xué)法學(xué)院教授蘇宇：

  處于追趕中的國(guó)內(nèi)生成式人工智能在風(fēng)險(xiǎn)治理之外也非常需要制度支持。生成式人工智能大模型面臨算法解釋難、算法審計(jì)難、算法標(biāo)準(zhǔn)形成難、算法影響評(píng)估難、算法認(rèn)證難等問題?！渡墒饺斯ぶ悄芊?wù)管理辦法（征求意見稿）》的主要考量問題是信息內(nèi)容安全問題，在安全保障方面設(shè)計(jì)了“六重疊加”的機(jī)制，包括輸出端的生成結(jié)果控制、輸入端的數(shù)據(jù)來源和數(shù)據(jù)信息內(nèi)容限制、擴(kuò)展的內(nèi)容生產(chǎn)者責(zé)任、用戶舉報(bào)與主動(dòng)監(jiān)管結(jié)合、寬泛的信息提供義務(wù)、與算法推薦和深度合成等已有立法的有限銜接等。其中部分機(jī)制存在不同程度的安全冗余。除此之外，還有需要充分考慮的治理要點(diǎn)，包括生成代碼的單獨(dú)歸類、訓(xùn)練數(shù)據(jù)的必要區(qū)分、輸出結(jié)果的類型提示、數(shù)據(jù)來源合法性的具體界定等?？傮w來說，對(duì)生成式人工智能的法律治理，大幅度降低無效或低效風(fēng)險(xiǎn)冗余應(yīng)當(dāng)是機(jī)制設(shè)計(jì)的重要目標(biāo)。

  ■中國(guó)信通院高級(jí)工程師程瑩：

  生成式人工智能第一大特點(diǎn)是通用目的性。作為新底層基礎(chǔ)平臺(tái)，AIGC供應(yīng)鏈被拉長(zhǎng)，研發(fā)者是否應(yīng)承擔(dān)責(zé)任，研發(fā)者、平臺(tái)方、B端用戶、C端用戶等如何分擔(dān)責(zé)任成為關(guān)鍵問題。征求意見稿第5條應(yīng)對(duì)各個(gè)主體進(jìn)行精細(xì)劃分。第二個(gè)特點(diǎn)是內(nèi)容生成性，帶來了知識(shí)產(chǎn)權(quán)、虛假信息等問題。未來生成式人工智能代表了知識(shí)調(diào)用方式的變遷，將掌握絕大多數(shù)信息來源，相較于深度合成的重點(diǎn)標(biāo)識(shí)義務(wù)，負(fù)有更高算法評(píng)估、自我審查等義務(wù)。然而，一刀切要求訓(xùn)練數(shù)據(jù)和生成結(jié)果的真實(shí)性可能與生成式人工智能的技術(shù)本質(zhì)存在一定沖突。第三個(gè)特點(diǎn)是數(shù)據(jù)依賴性，這是人工智能一直以來的典型特征，但是呈現(xiàn)了新的形式，例如中文語(yǔ)料庫(kù)輸入不足帶來的文化偏見、數(shù)據(jù)虹吸效應(yīng)帶來的數(shù)據(jù)泄露風(fēng)險(xiǎn)等，相關(guān)法律義務(wù)應(yīng)注意保持與上位法要求的一致性。

  ■中國(guó)科學(xué)技術(shù)信息研究所助理研究員劉鑫怡：

  英國(guó)的監(jiān)管框架是基于人工智能應(yīng)用場(chǎng)景來規(guī)范人工智能應(yīng)用，而非規(guī)范人工智能技術(shù)，并不為整個(gè)行業(yè)或技術(shù)設(shè)定規(guī)則或風(fēng)險(xiǎn)級(jí)別。在監(jiān)管依據(jù)上，在不確定的技術(shù)應(yīng)用和治理中探索可量化、可定性的成本收益及影響，這對(duì)我國(guó)監(jiān)管政策的出臺(tái)有啟發(fā)意義。在目前的大模型監(jiān)管上存在難點(diǎn)。主要包括三方面：一是技術(shù)的局限性導(dǎo)致目前難以達(dá)到治理的高標(biāo)準(zhǔn)；二是大模型治理的方式和限度難以把握；三是目前多樣化治理工具沒有完全發(fā)揮作用。隨著多模態(tài)大模型的研發(fā)和廣泛應(yīng)用，未來的風(fēng)險(xiǎn)問題會(huì)逐步深化。建議在統(tǒng)籌發(fā)展與安全的基礎(chǔ)上，構(gòu)建全生命周期的差異化監(jiān)管機(jī)制，加強(qiáng)人工智能重點(diǎn)領(lǐng)域關(guān)鍵環(huán)節(jié)監(jiān)管。同時(shí)倡導(dǎo)“以技治技”，開展安全可信技術(shù)的治理。（金燦）