網(wǎng)上投稿
前言
ChatGPT熱潮席卷全球，“文心一言”“通義千問”“商量”等中國(guó)類ChatGPT產(chǎn)品陸續(xù)發(fā)布，國(guó)家網(wǎng)信辦亦緊跟變化，于4月11日發(fā)布了《生成式人工智能管理辦法（征求意見稿）》。
一、生成式人工智能服務(wù)提供者規(guī)范
（一）采取制度和技術(shù)措施
在制度和技術(shù)措施方面，《生成式人工智能管理辦法（征求意見稿）》（下稱《征求意見稿》）對(duì)利用生成式人工智能產(chǎn)品提供聊天和文本、圖像、聲音生成等服務(wù)的組織和個(gè)人（下稱“提供者”）主要設(shè)置了如下義務(wù)：
（二）配合監(jiān)管
不同于《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，《征求意見稿》認(rèn)為所有生成式人工智能產(chǎn)品均具有輿論屬性或社會(huì)動(dòng)員能力，要求提供者在利用生成式人工智能產(chǎn)品向公眾提供服務(wù)前，應(yīng)按照《具有輿論屬性或社會(huì)動(dòng)員能力的互聯(lián)網(wǎng)信息服務(wù)安全評(píng)估規(guī)定》向國(guó)家網(wǎng)信部門申報(bào)安全評(píng)估，并按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行算法備案和變更、注銷備案手續(xù)。
此外，當(dāng)國(guó)家網(wǎng)信部門和有關(guān)主管部門要求時(shí)，提供者還應(yīng)提供可以影響用戶信任、選擇的必要信息，包括預(yù)訓(xùn)練和優(yōu)化訓(xùn)練數(shù)據(jù)的來源、規(guī)模、類型、質(zhì)量等描述，人工標(biāo)注規(guī)則，人工標(biāo)注數(shù)據(jù)的規(guī)模和類型，基礎(chǔ)算法和技術(shù)體系等。
（三）責(zé)任承擔(dān)
《征求意見稿》將保障生成式人工智能生成信息內(nèi)容合法性的主要責(zé)任主體設(shè)置為提供者，這引發(fā)了業(yè)界認(rèn)為提供者責(zé)任過于嚴(yán)格，可能影響創(chuàng)新的擔(dān)憂。該稿還將提供可編程接口等技術(shù)支持的主體納入提供者的范疇，如某可編程接口服務(wù)提供商同時(shí)向B端和C端提供服務(wù)，用戶通過B端客戶提供的生成式人工智能產(chǎn)品所生成的內(nèi)容違反《征求意見稿》的要求，該可編程接口服務(wù)提供商和B端客戶的責(zé)任劃分尚不明晰。
根據(jù)《征求意見稿》，提供者違反《征求意見稿》規(guī)定將可能承擔(dān)如下法律責(zé)任：
二、生成式人工智能使用合規(guī)
（一）生成內(nèi)容合規(guī)
《征求意見稿》第四條對(duì)利用生成式人工智能生成的內(nèi)容提出要求：
此外，《征求意見稿》要求提供者按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對(duì)生成的圖片、視頻等內(nèi)容進(jìn)行標(biāo)識(shí)。具體而言，提供者需滿足如下要求：
（1）提供者對(duì)使用其服務(wù)生成或者編輯的信息內(nèi)容，應(yīng)采取技術(shù)措施添加不影響用戶使用的標(biāo)識(shí)，并依照法律、行政法規(guī)和國(guó)家有關(guān)規(guī)定保存日志信息。
（2）當(dāng)提供者提供的服務(wù)可能導(dǎo)致公眾混淆或者誤認(rèn)的，應(yīng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識(shí)，向公眾提示生成式人工智能使用情況。
（3）提供者在提供可能導(dǎo)致公眾混淆或者誤認(rèn)的服務(wù)時(shí)，應(yīng)提供顯著標(biāo)識(shí)功能，并提示使用者可以進(jìn)行顯著標(biāo)識(shí)。
（二）預(yù)訓(xùn)練、優(yōu)化訓(xùn)練數(shù)據(jù)合規(guī)
《征求意見稿》不僅要求生成式人工智能所生成的信息具備合法性，亦要求提供者應(yīng)對(duì)生成式人工智能產(chǎn)品的預(yù)訓(xùn)練數(shù)據(jù)、優(yōu)化訓(xùn)練數(shù)據(jù)來源的合法性負(fù)責(zé)。用于生成式人工智能產(chǎn)品的預(yù)訓(xùn)練、優(yōu)化訓(xùn)練數(shù)據(jù)，應(yīng)滿足以下要求：
此外，當(dāng)生成式人工智能產(chǎn)品研制中采用人工標(biāo)注時(shí)，提供者應(yīng)根據(jù)《征求意見稿》要求，制定清晰、具體、可操作的標(biāo)注規(guī)則，對(duì)標(biāo)注人員進(jìn)行必要培訓(xùn)，抽樣核驗(yàn)標(biāo)注內(nèi)容的正確性。
（三）提供者對(duì)用戶的指導(dǎo)、管理和保護(hù)
《征求意見稿》要求提供者指導(dǎo)用戶科學(xué)認(rèn)識(shí)和理性使用生成式人工智能生成的內(nèi)容。當(dāng)提供者發(fā)現(xiàn)用戶利用生成式人工智能產(chǎn)品過程中違反法律法規(guī)，違背商業(yè)道德、社會(huì)公德行為時(shí)，包括從事網(wǎng)絡(luò)炒作、惡意發(fā)帖跟評(píng)、制造垃圾郵件、編寫惡意軟件，實(shí)施不正當(dāng)?shù)纳虡I(yè)營(yíng)銷等，應(yīng)當(dāng)暫停或者終止服務(wù)。
同時(shí)，提供者應(yīng)建立用戶投訴接收處理機(jī)制以保護(hù)個(gè)人合法權(quán)益。當(dāng)其發(fā)現(xiàn)、知悉生成的文本、圖片、聲音、視頻等侵害他人肖像權(quán)、名譽(yù)權(quán)、個(gè)人隱私、商業(yè)秘密，或者不符合《征求意見稿》要求時(shí)，應(yīng)采取措施，停止生成，防止危害持續(xù)。
提供者需對(duì)利用其生成式人工智能所產(chǎn)生的內(nèi)容采取過濾等措施，對(duì)在運(yùn)行中發(fā)現(xiàn)和用戶舉報(bào)的不符合《征求意見稿》要求的生成內(nèi)容，其還應(yīng)在3個(gè)月內(nèi)通過模型優(yōu)化訓(xùn)練等方式防止再次生成。
結(jié)語
縱覽《征求意見稿》，部分規(guī)定較為籠統(tǒng)、模糊，仍有待后續(xù)的進(jìn)一步厘清，還有部分觀點(diǎn)認(rèn)為此稿存在著“自相矛盾”之處。生成式人工智能尚處于上升探索階段，該技術(shù)背后的邏輯、可應(yīng)用場(chǎng)景和發(fā)展前景尚未明晰，因此，一些觀點(diǎn)認(rèn)為此時(shí)出臺(tái)監(jiān)管辦法似乎為時(shí)過早。但技術(shù)在蓬勃發(fā)展，法律也在“跑步”跟上，在技術(shù)發(fā)展的前期即進(jìn)行法律的思考和探索，并在接收公眾意見和業(yè)界反饋中調(diào)整，技術(shù)與法律并肩而行，方能在規(guī)范之路上走得更遠(yuǎn)。
滬公網(wǎng)安備 31010402007129號(hào)
