網上投稿
AI浪潮愈發澎湃的當下，生成式人工智能技術已成為企業創新與效率提升的重要工具。企業對生成式人工智能產品（以下簡稱為“GenAI產品”）的應用需求日益增長，其應用場景也愈發多樣化：開展營銷活動的過程中利用AI生成創意文案和視覺設計素材，極大地縮短了創作周期并降低了成本；使用AI客服機器人處理客戶咨詢，顯著地提高了客戶滿意度和響應速度；使用AI還可以為客戶提供個性化的產品推薦，提高銷售轉化率等等。
然而企業在積極探索GenAI產品等新質生產力工具的同時，也不能忽視潛在的風險。我們將通過“采購篇”和“使用篇”這兩個篇章，針對企業采購GenAI產品和使用GenAI產品這兩個階段，梳理將GenAI產品引入企業工作流程可能涉及的風險點，并結合這些風險點，為企業如何針對不同場景下GenAI產品的應用制定清晰明確的指南提供建議，從而協助企業在實現AI轉型的同時防范相關風險。
通過本文，你將至少了解：
s 采購GenAI產品時，需要提前關注商業秘密泄露、個人信息保護、知識產權侵權等風險；
s 使用GenAI產品時，應當至少考慮構建完善的內部管理制度。
采購篇
在企業決定引入GenAI產品之前，必須對采購決策進行全面且審慎的評估，結合自身的業務開展情況以及需求，選擇最適合自身，同時合規風險也較為可控的GenAI產品。從控制合規風險的角度出發，我們建議企業在采購GenAI產品的階段至少需要考慮以下要點：
1. 采購前：這些問題考慮過沒有？
(1) 使用GenAI產品的目的和場景
在采購GenAI產品之前，企業首先應當明確使用GenAI產品的目的和場景，因為這將決定企業在使用GenAI產品過程中需要著重防范的法律風險。
例如，倘若企業將GenAI產品用于廣告文案、圖片、短視頻等營銷內容的生成，需要特別關注知識產權侵權的風險，尤其是著作權侵權的風險。GenAI產品生成的內容可能涉及對他人作品的復制或改編，若未經權利人授權使用，可能引發著作權糾紛。此外，由于GenAI產品算法的訓練數據具有局限性、且缺乏人類的基本判斷能力，GenAI產品可能會生成不準確或虛假的信息，若企業在廣告文案或產品描述中使用GenAI產品生成的內容涉及夸大產品功效等虛假宣傳，企業還可能因構成虛假宣傳、虛假廣告需承擔違反《中華人民共和國廣告法》《中華人民共和國反不正當競爭法》的法律責任。
再如，倘若企業將GenAI產品用于個性化推薦（如電商平臺的商品推薦），則需要重點關注數據隱私和個人信息保護問題。個性化推薦通常依賴于對用戶行為數據的分析，若企業在數據收集、存儲和使用過程中未能遵守《中華人民共和國個人信息保護法》等相關法律法規，可能面臨行政或民事責任。
TIPS：企業在采購前應明確GenAI產品的使用場景，并根據場景特點定位具體的風險領域，進而制定相應的合規策略。
(2) 使用GenAI產品生成內容（以下簡稱“AIGC”）的目的和場景
除了使用GenAI產品的目的和場景以外，企業還應關注后續使用AIGC的目的和場景。
例如，若AIGC僅用于企業內部使用（如內部報告、數據分析等），由于AIGC僅在企業內部流通，不對外公開傳播，未進入公共領域，往往不會對權利人的利益造成直接損害，因此侵權風險較低。然而，若企業在商業推廣的過程中將AIGC通過互聯網平臺、線下媒體等各種渠道向公眾進行投放，且AIGC與現有作品構成實質性相似，或包含他人肖像、商標或其他受保護的元素，往往很容易就被公眾以及權利人識別，企業面臨的侵權風險將顯著提升。
TIPS：企業在采購GenAI產品前，還應評估AIGC的使用目的和場景，并基于AIGC的使用目的和場景選擇合適的GenAI產品，例如在企業后續將對外使用AIGC的情形下，建議企業優先選擇使用授權素材庫進行模型訓練并設置侵權違規內容攔截功能的GenAI產品。
(3) 是否會向公眾提供GenAI產品
基于是否會向公眾提供GenAI產品，GenAI產品提供者以及企業自身可能構成不同類型的主體，進而導致需要履行不同的責任與義務。在我國，根據《生成式人工智能服務管理暫行辦法》等法律法規，如企業僅將GenAI產品提供給企業內部的員工使用，通常不屬于向公眾提供GenAI產品，因而不屬于生成式人工智能服務提供者，往往無需履行生成式人工智能服務提供者的合規義務。然而，若企業計劃將GenAI產品向公眾提供（如向一般用戶提供基于GenAI產品開發的應用），則企業很有可能構成生成式人工智能服務提供者，進而需要承擔算法備案、生成式人工智能服務備案/登記、網絡信息安全和個人信息保護、違法內容管控、未成年人保護等生成式人工智能服務提供者的合規義務，并需要避免采購可能導致企業無法履行合規義務或面臨較高的侵權或違規風險的GenAI產品（例如境外GenAI產品）。
TIPS：企業在采購GenAI產品前，應當針對使用的全流程進行評估，特別是最終是否會向一般用戶提供基于GenAI產品開發的應用。
(4) 是否會通過精調、LoRA等方式對于GenAI產品進行優化
企業采購GenAI產品后，可能會根據自身需求對GenAI產品進行優化，如通過精調（Fine Tune）或低秩適配（LoRA）等方式調整GenAI產品所依托的模型參數，以提升生成內容的準確性和適用性。因此，如企業后續存在以對模型的代碼、參數或架構進行修改、對于模型進行數據訓練等方式對于GenAI產品進行優化的需求，在采購GenAI產品前，企業需特別關注GenAI產品提供者是否允許此類優化行為，審查GenAI產品的許可協議，選擇許可協議中允許企業按照自身所計劃的方式對于GenAI產品進行優化的GenAI產品。
TIPS：企業在采購GenAI產品前，應當針對使用GenAI產品的具體方式進行評估，如果需要對GenAI產品進行優化，應當特別關注許可協議等對使用邊界進行明確的文件。
2. 采購時：這些問題關注一下？
(1) GenAI產品提供者是否已取得所需的合法資質？
在我國，根據《生成式人工智能服務管理暫行辦法》《互聯網信息服務算法推薦管理規定》等人工智能領域法律法規，GenAI產品涉及的合法資質主要包括算法備案以及生成式人工智能服務備案/登記；如GenAI產品未取得所需資質，可能導致GenAI產品被關停，進而對使用GenAI產品的企業造成不利影響。根據法律法規的規定以及我們與網信辦等監管部門的溝通，GenAI產品是否需要進行算法備案、生成式人工智能服務備案/登記，主要取決于其是否面向境內公眾提供生成式人工智能服務，以及該服務是否具有輿論屬性或社會動員能力。如企業僅允許內部員工使用企業采購的GenAI產品，該情形下GenAI產品不涉及面向境內公眾提供生成式人工智能服務，因此無需進行算法備案或生成式人工智能服務備案/登記。然而，如企業會向公眾提供GenAI產品（例如向一般用戶提供基于GenAI產品開發的應用），則GenAI產品涉及面向境內公眾提供服務，且由于實務中對于何為“具有輿論屬性或社會動員能力”的判斷相對較為寬泛，往往涵蓋了所有具備信息共享功能的服務，GenAI產品提供的服務有較高概率構成“具有輿論屬性或社會動員能力”的生成式人工智能服務，企業需要確保該等GenAI產品已進行算法備案、生成式人工智能服務備案/登記。
TIPS：企業在采購國內開發者提供的GenAI產品時，尤其是在后續會向公眾提供GenAI產品的情況下，建議要求GenAI產品提供者出示相關的備案/登記證明文件，核實證明文件的真實性和有效性，并在GenAI產品采購協議中明確要求提供者對已取得提供GenAI產品所需的合法資質作出陳述與保證以及約定違反該等陳述與保證的賠償責任。
(2) GenAI產品為閉源產品還是開源產品？
GenAI產品的開源與閉源屬性直接影響企業對于GenAI產品的使用權限，尤其是后續是否可以對于GenAI產品進行優化。開源GenAI產品是指將模型的權重、架構以及訓練過程向公眾開放，允許任何人自由使用、修改和分發的GenAI產品，其優勢在于促進技術的快速迭代和創新，降低使用成本，并允許企業根據自身需求通過修改代碼、調整模型參數等方式對于GenAI產品進行優化。閉源GenAI產品則是指模型的權重、架構和訓練細節不公開，通常由提供者控制并以“模型即服務”的形式提供服務的GenAI產品，其優勢在于保護提供者的商業秘密，增強數據安全性和隱私性，使用者通常無法通過修改代碼、調整模型參數等方式對GenAI產品進行優化。企業在采購GenAI產品時，應根據自身需求選擇開源或閉源GenAI產品。若企業計劃對GenAI產品進行優化，開源GenAI產品可能更為合適，但企業在使用開源GenAI產品時仍需遵守開源許可證的相關規定，如在使用和分發優化后的模型時，需保留原模型的版權聲明和許可條款；若企業更關注數據安全性和商業秘密保護，閉源GenAI產品則更具優勢，但企業需嚴格按照閉源GenAI產品的使用條款使用GenAI產品，可能無法通過修改模型的代碼、參數等方式優化GenAI產品。
TIPS：企業在采購GenAI產品時，應當做好自身需求的測評工作，并結合自身需求選擇開源或閉源GenAI產品。
(3) GenAI產品被“投喂”了哪些訓練數據？
GenAI產品的訓練數據是其生成內容的基礎，訓練數據的合法合規性直接影響AIGC的合法合規性，進而影響企業后續對于AIGC的使用。根據《生成式人工智能服務管理暫行辦法》第7條，生成式人工智能服務提供者使用的訓練數據應當來源合法，不得侵犯他人知識產權，不得違法違規使用個人信息，且應采取有效措施提高訓練數據質量，增強訓練數據的真實性、準確性、客觀性、多樣性。企業在采購GenAI產品時，也應基于該等要求，評估GenAI產品的訓練數據的合法合規性。一方面，企業應要求提供者披露訓練數據的基本信息，包括數據的來源、類型、處理方式等，并核實其是否已取得相關權利人的授權。例如，若訓練數據包含受版權保護的文本、圖像或音頻，提供者需提供著作權人的許可證明；若訓練數據涉及個人信息，提供者需證明其已取得個人信息主體的同意，并采取了必要的脫敏措施。另一方面，企業應要求提供者提供GenAI產品訓練數據安全評估報告，以核查GenAI產品語料來源、內容以及標注的安全性。
TIPS：企業在采購GenAI產品時，應當評估、核實GenAI產品的訓練數據的合法合規性。
3. 采購協議：這些條款看仔細了
GenAI產品采購協議是確定企業與GenAI產品提供者之間權利義務關系的重要法律文件，企業后續使用GenAI產品以及GenAI產品提供者提供GenAI產品的行為將受到該等采購協議的約束，同時，如任何一方違反采購協議的約定，另一方可以基于采購協議要求違約方承擔支付違約金、賠償損失等違約責任。因此，對于企業而言，如何通過采購協議中陳述保證、權利義務、違約責任等條款的設計保障自身權益、降低潛在法律風險至關重要。為實現前述目的，企業應當確保GenAI產品采購協議中對下述事項予以明確約定：GenAI產品提供者的合法資質、GenAI產品的提供方式、AIGC的權利歸屬和使用、數據與知識產權保護、企業對于GenAI產品優化。關于具體應該如何設計采購協議的條款，請見《AI開拓者指南：AIGC應用協議——怎么寫怎么看》一文“模型產品使用者使用協議”部分。
滬公網安備 31010402007129號
