就在昨天，中國(guó)支付清算協(xié)會(huì)明確指出“ChatGPT這類(lèi)智能化工具已經(jīng)暴露出跨境數(shù)據(jù)泄露等風(fēng)險(xiǎn)?！辈l(fā)出“謹(jǐn)慎使用ChatGPT等工具”的倡議，該倡議強(qiáng)調(diào)支付行業(yè)從業(yè)人員要提高思想認(rèn)識(shí)，依法依規(guī)使用ChatGPT等智能化工具，正確認(rèn)識(shí)相關(guān)工具的機(jī)遇和風(fēng)險(xiǎn)，全面評(píng)估使用ChatGPT等工具處理工作內(nèi)容的風(fēng)險(xiǎn)；倡議支付行業(yè)從業(yè)人員在使用ChatGPT等工具時(shí)，要嚴(yán)格遵守國(guó)家及行業(yè)相關(guān)法律法規(guī)要求，不上傳國(guó)家及金融行業(yè)涉密文件及數(shù)據(jù)、不上傳非公開(kāi)的資料及數(shù)據(jù)、客戶(hù)資料、支付清算基礎(chǔ)設(shè)施或系統(tǒng)的核心代碼等內(nèi)容；倡議各會(huì)員單位要進(jìn)一步健全信息安全內(nèi)控管理制度，開(kāi)展有針對(duì)性的數(shù)據(jù)風(fēng)險(xiǎn)防控工作，加強(qiáng)宣傳和引導(dǎo)，提升員工的風(fēng)險(xiǎn)防范和數(shù)據(jù)保護(hù)意識(shí)，切實(shí)維護(hù)國(guó)家金融及支付行業(yè)安全。

(資料圖)

一、ChatGPT已發(fā)生多起數(shù)據(jù)泄漏事故

中國(guó)支付清算協(xié)會(huì)這一倡議是對(duì)近期ChatGPT頻繁曝出數(shù)據(jù)泄露事件的回應(yīng)，ChatGPT已經(jīng)在世界范圍內(nèi)曝出數(shù)起敏感數(shù)據(jù)泄密事件，就在本月初，意大利個(gè)人數(shù)據(jù)保護(hù)局宣布，從即日起禁止使用ChatGPT并限制OpenAI公司處理意大利用戶(hù)的個(gè)人信息，同時(shí)意大利個(gè)人數(shù)據(jù)保護(hù)局開(kāi)始就ChatGPT泄露敏感信息事件進(jìn)行立案調(diào)查。無(wú)獨(dú)有偶，韓國(guó)某國(guó)際知名大型企業(yè)（某星）主管存儲(chǔ)、芯片設(shè)計(jì)、晶圓代工等半導(dǎo)體核心業(yè)務(wù)部門(mén)亦因?yàn)閱T工使用ChatGPT導(dǎo)致機(jī)密數(shù)據(jù)泄露。

該泄露事件涉及三位員工，員工甲在運(yùn)行半導(dǎo)體設(shè)備測(cè)量數(shù)據(jù)庫(kù)下載程序的源代碼時(shí)發(fā)生了錯(cuò)誤，于是他復(fù)制所有有問(wèn)題的源代碼并將其輸入到ChatGPT中詢(xún)問(wèn)解決方案。員工乙則將“設(shè)備測(cè)量”及“產(chǎn)量和缺陷”檢測(cè)程序代碼整個(gè)相關(guān)源輸入ChatGPT，要求ChatGPT幫助其優(yōu)化代碼。員工丙則是一名行政人員，其將用自己手機(jī)錄制的會(huì)議內(nèi)容轉(zhuǎn)化為文字后，輸入到ChatGPT中，要求ChatGPT優(yōu)化這份錄音轉(zhuǎn)文字的稿件，使其看起來(lái)像一篇精心制作的會(huì)議紀(jì)要。

上述三位員工的行為使得某星涉及半導(dǎo)體業(yè)務(wù)的敏感內(nèi)容，此后該企業(yè)向公司所有員工告知“如果采取信息保護(hù)緊急措施后仍發(fā)生類(lèi)似事故，公司內(nèi)部網(wǎng)可能會(huì)禁止ChatGPT連接?！?/p>

事實(shí)上國(guó)內(nèi)部分行業(yè)也已經(jīng)對(duì)ChatGPT引發(fā)的敏感信息泄露問(wèn)題發(fā)布了相關(guān)預(yù)警。除韓國(guó)某星外，微軟、亞馬遜等國(guó)際巨頭企業(yè)亦對(duì)自己的員工發(fā)出預(yù)警，不要與ChatGPT分享公司的相關(guān)敏感信息，因?yàn)樗鼈兛赡軙?huì)被ChatGPT用于訓(xùn)練未來(lái)的語(yǔ)言模型。

出于對(duì)敏感數(shù)據(jù)泄露風(fēng)險(xiǎn)的擔(dān)憂，花旗集團(tuán)、德意志銀行、高盛集團(tuán)、摩根大通等企業(yè)亦明確禁止員工使用ChatGPT處理工作任務(wù)。更有1000多名科技行業(yè)領(lǐng)導(dǎo)和研究人員呼吁暫停先進(jìn)AI的研發(fā)，以便相關(guān)的數(shù)據(jù)安全政策能夠首先得到討論施行。AI與數(shù)據(jù)政策中心（The Center for A.I and Digital Policy）亦要求美國(guó)聯(lián)邦交易委員會(huì)禁止OpenAI發(fā)布ChatGPT新的商用版本。

二、ChatGPT泄露數(shù)據(jù)風(fēng)險(xiǎn)點(diǎn)位分析

中國(guó)支付清算協(xié)會(huì)以及上述各企業(yè)對(duì)于ChatGPT數(shù)據(jù)泄漏風(fēng)險(xiǎn)的擔(dān)憂不無(wú)道理。ChatGPT的數(shù)據(jù)泄漏風(fēng)險(xiǎn)主要源于兩部分，其一是ChatGPT本身的程序漏洞，其二是ChatGPT的工作原理。ChatGPT本身的程序漏洞可能會(huì)導(dǎo)致用戶(hù)的聊天內(nèi)容泄露。這類(lèi)事故已經(jīng)發(fā)生過(guò)數(shù)次，就在上個(gè)月末。有部分網(wǎng)友生成自己的ChatGPT聊天欄中出現(xiàn)了其他人聊天記錄的標(biāo)題，3月25日OpenAI發(fā)文證實(shí)是由于ChatGPT本身程序漏洞導(dǎo)致了泄露事故，OpenAI“已緊急修復(fù)該漏洞并向用戶(hù)致歉”。事實(shí)上程序本身漏洞導(dǎo)致信息泄露并非“不可饒恕”，這些漏洞通常及時(shí)修補(bǔ)后就不會(huì)引起撼動(dòng)ChatGPT根基的風(fēng)波。而真正可能撼動(dòng)ChatGPT根基的是后一種信息泄露風(fēng)險(xiǎn)點(diǎn)位，即ChatGPT的工作原理，實(shí)際上，ChatGPT的工作原理就注定了其在現(xiàn)階段很難解決信息泄露的問(wèn)題。

具體而言，傳統(tǒng)的聊天軟件通常會(huì)聲稱(chēng)“本軟件不會(huì)收集聊天記錄、聊天信息也會(huì)點(diǎn)對(duì)點(diǎn)進(jìn)行加密傳輸”，事實(shí)上絕大部分的聊天軟件也都會(huì)做到這一點(diǎn)。但是這一點(diǎn)對(duì)于ChatGPT而言幾乎不可能實(shí)現(xiàn)，原因在于ChatGPT這類(lèi)大語(yǔ)言模型一定會(huì)收集用戶(hù)的聊天內(nèi)容，并將其用于后續(xù)算法訓(xùn)練，以使得自身進(jìn)一步迭代成為更加高效的AI。因此，用戶(hù)在與ChatGPT聊天的過(guò)程中提供的隱私內(nèi)容，很可能會(huì)被ChatGPT收集，并成為其自身算法訓(xùn)練的素材，然后在其他場(chǎng)景中透露給別人。

于是”故事”（事故）就是這樣產(chǎn)生的：某員工甲為圖方便，將其單位的客戶(hù)數(shù)據(jù)輸入到ChatGPT中，希望ChatGPT根據(jù)數(shù)據(jù)生成相應(yīng)的報(bào)告，其后這些客戶(hù)數(shù)據(jù)就被ChatGPT收集并用作未來(lái)算法訓(xùn)練的素材。之后某商業(yè)間諜乙在使用ChatGPT時(shí)，詢(xún)問(wèn)ChatGPT某公司的客戶(hù)數(shù)據(jù)大致是什么內(nèi)容，ChatGPT立刻就將其在員工甲處“學(xué)習(xí)而來(lái)”的知識(shí)告訴了乙……

當(dāng)然，現(xiàn)實(shí)的數(shù)據(jù)泄露情景更為復(fù)雜，本文僅是將其簡(jiǎn)化并以通俗易懂的方式呈現(xiàn)給讀者，上述ChatGPT的工作原理在短時(shí)間內(nèi)無(wú)法改變，實(shí)際上OpenAI已經(jīng)在ChatGPT的使用指南中數(shù)次提醒用戶(hù)輸入ChatGPT聊天框的文本內(nèi)容會(huì)被用于進(jìn)一步訓(xùn)練模型，警告用戶(hù)不要提交敏感信息，換言之，ChatGPT的工作原理就注定了其必定會(huì)觸及到隱私數(shù)據(jù)保護(hù)、數(shù)據(jù)跨境傳輸?shù)群弦?guī)紅線，而且這種“矛盾”似乎在短期內(nèi)無(wú)法妥善解決。

三、企業(yè)引入AIGC服務(wù)的合規(guī)要點(diǎn)

接受新技術(shù)能夠產(chǎn)生巨大的生產(chǎn)力變革，我們必須承認(rèn)以ChatGPT為代表的AIGC、深度合成技術(shù)可能直接成為企業(yè)核心競(jìng)爭(zhēng)力與吸引力的組成部分，對(duì)于AIGC、深度合成技術(shù)絕不能一禁了之，企業(yè)如何在現(xiàn)行的法律框架下發(fā)揮ChatGPT等工具的最大潛力，將會(huì)是企業(yè)合規(guī)新的難題。我國(guó)是最早對(duì)人工智能進(jìn)行監(jiān)管的國(guó)家之一，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》已于今年1月10日施行。

在此之前《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》等法律法規(guī)中亦涉及到AIGC、深度合成等內(nèi)容。根據(jù)我國(guó)目前有關(guān)AIGC、深度合成的法律合規(guī)框架，企業(yè)如果希望在服務(wù)中引入AIGC，應(yīng)當(dāng)至少關(guān)注以下幾點(diǎn)內(nèi)容：

1.與深度合成服務(wù)提供者或者技術(shù)支持者的協(xié)議條款，重點(diǎn)關(guān)注在使用AI方面有何限制，有何免責(zé)場(chǎng)景。

2.審查深度合成服務(wù)的提供作者與技術(shù)支持者是否履行了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》中的合規(guī)任務(wù)。

3.就員工內(nèi)部使用ChatGPT等AIGC工具，制定合規(guī)使用政策，要求使用相關(guān)服務(wù)的員工至少應(yīng)當(dāng)明確哪些內(nèi)容不可以通過(guò)AIGC處理，以避免企業(yè)自身敏感信息泄露。

4.如企業(yè)引入的AIGC內(nèi)容可能會(huì)向企業(yè)自身的客戶(hù)披露，那就必須在對(duì)外服務(wù)時(shí)告知哪些內(nèi)容是由AI生成的，應(yīng)當(dāng)警惕內(nèi)容的風(fēng)險(xiǎn)，確?？赡苁苡绊懭巳旱闹闄?quán)。

四、寫(xiě)在最后

傳統(tǒng)聊天軟件的服務(wù)提供商通常不會(huì)收集聊天記錄，聊天記錄亦會(huì)點(diǎn)對(duì)點(diǎn)加密，但ChatGPT等AIGC卻會(huì)不可避免地收集聊天內(nèi)容用于后續(xù)的算法訓(xùn)練，以使自身“迭代進(jìn)化”，用戶(hù)提供的隱私信息很可能在這樣的機(jī)制之下被披露給第三方，實(shí)際上AIGC正在慢慢改變隱私數(shù)據(jù)處理的邊界與預(yù)期，這對(duì)企業(yè)合規(guī)、數(shù)據(jù)相關(guān)法律規(guī)范制定者、司法機(jī)關(guān)都是一個(gè)挑戰(zhàn)，未來(lái)可能會(huì)涉及的數(shù)據(jù)合規(guī)尤其是數(shù)據(jù)出境等問(wèn)題，可能仍需進(jìn)一步探索與研究。

本文系未央網(wǎng)專(zhuān)欄作者:肖颯 發(fā)表，內(nèi)容屬作者個(gè)人觀點(diǎn)，不代表網(wǎng)站觀點(diǎn)，未經(jīng)許可嚴(yán)禁轉(zhuǎn)載，違者必究！

關(guān)鍵詞：