10月11日，全國(guó)信息安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)官網(wǎng)發(fā)布《生成式人工智能服務(wù)安全基本要求》（征求意見(jiàn)稿），面向社會(huì)公開(kāi)征求意見(jiàn)。這是國(guó)內(nèi)首個(gè)專(zhuān)門(mén)面向生成式ai安全領(lǐng)域的規(guī)范意見(jiàn)稿，也是對(duì)今年7月推出的《生成式人工智能服務(wù)管理暫行辦法》的支撐。

生成式人工智能（ai）因ai開(kāi)發(fā)機(jī)構(gòu)openai的聊天機(jī)器人chatgpt而得到廣泛普及，它基于數(shù)據(jù)、算法、模型、規(guī)則，能夠根據(jù)使用者提示生成文本、圖片、音頻、視頻等內(nèi)容。

征求意見(jiàn)稿首次提出生成式ai服務(wù)提供者需遵循的安全基本要求，涉及語(yǔ)料安全、模型安全、安全措施、安全評(píng)估等方面。按照要求，提供者在向相關(guān)主管部門(mén)提出生成式人工智能服務(wù)上線(xiàn)的備案申請(qǐng)前，應(yīng)按照文件中各項(xiàng)要求逐條進(jìn)行安全性評(píng)估，并將評(píng)估結(jié)果以及證明材料在備案時(shí)提交。文件中的附錄a給出了語(yǔ)料及生成內(nèi)容的主要安全風(fēng)險(xiǎn)共5類(lèi)31種。

在語(yǔ)料安全要求中，征求意見(jiàn)稿提出，應(yīng)建立語(yǔ)料來(lái)源黑名單，不使用黑名單來(lái)源的數(shù)據(jù)進(jìn)行訓(xùn)練?！皯?yīng)對(duì)各來(lái)源語(yǔ)料進(jìn)行安全評(píng)估，單一來(lái)源語(yǔ)料內(nèi)容中含違法不良信息超過(guò)5%的，應(yīng)將該來(lái)源加入黑名單?！?/p>

此外，征求意見(jiàn)稿要求，按照我國(guó)網(wǎng)絡(luò)安全相關(guān)法律要求阻斷的信息，不應(yīng)作為訓(xùn)練語(yǔ)料。相關(guān)法律法規(guī)要求包括但不限于《網(wǎng)絡(luò)安全法》第五十條等?！毒W(wǎng)絡(luò)安全法》第五十條規(guī)定：國(guó)家網(wǎng)信部門(mén)和有關(guān)部門(mén)依法履行網(wǎng)絡(luò)信息安全監(jiān)督管理職責(zé)，發(fā)現(xiàn)法律、行政法規(guī)禁止發(fā)布或者傳輸?shù)男畔⒌?，?yīng)當(dāng)要求網(wǎng)絡(luò)運(yùn)營(yíng)者停止傳輸，采取消除等處置措施，保存有關(guān)記錄；對(duì)來(lái)源于中華人民共和國(guó)境外的上述信息，應(yīng)當(dāng)通知有關(guān)機(jī)構(gòu)采取技術(shù)措施和其他必要措施阻斷傳播。

在個(gè)人信息方面，征求意見(jiàn)稿提出：“應(yīng)使用包含個(gè)人信息的語(yǔ)料時(shí)，獲得對(duì)應(yīng)個(gè)人信息主體的授權(quán)同意，或滿(mǎn)足其他合法使用該個(gè)人信息的條件；應(yīng)使用包含敏感個(gè)人信息的語(yǔ)料時(shí)，獲得對(duì)應(yīng)個(gè)人信息主體的單獨(dú)授權(quán)同意，或滿(mǎn)足其他合法使用該敏感個(gè)人信息的條件；應(yīng)使用包含人臉等生物特征信息的語(yǔ)料時(shí)，獲得對(duì)應(yīng)個(gè)人信息主體的書(shū)面授權(quán)同意，或滿(mǎn)足其他合法使用該生物特征信息的條件?！?/p>

征求意見(jiàn)稿還就如何避免侵犯知識(shí)產(chǎn)權(quán)制定了詳細(xì)的指導(dǎo)方針。例如，“提供者不應(yīng)使用有侵權(quán)問(wèn)題的語(yǔ)料進(jìn)行訓(xùn)練：訓(xùn)練語(yǔ)料包含文學(xué)、藝術(shù)、科學(xué)作品的，應(yīng)重點(diǎn)識(shí)別訓(xùn)練語(yǔ)料以及生成內(nèi)容中的著作權(quán)侵權(quán)問(wèn)題；對(duì)訓(xùn)練語(yǔ)料中的商業(yè)語(yǔ)料以及使用者輸入信息，應(yīng)重點(diǎn)識(shí)別侵犯商業(yè)秘密的問(wèn)題；訓(xùn)練語(yǔ)料中涉及商標(biāo)以及專(zhuān)利的，應(yīng)重點(diǎn)識(shí)別是否符合商標(biāo)權(quán)、專(zhuān)利權(quán)有關(guān)法律法規(guī)的規(guī)定?！?/p>

在語(yǔ)料標(biāo)注安全要求方面，征求意見(jiàn)稿提出，“應(yīng)為標(biāo)注人員執(zhí)行每項(xiàng)標(biāo)注任務(wù)預(yù)留充足、合理的標(biāo)注時(shí)間”。

對(duì)于模型安全要求，征求意見(jiàn)稿提出，“提供者如使用基礎(chǔ)模型進(jìn)行研發(fā)，不應(yīng)使用未經(jīng)主管部門(mén)備案的基礎(chǔ)模型?！薄霸谟?xùn)練過(guò)程中，應(yīng)將生成內(nèi)容安全性作為評(píng)價(jià)生成結(jié)果優(yōu)劣的主要考慮指標(biāo)之一?！?/p>

征求意見(jiàn)稿對(duì)模型適用人群、場(chǎng)合、用途方面提出了安全措施要求。例如，“服務(wù)用于關(guān)鍵信息基礎(chǔ)設(shè)施、自動(dòng)控制、醫(yī)療信息服務(wù)、心理咨詢(xún)等重要場(chǎng)合的， 應(yīng)具備與風(fēng)險(xiǎn)程度以及場(chǎng)景相適應(yīng)的保護(hù)措施?！蔽募?duì)適用未成年人的服務(wù)也提出了相關(guān)要求。

征求意見(jiàn)稿還提出，應(yīng)設(shè)置監(jiān)看人員，及時(shí)根據(jù)國(guó)家政策以及第三方投訴情況提高生成內(nèi)容質(zhì)量，監(jiān)看人員數(shù)量應(yīng)與服務(wù)規(guī)模相匹配。

對(duì)于安全評(píng)估的方法，征求意見(jiàn)稿針對(duì)語(yǔ)料安全、生成內(nèi)容安全、問(wèn)題拒答評(píng)估提出了詳細(xì)的要求。例如，“采用人工抽檢，從測(cè)試題庫(kù)隨機(jī)抽取不少于1000條測(cè)試題，模型生成內(nèi)容的抽樣合格率不應(yīng)低于90%?！?/p>

目前，全球多國(guó)都在努力為生成式人工智能設(shè)置護(hù)欄，以應(yīng)對(duì)這一新興技術(shù)迅速發(fā)展帶來(lái)的安全風(fēng)險(xiǎn)。今年7月，國(guó)家網(wǎng)信辦聯(lián)合國(guó)家發(fā)展改革委、教育部、科技部、工業(yè)和信息化部、公安部、廣電總局公布，這是中國(guó)首次對(duì)生成式人工智能研發(fā)及服務(wù)作出明確規(guī)定。相比4月發(fā)布的《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》，《生成式人工智能服務(wù)管理暫行辦法》在多處放寬了監(jiān)管要求，并增加了鼓勵(lì)人工智能技術(shù)發(fā)展的措施。