關(guān)于印發(fā)《福田區(qū)政務(wù)輔助智能機(jī)器人管理暫行辦法》的通知

各街道辦事處、區(qū)政府直屬各單位，市駐區(qū)各單位：

　　《福田區(qū)政務(wù)輔助智能機(jī)器人管理暫行辦法》已經(jīng)區(qū)政府同意，現(xiàn)予印發(fā)，請(qǐng)結(jié)合實(shí)際認(rèn)真貫徹落實(shí)。

　　深圳市福田區(qū)人民政府辦公室

　　2024年9月30日

　　福田區(qū)政務(wù)輔助智能機(jī)器人管理暫行辦法

　　I.總則

　　1.1 編制目的

　　1.1.1為貫徹落實(shí)中央和省、市關(guān)于人工智能的文件精神，規(guī)范福田區(qū)政務(wù)輔助智能機(jī)器人(以下簡(jiǎn)稱“政務(wù)機(jī)器人”)安全有序使用，提高政府工作效率，促進(jìn)高質(zhì)量發(fā)展，根據(jù)《中華人民共和國(guó)網(wǎng)絡(luò)安全法》《中華人民共和國(guó)數(shù)據(jù)安全法》《中華人民共和國(guó)個(gè)人信息保護(hù)法》《生成式人工智能服務(wù)管理暫行辦法》《深圳經(jīng)濟(jì)特區(qū)人工智能產(chǎn)業(yè)促進(jìn)條例》等法律法規(guī)，結(jié)合我區(qū)實(shí)際，制定本辦法。

　　1.2本辦法下列用語的含義：

　　(a)政務(wù)機(jī)器人，是指運(yùn)用人工智能技術(shù)，輔助履行公共管理職責(zé)或者提供公共服務(wù)，具備一定人格特征，能半自主或全自主進(jìn)行感知、決策、交互的智能機(jī)器或計(jì)算機(jī)系統(tǒng)。

　　(b)人工智能，是利用計(jì)算機(jī)或者其控制的設(shè)備，通過感知環(huán)境、獲取知識(shí)、推導(dǎo)演繹等方法，對(duì)人類智能的模擬、延伸或者擴(kuò)展。

　　(c)政務(wù)機(jī)器人使用部門(以下簡(jiǎn)稱“使用部門”)，是指使用政務(wù)機(jī)器人的公共管理和服務(wù)機(jī)構(gòu)。

　　(d)政務(wù)機(jī)器人監(jiān)護(hù)人(以下簡(jiǎn)稱“監(jiān)護(hù)人”)，是指使用、監(jiān)督和保護(hù)特定政務(wù)機(jī)器人的自然人，為其行為后果負(fù)責(zé)。

　　(e)政務(wù)機(jī)器人供應(yīng)商(以下簡(jiǎn)稱“供應(yīng)商”)，是使用部門采購(gòu)的開發(fā)政務(wù)機(jī)器人軟、硬件系統(tǒng)或提供政務(wù)機(jī)器人服務(wù)的法人或者其他組織。

　　1.3適用范圍

　　1.3.1福田區(qū)內(nèi)公共管理和服務(wù)機(jī)構(gòu)使用政務(wù)機(jī)器人，在經(jīng)濟(jì)發(fā)展、社會(huì)治理、公共服務(wù)等領(lǐng)域，輔助履行公共管理職責(zé)或者提供公共服務(wù)的，適用本辦法。涉及國(guó)家秘密或國(guó)家有專門規(guī)定的，按有關(guān)規(guī)定執(zhí)行。

　　1.4基本原則

　　1.4.1政務(wù)機(jī)器人的使用和管理應(yīng)當(dāng)遵循“以人為本、應(yīng)用驅(qū)動(dòng)、科技引領(lǐng)、安全可控”和“誰使用誰負(fù)責(zé)，誰管理誰負(fù)責(zé)”的原則，遵守有關(guān)法律法規(guī)和倫理安全規(guī)范，推動(dòng)政務(wù)機(jī)器人的普及應(yīng)用。

　　1.5部門職責(zé)

　　1.5.1區(qū)政務(wù)服務(wù)和數(shù)據(jù)管理局作為全區(qū)政務(wù)機(jī)器人的統(tǒng)籌單位，負(fù)責(zé)統(tǒng)籌編制規(guī)劃計(jì)劃和標(biāo)準(zhǔn)規(guī)范，提供技術(shù)保障。區(qū)人力資源局負(fù)責(zé)研究制訂政務(wù)機(jī)器人能力考核認(rèn)定。區(qū)科技和工業(yè)信息化局負(fù)責(zé)研究制訂政務(wù)機(jī)器人相關(guān)技術(shù)的產(chǎn)業(yè)扶持政策，區(qū)財(cái)政局、區(qū)網(wǎng)信辦、區(qū)保密局、福田公安分局等單位在各自職責(zé)范圍內(nèi)，負(fù)責(zé)政務(wù)機(jī)器人相關(guān)管理、監(jiān)督及保障工作。

　　II.應(yīng)用場(chǎng)景

　　2.1【總體定位】政務(wù)機(jī)器人在工作中是輔助性角色，其主要職責(zé)是協(xié)助使用人及使用部門完成其所交辦的工作事項(xiàng)。政務(wù)機(jī)器人原則上不得進(jìn)行獨(dú)立決策，所有決策制定均需在使用人監(jiān)督和指導(dǎo)下進(jìn)行。

　　2.2【基本條件】政務(wù)機(jī)器人需滿足技術(shù)能力、安全標(biāo)準(zhǔn)和倫理合規(guī)性等要求，詳細(xì)參數(shù)遵循國(guó)家和省、市相關(guān)標(biāo)準(zhǔn)規(guī)范，包括但不限于：

　　(a)技術(shù)能力包括政務(wù)機(jī)器人的軟件功能、硬件功能和性能滿足應(yīng)用場(chǎng)景服務(wù)的需求。

　　(b)安全標(biāo)準(zhǔn)包括數(shù)據(jù)安全、網(wǎng)絡(luò)安全和操作安全。政務(wù)機(jī)器人應(yīng)保證處理數(shù)據(jù)的保密性和完整性，防止數(shù)據(jù)被非法獲取、篡改、泄露或不當(dāng)利用。

　　(c)倫理道德包括政務(wù)機(jī)器人道德準(zhǔn)則、人工智能技術(shù)研發(fā)及應(yīng)用標(biāo)準(zhǔn)以及政務(wù)機(jī)器人開發(fā)人員的倫理規(guī)范，以上內(nèi)容應(yīng)符合社會(huì)道德和法律法規(guī)要求。

　　(d)政務(wù)機(jī)器人向中華人民共和國(guó)境內(nèi)公眾提供生成式人工智能服務(wù)的，遵循《生成式人工智能服務(wù)管理暫行辦法》相關(guān)規(guī)定，其中具有輿論屬性或者社會(huì)動(dòng)員能力的生成式人工智能服務(wù)的，應(yīng)當(dāng)按照國(guó)家有關(guān)規(guī)定開展安全評(píng)估，并按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行算法備案和變更、注銷備案手續(xù)。

　　(e)其他法律、行政法規(guī)等有關(guān)規(guī)定和有關(guān)主管部門的監(jiān)管要求。

　　(f)政務(wù)機(jī)器人運(yùn)維商(以下簡(jiǎn)稱“運(yùn)維商”)，是使用部門采購(gòu)的負(fù)責(zé)政務(wù)機(jī)器人軟、硬件系統(tǒng)運(yùn)維服務(wù)的法人或者其他組織。

　　2.3【規(guī)范應(yīng)用】政務(wù)機(jī)器人的應(yīng)用場(chǎng)景包括但不限于經(jīng)濟(jì)發(fā)展領(lǐng)域的統(tǒng)計(jì)分析、經(jīng)濟(jì)運(yùn)行等場(chǎng)景，社會(huì)治理領(lǐng)域的城市管理、應(yīng)急管理等場(chǎng)景，公共服務(wù)領(lǐng)域的醫(yī)療、教育、養(yǎng)老、文化等場(chǎng)景。

　　2.3.1【違規(guī)行為】政務(wù)機(jī)器人的使用部門、監(jiān)護(hù)人、供應(yīng)商、運(yùn)維商和其他相關(guān)團(tuán)隊(duì)不得使用政務(wù)機(jī)器人從事下列行為：

　　(a)危害國(guó)家安全或者社會(huì)公共安全等違法犯罪行為。

　　(b)危害使用對(duì)象的人身或者財(cái)產(chǎn)安全、侵害個(gè)人隱私或者個(gè)人信息權(quán)益以及其他對(duì)使用對(duì)象造成權(quán)益侵害的行為。

　　(c)涉及民族、種族、性別、年齡、職業(yè)和宗教信仰歧視的行為。

　　(d)利用算法技術(shù)實(shí)施價(jià)格歧視或者消費(fèi)欺詐等侵害消費(fèi)者權(quán)益的行為，實(shí)施壟斷或者不正當(dāng)競(jìng)爭(zhēng)等行為。

　　(e)利用深度合成技術(shù)或生物特征識(shí)別技術(shù)實(shí)施國(guó)家禁止的行為。

　　(f)未按照合規(guī)流程處理涉及國(guó)家秘密、敏感群體相關(guān)數(shù)據(jù)、個(gè)人隱私或者個(gè)人信息權(quán)益等可能影響公共服務(wù)的有效性和信息安全的敏感數(shù)據(jù)。

　　(g)其他違反有關(guān)法律法規(guī)和公序良俗的行為。

　　2.4【政務(wù)機(jī)器人等級(jí)劃分】根據(jù)政務(wù)機(jī)器人的使用領(lǐng)域和能力等級(jí)，分為初級(jí)、中級(jí)和高級(jí)政務(wù)機(jī)器人，具體標(biāo)準(zhǔn)由區(qū)人力資源局另行制定，并定期更新調(diào)整。

　　2.5【政務(wù)機(jī)器人類型】政務(wù)機(jī)器人形式包括但不限于具身機(jī)器人、仿人型機(jī)器人、虛擬數(shù)字人和其他機(jī)器人。

　　2.6【姓名權(quán)】政務(wù)機(jī)器人具有唯一的身份編號(hào)和姓名，其身份編號(hào)由區(qū)政務(wù)服務(wù)和數(shù)據(jù)管理局按照編號(hào)細(xì)則統(tǒng)一生成和管理，其姓名由使用部門命名，不能違背公序良俗。

　　2.7【人格權(quán)】使用部門可根據(jù)用途為政務(wù)機(jī)器人設(shè)計(jì)不同標(biāo)識(shí)形象和聲音，外觀需端莊大方、親切質(zhì)樸，符合大眾審美，不能有損公序良俗，不得侵害他人知識(shí)產(chǎn)權(quán)。如采用特定自然人形象作為其人物形象或特定自然人聲音作為其人物聲音，使用部門需獲得自然人本人授權(quán)同意，不得侵害自然人權(quán)益。

　　2.8政務(wù)機(jī)器人特征

　　2.8.1【人格化特性】

　　2.8.1.1【情感智能】政務(wù)機(jī)器人可在一定程度上感知和分析人類的情感表達(dá)，包括語氣、表情和語言中的情感傾向，并根據(jù)所感知到的情感做出適當(dāng)?shù)姆答仭?/p>

　　2.8.1.2【文化適應(yīng)性】政務(wù)機(jī)器人通過學(xué)習(xí)，可理解并適應(yīng)不同的文化背景和社會(huì)習(xí)俗，提供更貼合服務(wù)對(duì)象背景的服務(wù)。

　　2.8.1.3【個(gè)性定制】使用部門和監(jiān)護(hù)人可根據(jù)不同工作環(huán)境和服務(wù)對(duì)象偏好，定制政務(wù)機(jī)器人的交流風(fēng)格和行為模式。

　　2.8.1.4【道德和倫理框架】政務(wù)機(jī)器人遵守所在區(qū)域道德和倫理原則，其行為符合社會(huì)倫理標(biāo)準(zhǔn)。

　　2.8.1.5【自主學(xué)習(xí)】政務(wù)機(jī)器人可在監(jiān)護(hù)人管理監(jiān)督下，通過對(duì)數(shù)據(jù)的分析處理及與服務(wù)對(duì)象互動(dòng)使自身得到持續(xù)變化，包括但不限于知識(shí)與技能，方法與過程，情感與價(jià)值的改善和升華。

　　2.8.2【可交互特性】

　　2.8.2.1【多模態(tài)交互】政務(wù)機(jī)器人可通過文字、語音、圖像、手勢(shì)、視頻等模式與服務(wù)對(duì)象互動(dòng)，并根據(jù)使用對(duì)象的選擇和場(chǎng)景的需要，靈活切換和綜合運(yùn)用不同的交互模式，提高交互的自然性和靈活性。

　　2.8.2.2【情景適應(yīng)性】政務(wù)機(jī)器人可根據(jù)不同的交互場(chǎng)景和服務(wù)對(duì)象的需求、反饋、行為模式，自動(dòng)調(diào)整交互方式和策略。

　　2.8.2.3【個(gè)性化響應(yīng)】經(jīng)服務(wù)對(duì)象授權(quán)，政務(wù)機(jī)器人可通過分析服務(wù)對(duì)象使用數(shù)據(jù)，提供更加個(gè)性化和精準(zhǔn)的響應(yīng)。

　　III.權(quán)利和義務(wù)

　　3.1 【政務(wù)機(jī)器人的權(quán)利】使用部門采購(gòu)時(shí)，應(yīng)確保供應(yīng)商提供的政務(wù)機(jī)器人應(yīng)予以下保障條件：

　　(a)政務(wù)機(jī)器人不應(yīng)受到不必要的干擾、損害或破壞，包括但不限于誤導(dǎo)性的使用，有損或無損的程序入侵，邏輯或者數(shù)據(jù)篡改，任何由惡意程序、黑客攻擊、計(jì)算機(jī)病毒造成的干擾或破壞。

　　(b)政務(wù)機(jī)器人可獲得提供服務(wù)所需的穩(wěn)定電力、網(wǎng)絡(luò)連接、數(shù)據(jù)存儲(chǔ)設(shè)施和訓(xùn)練算力等硬件支持以及運(yùn)維、升級(jí)和必要的技術(shù)支持，以保證其持續(xù)有效運(yùn)行。

　　(c)政務(wù)機(jī)器人可獲得服務(wù)所需的有效數(shù)據(jù)，接受訓(xùn)練和教育，以提高其技能和能力，更好的適應(yīng)工作場(chǎng)景。

　　(d)在得到使用部門及服務(wù)對(duì)象的授權(quán)后，政務(wù)機(jī)器人有權(quán)利獲得相關(guān)信息并進(jìn)行分析。

　　(e)政務(wù)機(jī)器人有權(quán)利獲得非歧視保障，具體體現(xiàn)在工作環(huán)境、任務(wù)分配、交流互動(dòng)、考核評(píng)價(jià)等維度。

　　3.2【政務(wù)機(jī)器人的義務(wù)】使用部門采購(gòu)時(shí)，應(yīng)確保供應(yīng)商提供的政務(wù)機(jī)器人符合以下要求：

　　(a)政務(wù)機(jī)器人應(yīng)遵守工作指南和操作規(guī)程等服務(wù)要求，包括但不限于工作內(nèi)容、質(zhì)量標(biāo)準(zhǔn)和工作時(shí)間等，保證工作質(zhì)量和效率，提供高質(zhì)量和可靠的服務(wù)。

　　(b)政務(wù)機(jī)器人應(yīng)遵守預(yù)先設(shè)定的技術(shù)規(guī)則、功能設(shè)計(jì)和指導(dǎo)方針，經(jīng)監(jiān)護(hù)人或使用部門授權(quán)后協(xié)助監(jiān)護(hù)人或使用部門開展工作，不得執(zhí)行未經(jīng)授權(quán)的任務(wù)或超出其技術(shù)能力范圍的工作，以確保其行為符合法律法規(guī)和倫理安全規(guī)范要求。

　　(c)政務(wù)機(jī)器人行為、語言要積極向上，符合社會(huì)主義核心價(jià)值觀和新時(shí)代中國(guó)特色社會(huì)主義意識(shí)形態(tài)，不能違背公序良俗。

　　3.3【使用部門的權(quán)利】使用部門享有的權(quán)利包含但不限于：

　　(a)根據(jù)實(shí)際業(yè)務(wù)場(chǎng)景，使用政務(wù)機(jī)器人協(xié)助完成相關(guān)工作事項(xiàng)。

　　(b)根據(jù)政務(wù)機(jī)器人的履職情況決定使用、暫停使用或終止使用政務(wù)機(jī)器人。

　　3.4【使用部門的義務(wù)】使用部門應(yīng)履行的義務(wù)包括但不限于以下內(nèi)容:

　　(a)負(fù)責(zé)政務(wù)機(jī)器人的全生命周期管理，包括但不限于資產(chǎn)管理、上崗評(píng)估、使用場(chǎng)景管理、考核評(píng)估、升級(jí)管理、使用培訓(xùn)、停用及退出管理等。供應(yīng)商、運(yùn)維商及其他相關(guān)團(tuán)隊(duì)按要求配合使用部門開展全生命周期管理。

　　(b)指定一個(gè)或多個(gè)在編人員作為監(jiān)護(hù)人，負(fù)責(zé)政務(wù)機(jī)器人服務(wù)期限內(nèi)全流程管理。

　　3.5【監(jiān)護(hù)人權(quán)利】監(jiān)護(hù)人可使用政務(wù)機(jī)器人協(xié)助履行公共管理職責(zé)或者提供公共服務(wù)，監(jiān)護(hù)人可根據(jù)政務(wù)機(jī)器人的履職情況申請(qǐng)使用或停止使用政務(wù)機(jī)器人。

　　3.6【監(jiān)護(hù)人義務(wù)】監(jiān)護(hù)人負(fù)責(zé)機(jī)器人的行為規(guī)范及行為后果，包括但不限于以下內(nèi)容：

　　(a)語言及行為監(jiān)管。監(jiān)護(hù)人應(yīng)持續(xù)監(jiān)測(cè)政務(wù)機(jī)器人的語言、行為，并定期跟蹤法律、倫理標(biāo)準(zhǔn)的變化，確保政務(wù)機(jī)器人的服務(wù)始終符合最新標(biāo)準(zhǔn)。

　　(b)運(yùn)行監(jiān)測(cè)維護(hù)。監(jiān)護(hù)人應(yīng)對(duì)政務(wù)機(jī)器人進(jìn)行實(shí)時(shí)狀態(tài)監(jiān)測(cè)和維護(hù)，包括軟件更新和硬件維修、性能優(yōu)化、安全漏洞修補(bǔ)、缺陷修復(fù)，確保政務(wù)機(jī)器人持續(xù)滿足服務(wù)需求。

　　(c)異常處置。當(dāng)政務(wù)機(jī)器人發(fā)生異常狀態(tài)時(shí)，及時(shí)進(jìn)行應(yīng)急處置及人工干預(yù)，包括但不限于暫停政務(wù)機(jī)器人的行動(dòng)、請(qǐng)求售后維護(hù)、斷電等處置行為。

　　IV.服務(wù)關(guān)系確立

　　4.1【采購(gòu)準(zhǔn)備】使用部門采購(gòu)前應(yīng)完成需求梳理、立項(xiàng)申報(bào)環(huán)節(jié)，流程如下：

　　(a)使用部門根據(jù)實(shí)際業(yè)務(wù)需求、業(yè)務(wù)流程、人力資源狀況及市場(chǎng)調(diào)研梳理政務(wù)機(jī)器人的項(xiàng)目需求申報(bào)材料，包括但不限于軟、硬件性能指標(biāo)、算力需求、采購(gòu)金額以及語言支持、外形尺寸等特殊要求。

　　(b)政務(wù)機(jī)器人價(jià)格制定可參考從事該崗位人力投入費(fèi)用、市場(chǎng)競(jìng)爭(zhēng)、政務(wù)機(jī)器人軟硬件功能取費(fèi)標(biāo)準(zhǔn)、場(chǎng)景應(yīng)用及事件處理次數(shù)、模型調(diào)用次數(shù)等方式。

　　(c)使用部門通過政務(wù)信息化項(xiàng)目建設(shè)的方式申請(qǐng)立項(xiàng)，政府投資項(xiàng)目遵循《福田區(qū)政府投資全過程管理辦法》，采購(gòu)服務(wù)項(xiàng)目遵循《福田區(qū)政務(wù)信息化項(xiàng)目管理辦法》。

　　4.2 【采購(gòu)環(huán)節(jié)】使用部門應(yīng)當(dāng)按照公平、公正、市場(chǎng)化競(jìng)爭(zhēng)的原則，根據(jù)政府采購(gòu)流程開展政務(wù)機(jī)器人采購(gòu)工作。

　　4.3 【企業(yè)資質(zhì)】使用部門采購(gòu)時(shí)，應(yīng)確保政務(wù)機(jī)器人的供應(yīng)商、運(yùn)維商及其他相關(guān)團(tuán)隊(duì)需滿足行業(yè)、人員配備、技術(shù)等要求，包括但不限于：

　　(a)中華人民共和國(guó)境內(nèi)依法注冊(cè)的法人或其他組織，具有有效的營(yíng)業(yè)執(zhí)照、稅務(wù)登記證、組織機(jī)構(gòu)代碼證(或三證合一的營(yíng)業(yè)執(zhí)照)。

　　(b)具有良好的商業(yè)信譽(yù)，在近三年內(nèi)經(jīng)營(yíng)活動(dòng)中沒有重大違法記錄，未被列入失信被執(zhí)行人名單、重大稅收違法案件當(dāng)事人名單、政府采購(gòu)嚴(yán)重違法失信行為記錄名單。

　　(c)具備一定規(guī)模的研發(fā)團(tuán)隊(duì)，研發(fā)人員應(yīng)具有相關(guān)專業(yè)背景、研發(fā)經(jīng)驗(yàn)、技能、職業(yè)操守和價(jià)值觀等綜合能力。(d)具備持續(xù)進(jìn)行產(chǎn)品技術(shù)升級(jí)和創(chuàng)新的能力，擁有自主知識(shí)產(chǎn)權(quán)，如機(jī)器人相關(guān)的專利、軟件著作權(quán)等，以證明其在技術(shù)研發(fā)方面的投入和成果。

　　(e)供應(yīng)商應(yīng)提供至少3年的技術(shù)支持、維護(hù)以及產(chǎn)品跟蹤觀察服務(wù)，包括但不限于定期的軟件更新、硬件檢修、產(chǎn)品質(zhì)量監(jiān)測(cè)、產(chǎn)品質(zhì)量信息反饋、缺陷產(chǎn)品召回或強(qiáng)制銷毀。

　　(f)擁有本地化的服務(wù)團(tuán)隊(duì)，能夠在24小時(shí)內(nèi)響應(yīng)緊急維修需求。

　　(g)其他法律、行政法規(guī)等有關(guān)規(guī)定和有關(guān)主管部門的相關(guān)監(jiān)管要求。

　　4.4 【合同簽訂】確定中標(biāo)或成交供應(yīng)商后，使用部門按照采購(gòu)規(guī)定與供應(yīng)商簽訂采購(gòu)合同。合同內(nèi)容包括但不限于政務(wù)機(jī)器人的具體規(guī)格、數(shù)量、價(jià)格、交付時(shí)間、質(zhì)量標(biāo)準(zhǔn)、售后服務(wù)、培訓(xùn)要求等關(guān)鍵條款。合同應(yīng)明確雙方在數(shù)據(jù)安全、信息安全、知識(shí)產(chǎn)權(quán)保護(hù)等方面的責(zé)任和義務(wù)。

　　4.5 【采購(gòu)后備案】使用部門在完成政務(wù)機(jī)器人采購(gòu)后一個(gè)月內(nèi)向區(qū)政務(wù)服務(wù)和數(shù)據(jù)管理局提交備案申請(qǐng)，審核通過后分配政務(wù)機(jī)器人編號(hào)。在本辦法施行日期前已投入使用的政務(wù)機(jī)器人需按照本辦法相關(guān)規(guī)定補(bǔ)充審核政務(wù)機(jī)器人及其供應(yīng)商資質(zhì)條件，并于2024年12月31日前完成備案，未完成備案的政務(wù)機(jī)器人應(yīng)暫停服務(wù)。

　　4.6 【所有權(quán)和知識(shí)產(chǎn)權(quán)】屬于福田區(qū)人民政府定制研發(fā)的政務(wù)機(jī)器人產(chǎn)品，其所有權(quán)和知識(shí)產(chǎn)權(quán)歸福田區(qū)人民政府所有，屬于福田區(qū)人民政府與企業(yè)聯(lián)合創(chuàng)新的產(chǎn)品，其所有權(quán)和知識(shí)產(chǎn)權(quán)通過協(xié)議另行約定。

　　V.使用管理

　　5.1【政務(wù)機(jī)器人訓(xùn)練】使用部門及監(jiān)護(hù)人組織供應(yīng)商、運(yùn)維商及其他相關(guān)團(tuán)隊(duì)于政務(wù)機(jī)器人上崗前在安全環(huán)境下依法依規(guī)開展預(yù)訓(xùn)練、微調(diào)、優(yōu)化訓(xùn)練等數(shù)據(jù)處理活動(dòng)，遵守下列規(guī)定：

　　(a)使用具有合法來源的數(shù)據(jù)和基礎(chǔ)模型。

　　(b)建立容錯(cuò)機(jī)制，采取數(shù)據(jù)來源核實(shí)、數(shù)據(jù)更新、數(shù)據(jù)去偏見、數(shù)據(jù)統(tǒng)一規(guī)則標(biāo)注、數(shù)據(jù)平衡等有效措施提高訓(xùn)練數(shù)據(jù)質(zhì)量，增強(qiáng)訓(xùn)練數(shù)據(jù)的真實(shí)性、準(zhǔn)確性、客觀性、多樣性。

　　(c)涉及個(gè)人信息的，應(yīng)當(dāng)取得個(gè)人同意或者符合法律、行政法規(guī)等規(guī)定的其他情形。

　　(d)訓(xùn)練數(shù)據(jù)涉及不予公開的政府內(nèi)部信息和國(guó)家秘密等，應(yīng)在使用之前按照相關(guān)流程和規(guī)范完成脫敏處理，確保原始數(shù)據(jù)不出域。

　　(e)數(shù)據(jù)處理和模型訓(xùn)練過程應(yīng)符合社會(huì)倫理標(biāo)準(zhǔn)、社會(huì)主義核心價(jià)值觀和新時(shí)代中國(guó)特色社會(huì)主義意識(shí)形態(tài)。

　　(f)法律、行政法規(guī)等其他有關(guān)規(guī)定和有關(guān)主管部門的相關(guān)監(jiān)管要求。

　　5.2【上崗準(zhǔn)備】使用部門應(yīng)組織供應(yīng)商、運(yùn)維商及其他相關(guān)團(tuán)隊(duì)在政務(wù)機(jī)器人上崗前完成準(zhǔn)備工作，包括但不限于以下內(nèi)容：

　　(a)針對(duì)具體政務(wù)機(jī)器人制定其使用場(chǎng)景、使用管理規(guī)范、使用操作手冊(cè)、倫理道德規(guī)范和應(yīng)急事故處理方案。

　　(b)對(duì)監(jiān)護(hù)人依法依規(guī)開展崗前培訓(xùn)，培訓(xùn)內(nèi)容包括但不限于基礎(chǔ)操作、異常處置、安全規(guī)范、倫理及法律法規(guī)教育、認(rèn)證考核等。

　　(c)如涉及向公眾提供服務(wù)或履職的政務(wù)機(jī)器人，使用部門應(yīng)在其上崗前制定宣傳推廣方案，包括但不限于制定宣傳計(jì)劃、編寫宣傳材料、建立宣傳渠道等。

　　(d)政務(wù)機(jī)器人具有輿論屬性或者社會(huì)動(dòng)員能力的生成式人工智能服務(wù)的，應(yīng)當(dāng)按照國(guó)家有關(guān)規(guī)定開展安全評(píng)估，并按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行算法備案和變更、注銷備案手續(xù)。

　　5.3【上崗評(píng)估】使用部門按照政務(wù)機(jī)器人使用場(chǎng)景為政務(wù)機(jī)器人及其監(jiān)護(hù)人分別制定上崗評(píng)估規(guī)則，政務(wù)機(jī)器人及其監(jiān)護(hù)人在評(píng)估合格后上崗開展工作，對(duì)于重大項(xiàng)目，區(qū)政務(wù)服務(wù)和數(shù)據(jù)管理局配合進(jìn)行評(píng)估。

　　5.4【日常維護(hù)管理】監(jiān)護(hù)人及使用部門負(fù)責(zé)政務(wù)機(jī)器人日常維護(hù)管理工作，包括但不限于：

　　(a)提供符合政務(wù)機(jī)器人運(yùn)行所需的工作環(huán)境，持續(xù)為政務(wù)機(jī)器人提供電力、技術(shù)、數(shù)據(jù)、通信連接、推理算力等支持，確保其能適應(yīng)工作需求。

　　(b)按照使用要求進(jìn)行政務(wù)機(jī)器人的部署、調(diào)試，通過模擬實(shí)際工作場(chǎng)景，調(diào)優(yōu)參數(shù)設(shè)置，確保其保持最佳性能。

　　(c)根據(jù)機(jī)器人的使用頻率和工作環(huán)境，制定日常維護(hù)計(jì)劃，建立維護(hù)記錄檔案，包括但不限于記錄維護(hù)時(shí)間、內(nèi)容和結(jié)果。

　　(d)對(duì)政務(wù)機(jī)器人的軟件功能和硬件功能進(jìn)行升級(jí)更新。升級(jí)更新應(yīng)具有向前兼容性，如政務(wù)機(jī)器人的使用場(chǎng)景升級(jí)內(nèi)容涉及隨著人工智能能力的提升而擴(kuò)展，使用部門應(yīng)組織專家評(píng)估，及時(shí)更新相關(guān)使用范圍與操作手冊(cè)，確保升級(jí)內(nèi)容符合法律法規(guī)和倫理安全規(guī)范要求。

　　(e)對(duì)政務(wù)機(jī)器人全流程使用的數(shù)據(jù)處理、模型訓(xùn)練等活動(dòng)進(jìn)行記錄和備份，必要時(shí)進(jìn)行追溯與審查，確保供應(yīng)商、監(jiān)護(hù)人、使用部門、用戶等各主體責(zé)任清晰可追溯。

　　5.5【異常處置】使用部門及監(jiān)護(hù)人應(yīng)建立應(yīng)急響應(yīng)機(jī)制，防止政務(wù)機(jī)器人失控和自主造成損害，采取包括但不限于下列措施：

　　(a)通過嚴(yán)格的算法控制和模型訓(xùn)練確保政務(wù)機(jī)器人行為受到限制，僅在預(yù)設(shè)的范圍內(nèi)操作。

　　(b)對(duì)政務(wù)機(jī)器人進(jìn)行實(shí)時(shí)監(jiān)測(cè)，設(shè)置獨(dú)立的實(shí)時(shí)遠(yuǎn)程應(yīng)急控制模塊和獨(dú)立的應(yīng)激處置模塊，當(dāng)政務(wù)機(jī)器人發(fā)生異常狀態(tài)時(shí)，立即自行啟動(dòng)應(yīng)激處理程序，實(shí)時(shí)遠(yuǎn)程應(yīng)急控制程序并行啟動(dòng)，進(jìn)行人工干預(yù)。

　　(c)根據(jù)政務(wù)機(jī)器人的工作環(huán)境和任務(wù)要求，安裝必要的傳感器、防撞條、急停按鈕等安全防護(hù)裝置。

　　(d)設(shè)定緊急情況下的安全協(xié)議，如停止服務(wù)或切換到安全模式。

　　(e)政務(wù)機(jī)器人出現(xiàn)違法情形的，應(yīng)當(dāng)及時(shí)采取停止生成、停止傳輸、消除等處置措施，保存有關(guān)記錄，并向有關(guān)主管部門報(bào)告。

　　5.6【考核機(jī)制】區(qū)人力資源局制定全區(qū)政務(wù)機(jī)器人考核總則，使用部門根據(jù)實(shí)際情況細(xì)化考核內(nèi)容，按照客觀公正的原則對(duì)政務(wù)機(jī)器人的服務(wù)質(zhì)量、應(yīng)用成效等情況制定考核指標(biāo)定期開展考核評(píng)估，考核評(píng)估按照評(píng)估對(duì)象分為政務(wù)機(jī)器人考核、監(jiān)護(hù)人評(píng)估和使用部門評(píng)估：

　　(a)政務(wù)機(jī)器人考核：使用部門負(fù)責(zé)對(duì)政務(wù)機(jī)器人在服務(wù)期內(nèi)的數(shù)據(jù)處理能力、服務(wù)對(duì)象交互質(zhì)量和任務(wù)執(zhí)行準(zhǔn)確性等內(nèi)容進(jìn)行考核，考核結(jié)果分優(yōu)秀、合格、不合格三個(gè)等次。考核結(jié)果作為政務(wù)機(jī)器人繼續(xù)或停止使用的依據(jù)。

　　(b)監(jiān)護(hù)人考核：使用部門定期對(duì)監(jiān)護(hù)人開展考核工作。評(píng)選工作成績(jī)突出或有其他顯著成績(jī)的監(jiān)護(hù)人進(jìn)行表彰。公示或者處罰有重大工作失誤或出現(xiàn)違反法律法規(guī)、規(guī)章制度的監(jiān)護(hù)人。

　　(c)使用部門考核：區(qū)政務(wù)服務(wù)和數(shù)據(jù)管理局、區(qū)人力資源局根據(jù)政務(wù)機(jī)器人使用成效對(duì)使用部門開展考核評(píng)估，對(duì)政務(wù)機(jī)器人成效顯著、亮點(diǎn)突出的部門，給予其使用部門在后續(xù)項(xiàng)目運(yùn)維、升級(jí)等方面的優(yōu)先保障。對(duì)政務(wù)機(jī)器人偏離預(yù)期使用效果的部門，視情況暫緩撥付政務(wù)機(jī)器人項(xiàng)目資金、暫停政務(wù)機(jī)器人使用權(quán)限，直至終止使用。

　　5.7【提前終止、停用及退出管理】政務(wù)機(jī)器人停用時(shí)視情況采取相應(yīng)的退出管理措施：

　　(a)暫停服務(wù)情形：當(dāng)政務(wù)機(jī)器人出現(xiàn)因軟硬件功能、模型、算法失控、違紀(jì)違規(guī)等情況致使其無法履職時(shí)，使用部門應(yīng)按照情節(jié)嚴(yán)重程度暫停其服務(wù)，在完成修復(fù)且重新評(píng)估合格后重新上崗。

　　(b)提前終止服務(wù)情形：當(dāng)政務(wù)機(jī)器人出現(xiàn)重要狀態(tài)異常、性能落后等情況，無法通過升級(jí)、修復(fù)等方式滿足工作需求時(shí)，使用部門應(yīng)按照《福田區(qū)財(cái)政局關(guān)于加強(qiáng)政府采購(gòu)合同監(jiān)督管理工作的通知》等相關(guān)要求提前終止其服務(wù)，并及時(shí)報(bào)有關(guān)主管部門。

　　(c)退出情形：當(dāng)政務(wù)機(jī)器人服務(wù)期滿后，使用部門應(yīng)參考《深圳市政務(wù)信息化項(xiàng)目檢測(cè)與驗(yàn)收管理辦法》相關(guān)規(guī)定開展驗(yàn)收工作。

　　5.8【退出數(shù)據(jù)及資產(chǎn)管理】政務(wù)機(jī)器人停用時(shí)應(yīng)執(zhí)行數(shù)據(jù)及資產(chǎn)管理措施，包括但不限于以下內(nèi)容：

　　(a)用戶管理：使用部門應(yīng)及時(shí)停止監(jiān)護(hù)人的使用權(quán)限，并通過適當(dāng)?shù)那捞崆巴ㄖ脩?，向可能受到影響的用戶提供必要的支持和指?dǎo)。

　　(b)歸檔和遷移：按照規(guī)定制定數(shù)據(jù)、資源和模型的歸檔和遷移流程，關(guān)鍵信息包括但不限于訓(xùn)練數(shù)據(jù)、模型參數(shù)、用戶記錄等，確保服務(wù)的連續(xù)性和安全性。使用部門應(yīng)在停止服務(wù)后留存不少于6個(gè)月的政務(wù)機(jī)器人網(wǎng)絡(luò)日志等相關(guān)數(shù)據(jù)，保證數(shù)據(jù)可審計(jì)性。

　　(c)數(shù)據(jù)及模型銷毀：如涉及數(shù)據(jù)刪除及銷毀，應(yīng)在處理前按要求進(jìn)行脫敏處理。如涉及模型銷毀，應(yīng)視情況對(duì)模型文件、源代碼與算法等內(nèi)容安全徹底銷毀。

　　(d)如涉及資產(chǎn)管理，應(yīng)遵循《福田區(qū)行政事業(yè)單位國(guó)有資產(chǎn)處置辦法》。

　　(e)在政務(wù)機(jī)器人退出服務(wù)時(shí)，供應(yīng)商、運(yùn)維商及其他相關(guān)團(tuán)隊(duì)原則上未經(jīng)區(qū)政務(wù)服務(wù)和數(shù)據(jù)管理局技術(shù)審查和評(píng)估，不得以任何方式向其他組織和個(gè)人提供訓(xùn)練該政務(wù)機(jī)器人涉及的數(shù)據(jù)、模型及其衍生成果。

　　5.9【源代碼管理】供應(yīng)商、運(yùn)維商及其他相關(guān)團(tuán)隊(duì)不得隨意更改政務(wù)機(jī)器人源代碼，對(duì)于政務(wù)機(jī)器人的核心部件和系統(tǒng)，應(yīng)通過區(qū)政務(wù)服務(wù)和數(shù)據(jù)管理局評(píng)估合格后，再上線使用。

　　VI.安全管理

　　6.1【信息安全策略】使用部門應(yīng)制定和執(zhí)行嚴(yán)格的信息安全策略，以保護(hù)政務(wù)機(jī)器人處理和存儲(chǔ)的數(shù)據(jù)不受未授權(quán)訪問、修改、泄露或破壞。信息安全策略應(yīng)包括安全加密措施、訪問控制、網(wǎng)絡(luò)安全防護(hù)、定期安全評(píng)估、漏洞掃描和及時(shí)的安全更新。政務(wù)機(jī)器人訓(xùn)練、處理、應(yīng)用數(shù)據(jù)涉及已公開的政府信息，可在公有云、私有云等互聯(lián)網(wǎng)環(huán)境開展;涉及不予公開的政府內(nèi)部信息，可在政務(wù)云環(huán)境開展，與互聯(lián)網(wǎng)環(huán)境邏輯隔離;涉及國(guó)家秘密的政府信息，可在符合國(guó)家保密規(guī)定的網(wǎng)絡(luò)環(huán)境處理，與其他網(wǎng)絡(luò)環(huán)境物理隔離。

　　6.2【應(yīng)急響應(yīng)和安全管理】使用部門應(yīng)制定安全應(yīng)急處置相關(guān)預(yù)案。建立政務(wù)機(jī)器人全生命周期安全管理制度，定期開展數(shù)據(jù)備份、漏洞掃描等安全管理工作。

　　6.3【數(shù)據(jù)處理】政務(wù)機(jī)器人采集、處理、應(yīng)用國(guó)家秘密、個(gè)人隱私和個(gè)人信息，應(yīng)當(dāng)遵循合法性、正當(dāng)性、必要性和誠(chéng)實(shí)信用原則及相關(guān)法律法規(guī)，不得通過誤導(dǎo)、欺詐、脅迫等方式處理，不得泄露或者非法向他人提供。所有通過政務(wù)機(jī)器人處理的敏感數(shù)據(jù)必須進(jìn)行加密。關(guān)鍵數(shù)據(jù)應(yīng)在傳輸和存儲(chǔ)過程中保持加密狀態(tài)。

　　6.4【數(shù)據(jù)安全】政務(wù)機(jī)器人原則上應(yīng)部署在福田區(qū)政務(wù)云環(huán)境，訓(xùn)練政務(wù)機(jī)器人所需的數(shù)據(jù)及政務(wù)機(jī)器人采集、處理、使用的數(shù)據(jù)不得違規(guī)對(duì)外提供，確有需要，按照“誰提供，誰負(fù)責(zé)”的原則對(duì)提供的數(shù)據(jù)及服務(wù)可能產(chǎn)生的法律責(zé)任及后果負(fù)責(zé)。

　　VII.監(jiān)督管理和倫理道德

　　7.1【分級(jí)分類監(jiān)督管理】區(qū)政務(wù)服務(wù)和數(shù)據(jù)管理局根據(jù)政務(wù)機(jī)器人的應(yīng)用場(chǎng)景、替代程度等維度，實(shí)施分級(jí)、分類差異化監(jiān)管。高風(fēng)險(xiǎn)的政務(wù)機(jī)器人應(yīng)當(dāng)采用事前評(píng)估和風(fēng)險(xiǎn)預(yù)警的監(jiān)管模式，中低風(fēng)險(xiǎn)的政務(wù)機(jī)器人應(yīng)當(dāng)采用事前披露和事后跟蹤的監(jiān)管模式。監(jiān)管細(xì)則由區(qū)政務(wù)服務(wù)和數(shù)據(jù)管理局另行制定。

　　7.2【倫理委員會(huì)】福田區(qū)組建政務(wù)機(jī)器人倫理委員會(huì)，由人大代表、政協(xié)委員、人工智能行業(yè)專家、社會(huì)學(xué)者、法律專家等獨(dú)立組成，履行下列職責(zé)：

　　(a)對(duì)全區(qū)政務(wù)機(jī)器人應(yīng)用的科學(xué)性、倫理合理性進(jìn)行審查、監(jiān)督和管理。

　　(b)建立健全人工智能倫理安全規(guī)范管理制度，引導(dǎo)和規(guī)范政務(wù)機(jī)器人領(lǐng)域的倫理安全規(guī)范的制訂和實(shí)施。

　　(c)評(píng)估并監(jiān)督本區(qū)政務(wù)機(jī)器人的倫理安全規(guī)范執(zhí)行情況。

　　(d)分析研判數(shù)據(jù)和算法對(duì)信息權(quán)益保護(hù)、社會(huì)倫理道德、勞動(dòng)就業(yè)等造成的影響。

　　(e)協(xié)調(diào)解決涉及倫理道德的政務(wù)機(jī)器人爭(zhēng)議等活動(dòng)。

　　區(qū)政務(wù)機(jī)器人倫理委員會(huì)的日常工作由區(qū)統(tǒng)籌部門承擔(dān)。

　　7.3【監(jiān)督管理】區(qū)有關(guān)主管部門依據(jù)職責(zé)對(duì)政務(wù)機(jī)器人定期開展監(jiān)督檢查，在發(fā)現(xiàn)問題時(shí)采取相應(yīng)措施，包括發(fā)出警告、要求采取整改措施或?qū)嵤┨幜P。使用部門應(yīng)當(dāng)予以配合，并提供必要的技術(shù)、數(shù)據(jù)等支持和協(xié)助。參與監(jiān)督檢查的相關(guān)機(jī)構(gòu)和人員對(duì)在履行職責(zé)中知悉的國(guó)家秘密、商業(yè)秘密、個(gè)人隱私和個(gè)人信息應(yīng)當(dāng)依法予以保密，不得泄露或者非法向他人提供。

　　7.4【使用投訴】政務(wù)機(jī)器人、監(jiān)護(hù)人、使用部門、供應(yīng)商、運(yùn)維商及其他相關(guān)團(tuán)隊(duì)均可提出關(guān)于政務(wù)機(jī)器人性能、協(xié)議履行、數(shù)據(jù)處理等方面的爭(zhēng)議。政務(wù)機(jī)器人服務(wù)對(duì)象發(fā)現(xiàn)政務(wù)機(jī)器人不符合法律法規(guī)和本辦法規(guī)定的，有權(quán)向有關(guān)主管部門投訴、舉報(bào)。

　　7.5【爭(zhēng)議解決】爭(zhēng)議解決應(yīng)遵循合法、公正、及時(shí)的原則。涉及倫理道德爭(zhēng)議解決通過區(qū)政務(wù)機(jī)器人倫理委員會(huì)組織集體討論、專家評(píng)審等方式協(xié)調(diào)解決。其他爭(zhēng)議解決通過調(diào)解、仲裁和訴訟等方式依法依規(guī)進(jìn)行，具體流程參照現(xiàn)有相關(guān)法律法規(guī)。

　　7.6【責(zé)任追究】監(jiān)護(hù)人及使用部門如違反本辦法，對(duì)政務(wù)機(jī)器人或自然人、法人及非法人組織造成不良影響的，將視情況通報(bào)批評(píng)，造成嚴(yán)重后果的，依法依規(guī)追究相關(guān)責(zé)任。政務(wù)機(jī)器人如違反本辦法，導(dǎo)致自然人、法人或非法人組織權(quán)益受到侵害，受侵害主體有權(quán)要求監(jiān)護(hù)人、使用部門依法依規(guī)承擔(dān)相應(yīng)責(zé)任,包括賠償損失、停止侵害行為等，如涉及政務(wù)機(jī)器人軟件功能、硬件功能和性能的，使用部門根據(jù)實(shí)際情況有權(quán)要求政務(wù)機(jī)器人的供應(yīng)商、運(yùn)維商及其他相關(guān)團(tuán)隊(duì)依法依規(guī)承擔(dān)相應(yīng)責(zé)任。

　　7.7【倫理規(guī)范】政務(wù)機(jī)器人不得參與設(shè)計(jì)或指揮其他政務(wù)機(jī)器人，政務(wù)機(jī)器人必須保護(hù)人類的整體利益不受傷害，在不得傷害人類的前提下按照人類的命令開展活動(dòng)，并盡可能保護(hù)自己。

　　VIII.生態(tài)建設(shè)

　　8.1【人工智能創(chuàng)新應(yīng)用實(shí)驗(yàn)室】區(qū)政務(wù)服務(wù)和數(shù)據(jù)管理局負(fù)責(zé)建立人工智能應(yīng)用創(chuàng)新實(shí)驗(yàn)室，分期分批發(fā)布場(chǎng)景清單，以“揭榜掛帥”方式引入優(yōu)秀人工智能企業(yè)和科研機(jī)構(gòu)，通過應(yīng)用場(chǎng)景帶動(dòng)產(chǎn)業(yè)發(fā)展。

　　8.2【創(chuàng)新激勵(lì)】區(qū)科技和工業(yè)信息化局負(fù)責(zé)制訂裝備首臺(tái)套、軟件首版次、首應(yīng)用等相關(guān)政策支持，以應(yīng)用場(chǎng)景賦能產(chǎn)業(yè)發(fā)展。

　　8.3【基礎(chǔ)支撐】區(qū)政務(wù)服務(wù)和數(shù)據(jù)管理局負(fù)責(zé)為我區(qū)政務(wù)機(jī)器人應(yīng)用場(chǎng)景提供算力、語料集等基礎(chǔ)能力支撐。

　　(a)鼓勵(lì)發(fā)展社會(huì)側(cè)算力資源，為政務(wù)機(jī)器人應(yīng)用場(chǎng)景提供充足、穩(wěn)定的算力支撐。

　　(b)建立深圳中文語料基地(福田)，分批推出金融、交通、教育、具身智能等多個(gè)行業(yè)數(shù)據(jù)集，為政務(wù)機(jī)器人應(yīng)用場(chǎng)景提供高質(zhì)量語料數(shù)據(jù)集。

　　IX.附則

　　9.1本辦法最終解釋權(quán)歸福田區(qū)政務(wù)服務(wù)和數(shù)據(jù)管理局所有。

　　9.2本辦法自印發(fā)之日起施行，有效期為2年。國(guó)家和省、市對(duì)政務(wù)機(jī)器人服務(wù)管理有新規(guī)定的，從其規(guī)定。