日前,中央網(wǎng)信辦秘書局、市場(chǎng)監(jiān)管總局辦公廳聯(lián)合印發(fā)《智能社會(huì)發(fā)展與治理標(biāo)準(zhǔn)化指引(2025版)》(以下簡(jiǎn)稱《指引》)。
《指引》提出了智能社會(huì)發(fā)展與治理的基本原則和要求,明確了常見智能技術(shù)應(yīng)用場(chǎng)景、社會(huì)影響及其觀測(cè)評(píng)估指標(biāo),規(guī)定了人工智能社會(huì)實(shí)驗(yàn)的一般程序和要求,構(gòu)建了包括基礎(chǔ)通用、發(fā)展與治理原則、場(chǎng)景應(yīng)用、技術(shù)和方法、效果評(píng)價(jià)等五部分內(nèi)容的智能社會(huì)發(fā)展與治理標(biāo)準(zhǔn)體系,為各地方、各部門、科研院所、企事業(yè)單位等開展智能社會(huì)發(fā)展與治理理論研究和實(shí)踐活動(dòng)提供技術(shù)支撐和規(guī)范指引。
《指引》提出,開展人工智能社會(huì)實(shí)驗(yàn),推進(jìn)智能社會(huì)發(fā)展與治理標(biāo)準(zhǔn)化工作須遵循三方面原則。一是增進(jìn)福祉,注重和諧。在社會(huì)發(fā)展層面,應(yīng)以社會(huì)高質(zhì)量發(fā)展為目標(biāo),建設(shè)人與智能技術(shù)相和諧的社會(huì)環(huán)境,提升生活水平與社會(huì)福利,促進(jìn)經(jīng)濟(jì)社會(huì)可持續(xù)發(fā)展。相關(guān)內(nèi)容包括但不限于:促進(jìn)和諧共生。推動(dòng)社會(huì)和智能技術(shù)協(xié)同發(fā)展,降低智能技術(shù)發(fā)展造成社會(huì)沖突的風(fēng)險(xiǎn),以技術(shù)進(jìn)步促進(jìn)社會(huì)發(fā)展,增強(qiáng)社會(huì)向心力、塑造社會(huì)凝聚力。遵守公序良俗。堅(jiān)持有益社會(huì)的價(jià)值導(dǎo)向,堅(jiān)守智能技術(shù)全生命周期中應(yīng)遵循的基本倫理價(jià)值和道德觀念,以科技向善引導(dǎo)文明行為,保障社會(huì)規(guī)范。確保公平普惠。保證智能技術(shù)應(yīng)用中秉持公正平等,充分考慮社會(huì)各界多元需求,采取有效措施防止產(chǎn)生偏見歧視,最大限度實(shí)現(xiàn)惠及全民的技術(shù)覆蓋,保障全社會(huì)共享技術(shù)創(chuàng)新成果。
二是以人為本,保障權(quán)益。在個(gè)人權(quán)益層面,應(yīng)保障人類各項(xiàng)基本權(quán)利,尊重個(gè)人利益訴求,以技術(shù)進(jìn)步促進(jìn)個(gè)人發(fā)展。相關(guān)內(nèi)容包括但不限于:保障基本權(quán)利。在智能技術(shù)發(fā)展中保障個(gè)人生命健康、人身自由、私人財(cái)產(chǎn)等權(quán)利不受侵犯,切實(shí)保障智能技術(shù)在產(chǎn)品設(shè)計(jì)、系統(tǒng)搭建、應(yīng)用服務(wù)過程中符合法律法規(guī)和各項(xiàng)要求,確保安全、合法、高效。體現(xiàn)關(guān)懷救濟(jì)。充分尊重對(duì)智能技術(shù)接受程度和使用意愿的個(gè)體化差異。提升各類群體技術(shù)適應(yīng)性,努力彌合技術(shù)鴻溝,為無法接觸技術(shù)或者技術(shù)使用困難的個(gè)體提供替代方式,促進(jìn)人機(jī)和諧友好交互。保證知情同意。在產(chǎn)品與服務(wù)中使用智能技術(shù)應(yīng)明確告知用戶,明示智能產(chǎn)品與服務(wù)的功能與局限,保障用戶的知情、同意等權(quán)利。尊重用戶選擇,為使用或者退出智能產(chǎn)品與服務(wù)提供簡(jiǎn)便易懂的解決方案。
三是包容創(chuàng)新,持續(xù)優(yōu)化。在技術(shù)治理層面,應(yīng)保障智能技術(shù)安全和系統(tǒng)可控,為智能技術(shù)的研發(fā)、應(yīng)用與共享提供敏捷包容的發(fā)展環(huán)境。相關(guān)內(nèi)容包括但不限于:實(shí)現(xiàn)責(zé)任可溯。明確智能技術(shù)研發(fā)和使用等相關(guān)方的責(zé)任,建立倫理沖突和技術(shù)事故的問責(zé)機(jī)制。強(qiáng)化智能技術(shù)研發(fā)過程安全管理和風(fēng)險(xiǎn)評(píng)估能力,實(shí)現(xiàn)智能技術(shù)的可審核、可監(jiān)督、可追溯。強(qiáng)調(diào)審慎敏捷。持續(xù)評(píng)估智能技術(shù)發(fā)展水平與社會(huì)影響,避免技術(shù)濫用與誤用,禁止違規(guī)惡用。根據(jù)智能技術(shù)特征優(yōu)化監(jiān)管模式,建立敏捷的響應(yīng)與協(xié)調(diào)機(jī)制,及時(shí)發(fā)現(xiàn)和解決可能引發(fā)的風(fēng)險(xiǎn)。促進(jìn)包容開放。推進(jìn)智能社會(huì)發(fā)展與治理多元參與,推動(dòng)政府部門、科研院所、教育機(jī)構(gòu)、企業(yè)、社會(huì)團(tuán)體、社會(huì)公眾互動(dòng)協(xié)調(diào)。促進(jìn)跨學(xué)科、跨領(lǐng)域、跨地區(qū)、跨國(guó)界交流合作,推動(dòng)形成具有廣泛共識(shí)的智能社會(huì)發(fā)展與治理框架和標(biāo)準(zhǔn)規(guī)范。 (作者:子千)
(二)中觀層面.........................................................5
(三)宏觀層面.........................................................6
四、人工智能社會(huì)實(shí)驗(yàn)規(guī)程........................................7
(一)實(shí)驗(yàn)準(zhǔn)備,組織應(yīng)用........................................7
(二)實(shí)驗(yàn)開展,科學(xué)測(cè)量........................................8
(三)實(shí)驗(yàn)反饋,綜合評(píng)估........................................9
五、智能社會(huì)發(fā)展與治理標(biāo)準(zhǔn)體系框架.......................9
(一)基礎(chǔ)通用標(biāo)準(zhǔn).................................................10
(二)發(fā)展與治理原則標(biāo)準(zhǔn).......................................10
(三)智能社會(huì)發(fā)展與治理場(chǎng)景應(yīng)用標(biāo)準(zhǔn)...................11
(四)技術(shù)和方法標(biāo)準(zhǔn)..............................................13
(五)效果評(píng)價(jià)標(biāo)準(zhǔn).................................................14
人類社會(huì)正邁向以人工智能為關(guān)鍵技術(shù)支撐的智能社會(huì)??偨Y(jié)形成智能社會(huì)發(fā)展與治理的經(jīng)驗(yàn)規(guī)律和理論,超前探索智能社會(huì)發(fā)展與治理的標(biāo)準(zhǔn)規(guī)范,完善適應(yīng)智能社會(huì)發(fā)展與治理的體制機(jī)制,將有效支撐國(guó)家治理體系和治理能力現(xiàn)代化建設(shè)。為落實(shí)中共中央、國(guó)務(wù)院《關(guān)于加快建設(shè)全國(guó)統(tǒng)一大市場(chǎng)的意見》和《國(guó)家標(biāo)準(zhǔn)化發(fā)展綱要》的要求,深入推進(jìn)人工智能社會(huì)實(shí)驗(yàn),加快形成適應(yīng)智能社會(huì)發(fā)展與治理的標(biāo)準(zhǔn)體系,充分發(fā)揮標(biāo)準(zhǔn)化的基礎(chǔ)性、引領(lǐng)性作用,特制定《智能社會(huì)發(fā)展與治理標(biāo)準(zhǔn)化指引(2025 版)》。
一、總體要求
(一)基本內(nèi)涵
智能社會(huì)發(fā)展與治理的標(biāo)準(zhǔn)化,是指圍繞智能社會(huì)發(fā)展與治理的現(xiàn)實(shí)或潛在問題,基于人工智能社會(huì)實(shí)驗(yàn)等科學(xué)循證方法,探究智能技術(shù)帶來的社會(huì)影響及其作用機(jī)理,圍繞智能技術(shù)社會(huì)應(yīng)用的基本原則、測(cè)試優(yōu)化方法和效果評(píng)估,制定、發(fā)布和實(shí)施規(guī)范性文件的活動(dòng)。
(二)工作目標(biāo)
建立健全科學(xué)合理的智能社會(huì)發(fā)展與治理標(biāo)準(zhǔn)研究制定、實(shí)施反饋、優(yōu)化完善的工作機(jī)制,建成覆蓋智能技術(shù)主要社會(huì)應(yīng)用場(chǎng)景、有效保障技術(shù)全生命周期良性健康發(fā)展的標(biāo)準(zhǔn)體系,為推動(dòng)智能社會(huì)發(fā)展與治理標(biāo)準(zhǔn)化創(chuàng)新打下良好基礎(chǔ)。
(三)主要內(nèi)容和適用范圍
本指引提出了智能社會(huì)發(fā)展與治理的基本原則和要求,明確了常見智能技術(shù)應(yīng)用場(chǎng)景、社會(huì)影響及其觀測(cè)評(píng)估指標(biāo),規(guī)定了人工智能社會(huì)實(shí)驗(yàn)的一般程序和要求,構(gòu)建了智能社會(huì)發(fā)展與治理的標(biāo)準(zhǔn)體系框架。
本指引適用于智能技術(shù)社會(huì)應(yīng)用與評(píng)估領(lǐng)域的標(biāo)準(zhǔn)化活動(dòng),為智能社會(huì)發(fā)展與治理相關(guān)工作提供技術(shù)支撐,同時(shí)可為國(guó)家智能社會(huì)治理實(shí)驗(yàn)基地建設(shè)等專項(xiàng)工作提供規(guī)范。各地方、各部門、科研院所、企事業(yè)單位等開展智能社會(huì)發(fā)展與治理理論研究和實(shí)踐活動(dòng)時(shí),可參考使用本指引。
二、智能社會(huì)發(fā)展與治理原則
開展人工智能社會(huì)實(shí)驗(yàn),推進(jìn)智能社會(huì)發(fā)展與治理標(biāo)準(zhǔn)化工作,須遵循以下三方面原則。
(一)增進(jìn)福祉,注重和諧
在社會(huì)發(fā)展層面,應(yīng)以社會(huì)高質(zhì)量發(fā)展為目標(biāo),建設(shè)人與智能技術(shù)相和諧的社會(huì)環(huán)境,提升生活水平與社會(huì)福利,促進(jìn)經(jīng)濟(jì)社會(huì)可持續(xù)發(fā)展。相關(guān)內(nèi)容包括但不限于:一是促進(jìn)和諧共生。推動(dòng)社會(huì)和智能技術(shù)的協(xié)同發(fā)展,降低智能技術(shù)發(fā)展造成社會(huì)沖突的風(fēng)險(xiǎn),以技術(shù)進(jìn)步促進(jìn)社會(huì)發(fā)展,增強(qiáng)社會(huì)向心力、塑造社會(huì)凝聚力。二是遵守公序良俗。堅(jiān)持有益社會(huì)的價(jià)值導(dǎo)向,堅(jiān)守智能技術(shù)全生命周期中應(yīng)遵循的基本倫理價(jià)值和道德觀念,以科技向善引導(dǎo)文明行為,保障社會(huì)規(guī)范。三是確保公平普惠。保證智能技術(shù)應(yīng)用中秉持公正平等,充分考慮社會(huì)各界多元需求,采取有效措施防止產(chǎn)生偏見歧視,最大限度實(shí)現(xiàn)惠及全民的技術(shù)覆蓋,保障全社會(huì)共享技術(shù)創(chuàng)新成果。
(二)以人為本,保障權(quán)益
在個(gè)人權(quán)益層面,應(yīng)保障人類各項(xiàng)基本權(quán)利,尊重個(gè)人利益訴求,以技術(shù)進(jìn)步促進(jìn)個(gè)人發(fā)展。相關(guān)內(nèi)容包括但不限于:一是保障基本權(quán)利。在智能技術(shù)發(fā)展中保障個(gè)人生命健康、人身自由、私人財(cái)產(chǎn)等權(quán)利不受侵犯,切實(shí)保障智能技術(shù)在產(chǎn)品設(shè)計(jì)、系統(tǒng)搭建、應(yīng)用服務(wù)過程中符合法律法規(guī)和各項(xiàng)要求,確保安全、合法、高效。
二是體現(xiàn)關(guān)懷救濟(jì)。充分尊重對(duì)智能技術(shù)接受程度和使用意愿的個(gè)體化差異。提升各類群體技術(shù)適應(yīng)性,努力彌合技術(shù)鴻溝,為無法接觸技術(shù)或者技術(shù)使用困難的個(gè)體提供替代方式,促進(jìn)人機(jī)和諧友好交互。
三是保證知情同意。在產(chǎn)品與服務(wù)中使用智能技術(shù)應(yīng)明確告知用戶,明示智能產(chǎn)品與服務(wù)的功能與局限,保障用戶的知情、同意等權(quán)利。尊重用戶選擇,為使用或者退出智能產(chǎn)品與服務(wù)提供簡(jiǎn)便易懂的解決方案。
(三)包容創(chuàng)新,持續(xù)優(yōu)化
在技術(shù)治理層面,應(yīng)保障智能技術(shù)安全和系統(tǒng)可控,為智能技術(shù)的研發(fā)、應(yīng)用與共享提供敏捷包容的發(fā)展環(huán)境。相關(guān)內(nèi)容包括但不限于:
一是實(shí)現(xiàn)責(zé)任可溯。明確智能技術(shù)研發(fā)和使用等相關(guān)方的責(zé)任,建立倫理沖突和技術(shù)事故的問責(zé)機(jī)制。強(qiáng)化智能技術(shù)研發(fā)過程安全管理和風(fēng)險(xiǎn)評(píng)估能力,實(shí)現(xiàn)智能技術(shù)的可審核、可監(jiān)督、可追溯。
二是強(qiáng)調(diào)審慎敏捷。持續(xù)評(píng)估智能技術(shù)發(fā)展水平與社會(huì)影響,避免技術(shù)濫用與誤用,禁止違規(guī)惡用。根據(jù)智能技術(shù)特征優(yōu)化監(jiān)管模式,建立敏捷的響應(yīng)與協(xié)調(diào)機(jī)制,及時(shí)發(fā)現(xiàn)和解決可能引發(fā)的風(fēng)險(xiǎn)。
三是促進(jìn)包容開放。推進(jìn)智能社會(huì)發(fā)展與治理多元參與,推動(dòng)政府部門、科研院所、教育機(jī)構(gòu)、企業(yè)、社會(huì)團(tuán)體、社會(huì)公眾互動(dòng)協(xié)調(diào)。促進(jìn)跨學(xué)科、跨領(lǐng)域、跨地區(qū)、跨國(guó)界交流合作,推動(dòng)形成具有廣泛共識(shí)的智能社會(huì)發(fā)展與治理框架和標(biāo)準(zhǔn)規(guī)范。
三、智能技術(shù)社會(huì)應(yīng)用場(chǎng)景與影響評(píng)估
推動(dòng)智能社會(huì)發(fā)展與治理,必須厘清智能技術(shù)的應(yīng)用場(chǎng)景,識(shí)別、界定、觀測(cè)和評(píng)估相關(guān)社會(huì)影響,對(duì)可能出現(xiàn)的風(fēng)險(xiǎn)和挑戰(zhàn)做好應(yīng)對(duì)。根據(jù)智能技術(shù)的作用對(duì)象,可將智能社會(huì)發(fā)展與治理的應(yīng)用場(chǎng)景及影響劃分為微觀、中觀、宏觀三個(gè)層面。
(一)微觀層面
智能技術(shù)作用于個(gè)人的主要場(chǎng)景包括:自動(dòng)駕駛、智能家居、智能客服等。如利用生物特征識(shí)別、行蹤軌跡等敏感信息進(jìn)行身份驗(yàn)證;通過智能傳感技術(shù)感知周圍環(huán)境進(jìn)行輔助駕駛;智能監(jiān)測(cè)個(gè)人健康狀況為醫(yī)師診斷和治療提供輔助參考;基于推薦算法的智能檢索和信息推送服務(wù)等。上述應(yīng)用場(chǎng)景中,可能產(chǎn)生的影響包括:心理狀態(tài)、行為模式、價(jià)值觀念、社會(huì)關(guān)系等的變化。如人臉識(shí)別技術(shù)應(yīng)用對(duì)個(gè)人安全感的影響;自動(dòng)駕駛對(duì)個(gè)人出行范圍、社交網(wǎng)絡(luò)和就業(yè)的影響;網(wǎng)絡(luò)游戲?qū)τ脩舫撩浴⑦^度消費(fèi)、家庭關(guān)系變化的影響等。評(píng)估智能技術(shù)在微觀層面產(chǎn)生的影響,可觀測(cè)的指標(biāo)包括:一是個(gè)體行為。如測(cè)量移動(dòng)應(yīng)用程序測(cè)量使用頻率、用戶使用意愿,收集用戶興趣熱點(diǎn)、活動(dòng)軌跡等行為偏好。二是個(gè)體感知。如通過問卷調(diào)查收集個(gè)人的風(fēng)險(xiǎn)認(rèn)知、技術(shù)接受程度等心理動(dòng)態(tài),以及幸福感、獲得感和安全感等主觀感受。
(二)中觀層面
智能技術(shù)作用于組織與行業(yè)的主要應(yīng)用場(chǎng)景包括:智慧教育、智慧醫(yī)療、智慧金融等。如線上教育平臺(tái)利用大數(shù)據(jù)智能技術(shù)進(jìn)行師生畫像、知識(shí)推送并提供虛擬教師;醫(yī)療機(jī)構(gòu)運(yùn)用圖像識(shí)別技術(shù)、自然語言處理進(jìn)行醫(yī)學(xué)影像智能識(shí)別并提供輔助診斷參考;金融機(jī)構(gòu)運(yùn)用智能技術(shù)開展市場(chǎng)預(yù)測(cè)、風(fēng)險(xiǎn)評(píng)估、投資分析業(yè)務(wù)等。
上述應(yīng)用場(chǎng)景中,可能產(chǎn)生的影響包括:業(yè)務(wù)流程、組織關(guān)系、職責(zé)分工和組織運(yùn)行模式等的變化。如智能制造技術(shù)應(yīng)用對(duì)行業(yè)和組織管理流程再造的影響;智能電網(wǎng)應(yīng)用對(duì)供電企業(yè)能源分配和管理方式的影響等。
評(píng)估智能技術(shù)在中觀層面產(chǎn)生的影響,可觀測(cè)的指標(biāo)包括:一是經(jīng)濟(jì)效益變化情況。如通過在線銷量數(shù)據(jù)分析智能推薦技術(shù)應(yīng)用前后對(duì)銷售效益的影響;通過生產(chǎn)效率、質(zhì)量控制等數(shù)據(jù)觀測(cè)智能制造技術(shù)應(yīng)用對(duì)產(chǎn)品制造流程的影響。二是組織治理或者行業(yè)協(xié)同水平變化情況。如通過收集企業(yè)戰(zhàn)略轉(zhuǎn)型動(dòng)向、產(chǎn)業(yè)生態(tài)發(fā)展情況、組織響應(yīng)速度等數(shù)據(jù),觀察智能技術(shù)應(yīng)用對(duì)戰(zhàn)略實(shí)施情況、行業(yè)協(xié)同效能、組織結(jié)構(gòu)適應(yīng)性等的影響。
(三)宏觀層面
智能技術(shù)作用于社會(huì)的主要應(yīng)用場(chǎng)景包括:數(shù)字政府、智慧城市、數(shù)字鄉(xiāng)村、智能應(yīng)急管理等。如通過建立城市大腦監(jiān)測(cè)調(diào)度城市運(yùn)行情況;利用能源大數(shù)據(jù)預(yù)測(cè)用能需求、經(jīng)濟(jì)發(fā)展等。上述應(yīng)用場(chǎng)景中,可能產(chǎn)生的影響包括:公共治理方式、社會(huì)服務(wù)能力、應(yīng)急響應(yīng)流程、公眾參與模式等的變化。如互聯(lián)網(wǎng)平臺(tái)信息傳播對(duì)于社會(huì)輿論的影響;數(shù)字金融技術(shù)應(yīng)用對(duì)于金融體系和經(jīng)濟(jì)安全的影響;智能應(yīng)急管理對(duì)于風(fēng)險(xiǎn)管理能力的影響,數(shù)字鄉(xiāng)村建設(shè)中移動(dòng)應(yīng)用程序使用對(duì)鄉(xiāng)村治理結(jié)構(gòu)的影響等。
評(píng)估智能技術(shù)在宏觀層面產(chǎn)生的影響,可觀測(cè)的指標(biāo)包括:一是政府治理與決策的效率和效果。如通過數(shù)字公共服務(wù)平臺(tái)的數(shù)據(jù)變化,分析智能技術(shù)應(yīng)用對(duì)政府響應(yīng)與資源調(diào)配速率的影響;通過經(jīng)濟(jì)運(yùn)行數(shù)據(jù)變化,觀察智能技術(shù)應(yīng)用對(duì)區(qū)域經(jīng)濟(jì)增長(zhǎng)率、節(jié)能減排的貢獻(xiàn)等。二是公共服務(wù)質(zhì)量的優(yōu)化改進(jìn)情況。如通過終端傳感器運(yùn)行數(shù)據(jù)或輿情監(jiān)測(cè)數(shù)據(jù),分析公共服務(wù)均衡度與滿意度的改善等。
四、人工智能社會(huì)實(shí)驗(yàn)規(guī)程
人工智能社會(huì)實(shí)驗(yàn)是國(guó)家智能社會(huì)治理實(shí)驗(yàn)基地探索智能社會(huì)發(fā)展與治理路徑的關(guān)鍵方法,也是智能社會(huì)發(fā)展與治理標(biāo)準(zhǔn)化的基礎(chǔ)方法之一。人工智能社會(huì)實(shí)驗(yàn)通過識(shí)別、界定、觀測(cè)和評(píng)估特定智能技術(shù)社會(huì)應(yīng)用場(chǎng)景的影響,分析可能帶來的治理挑戰(zhàn),總結(jié)應(yīng)對(duì)措施,形成解決方案和標(biāo)準(zhǔn)。其規(guī)程主要包括組織應(yīng)用、科學(xué)測(cè)量和綜合反饋三個(gè)階段。
(一)實(shí)驗(yàn)準(zhǔn)備,組織應(yīng)用
一是明確技術(shù)與應(yīng)用場(chǎng)景。聚焦突出問題,選取具有典型代表性的技術(shù)和應(yīng)用場(chǎng)景,觀測(cè)技術(shù)對(duì)微觀個(gè)人、中觀組織或宏觀治理的綜合影響。應(yīng)用場(chǎng)景可選擇已有場(chǎng)景,或新建場(chǎng)景,若為新建場(chǎng)景,應(yīng)充分評(píng)估,減少重復(fù)建設(shè)。
二是明確參與主體。實(shí)驗(yàn)要有明確的應(yīng)用主體、研究主體、技術(shù)主體,各建設(shè)主體間分工明確。應(yīng)用主體具備建設(shè)實(shí)驗(yàn)場(chǎng)景的條件,研究主體具有智能社會(huì)發(fā)展與治理研究能力和相關(guān)領(lǐng)域政策制定經(jīng)驗(yàn),技術(shù)主體具有搭建實(shí)驗(yàn)場(chǎng)景所需的技術(shù)水平。
三是明確實(shí)驗(yàn)方案。各主體應(yīng)建立組織實(shí)施機(jī)制,明確溝通協(xié)商程序,共同設(shè)計(jì)實(shí)驗(yàn)方案,為實(shí)驗(yàn)場(chǎng)地、經(jīng)費(fèi)、數(shù)據(jù)等提供必要保障,解決場(chǎng)景建設(shè)、實(shí)驗(yàn)布點(diǎn)、成果轉(zhuǎn)化等環(huán)節(jié)出現(xiàn)的問題。
四是防范倫理風(fēng)險(xiǎn)。方案要明確倫理風(fēng)險(xiǎn)預(yù)警機(jī)制,制定應(yīng)急預(yù)案,注重全流程倫理風(fēng)險(xiǎn)防控,開展必要的倫理審查,確保實(shí)驗(yàn)符合法規(guī)政策、社會(huì)倫理、科研倫理。例如,抽樣分組要充分考慮弱勢(shì)群體的公平性,以符合科研倫理。
(二)實(shí)驗(yàn)開展,科學(xué)測(cè)量
一是選取測(cè)量要素。圍繞實(shí)驗(yàn)要解決的社會(huì)問題或要達(dá)到的治理目標(biāo),選取科學(xué)合理的測(cè)量要素。要素應(yīng)體現(xiàn)技術(shù)應(yīng)用對(duì)微觀個(gè)人、中觀組織或宏觀治理的綜合影響。
二是明確測(cè)量指標(biāo)。將測(cè)量要素轉(zhuǎn)變?yōu)閮?nèi)涵清晰、概念準(zhǔn)確的可測(cè)度變量。例如,將人工智能技術(shù)對(duì)組織運(yùn)轉(zhuǎn)模式、行為軌跡等影響,轉(zhuǎn)變?yōu)闄C(jī)構(gòu)調(diào)整、出行方式等可測(cè)量的具體數(shù)據(jù)指標(biāo)。
三是科學(xué)抽樣與分組。選擇合理的實(shí)驗(yàn)類型和規(guī)范的抽樣方法,科學(xué)設(shè)置實(shí)驗(yàn)組和控制組,充分考慮弱勢(shì)群體、特殊群體等因素,保證實(shí)驗(yàn)數(shù)據(jù)的科學(xué)性和代表性。
四是數(shù)據(jù)收集與分析。依據(jù)科學(xué)、規(guī)范的社會(huì)科學(xué)測(cè)量手段,綜合利用觀察記錄、問卷調(diào)查、大數(shù)據(jù)捕捉與社會(huì)計(jì)算等方法,進(jìn)行數(shù)據(jù)收集和處理,并開展恰當(dāng)?shù)亩ㄐ曰蚨糠治觥?br />
(三)實(shí)驗(yàn)反饋,綜合評(píng)估
一是綜合集成。綜合技術(shù)發(fā)展可能、社會(huì)個(gè)體的接受程度、經(jīng)濟(jì)文化環(huán)境等因素,形成技術(shù)標(biāo)準(zhǔn)、技術(shù)規(guī)范、政策建議等實(shí)驗(yàn)成果。
二是實(shí)驗(yàn)評(píng)價(jià)。對(duì)實(shí)驗(yàn)過程和成效進(jìn)行評(píng)價(jià),內(nèi)容包括實(shí)驗(yàn)場(chǎng)景建設(shè)情況、組織與保障機(jī)制、風(fēng)險(xiǎn)防范與倫理審查、工作計(jì)劃執(zhí)行效果、實(shí)驗(yàn)成果及轉(zhuǎn)化等。
三是成果反饋。實(shí)驗(yàn)成果反饋給各有關(guān)方面,以提供智能技術(shù)賦能社會(huì)發(fā)展與治理的經(jīng)驗(yàn)與政策建議。
五、智能社會(huì)發(fā)展與治理標(biāo)準(zhǔn)體系框架
標(biāo)準(zhǔn)是人工智能社會(huì)實(shí)驗(yàn)工作的重要成果。為充分發(fā)揮標(biāo)準(zhǔn)在智能社會(huì)發(fā)展與治理中的基礎(chǔ)性、引領(lǐng)性作用,應(yīng)整體部署和系統(tǒng)推進(jìn),構(gòu)建適應(yīng)技術(shù)創(chuàng)新需要、滿足產(chǎn)業(yè)發(fā)展需求、支撐智能社會(huì)建設(shè)的智能社會(huì)發(fā)展與治理標(biāo)準(zhǔn)體系。智能社會(huì)發(fā)展與治理標(biāo)準(zhǔn)體系框架結(jié)構(gòu)包括基礎(chǔ)通用、發(fā)展與治理原則、智能社會(huì)發(fā)展與治理場(chǎng)景應(yīng)用、技術(shù)和方法、效果評(píng)價(jià)等五個(gè)部分,如圖 1 所示。
(一)基礎(chǔ)通用標(biāo)準(zhǔn)3. 風(fēng)險(xiǎn)跟蹤與評(píng)價(jià)標(biāo)準(zhǔn)。規(guī)范針對(duì)人工智能社會(huì)實(shí)驗(yàn)過程中產(chǎn)生的倫理風(fēng)險(xiǎn)與社會(huì)問題,包括圍繞風(fēng)險(xiǎn)跟蹤與評(píng)價(jià)的科學(xué)性、有效性、準(zhǔn)確性,提出風(fēng)險(xiǎn)識(shí)別、風(fēng)險(xiǎn)預(yù)防、風(fēng)險(xiǎn)監(jiān)測(cè)、風(fēng)險(xiǎn)跟蹤與預(yù)防評(píng)估的方法等。