9月3日下午，在世界人工智能大會“2022世界人工智能安全高端對話”主題論壇上，正式發(fā)布《浦東新區(qū)人工智能企業(yè)數(shù)據(jù)安全和算法合規(guī)指引(試行)》(以下簡稱“指引”)。
這也是繼今年2月楊浦區(qū)出臺上海首份《企業(yè)數(shù)據(jù)合規(guī)指引》后，第二份聚焦企業(yè)數(shù)據(jù)合規(guī)、算法合規(guī)的指引文件。
《指引》由上海市浦東新區(qū)檢察院牽頭，與浦東新區(qū)工商聯(lián)、人工智能行業(yè)指導(dǎo)部門、行業(yè)協(xié)會以及專業(yè)機構(gòu)共同編制。
【資料圖】
《指引》適用于上海市浦東新區(qū)人工智能企業(yè)，以及其他從事數(shù)據(jù)收集、處理和算法研發(fā)應(yīng)用的相關(guān)企業(yè)。《指引》分為八章共66條，包括總則、企業(yè)數(shù)據(jù)合規(guī)組織機構(gòu)建設(shè)、數(shù)據(jù)安全制度建設(shè)、數(shù)據(jù)全生命周期安全管理、算法合規(guī)制度建設(shè)等內(nèi)容。
上海市浦東新區(qū)人民檢察院檢察官夏靜在接受21世紀(jì)經(jīng)濟報道記者專訪時表示，人工智能產(chǎn)業(yè)是浦東新區(qū)的六大核心產(chǎn)業(yè)之一，出臺《指引》對浦東新區(qū)發(fā)揮“引領(lǐng)區(qū)”作用，引領(lǐng)人工智能產(chǎn)業(yè)發(fā)展起到了非常重要的作用。
據(jù)了解，《指引》出臺的目的，是聚焦浦東新區(qū)“智能造”“數(shù)據(jù)港”等六大硬核產(chǎn)業(yè)，進一步推動人工智能企業(yè)加強數(shù)據(jù)安全和算法合規(guī)管理，規(guī)范企業(yè)數(shù)據(jù)處理活動和算法研發(fā)應(yīng)用，有效懲治和預(yù)防數(shù)據(jù)違法犯罪，進一步優(yōu)化營商環(huán)境，助力浦東新區(qū)實施重點產(chǎn)業(yè)高質(zhì)量發(fā)展行動計劃，加快打造人工智能世界級產(chǎn)業(yè)集群，更好服務(wù)保障浦東引領(lǐng)區(qū)建設(shè)。
在日常的辦案過程中，夏靜發(fā)現(xiàn)人工智能行業(yè)的數(shù)據(jù)安全管理還存在一些漏洞，一些AI企業(yè)在數(shù)據(jù)安全保護或個人信息保護方面存在管理不到位的情況，數(shù)據(jù)安全保護意識較為薄弱。
據(jù)夏靜介紹，與上海市其他區(qū)出臺的人工智能企業(yè)相關(guān)指引相比，《指引》具有三大方面特色。
第一，《指引》首次將算法合規(guī)納入到數(shù)據(jù)合規(guī)體系，進一步完善了數(shù)據(jù)合規(guī)的管理體系；
第二，《指引》進一步擴大了數(shù)據(jù)保護的范圍，以往的數(shù)據(jù)合規(guī)指引往往側(cè)重于個人信息保護，《指引》將保護范圍由公民個人信息拓展到其他領(lǐng)域的重要信息與核心信息，更為注重數(shù)據(jù)合規(guī)的完整性；
第三，《指引》創(chuàng)新性引入數(shù)據(jù)合規(guī)的評價體系，通過外部評估與自評估兩種方式相結(jié)合，幫助人工智能企業(yè)更好地發(fā)現(xiàn)數(shù)據(jù)合規(guī)管理中存在的問題，從而預(yù)防數(shù)據(jù)合規(guī)風(fēng)險。
在算法合規(guī)制度建設(shè)方面，《指引》明確AI企業(yè)在算法研發(fā)和應(yīng)用中應(yīng)當(dāng)遵循六大原則，分別是堅持正確導(dǎo)向、堅持風(fēng)險防控、堅持依法應(yīng)用、堅持技術(shù)創(chuàng)新、堅持防范算法歧視。《指引》還提倡企業(yè)應(yīng)強化責(zé)任意識，對算法應(yīng)用產(chǎn)生的結(jié)果負(fù)主體責(zé)任，提供算法推薦服務(wù)具有輿論屬性或社會動員能力的應(yīng)當(dāng)進行互聯(lián)網(wǎng)信息服務(wù)算法備案。同時，《指引》對人工智能企業(yè)的算法公開、算法評估、反壟斷和反不正當(dāng)競爭、自動化決防范算法歧視等方面均作出規(guī)定。
“《指引》中引入數(shù)據(jù)合規(guī)評估體系，引導(dǎo)人工智能企業(yè)通過定期自評估，同時將算法合規(guī)納入其中，全面引導(dǎo)和規(guī)范人工智能企業(yè)數(shù)據(jù)處理活動和算法研發(fā)應(yīng)用，為企業(yè)合理開發(fā)、利用數(shù)據(jù)資源，確保數(shù)據(jù)安全，提高合規(guī)治理能力提供指南。” 上海市浦東新區(qū)人民檢察院黨組書記、檢察長曾國東在發(fā)言中表示。
夏靜向記者介紹時提到，針對數(shù)據(jù)合規(guī)監(jiān)管，早在2020年，由浦東新區(qū)人民檢察院牽頭，已試點建立了上海自貿(mào)區(qū)涉案企業(yè)合規(guī)第三方機制管委會，并組建了首批76人第三方機制專業(yè)人員名錄庫，囊括來自不同領(lǐng)域和不同行業(yè)的專家，為人工智能企業(yè)有針對性地展開專業(yè)性的指導(dǎo)評估。
“希望通過《指引》建立更為完備的數(shù)據(jù)合規(guī)管理體系，共同推動數(shù)據(jù)合規(guī)從個案辦理向行業(yè)治理延伸，為浦東人工智能企業(yè)發(fā)展保駕護航。”夏靜表達了她的期待。
（文章來源：21世紀(jì)經(jīng)濟報道）
標(biāo)簽： 浦東新區(qū)
