Categories
程式開發

智源研究院發布我國首個兒童人工智能發展原則《面向兒童的人工智能北京共識》


2020年9月14日,北京智源人工智能研究院(以下簡稱“智源研究院”)聯合北京大學人工智能研究院、清華大學人工智能研究院、中科院計算所、中科院自動化所、中科院心理所、清華大學人工智能國際治理研究院等高校院所,以及小米、曠視、好未來、高思、極客邦、奇虎360、新一代人工智能產業技術創新戰略聯盟等人工智能企業和聯盟組織,共同發布了我國首個針對兒童的人工智能發展原則《面向兒童的人工智能北京共識》。

當前,隨著算法、算力、數據等關鍵要素的積累和突破,人工智能正在加速拓展更多應用場景,不斷向各領域溢出滲透,帶動人類社會全面進入智能時代。 作為一種深刻改變世界的顛覆性技術,人工智能的研發和應用為社會的發展帶來全新的機遇與挑戰。 如同傳統倫理規範是人類文明數千年發展的穩定器,人工智能方面的倫理與規範將是未來智能社會有序展開的重要基石。

智源研究院發布我國首個兒童人工智能發展原則《面向兒童的人工智能北京共識》 11

智源研究院常務副院長曹崗介紹道,作為支持北京國家新一代人工智能創新發展試驗區建設的重要舉措,2019年5月25日,智源研究院聯合北京大學、清華大學、中國科學院自動化研究所、中國科學院計算技術研究所、新一代人工智能產業技術創新戰略聯盟等單位,共同發布了《人工智能北京共識》,為規範和引領人工智能健康發展提供了“北京方案”,也是是北京作為第一個國家新一代人工智能創新發展試驗區建設的代表性貢獻之一。 共識發布一年多來,已在疫情防控、安防等熱點領域進行試點示範,對於實現北京人工智能“自律”“善治”“有序”起到了重要作用。

智源研究院人工智能倫理與可持續發展研究中心主任曾毅博士指出,在宏觀人工智能倫理原則的前提下,探索實現人工智能倫理原則在細分領域、針對特定群體的落地技術與實踐方法,持續推動人工智能治理工作,已經成為我國人工智能創新與治理的當務之急。

智源研究院發布我國首個兒童人工智能發展原則《面向兒童的人工智能北京共識》 12

曾毅解釋說,近年來隨著在線課程、遊戲娛樂和社交軟件等產品的日益普及,兒童能夠接觸並使用的人工智能的場景越來越多。 作為特別需要關愛的群體,兒童在接受使用AI產品與解決方案時,存在一定的特殊性與被動性,可選擇能力差,對風險和的隱患識別能力嚴重不足。 此外,當下諸多人工智能產品在開發、使用和售後服務方面,針對數據保護、授權範圍、隱私安全等問題的重視程度仍有待提升,對用戶群體尤其是兒童用戶的關愛與考慮不足,將對其健康成長產生一定程度的負面影響。 在全球範圍內,目前非常缺乏與兒童有關的人工智能倫理原則,因此有必要針對兒童這一特殊群體接觸使用的人工智能技術產品加以倫理研究和規制,幫助相關企業避免潛在風險、以保障未成年人的健康成長。

為有效降低人工智能技術與產品對兒童產生的不利影響,智源研究院組織專家製定了《面向兒童的人工智能北京共識》。 作為我國首個針對兒童的人工智能發展原則,《面向兒童的人工智能北京共識》是《人工智能北京共識》針對兒童群體的實施細則,涵蓋了“以兒童為中心”、“保護兒童權利”、 “承擔責任”和“多方治理”四大主題,共包括19條細化原則,呼籲社會各界高度重視人工智能對兒童的影響,人工智能的發展應保護和促進兒童的權益,避免剝奪和損害兒童的權利,助力實現兒童健康成長。

智源研究院發布我國首個兒童人工智能發展原則《面向兒童的人工智能北京共識》 13

目前,《面向兒童的人工智能北京共識》已得到中科院幼兒園、北京大學附屬小學、好未來、高思、極客邦、童行學院等教育機構的支持,將與這些機構深度協作探索共識落地和未來的不斷演進。 未來智源研究院希望在相關機構的支持下,推動《面向兒童的人工智能北京共識》在其他幼兒園、中小學,以及社會教育機構中的落地實施,為推動兒童及青少年的健康發展提供重要支撐。 作為初步的探索與實施工作,好未來、高思、極客邦、童行學院等教育機構和曠視、小米、奇虎360等人工智能企業已經表示要藉助“人工智能與兒童”工作組,結合自身AI產品與業務積極踐行《面向兒童的人工智能北京共識》。

為更高效匯集智力資源,持續推動面向可持續發展人工智能,智源研究院發起成立國際組織“面向可持續發展的人工智能協作網絡”,目前劍橋大學、新加坡管理大學、聯合國機器人與人工智能中心等機構已經加入,共匯聚來自15個國家的專家學者。 作為協作網絡的重要組成部分,在本次​​發布會中,智源研究院也成立“人工智能與兒童”工作組,第一批工作組的成員由來自小米、曠視等人工智能企業,以及好未來、極客邦等智能教育企業的代表。 聯合國兒童基金會駐華辦事處代表將任工作組觀察員。

智源研究院發布我國首個兒童人工智能發展原則《面向兒童的人工智能北京共識》 14

據曾毅博士介紹,面向可持續發展的人工智能協作網絡“人工智能與兒童工作組”的下一步工作計劃將包括:
(1)將組織工作組梳理面向兒童的人工智能案例,分析人工智能技術如何善用,並同時避免誤用和濫用;

(2)將通過工作組幫助中國和全球的人工智能企業以技術落地的方式促進人工智能保護兒童權益,助力兒童發展;

(3)為國內和全球的相關政策制定提供有益參考;

(4)與全世界其他相關機構分享經驗,共享成果,以促進全球範圍內人工智能助力兒童的健康成長。

針對《面向兒童的人工智能北京共識》,聯合國技術顧問、人工智能主任Danit Gal表示:“這是中國人工智能發展軌跡中的一份關鍵文件,也是中國在論述如何利用人工智能的力量造福全人類中受歡迎的補充。國際間在兒童與人工智能相關的研發、設計、使用與共存方面的努力會因為有了中國的參與而變得更加有效。現在,我們比以往任何時候都更加必須團結一致,以確保人工智能符合所有人的道德和安全要求,而中國在使人工智能成為全球共享的現實中可以發揮重要作用。”

智源研究院發布我國首個兒童人工智能發展原則《面向兒童的人工智能北京共識》 15

本次發布會最後,由曾毅主任主持, 好未來副總裁李非、小米AI生態副總裁周力恆、曠視人工智能治理研究院院長徐云程、愛學習教育集團AILab 主任王建超、中科院幼兒園園長王春菊、童行學院創始人郝景芳、牛津大學政策學者謝旻希、聯合國大學澳門研究院院長黃京波等人圍繞“發展面向兒童的人工智能”的話題,提供了自己的行業經歷及專業性意見,探討共識的技術和社會落地,並共同呼籲教育、科研、產業界協同創新,通過人工智能助力下一代健康成長。

《面向兒童的人工智能北京共識》中文版

《面向兒童的人工智能北京共識》英文版