媒體聚焦

媒體聚焦

我國《新一代人工智能治理原則》發布 致力發展負責任的AI

時間:2019-06-27瀏覽:10來源:新民晚報作者:郜陽 易蓉

最近一段日子,人工智能又成了熱門話題:先是82歲的王德民院士AI修復舊照引起不小轟動;緊接著我國警方用AI一次找回4名走失10年的孩子……

18日的市政府新聞發布會上宣布,2019世界人工智能大會將在829日至31日舉行,設置“高端論壇、主題活動、應用展示和智能體驗”四大模塊。就在前一天,國家新一代人工智能治理專業委員會發布《新一代人工智能治理原則——發展負責任的人工智能》,通過和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔責任、開放協作、敏捷治理8各方面,提出了人工智能治理的框架和行動指南。

無人銀行、智慧零售、人臉簽到……人工智能已經滲透到我們生活的方方面面,除了期待未來的智能城市,人們也多了一份擔憂。在不斷尋求人工智能效益最大化時,如何應對其倫理和監管問題,成為新的焦點。為此,記者走訪了在滬人工智能企業和高校,聽聽他們的做法和觀點。

尊重隱私 禁止惡用人工智能

相信你對“大數據”這個詞一定不陌生吧!晚上去健身房,可穿戴設備記錄下你的運動狀態;用手機網購,軟件會自動推薦你可能喜歡的物品……雖說數據作為獨立的生產要素已成為國家戰略性重要資源,可數據安全形勢似乎并不樂觀——用戶隱私得不到有效保障,嚴重影響了百姓正常的工作、生活和金融活動。

科大訊飛董事長劉慶峰對“尊重隱私”這一條深有感觸。他認為,如果數據安全及個人隱私權得不到保護,會傷害到產業發展,應從現在開始制定恰當合理的法律。“一旦大家發現產業的應用對人們日常生活帶來巨大威脅,產業就會出現很大低谷。現在開始制定恰當合理的法律,不光是對用戶的保護,對產業的健康發展也至關重要。”劉慶峰告訴記者,“人工智能領域的領軍企業,都應更積極主動地參與到人工智能立法的過程中,這是一個企業比較正確的態度。”

上海工程技術大學電子電氣工程學院的劉翔副教授,研發了肝硬化分析篩查系統,可自動分類肝硬化程度,目前已在多家醫院臨床中使用。他對人工智能發展中隱私安全的保護頗有心得。在醫學影像的診斷上,劉翔副教授團隊需要大量的病人信息。不過,團隊獲取信息的第一個過程是“數據脫敏”——將病人的私人信息全部屏蔽,最后到研究者手中的只是單純的影像數據。

“數據安全不僅僅是防止數據竊取,還涉及數據被濫用、誤用等問題。”在上海電機學院《數據科學導論》的課堂上,電子信息學院副教授呂品正通過一個個真實案例讓學生了解數據安全的重要性。“我們要讓立志成為人工智能研發者、使用者、管理者的大數據專業學生樹立社會責任感和自律意識。”

體現中國態度 負責任成發展主線

無人駕駛引發事故如何追責?智能機器人該不該有公民身份?最近一段時間,關于人工智能的討論著實不少。因此,“發展負責任的人工智能”成為《治理原則》的主題。不少專家指出,“負責任”應該涵蓋人工智能的基礎研發層到應用層,更應成為貫穿人工智能發展的一條主線。

“就像《治理原則》提到的第一條‘和諧友好’。人工智能發展應促進人機和諧,服務人類文明進步。”工程大電子電氣工程學院院長方志軍教授,始終致力于人工智能研究。他說,人工智能走到今天,是否會威脅到人類,是科學家一直考慮的要素。“所以人工智能與人類和諧友好的目標,是科學家所追求的。”

作為新一代人工智能治理專業委員會成員之一,華東政法大學人工智能與大數據指數研究院院長高奇琦教授也參與了《治理原則》的起草工作。“歐盟在年初發布了人工智能治理方面的準則。中國作為人工智能大國,也需要對倫理等相關原則予以回應。”高奇琦教授透露,治理專業委員會的8位同事起草的《治理原則》經過了網上建議征集、產業結合學界專家反復研討、多方征求意見等環節,最終經過多次修正,完成了凝聚廣泛共識的八大原則,也體現了中國在這些問題的基本態度。“第一條‘和諧友好’原則,早期叫做‘以人為本’,后來考慮到防止機器濫用等情況發生,最終定稿更強調人機和諧。”高奇琦還分享了這樣一個細節。

事實上,早在2016年,在工信部倡導下,科大訊飛就牽頭與華為等企業聯合發布《人工智能深圳宣言》,其中就強調要健全相關法律法規體系,引導形成符合人類發展的價值觀。“為避免人工智能對社會和諧的沖擊,甚至對人類未來的威脅,應當建立健全人工智能相關法律法規,同時積極探討人工智能技術發展與倫理道德的平衡點,引導形成符合人類發展的價值觀,讓人工智能更好地服務人類,這也是人工智能時代社會倫理和人文發展的需要。”劉慶峰表示。

科技向善 AI促進公平正義

如今的人工智能不僅是一項技術,而是一個深刻改變世界生產和生活方式的產業方向。近年來,在滬人工智能企業在教育、醫療、司法等領域的跨界合作越來越多,用AI為行業發展賦能,推動各行各業轉型升級。“這與《治理原則》中提到的‘公平公正’不謀而合。”方志軍教授表示,“AI發展應促進公平公正,保障利益相關者的權益,促進機會均等。”

“被告人你的姓名?”審判長話音剛落,由科大訊飛與上海公檢法司機關單位共同開發的上海刑事案件智能輔助辦案系統(“206”系統)就根據對該條語音的識別,自動從系統預先儲存的全案證據材料中抓取出與提問內容相關聯的信息——被告人身份證等材料,顯示在智能抓取區。法庭調查環節中,根據系統單一證據校驗功能提示,該案存在兩處瑕疵,通過系統調取的瑕疵報告顯示,瑕疵點為涉案的有關扣押物品未發現扣押筆錄,公訴人應法庭的要求,對補正瑕疵證據的情況作出了說明。

“這款系統目前已推廣到安徽、山西、云南等全國多個省份,效果顯著。”科大訊飛工作人員介紹。以往在勘查、取證、筆錄、制作案卷等環節,僅憑個人判斷,難免有瑕疵,而新系統實現對辦案流程的再造,對每個訴訟階段的每一項工作的職責、要求、規范等都編入程序、嵌入系統,一旦逾越或者遲滯都會引起系統的警示或阻止,從而倒逼辦案人員在訴訟各階段依法規范操作,增強了辦案人員規范意識、責任 意識,克服了以往相互推諉、主觀隨意等弊端,避免冤假錯案的產生。

在《治理原則》中,“開放協作”的提出同樣引人關注。就在本月,上海土生土長的人工智能企業深蘭科技與上海交通大學組建了人工智能聯合實驗室。上海交大副校長奚立峰表示,學校非常重視與產業界的友好往來、合作互動,推動產教融合深入發展,通過校企合作為人才培養提供實踐場地與平臺。另一家人工智能企業商湯科技也于近期和黃浦區教育局簽約,以上海市盧灣高級中學為試點合力打造人工智能標桿校,在人工智能實驗室建設、《人工智能基礎》教材編寫等領域開展合作,共同探索以教育信息化建設推動學校育人方式轉型發展。

搭好框架 期待后續細化政策

上海交通大學安泰經濟與管理學院教授史占中指出,中國已成為人工智能應用大國,擁有大數據存儲和應用場景豐富等綜合優勢,再加上5G、云計算、物聯網、等技術的迭加突破勢勢必迎來人工智能的爆發性發展。當今世界各國都正在加快AI技術的研發,積極搶占人工智能產業發展的制高點。

“面對科學技術發展的‘雙刃劍’,我們沒有必要‘因噎廢食’,而是應該在發展中解決發展中的問題。”史占中表示。這一說法得到了上海大學教授、國家新一代人工智能治理專業委員會委員李仁涵的認同。“人工智能是一個新生事物,發展還是第一位的。推動我國人工智能的發展,也要在發展中解決問題。”

在史占中看來,任何科技在發展的同時都有利有弊,在發展過程中會有很多隱患和潛在風險。已故的著名科學家霍金認為人類盲目發展人工智能將可能會“引火燒身”,危及人類自身的發展。但毋庸置疑,AI可以幫助我們超越人類的生理極限,延申和擴展人類智能,輔助我們更好地工作和生活。

很顯然,現在擺在人們面前的問題是:如何實現“可控發展”?史占中認為,治理原則提到的8個方面都非常全面,系統地考慮到了人工智能可能帶來的“隱憂”,特別是圍繞如何促進人工智能更加健康和可持續的發展,提出了“敏捷治理”原則,即“發展到哪里,治理就到哪里。治理與發展如影隨形。”

“此次‘原則’的發布也可以視為一場重要的全社會科普活動,它涉及的方方面面讓個人、機構、企業更多關注人工智能時代的安全、隱私、治理等方面的問題。”史占中說。據悉,此次發布《治理原則》是一個框架,后續將有更細化的政策法規、行業標準規范、區域共識等來規范人工智能的發展。

高奇琦還告訴記者,北京和上海相繼成為國家新一代人工智能創新發展試驗區,北京將聚焦技術創新,而上海在智慧城市、一網通辦等社會治理運營方面走在全國前列。基于這樣的基礎,試驗區也會將治理作為建設亮點。

 原文鏈接:https://wap.xinmin.cn/content/31549477.html?from=groupmessage&isappinstalled=0

周熱點新聞
月熱點新聞
返回原圖
/


体彩排列5