當前人工智能的發展主要受益于以深度學習為代表的機器學習技術，這讓計算機可以從大量數據中自主學習與進化，從而作出比人類更高效、更精準、更廉價的預測與決策。正因如此，人工智能作為新的通用型技術，被認為將給經濟和社會帶來變革性影響，已被各國上升到國家戰略和科技主權高度，成為不斷升溫的全球科技競爭的新焦點。
在應用層面，人工智能已經滲透到各行各業，算法幫我們過濾掉垃圾郵件，給我們推薦可能喜歡的歌曲，為我們翻譯不同的語言文字，替我們駕駛汽車。新冠肺炎疫情暴發以來，人工智能在輔助醫療診斷與新藥研發等方面嶄露頭角，無人物流配送、無人駕駛汽車等新模式助力非接觸服務發展。總之，人工智能潛力巨大，可以成為一股向善的力量，不僅帶來經濟增長，增進社會福祉，還能促進可持續發展。
但與此同時，人工智能及其應用的負面影響與倫理問題也日益凸顯，呼吁人們在技術及其產業化之外更加關注倫理視域。例如，人工智能模型訓練及其應用離不開大量數據的支持，可能導致違法違規或過度收集、使用用戶數據，加深人工智能與數據隱私保護之間的緊張關系；人臉識別技術在一些場景的應用也引發了國內外對該技術侵犯個人隱私的爭議。人工智能技術也可能被不法分子濫用，例如用來從事網絡犯罪，生產、傳播假新聞，合成足以擾亂視聽的虛假影像等。
隨著算法歧視的不斷發酵，人工智能參與決策的公平性問題也備受關注。有研究發現，很多商業化的人臉識別系統都存在種族、性別等偏見，這樣的技術用于自動駕駛汽車，就可能導致黑人等深色皮膚的人更容易被自動駕駛汽車撞到。人工智能在招聘、廣告投放、信貸、保險、醫療、教育、司法審判、犯罪量刑、公共服務等諸多方面的應用也伴隨公平性爭議。此外，人工智能的知識產權保護問題也日益浮現，目前人工智能已能夠獨立創造詩歌、小說、圖片、視頻等，知識產權制度將需要盡快回應人工智能創造物的保護問題。自動駕駛汽車、AI醫療產品等人工智能應用一旦發生事故，也面臨誰來擔責的難題。最后，人工智能的應用可能取代部分手工的、重復性的勞動，給勞動者就業帶來一定沖擊。
2020年被認為是人工智能監管元年，美歐采取的監管路徑大相徑庭。歐盟《人工智能白皮書》提出的“重監管”模式更多倚重事前的規制，考慮為技術開發與應用設置嚴苛條件；美國《人工智能應用監管指南》提出的“輕監管”模式更多倚重標準、指南等彈性手段，考慮為人工智能應用設置避風港、“監管沙箱”等。在全球科技競爭日趨激烈、數字經濟日趨成為國家核心競爭力等背景下，考慮到我國科技行業發展實際，我國對人工智能需要創新治理，倚重敏捷監管、倫理治理、技術治理等多元手段來共同確保人工智能正向應用與向善發展。
首先，監管不僅需要對人工智能應用分級分類、以問題和風險防范為導向，而且需要具有敏捷性與適應性。人工智能技術的一個核心特征是快速發展迭代，制定強制性法律必然趕不上技術發展步伐，所以國外大都采取出臺指南、倫理框架等“軟法”。此外，自動駕駛汽車、智能醫療等人工智能應用的發展落地仍面臨較多法規政策障礙，需要考慮修訂阻礙性的法律法規，同時通過“數字沙箱”“安全港”“試點”等方式推動其試驗與應用落地。
其次，采取倫理治理，把倫理原則轉化為倫理實踐。目前，國內外很多科技公司都出臺了人工智能倫理原則，也在通過倫理審查委員會、倫理嵌入等方式落實其倫理原則。行業的這些倫理治理措施已在國內外獲得較大共識，更能適應AI技術發展。
再次，以技術手段防范人工智能濫用。例如，深度合成作為一項人工智能應用，在影視制作、教育、醫療、娛樂等領域具有很大正向應用價值，但也可能被不法分子濫用來制造、傳播虛假影像以從事欺詐欺騙活動。對此，行業內已在積極研發、部署內容鑒別與溯源技術，以對抗深度合成的濫用。面對復雜性與迭代速度不斷增強的人工智能應用，技術治理將發揮越來越大的作用。(作者：曹建峰，系騰訊研究院高級研究員曹建峰)
（責任編輯：蔡文斌）
晉公網安備 14090202000008號 
