正如蒸汽機、發(fā)電機曾給世界帶來變革一樣，當前人工智能(AI)技術(shù)正快速深入應(yīng)用于社會各領(lǐng)域，展現(xiàn)出顛覆性力量。人工智能越智能，就越需要治理的力量，也只有處理好人與人工智能的關(guān)系，人類社會才能放心擁抱AI“紅利”。

在2021世界人工智能大會治理論壇上，來自政產(chǎn)學(xué)研界的專家達成共識：為確保人工智能安全、可靠、可控，建立健全法律法規(guī)、制度體系、倫理道德，需要科學(xué)評估人工智能應(yīng)用的社會綜合影響，為智能時代的政府治理提供有效支撐。

中國AI治理的模式變了

“治理跟不上，人工智能就發(fā)展不好。”清華大學(xué)蘇世民書院院長、國家新一代人工智能治理專業(yè)委員會主任薛瀾說，從國家積極推動行業(yè)發(fā)展，到出臺行業(yè)軟性規(guī)則，再到多部門采取措施整治，我國人工智能的治理模式正從“回應(yīng)式治理”轉(zhuǎn)向“集中式治理”。“從去年開始，我們對人工智能發(fā)展中的一些問題進行了集中治理，相關(guān)法律法規(guī)出臺的進度也在加快。”

隨著人工智能技術(shù)不斷進階，治理模式也得“與時俱進”。面向未來，薛瀾提出了“敏捷治理”模式，“這是一種多元治理主體參與、多種治理工具靈活運用的剛?cè)岵闹卫砟Ｊ?rdquo;，即在確保人工智能安全和平等的基礎(chǔ)上，鼓勵企業(yè)創(chuàng)新，并及時識別AI應(yīng)用帶來的風險，果斷給予適當規(guī)制。

對于AI應(yīng)用的研究也在走向深入?！渡虾倚乱淮斯ぶ悄軇?chuàng)新發(fā)展試驗區(qū)社會實驗工作方案》在論壇上發(fā)布，它將深入了解回應(yīng)當前國內(nèi)人工智能及數(shù)字技術(shù)應(yīng)用中公眾關(guān)注和反映較多的問題。市科委副主任王曄表示，醫(yī)療診斷輔助決策支持、隨申碼應(yīng)用拓展、老人智能服務(wù)應(yīng)用系統(tǒng)等，都是與市民生活息息相關(guān)的人工智能應(yīng)用，“我們將這些場景作為首批實驗工作目標，將其放在科學(xué)系統(tǒng)的分析框架下進行研究”。

建立公正透明的評估體系

人工智能治理難在哪里?圖靈獎得主、中科院外籍院士約翰·霍普克羅夫特說：“人工智能會告訴我們答案，但不會告訴我們答案背后的理由，如果訓(xùn)練它的數(shù)據(jù)存在偏見，那么結(jié)果也可能是有偏見的。”霍普克羅夫特認為，達成一套透明、公平、公正的評估體系至關(guān)重要。

以自動駕駛為例，它通過大量數(shù)據(jù)生成駕駛決策，在這一過程中，我們要盡可能地去收集更多相關(guān)場景數(shù)據(jù)，去模擬和仿真出各種相關(guān)場景，然后把各類人工智能技術(shù)放在這些環(huán)境和場景下去評估。

建立公平透明的評估體系需要依靠政產(chǎn)學(xué)研各方力量，除了作為監(jiān)管主體的政府和研發(fā)主體的企業(yè)，霍普克羅夫特還著重強調(diào)了另外一些機構(gòu)，比如教育和媒體，“整個社會都要了解人工智能可能帶來的問題，這就需要教育的力量，如果一座城市有更多懂AI的人，并且能夠加入到人工智能這個議題的討論中來，人工智能就能朝著更加以人為本的方向發(fā)展”。

治理AI需要健全的倫理體系

“在人工智能發(fā)展的問題上，當下最迫切也是最核心的問題是數(shù)據(jù)。”商湯科技聯(lián)合創(chuàng)始人楊帆說。

“數(shù)據(jù)很奇怪，產(chǎn)生它并不容易，但是復(fù)制成本特別低，而且維度越多、越龐大的數(shù)據(jù)價值越大，在不同人手里發(fā)揮出的價值天差地別，這就產(chǎn)生了很多新問題。比如數(shù)據(jù)所有權(quán)、使用權(quán)如何界定，復(fù)制數(shù)據(jù)的價格如何計算等。”楊帆提出了他的思考。

治理人工智能需要健全的倫理體系。作為人類智能的產(chǎn)物，人工智能需要以人的道德價值作為行為依據(jù)。在楊帆看來，人工智能的倫理問題主要包括三個方面：一是以人為本，阿西莫夫提出的“機器人三原則”是從限制機器角度為人類發(fā)展撐起一把保護傘，同樣，人工智能也需要正向為人類提供服務(wù);二是可持續(xù)發(fā)展，任何技術(shù)的發(fā)展都要講究人與自然的平衡，在更加良性的環(huán)境中得到互動和發(fā)展;三是技術(shù)可控，即對技術(shù)實現(xiàn)更好的控制。

隨著國家、城市與社會各行業(yè)的數(shù)字化轉(zhuǎn)型，數(shù)據(jù)問題會越來越多地擺在人們面前，成為一項巨大挑戰(zhàn)。如何處理好數(shù)據(jù)問題或?qū)⑶藙诱麄€科學(xué)體系，乃至變革人類社會。