新華社北京５月１７日電 新聞分析：世界電信日,，為何強(qiáng)調(diào)人工智能“正當(dāng)使用”

　　新華社記者

　　無(wú)人超市,、自動(dòng)駕駛、機(jī)器“詩(shī)人”……近年來(lái),，人工智能在全球多個(gè)領(lǐng)域掀起“智慧革命”,。５月１７日是世界電信和信息社會(huì)日，國(guó)際電信聯(lián)盟將今年的主題確定為“推動(dòng)人工智能的正當(dāng)使用,，造福全人類(lèi)”,。

　　為何要如此強(qiáng)調(diào)人工智能“正當(dāng)使用”,？因?yàn)?，人工智能的突破猶如“雙刃劍”，“正當(dāng)使用”可以為社會(huì)發(fā)展提供新動(dòng)能,、造福人類(lèi),，而濫用則可能帶來(lái)無(wú)窮隱患,。

　　今年４月,，聯(lián)合國(guó)《特定常規(guī)武器公約》政府專(zhuān)家小組在瑞士日內(nèi)瓦召開(kāi)會(huì)議,，討論致命自主武器系統(tǒng)研發(fā),，即“殺手機(jī)器人”可能帶來(lái)的影響,。人工智能界的專(zhuān)家學(xué)者及防務(wù)分析人士一致認(rèn)為,，軍事機(jī)器人革命帶來(lái)的倫理、法律及政策等問(wèn)題,，尤其是自主武器能否自行判斷殺敵,，是令人擔(dān)憂和亟需討論的現(xiàn)實(shí)問(wèn)題,。

　　實(shí)際上,，警惕“殺手機(jī)器人”的呼聲早已形成。在２０１７年人工智能?chē)?guó)際會(huì)議上,，有硅谷“鋼鐵俠”之稱(chēng)的馬斯克,、蘋(píng)果聯(lián)合創(chuàng)始人沃茲尼亞克、研發(fā)“阿爾法圍棋”的深度思維公司創(chuàng)始人哈薩比斯等科技界名人曾簽署公開(kāi)信,，呼吁聯(lián)合國(guó)應(yīng)像禁止生化武器一樣,，禁止在戰(zhàn)爭(zhēng)中使用致命的自主武器和“殺手機(jī)器人”。

　　大多數(shù)專(zhuān)家學(xué)者認(rèn)為,，人工智能迅速發(fā)展給社會(huì)各領(lǐng)域帶來(lái)深遠(yuǎn)影響,，對(duì)軍事作戰(zhàn)系統(tǒng)研發(fā)也帶來(lái)全新理念，但就使用致命武器而言,，人應(yīng)當(dāng)是負(fù)責(zé)啟動(dòng)的關(guān)鍵要素,。什么樣的人工控制才是最適宜的，相關(guān)討論仍在持續(xù)進(jìn)行,。

　　通常一種新技術(shù)的適用范圍越廣,，被濫用的風(fēng)險(xiǎn)越高。人工智能在一個(gè)個(gè)領(lǐng)域“攻城略地”,，推動(dòng)產(chǎn)業(yè)變革,，但也令人對(duì)其高速發(fā)展所帶來(lái)的未知性心存憂慮。

　　被美國(guó)《麻省理工學(xué)院技術(shù)評(píng)論》評(píng)為“全球十大突破性技術(shù)”之一的“對(duì)抗性神經(jīng)網(wǎng)絡(luò)”,，旨在突破人工智能想象力,、創(chuàng)造力的瓶頸。但在展現(xiàn)巨大潛力的同時(shí),，這項(xiàng)技術(shù)發(fā)展的負(fù)面影響也不容忽視,。

　　在相關(guān)試驗(yàn)中，美國(guó)芯片企業(yè)英偉達(dá)的研究人員用明星照片訓(xùn)練出一套系統(tǒng),，進(jìn)而生成了數(shù)百?gòu)埜静淮嬖?、但看起?lái)很真實(shí)的人臉照片。還有研究團(tuán)隊(duì)讓系統(tǒng)生成看起來(lái)十分逼真的梵高油畫(huà),。

　　專(zhuān)家提醒,，不法分子可能利用此類(lèi)系統(tǒng)制造出圖片甚至視頻來(lái)混淆視聽(tīng)，給監(jiān)管,、安全帶來(lái)新挑戰(zhàn),。這一領(lǐng)域的技術(shù)先驅(qū)、美國(guó)科學(xué)家伊恩·古德費(fèi)洛就表示,，他當(dāng)前的研究重心已經(jīng)轉(zhuǎn)向如何避免這類(lèi)技術(shù)的濫用問(wèn)題,，希望它“不至誤入歧途”。

　　任何一種新技術(shù)的出現(xiàn),，人們?cè)诔浞窒硎芷鋷?lái)福祉的同時(shí),，也必須及時(shí)防范相關(guān)風(fēng)險(xiǎn)。如何進(jìn)行適當(dāng)引導(dǎo)和管理,，同樣考驗(yàn)人類(lèi)智慧,。

　　科學(xué)家一直希望以最簡(jiǎn)單的辦法，保證以機(jī)器人為代表的人工智能不給人類(lèi)帶來(lái)任何威脅,。人們最熟悉的莫過(guò)于科幻作家阿西莫夫設(shè)計(jì)的“機(jī)器人三定律”,。美國(guó)機(jī)器智能研究院奠基人尤德科夫斯基也提出了“友好人工智能”的概念，認(rèn)為“友善”從設(shè)計(jì)伊始就應(yīng)當(dāng)被注入機(jī)器的智能系統(tǒng)中,。

　　不少專(zhuān)家建議,，除了設(shè)計(jì)和建造要遵循技術(shù)規(guī)范，還可由政府有關(guān)部門(mén)牽頭,，成立由技術(shù)專(zhuān)家,、社會(huì)科學(xué)研究人員、政府管理人員為核心的人工智能管理委員會(huì),，對(duì)涉及人工智能的研究和開(kāi)發(fā)項(xiàng)目進(jìn)行審核評(píng)估,。

　　與生物技術(shù)、核技術(shù)相比,，目前對(duì)人工智能領(lǐng)域的監(jiān)管依然薄弱,。如何對(duì)可能形成的負(fù)面影響未雨綢繆、為技術(shù)發(fā)展劃出法律和倫理道德的邊界,，已經(jīng)迫在眉睫,。如何讓人工智能更好地服務(wù)人類(lèi)社會(huì)，也是世界范圍內(nèi)的一項(xiàng)共識(shí),。

　　去年７月,，中國(guó)國(guó)務(wù)院發(fā)布的《新一代人工智能發(fā)展規(guī)劃》就提出，“建立人工智能法律法規(guī),、倫理規(guī)范和政策體系,，形成人工智能安全評(píng)估和管控能力”。

　　中國(guó)科學(xué)技術(shù)大學(xué)機(jī)器人實(shí)驗(yàn)室主任陳小平教授認(rèn)為,，要規(guī)范人工智能發(fā)展,，首先要把基礎(chǔ)技術(shù)研究好，“未雨綢繆,，需要我們走到前列,，才能有發(fā)言權(quán)，有具體的思考和對(duì)這一領(lǐng)域的深刻知識(shí),，才能具備治理的能力,，進(jìn)而提出我們自己的意見(jiàn)和規(guī)則”。（執(zhí)筆記者：劉石磊,；參與記者：李宓,、楊駿）

【糾錯(cuò)】

責(zé)任編輯： 聶晨靜