美科學(xué)家:當(dāng)人工智能遇上倫理道德
摘要:原標(biāo)題:當(dāng)人工智能遇上倫理道德 美國宇航局的機(jī)器宇航員2 號 圖片來源:Joseph Bibby 在近日發(fā)表于《自然》雜志上的一篇評論文章中,4位計算機(jī)領(lǐng)域的研究領(lǐng)軍者分享
美國宇航局的機(jī)器宇航員2 號 圖片來源:Joseph Bibby
在近日發(fā)表于《自然》雜志上的一篇評論文章中,4位計算機(jī)領(lǐng)域的研究領(lǐng)軍者分享了他們對該領(lǐng)域的思考。
目前,美國國防部高級研究計劃局(DARPA)正在推進(jìn)兩個項目:“快速輕型機(jī)器人”(FLA)和“敵對環(huán)境下聯(lián)合作戰(zhàn)”(CODE),前者計劃設(shè)計出一款旋翼機(jī),能夠在沒有外界操控的情況下以極高的速度在城市環(huán)境或建筑物內(nèi)部敏捷地飛行;而后者的目標(biāo)是開發(fā)無人飛行器,將能夠在完全與總部失去聯(lián)絡(luò)的情況下完成一整套攻擊程序——搜索目標(biāo)、鎖定、跟蹤、攻擊、評估。它們將有可能促成“殺手機(jī)器人”的研發(fā)。
在近日發(fā)表于《自然》雜志上的一篇評論文章中,4位相關(guān)領(lǐng)域的研究領(lǐng)軍者分享了他們對智能機(jī)器社會風(fēng)險的擔(dān)憂和解決方案。
美國加州大學(xué)伯克利分校的計算機(jī)科學(xué)教授Stuart Russell認(rèn)為,這些武器所具備的敏捷性和致命性將讓人類陷入毫無招架之力的境地,“這不是我們所夢想的未來場景”。而來自英國布里斯托爾大學(xué)的機(jī)器人專家Sabine Hauert則表示,公眾無須對人工智能技術(shù)的發(fā)展感到擔(dān)憂。
應(yīng)對人工智能武器表明立場
Stuart Russel(美國加州大學(xué)伯克利分校計算機(jī)科學(xué)教授)
人工智能(AI)和機(jī)器人領(lǐng)域的專家面臨一個重要的倫理決策:必須要決定他們是支持還是反對致命自主武器系統(tǒng)(LAWS)。此類系統(tǒng)能在幾年而非幾十年內(nèi)發(fā)展為可行的。該領(lǐng)域的風(fēng)險很高,致命自主武器系統(tǒng)被描述為戰(zhàn)爭的第三次革命,前兩次是火藥和核武器。
在幾年之內(nèi),軍方就可以組裝帶有武器的四軸飛行器和微型坦克,這些自動的飛行器和坦克不需要人類干預(yù),自己能決定誰能活下來而誰又會死去。例如,四軸飛行器能在一座城市中找到并打擊敵方戰(zhàn)士,但不包括人類能設(shè)定目標(biāo)的巡航導(dǎo)彈和遙遠(yuǎn)的無人駕駛飛機(jī)。
但是,國際人道法律對于此類技術(shù)沒有任何具體的規(guī)定,現(xiàn)在也還不清楚國際社會是否會支持一個限制或禁止此類武器系統(tǒng)的條約。1949年簽訂的戰(zhàn)爭人道主義《日內(nèi)瓦公約》要求任何襲擊需要滿足3個條件:軍事必需、參與戰(zhàn)爭者和非參戰(zhàn)者差別對待、軍事目標(biāo)價值及其潛在附帶傷害的平衡。而當(dāng)前的自動武器很難或根本無法作出這些主觀判斷。
作為一個人工智能專家,我曾被要求為特定常規(guī)武器公約(CCW)第三次重要會議提供專業(yè)證據(jù)。德國等許多國家迫切要求簽署禁令,但美、英和以色列這3個LAWS技術(shù)領(lǐng)先的國家則認(rèn)為這樣一個條約沒有必要。
LAWS通過允許機(jī)器選擇殺死誰,而可能侵犯人類尊嚴(yán)的基本原則。在我看來,最應(yīng)當(dāng)關(guān)注的是這個技術(shù)發(fā)展軌跡的可能終點(diǎn)。我認(rèn)為超過人類控制的系統(tǒng)將建成這一點(diǎn)是不可避免的。當(dāng)然這些武器系統(tǒng)能涉及的范圍和攜帶大型武器的能力會受到物理定律的限制。然而它們的靈活性和殺傷力將讓人們毫無防御之力。這樣的未來不會是人們想要的。
因此,人工智能和機(jī)器人領(lǐng)域的科學(xué)家及其所在的專業(yè)組織應(yīng)當(dāng)表明立場,正如物理學(xué)家當(dāng)年對于核武器,抑或是生物學(xué)家對于在戰(zhàn)爭中使用病原體表明立場一樣。應(yīng)當(dāng)召開學(xué)術(shù)會議進(jìn)行討論,并讓倫理委員會參與進(jìn)來。什么都不做就等于是表示支持繼續(xù)發(fā)展和使用。
積極討論,不要厭惡機(jī)器人
Sabine Hauert(英國布里斯托爾大學(xué)機(jī)器人學(xué)講師)
針對機(jī)器人和人工智能的惡意炒作讓一些研究人員十分憤怒,這使得他們停止與媒體或公眾溝通。
但我們無法脫離社會。公眾包括納稅人、政策制定者、投資者和那些利益相關(guān)者。他們在聽聞一邊倒的討論后,擔(dān)憂機(jī)器人會搶了他們的飯碗,害怕人工智能產(chǎn)生實(shí)在的威脅,并在考慮是否應(yīng)制定法律控制這些仍在假設(shè)中的技術(shù)。
而我和同事會在晚宴時間向大家解釋,我們并非一群惡魔,我們花費(fèi)多年時間潛心研發(fā),目的是為了開發(fā)那些能夠幫助老人,改善健康,讓我們的工作環(huán)境更加安全和有效率,并讓我們能夠探索太空和海洋的設(shè)備。
專家需要成為信息傳遞者。研究人員應(yīng)利用社會媒體這一公共平臺,誘導(dǎo)相關(guān)討論變得平衡。我們能夠探討最新進(jìn)展和限制因素,解開人工智能技術(shù)的神秘面紗。
人工智能和機(jī)器人領(lǐng)域需要思想領(lǐng)袖,以便與霍金等杰出評論家和Elon Musk等風(fēng)險投資家建立友好的關(guān)系,并在世界經(jīng)濟(jì)論壇等會議上設(shè)置機(jī)構(gòu)等。而且,公眾參與也將有助于籌集經(jīng)費(fèi)。
當(dāng)然,也存在不少障礙:首先,許多研究人員沒有推特和博客賬戶;第二,時間十分有限;第三,可能需要數(shù)年時間才能建立一個社交媒體互動機(jī)制。在我看來,全世界的人工智能和機(jī)器人領(lǐng)域的利益相關(guān)者,應(yīng)當(dāng)聯(lián)合一部分資金,以幫助該領(lǐng)域增大發(fā)言權(quán)。
公平分配人工智能福利
Russ Altman(美國斯坦福大學(xué)生物工程、基因?qū)W、醫(yī)學(xué)和計算科學(xué)教授)
人工智能在加速生物和醫(yī)學(xué)領(lǐng)域的科學(xué)發(fā)現(xiàn)及改變醫(yī)療衛(wèi)生方面有驚人潛力。人工智能系統(tǒng)有望幫助弄清若干新型數(shù)據(jù):基因組學(xué)、蛋白質(zhì)組學(xué)和新陳代謝組學(xué)等“組學(xué)”的測量值;電子病歷;健康信號的數(shù)字傳感器監(jiān)控。
聚類分析能判斷新綜合征,分離那些曾被認(rèn)為是相同的疾病以及統(tǒng)一那些根本缺陷相同的疾病。模式識別技術(shù)能將疾病與療法相匹配。例如,我和同事正在識別對調(diào)節(jié)免疫系統(tǒng)的藥物可能有響應(yīng)的患者群體。
在協(xié)商中,內(nèi)科醫(yī)生可能會使用來自“虛擬群體”的患者數(shù)據(jù)——他們就好像彼此坐在一起,評估診斷、選擇療法和統(tǒng)計結(jié)果。他們將可能在一個此類系統(tǒng)中進(jìn)行醫(yī)療決策,或使用基于患者數(shù)據(jù)的模擬實(shí)驗(yàn)預(yù)測結(jié)果。
但我有兩個擔(dān)憂。首先,人工智能技術(shù)將加劇目前的醫(yī)療衛(wèi)生不平衡狀況,除非能發(fā)現(xiàn)一種方式,讓所有病人受益。例如,在美國,失業(yè)人員會經(jīng)歷各種水平的護(hù)理。只有特殊群體或能支付得起的人,才能獲益于先進(jìn)的診斷技術(shù),這是不公平、不合理的。
第二,我擔(dān)憂臨床醫(yī)生理解和解釋高性能人工智能系統(tǒng)所得出的結(jié)果的能力。大多數(shù)衛(wèi)生保健提供者不會接受一個來自決策支持系統(tǒng)的沒有明確描述如何和為何能出現(xiàn)效果的復(fù)雜治療建議。因此,研究人員需要讓醫(yī)生、護(hù)士、患者和其他人明白他們應(yīng)該如何使用人工智能,并且如何公平地使用。
機(jī)器人是人類的補(bǔ)充物,而非替代品
Manuela Veloso(美國卡內(nèi)基·梅隆大學(xué)計算機(jī)學(xué)教授)
我們正使用自己的感覺評估世界狀態(tài),用我們的大腦思索,選擇達(dá)成目標(biāo)的行動,并用自己的身體執(zhí)行這些行動。我的科研團(tuán)隊正試著建造能同樣做這些的機(jī)器人,它們將擁有人造感應(yīng)器、算法和制動器。
但自動機(jī)器人和人類的能力之間存在極大差別。機(jī)器人通常存在知覺、認(rèn)知和行動限制。它們通常無法充分理解一個場景,認(rèn)識或操縱物體,理解所有的口頭或書面用語等。我認(rèn)為,機(jī)器人是人類的補(bǔ)充物,而非替代品。但機(jī)器人需要知道何時尋求幫助以及如何表達(dá)其內(nèi)部工作原理。
為了更多了解機(jī)器人和人類如何共同工作,在過去3年里,我們與4個自己研發(fā)的機(jī)器人分享了我們的實(shí)驗(yàn)室和建筑。這些機(jī)器人看上去有點(diǎn)像機(jī)械講臺。它們擁有全方位車輪,以便平穩(wěn)越過障礙物;照相機(jī)和激光雷達(dá)系統(tǒng),以提供深度視力;用于內(nèi)部處理的計算機(jī);用于交流的屏幕,和攜帶東西的籃子。
之前,我們就已經(jīng)意識到現(xiàn)實(shí)世界對機(jī)器人的挑戰(zhàn)。于是,我們引入了“共生自主性”的概念,以便機(jī)器人向人類和互聯(lián)網(wǎng)尋求幫助。現(xiàn)在,我們實(shí)驗(yàn)室里的機(jī)器人和人類能彼此幫助,共同克服各自的局限性。
不過,人類與機(jī)器人能安全、有效共存,還須克服一些障礙。我們正在研究人和機(jī)器人如何更簡單地通過語言和動作進(jìn)行溝通。我們還在探索如何改善機(jī)器人外觀,提高其與外界的互動,尤其是指示燈如何向人類揭示機(jī)器人的內(nèi)在狀態(tài)。
盡管我們還有很長的路要走,但我相信,如果人類和機(jī)器人能彼此幫助、相互補(bǔ)充,未來將是樂觀的。
責(zé)任編輯:fl
(原標(biāo)題:中國科學(xué)報 )
查看心情排行你看到此篇文章的感受是:
版權(quán)聲明:
1.凡本網(wǎng)注明“來源:駐馬店網(wǎng)”的所有作品,均為本網(wǎng)合法擁有版權(quán)或有權(quán)使用的作品,未經(jīng)本網(wǎng)書面授權(quán)不得轉(zhuǎn)載、摘編或利用其他方式使用上述作品。已經(jīng)本網(wǎng)授權(quán)使用作品的,應(yīng)在授權(quán)范圍內(nèi)使用,并注明“來源:駐馬店網(wǎng)”。任何組織、平臺和個人,不得侵犯本網(wǎng)應(yīng)有權(quán)益,否則,一經(jīng)發(fā)現(xiàn),本網(wǎng)將授權(quán)常年法律顧問予以追究侵權(quán)者的法律責(zé)任。
駐馬店日報報業(yè)集團(tuán)法律顧問單位:上海市匯業(yè)(武漢)律師事務(wù)所
首席法律顧問:馮程斌律師
2.凡本網(wǎng)注明“來源:XXX(非駐馬店網(wǎng))”的作品,均轉(zhuǎn)載自其他媒體,轉(zhuǎn)載目的在于傳遞更多信息,并不代表本網(wǎng)贊同其觀點(diǎn)和對其真實(shí)性負(fù)責(zé)。如其他個人、媒體、網(wǎng)站、團(tuán)體從本網(wǎng)下載使用,必須保留本網(wǎng)站注明的“稿件來源”,并自負(fù)相關(guān)法律責(zé)任,否則本網(wǎng)將追究其相關(guān)法律責(zé)任。
3.如果您發(fā)現(xiàn)本網(wǎng)站上有侵犯您的知識產(chǎn)權(quán)的作品,請與我們?nèi)〉寐?lián)系,我們會及時修改或刪除。