美軍專家警告:機(jī)器人程序可能發(fā)生變異,建議為軍事機(jī)器人設(shè)定道德規(guī)范,否則全人類將付出生命代價(jià)。
毫無疑問,未來戰(zhàn)爭中,自動機(jī)器人士兵將成為作戰(zhàn)的絕對主力。但是美國海軍研究室帕特里克·林博士近日在關(guān)于機(jī)器人士兵的研究報(bào)告《自動機(jī)器人的危險(xiǎn)、道德以及設(shè)計(jì)》中,對美國軍方使用機(jī)器人提出警告,建議為軍事機(jī)器人設(shè)定道德規(guī)范。研究人員認(rèn)為,必須對軍事機(jī)器人提前設(shè)定嚴(yán)格的密碼,否則整個(gè)世界都有可能毀于他們的鋼鐵之手。
軍事機(jī)器人已足夠聰明
報(bào)告中表示,為軍事機(jī)器人設(shè)定道德規(guī)范是一項(xiàng)嚴(yán)肅的工作,人類必須正視快速發(fā)展的機(jī)器人,它們足夠聰明,甚至最后可能展示出超過現(xiàn)代士兵的認(rèn)知優(yōu)勢。
帕特里克·林博士在報(bào)告中說:“現(xiàn)在存在一個(gè)共同的誤解:認(rèn)為機(jī)器人只會做程序中規(guī)定它們做的事情?刹恍业氖,這種想法已經(jīng)過時(shí)了,一個(gè)人書寫和理解程序的時(shí)代已經(jīng)一去不復(fù)返了。”林博士說,實(shí)際上,現(xiàn)在的程序大都是由一組程序師共同完成的,幾乎沒有哪個(gè)人能完全理解所有程序。因此,也沒有任何一個(gè)人能精確預(yù)測出這些程序中哪部分可能發(fā)生變異。
如何能夠保護(hù)機(jī)器人士兵不受恐怖分子、黑客的襲擊或者出現(xiàn)軟件故障呢?如果機(jī)器人突然變得狂暴,誰應(yīng)該負(fù)責(zé)呢,是機(jī)器人的程序設(shè)計(jì)師還是美國總統(tǒng)?機(jī)器人應(yīng)該有“自殺開關(guān)”嗎?林暗示說,唯一解決這些問題的辦法就是提前為機(jī)器人設(shè)定“密碼”,包括倫理道德、法律、社會以及政治等因素。
警告程序師不要急于求成
報(bào)告還指出,現(xiàn)今美國的軍事機(jī)器人設(shè)計(jì)師往往急于求成,常常會將還不成熟的機(jī)器人技術(shù)急匆匆推入市場,促使人工智能的進(jìn)步在不受控制的領(lǐng)域內(nèi)不斷加速發(fā)展。更糟糕的是,目前還沒有一套控制自動系統(tǒng)出錯(cuò)的有效措施。如果設(shè)計(jì)出現(xiàn)錯(cuò)誤,足以讓全人類付出生命的代價(jià)。
設(shè)計(jì)師的這種心理原因可能與美國國會的命令有關(guān)。美國國會規(guī)定:到2010年前,三分之一的“縱深”打擊行動必須由機(jī)器人完成;到2015年前,三分之一的地面戰(zhàn)斗將使用機(jī)器人士兵。
機(jī)器人軍團(tuán)正在組建
成本是士兵的10%,可降低士兵傷亡率達(dá)60%至80%
目前,一些國家正在組建機(jī)器人部隊(duì)。一些軍隊(duì)的機(jī)器人已開始執(zhí)行偵察和監(jiān)視任務(wù),替代士兵站崗放哨、排雷除爆。英國謝菲爾德大學(xué)計(jì)算機(jī)系教授夏基認(rèn)為,機(jī)器人的成本僅是士兵的1/10,它替人類廝殺疆場的場景,將有可能在10年內(nèi)變成現(xiàn)實(shí)。目前,世界已在不知不覺中滑進(jìn)了機(jī)器人軍備競賽;而研制出能夠決定在什么時(shí)候以及向誰動用致命武力的機(jī)器人,也許就在今后10年之內(nèi)。
數(shù)千機(jī)器人服役美軍
2004年美軍僅有163個(gè)地面機(jī)器人。2007年則增長到5000個(gè),至少10款智能戰(zhàn)爭機(jī)器人在伊拉克和阿富汗“服役”。
部署到阿富汗的智能機(jī)器人“赫耳墨斯”主要用于探穴鉆洞,它身上安裝有兩個(gè)照相機(jī),能爬進(jìn)漆黑洞穴并向外發(fā)送圖片;美軍機(jī)器人“劍”在伊拉克戰(zhàn)場更是神通廣大,它能輕易通過任何阻礙,備彈200發(fā),裝備一挺經(jīng)改造的M249型機(jī)槍,射速高達(dá)1000發(fā)/分鐘,火力強(qiáng)度足以與一挺重機(jī)槍媲美;而“背包”機(jī)器人則能在巷戰(zhàn)環(huán)境中捕捉、分辨反美武裝狙擊手的細(xì)微動靜;“嗅彈”機(jī)器人能靈敏地嗅出偽裝起來的爆炸物;名為“仿生蒼蠅”的機(jī)器人則可做一些復(fù)雜的手術(shù)……
美國投入千億研究費(fèi)
五角大樓的決策者們開始認(rèn)同,10年內(nèi)智能戰(zhàn)爭機(jī)器人將成為美軍未來主要戰(zhàn)斗力。為此投入了美國歷史上最大的單筆軍備研究費(fèi)1270億美元,以完成未來戰(zhàn)場上士兵必須完成的一切戰(zhàn)斗任務(wù),包括進(jìn)攻、防護(hù)、尋找目標(biāo)。創(chuàng)意很簡單:未來戰(zhàn)場上,一個(gè)機(jī)器人士兵發(fā)現(xiàn)目標(biāo),然后向指揮所匯報(bào),之后由另一個(gè)機(jī)器人士兵(或?qū)?摧毀目標(biāo)。
據(jù)悉,美軍未來一個(gè)旅級作戰(zhàn)單元,將至少包括151個(gè)機(jī)器人戰(zhàn)士。為了驗(yàn)證這支智能戰(zhàn)爭機(jī)器人隊(duì)伍的作戰(zhàn)能力,美陸軍第29步兵團(tuán)2007年舉行了一場“機(jī)器人戰(zhàn)爭演習(xí)”:整支機(jī)器人作戰(zhàn)兵團(tuán)由18種執(zhí)行不同任務(wù)的機(jī)器人組成,每名機(jī)器人與戰(zhàn)場上各種陸、空作戰(zhàn)平臺及傳感器連接在一起。戰(zhàn)斗打響后,地面機(jī)器人充當(dāng)先鋒,當(dāng)隱藏著的敵人攻擊它時(shí),空中的無人駕駛偵察機(jī)發(fā)現(xiàn)敵軍位置,通知巡航中的無人駕駛智能戰(zhàn)斗機(jī),然后智能戰(zhàn)斗機(jī)發(fā)射導(dǎo)彈命中目標(biāo)。所有戰(zhàn)術(shù)行動都由智能戰(zhàn)爭機(jī)器人自行完成。據(jù)估算,這支機(jī)器人作戰(zhàn)部隊(duì)將使戰(zhàn)斗時(shí)間縮短一半,而美軍士兵傷亡率降低60%-80%。美軍事專家稱,到2015年半數(shù)美軍將是機(jī)器人,而另一半是普通人類士兵。
機(jī)器人軍備競賽正展開
目前,俄羅斯、英國、德國、加拿大、日本、韓國等已相繼推出各自的機(jī)器人戰(zhàn)士,預(yù)計(jì)在不久的將來,還會有更多的國家會投入到這項(xiàng)新戰(zhàn)爭機(jī)器的研制與開發(fā)中去。
英國專家日前發(fā)出警告,隨著世界上多個(gè)國家不顧法律和道德后果加緊開發(fā)軍用機(jī)器人,一場機(jī)器人軍備競賽正在展開。英國設(shè)菲爾德大學(xué)科學(xué)家諾埃爾·夏基說,他對美國等國提出的軍用機(jī)器人計(jì)劃進(jìn)行研究后感到“很害怕”。他最擔(dān)心的是,機(jī)器人今后將自己決定何時(shí)“扣動扳機(jī)”,而“機(jī)器人對于為什么要這樣做沒有判斷能力”。夏基建議,各國政府和機(jī)器人研究者應(yīng)重新考慮目前的研發(fā)計(jì)劃。
相關(guān):
駐伊美軍機(jī)器人“叛亂”
去年正式部署前線僅11小時(shí)后便被召回
去年,曾有3臺帶有武器的“劍(SWORDS)”式美軍地面作戰(zhàn)機(jī)器人被部署到了伊拉克,但是這種遙控機(jī)器人小隊(duì)還未開一槍就很快被從戰(zhàn)場撤回——因?yàn)樗鼈冏隽丝膳碌氖虑椋簩尶趯ο蛩鼈兊娜祟愔笓]官。
美陸軍地面作戰(zhàn)指揮官凱文·法赫去年5月證實(shí),這些機(jī)器人的“槍管在操作者未發(fā)指令的時(shí)候自己移動”,也就是說,“劍”式機(jī)器人工作時(shí)將槍口指向友軍部隊(duì)。而這也導(dǎo)致了這支機(jī)器人部隊(duì)在正式部署前線僅11小時(shí)后便被召回。
法赫證實(shí)機(jī)器人并未開火,也無任何人類在此次事件中傷亡。但這并不意味著零損失,所有關(guān)于機(jī)器人作戰(zhàn)的研究項(xiàng)目都可能因此取消。法赫稱:“一旦遇到如此嚴(yán)重的事變,我們必須花上10年乃至20年,推倒重來!币虼,我們必須再等上很久才能看到機(jī)器人和人類并肩作戰(zhàn)了。
這不僅僅對于機(jī)器人工業(yè)是重大損失,而且也樹立了一個(gè)重要先例:關(guān)于機(jī)器人的任何試驗(yàn)都必須以無人類傷亡為絕對前提。也許對一切事故的極度厭惡,終將導(dǎo)致此領(lǐng)域的任何創(chuàng)新都步履維艱。
銆?a href="/common/footer/intro.shtml" target="_blank">鍏充簬鎴戜滑銆?銆? About us 銆? 銆?a href="/common/footer/contact.shtml" target="_blank">鑱旂郴鎴戜滑銆?銆?a target="_blank">騫垮憡鏈嶅姟銆?銆?a href="/common/footer/news-service.shtml" target="_blank">渚涚ǹ鏈嶅姟銆?/span>-銆?a href="/common/footer/law.shtml" target="_blank">娉曞緥澹版槑銆?銆?a target="_blank">鎷涜仒淇℃伅銆?銆?a href="/common/footer/sitemap.shtml" target="_blank">緗戠珯鍦板浘銆?銆?a target="_blank">鐣欒█鍙嶉銆?/td> |
鏈綉绔欐墍鍒婅澆淇℃伅錛屼笉浠h〃涓柊紺懼拰涓柊緗戣鐐廣?鍒婄敤鏈綉绔欑ǹ浠訛紝鍔$粡涔﹂潰鎺堟潈銆?/font> |