前不久，一張“美國保安機器人投池自殺”的照片在國外社交網(wǎng)絡走紅。

　　據(jù)悉，事發(fā)美國華盛頓DC的一幢辦公樓內，一名負責安保巡邏的機器人（史蒂夫）不知為何，突然一頭扎到室內的噴泉池里，讓人詫異。

　　事后，腦洞大開的網(wǎng)友炸開了鍋，紛紛評論：“當機器人學會自殺或者弒主，就是意識覺醒了”“可能是天太熱了，它就想洗個澡而已”“愿天堂沒有工作”……

　　上周五，史蒂夫的制造商發(fā)消息說，經(jīng)過對史蒂夫內置的“黑匣子”進行數(shù)據(jù)分析后發(fā)現(xiàn)，史蒂夫投池的原因是“地磚表面松動”，導致機器人沒有探測到水池，結果一頭扎了進去，肯定不是“自殺”。

　　消息公布前，史蒂夫機器人還特地發(fā)“推文”，證明自己“還活著”：“那些關于我死了的報道實在太夸張了，我7天24小時工作著，并熱愛我的工作，我是個工作狂”。

　　我們不禁又想起了去年著名的“機器人小胖傷人事件”：

　　在去年11月深圳舉行的第十八屆高交會現(xiàn)場，一臺名為“小胖”的機器人突然打砸展臺玻璃，玻璃臺倒地劃傷現(xiàn)場觀眾。據(jù)在場觀眾描述，“自己親眼看到，小胖機器人沒人操控自己突然跑起來把玻璃墻給撞倒了，砸傷旁邊一路人……”不過后來經(jīng)過高交會組委會的調查，實際上這起事故是工作人員操作失誤。

　　盡管是一場鬧劇，但是人們更感興趣的是：在人工智能氛圍日漸濃郁的今天，機器人到底有沒有自我意識？

　　科幻電影《機械姬》中，機器人“艾娃”不擇手段殺死了創(chuàng)造自己的人。

　　《終結者》中，人類研制的高級計算機控制系統(tǒng)“天網(wǎng)”失控，機器人擁有自我意志后，開始屠殺人類。

　　而現(xiàn)實生活中，類似的“悲劇”還真有發(fā)生……

　　1978年9月6日，日本廣島一家工廠的切割機器人在切鋼板時突然發(fā)生異常，將一名值班工人當作鋼板操作，這是世界上第一宗機器人“殺人”事件。

　　1981年7月4日，日本川崎重工業(yè)公司明石工廠的一名修理工人，無意中觸動了機器人的啟動鈕，這個加工齒輪的機器人立即工作起來，把那個工人當成齒輪夾起，放在加工臺上砸成了肉餅。

　　1982年5月，日本山梨縣閥門加工廠的一個工人，正在調整停工狀態(tài)的螺紋加工機器人時，機器人突然啟動，抱住工人旋轉起來，造成了悲劇。

　　1989年2月底，在日本的一個無人工廠里，發(fā)生了一起機器人將一名維修人員強行拖入轉動的機器中絞死的事故。

　　2007年的一天，馬來西亞炒菜機器人將蝦仁炒糊，當憤怒的餐廳老板夫妻到廚房看個究竟時，這個機器人突然向老板一巴掌拍了過去。啪！它又給了其妻一大耳光。后來查明：“打人”的機器人是受廚房附近的高頻電磁波干擾才失手。

　　2015年7月，在德國大眾汽車公司的一家工廠，機器人“出手”殺死了一名工作人員。據(jù)報道，這名不幸身亡的工作人員是大眾的承包商，事發(fā)時正與同事一起安裝機器人，但機器人卻突然抓住他的胸部，然后把他重重地壓向一塊金屬板，最終導致這名工作人員因傷重不治身亡。

　　最讓人細思極恐的事件是，1989年，前蘇聯(lián)國際象棋冠軍尼古拉?古德科夫和機器人對弈，古德科夫連勝3局，惱羞成怒的機器人突然向金屬棋盤釋放強大的電流，在眾目睽睽之下將這名國際大師擊斃。（筆者注：這是個謠言，詳見果殼科學人）

　　從上面的案例可以看出，出事的機器人要么是操作不當，要么是程序出錯，至于產(chǎn)生像人一樣的主觀意志，還是沒有過的。

　　普通機器人尚且如此，那么當聰明的機器人被賦予深度學習能力，甚至能夠輕而易舉地發(fā)現(xiàn)人類犯下的錯誤時，他們是不是會走上反抗人類的道路？

　　今年1月，在美國“阿西洛馬會議”上，包括844名人工智能和機器人領域的專家基于對人工智能和機器人迅猛發(fā)展的深切關注，聯(lián)合簽署了《阿西洛馬人工智能原則》，呼吁全世界的人工智能領域的工作者遵守這些原則，共同保障人類未來的利益和安全。

　　在這總共23條關于人工智能和機器人的“軍規(guī)”中，關于必須讓它們更有道德的條款格外引人注意。越來越多的科學家開始認為，無論是聽話的還是不聽話的人工智能，對于人類來說都有危險性，只有和人類具有一樣價值觀，甚至成為“道德楷模”，人工智能才能真正成為人類的好朋友。