智能機器人學會騙人

智能機器人學會騙人 科學家防止其濫用騙術
2010年09月14日09:11
來源：《科技日報》

　本報訊 （記者張夢然）英國《每日郵報》9月13日（北京時間）的一篇文章，以“現實版《2001太空漫游》”作為大標題，報道了一台能夠欺騙其他機器人、甚至欺騙人類的智能機器人。據研制機器人的科學家稱，這應是世界上第一例涉及機器人“欺騙行為”而進行的實驗。論文刊登在《國際社交機器人技術雜志》上。

　　在美國電影大師斯坦利·庫布裡克的殿堂級作品《2001太空漫游》中，宇宙飛船上一台名叫“哈爾”的智能電腦，劫持了飛船並施計殺死了4名機組人員，表現出人工智能的精湛“騙術”。

　　一直以來，人們認為這只是科幻電影中的場景，但現在，美國佐治亞州理工學院的科學家羅納德·亞金率領的研究小組編寫出了一套計算機運算法則，該高科技程序能讓機器人自主決定它是否面臨危險，以及是否應該通過欺騙另一個機器人或一個人的方式，讓自己安全地躲藏起來，而不被敵人發現。

　　為了防止機器人濫用“騙術”，科學家使其必須先滿足兩個必要條件后，才能獲得行使欺騙行為的授權：其一，它和搜尋者之間必須有沖突﹔其二，它可以從欺騙行為中獲得益處。再然后，科學家利用相互依存理論和博弈論開發出算法，測試欺騙行為可以獲得的收益，以教會機器人在辨別眼前的形勢后決定是否需要行使欺騙行為，並讓它能根據對“敵方”的了解程度，而調整欺騙策略以贏取最佳效果。

　　在實驗中，科學家讓兩個機器人進行了20次“躲貓貓”游戲。其中安裝了新程序的“機器小騙子”多次制造出假的運動軌跡，順利躲過了另一個機器人的搜尋﹔但該機器人也會因為沒能成功施展出計劃中的騙術，被后者逮到而失敗，然而，整個實驗中，騙術成功的概率達75%。研究合作者、工程師艾倫·瓦格納稱：“它雖不甚完美，但仍証明新技術及算法可使機器人於雜亂環境下施行騙術。”

　　盡管有些人期待著“機器小騙子”在軍事上“大展拳腳”，但包括研究者本身在內的多數人，都看到了這其中暗含的倫理問題。他們擔心，假如某一天人工智能擺脫了人類意志而自行設下迷魂陣，屆時現實版的《2001太空漫游》就將“粉墨登場”。

　　研究人員一致認為，必須保証機器人這些行為和預期完全一致並對社會有益。他們建議，就“騙子”機器人的適合性展開討論，爭取制訂出束縛這一系統的規章制度和指導方針。

　　總編輯圈點
　　與其說機器人學會了騙人類，不如說是人類在騙自己玩兒，這樣的事隨時都會在我們身邊發生，不算稀奇。這位機器人兄弟是很了不起,但其本身並不能自主思考，舉手投足間所反映的還是主人的高明。而就人工智能水平而言，亞金這一作品也未超越當年因戰勝國際象棋大師卡斯帕羅夫而名噪一時的IBM超級計算機“深藍”。憑藉預置若干出色的程序,機器人的行為讓人喜出望外，僅此而已。這時候就談論相關的倫理問題,未免有嘩眾取寵之嫌。

http://scitech.people.com.cn/BIG5/12718288.html

DARPA的“PAL” - 邊做邊學的個人化助手

可讀取你腦袋培訓自己的機器人

2011會否是機械人之年？

機械人會有它們自己的互聯網

時代週刋對我們的機械人未來的報告：五項不可思議的預測

機器崛起：無人駕駛飛機在移動我們朝向一個'似終結者'的世界：國防部說

日本科學家研制懂思考會學習機器人