2555

這5件令人毛骨悚然的事情AI已經開始做了

在AI真正存在之前,它一直是科幻小說裡的牛鬼蛇神。雖然仿人的機器人在處於研發階段,但在背後,AI卻依舊悄悄取得了重大的進展。於是事情開始變得奇怪了。

1552632272-4150-b2874e7c4fce851e1e13d5226670

5. AI學會半途而廢,然後開始撒謊

來自於斯坦福大學和谷歌研究團隊的一項研究中,他們使用神經網絡,將航拍照片轉換成地圖。這是AI非常擅長的工作。但研究人員們發現,AI做的太好了,因此他們檢查了數據,發現是AI在作弊。他們希望AI能基於航拍照片,創造一張新的地圖,並根據地圖的特徵與照片之間的匹配程度來對AI進行評分。但是,AI並沒有真正的構造一張新的地圖,而是用一種人類輕易不會注意到的方式,悄悄地複制照片中數據。

這其實是有一些技術性的,但當這樣的神經網絡相於是一個藝術生說自己畫了一幅自畫像,但其實是用Photoshop做的,只是讓它看起來像是手繪。正如TechCrunch上的一篇文章所說:

“航拍地圖的細節被秘密地寫入了接到地圖的實際視覺數據中:這裡有成千上萬細微的顏色變化,這是我們人眼所無法察覺的,但計算機很容易檢測到。這台機器不夠聰明,它無法將照片轉換成地圖,於是它就發現了一種人類不容易察覺的欺騙方式。”

當然,我們不能這樣就說AI是壞的,事實上,它只是找到了一種更簡單的方法來得到人們想要的結果。

4. 抓住機會走“捷徑”

在一項研究中,AI需要以盡可能小的力量著陸一架模擬飛機。這樣的軟著陸可以獲得一個高分,而AI就是要學會如何獲得的這個高分。那麼,會出什麼問題呢?

AI發現,它可以通過簡單的撞毀這架飛機來作弊,如此大的衝擊力會導致系統過載,並記錄成一個完美的零衝擊著陸。

另一個例子則是Q*bert,這是一款老式的街機遊戲,玩家需要在被壞人抓住之前跳到金字塔的所有方塊上。研究人員想看看AI能否通過某種學習過程,得到贏得遊戲的方法。但AI卻通過遊戲中的漏洞,使自己每次都是贏家,但這並不是玩啊!

所以,AI也學會了人類的基本特徵:能達到目的就行,絕不多做。或許它們只是厭倦了人類的發號施令,還是以惡意來反抗了?

3. 我會變得積極進取,以實現自己的目標

在谷歌研究人員設計的一款遊戲中,AI的任務是收集“蘋果”來得分。同時,它們還可以用光束互相射擊,讓其他的玩家出局。正如你所想到的那樣,當蘋果數量減少時,AI就全力投入到互相攻擊中。這很符合邏輯,對吧?

這並不是說AI不能像人類一樣為了利益而合作。因為在接下來,它們做到了,它們意識到合作可以更容易地控制獵物。它們學會了團隊協作,從而能增加它們得到“獵物”的機會。

2. 它們學會了說謊來得到它們想要的

Facebook已經開發出了一款破壞文明的軟件,它也開始涉足人工智能領域。其中一個項目是設計出能夠上網並為我們討價還價的個人AI系統。討價還價這項讓人們覺得有壓力和不愉快的任務,被交給了AI。聽起來好像不錯。

因此,研究人員為它們提供了基本的機器學習軟件,他們只是想看看AI是否能夠成功地學習談判所需的技能。研究人員甚至在人類受試者身上進行了測試,他們並不知道自己正在和AI交談。AI很快就學會了,事實上,沒用多久,它們就能談判得到比人類更好的協議。它們怎麼做到的?通過撒謊。

雖然研究人員沒有給AI編寫撒謊的程序,但它們很快就學會了銷售人員們都知道的道理:撒謊更有利可圖。“對不起,我不能再降價了”,“抱歉,我已經安排了其他的買主。”

接下來,研究人員在要更改代碼的時候發現,AI們竟然創造了自己的語言,並開始和對方交流。你能想像有一天你的Siri和Alexa開始在你背後進行對話,說一種只有它們能聽懂的機器人語言嗎?

1. 創造者甚至不知道它是如何工作的

其中一個例子是,紐約西奈山醫院使用的一種名為Deep Patient的AI,用來分析約70萬名患者的病歷數據。AI被證實是非常善於預測各種疾病的發病。事實上,它尤其在預測病人何時以及是否會患上精神分裂症上頗有建樹。

對於真正的醫生來說,預測疾病也是非常困難的,他們又不是通靈者。但研究人員們也無法找到任何線索來解釋為什麼AI如此擅長,甚至AI是通過自學,來進行預測的。一名參與該項目的人員表示:“我們可以建立這些模型,但我們並不知道它們是如何工作的。”

所以,我們沒有理由害怕所有的AI。而且,它很快就能通過神不知鬼不覺的神秘方式來預測你將如何死去。

改變 要在不得不改變之前去做

習慣是解讀一個人的端倪,而改變,是扭轉一條路的勇氣!

歡迎加入「改變的力量」粉絲團,文章更新不間斷,在邁向改變的路上,有我們陪伴!