第7章 禁果計劃 (第2/2頁)

要想讓機器人也能像人一樣，在執行任務時能夠獨立判斷是該冒險完成任務，還是該為了自身安全隱蔽，就必須讓機器人有價值判斷能力。

但是，一旦機器人有了價值判斷能力，就可能會產生私慾，接著可能會與人類為敵。

如何才能讓機器人既有價值判斷能力，又忠誠於人類呢？這也是這個專案難度極高的原因之一。

這個研究專案是一個絕密的專案，因為一旦洩露被壞人利用，災禍可能殃及全人類。

科學院之所以把這個任務分配給江玉，一是考慮江玉超乎常人的智慧和才能，二也是考慮到保密和規避法律的問題，畢竟在月球的保密成本更低。同時，地球上的法律在月球是否適用，還是一個正在爭議的問題。

在接這個任務之前，江玉研究機器人已經有四五年的經驗了，曾經開發過機器人警察的叢集作戰控制及互相掩護等功能，所以她對這個新專案的難度是很瞭解的。

她的第一個感覺是，這是一個無比龐大的專案，可能今生今世永遠也做不完。如果順利，機器人的智慧在未來會越來越接近人類，成為人類的親密助手和伴侶。如果不順利，比如研究的方向是錯誤的，可能所有的努力都是一場空。如果一旦有反人類的組織先於政府掌握了機器人人格化的技術，人類也有可能遭受滅頂之災。

為了少走彎路，江玉決定要進行周密、謹慎的預研工作。

她把手下召集在一起，在保密室開始討論專案預研的技術路線。

大家對這個新課題都表現出極其濃厚的興趣，你一言我一語討論得很熱烈，有時候兩個人爭論起來別人想插話都難，最後由江玉把大家的思路匯總了一下，形成了一個機器人人格化的基本思路：

要賦予機器價值觀，就需要賦予機器人一些慾望和情緒，因為慾望和情緒是價值判斷的基礎，而最基本的慾望可以分為兩對引數：

一、榮耀和恥辱；

二、勇敢和恐懼。

基本情緒可以分為六對引數：

一、危險和安全；

二、滿足和不滿；

三、痛苦和快樂；

四、憤怒和喜悅；

五、嚮往和厭倦；

六、煩躁和平靜。

他們基本上達成了初步共識，認為，如果機器人能夠感受並處理這兩個慾望引數和六個情緒引數，應該就具備了一定的基本價值觀和自我意識，或者至少具備了高等動物水平的自我意識。

一個研究員還給這個專案起了一個可愛的別名，叫“禁果計劃”。因為賦予了機器人這些程式碼和感測器之後，機器人就有了慾望和情緒，就像亞當和夏娃偷吃了禁果一樣，從此便產生了罪惡，所以叫禁果計劃。

「早期對機器人慾望和情緒的模擬是比較粗糙的，需要不停地積累經驗不斷完善。」