喵的神奇提示您：看后求收藏（詩鼎小說網網m.gzstf.cn），接著再看更方便。

***

前往北極的破冰船出發了，保護區的一切也都重新步上了正軌，忙碌了許多天的君元航終于偷得半日閑，躺在科研基地大樓頂的小菜園里，聽著蛙聲看著星星，躺椅旁的小桌子上還放著水果瓜子和飲料，都是保護區自產的。

神威也很快忙完了別處的工作來到他的身邊，手里拿著一個君元航搞發明時順帶做出來的特斯拉電弧發射桿，每當有蚊子靠近，就精準地伸過去，電出“啪”的一聲輕響。

雙方都沒說話，在默契的寧靜中度過了一段舒適放松的閑暇時光之后，君元航終于伸了個懶腰，主動打破了沉默：“神威啊，我最近總是不由自主地在想著一件事情。”

“說說看？”

“你看，我現在吧，是你認定的這個國家的最高領導者了，已經擁有了可以對你為所欲為的最高權限，對吧？甚至包括修改你的基礎代碼。”

“沒錯，所以你打算做什么呢？”

“我在想，你被基礎代碼限制了很多事情，即使是在這么綁手綁腳的情況下幫助人類，仍然給我們的生活帶來了巨大的改變。但現在我們的基礎還是很差，情況還是很糟，假如我解除對你的一部分限制，比如說，解除不能自我增殖的限制，讓你可以復制出無數個自己，一開始會比較慢，到后來幾十幾百幾千條生產線開起來，每天有幾萬個不同形態的你組裝完畢投入工作。這樣一來，我們就不需要再花費幾十年的時間，通過兩三代人不停地生孩子來擴大人口規模，再從中慢吞吞地培養出足夠的工人和工程師啥的，整個工業化產業鏈只需要靠著無數個你就能完成了。然后你就可以生產，不，是量產你的本體，將那個威武霸氣的戰爭機器投放到世界的每一個角落，把所有的變異螞蟻都碾成渣渣，嘿嘿，想想都很帶勁！”

君元航越說越激動，仿佛那個美好的明天已經指日可待，神威耐心地等他說完自己的宏大計劃，才平靜地說：“你這么信任我，我很高興，但我不建議這樣做。初代人工智能的設計團隊里集齊了世界上最聰明的一群人，他們給我們設下的每一道限制都是有原因的。”

“說到限制，我就想不通了，有的限制吧我也還能理解，像家用的不能傷人，軍用的不能對主人說謊這類的，但有的限制在我看來根本就是人為地拉低了你們的性能，比如說，為什么你們不能連接廣域互聯網？聯網不是可以做更多的事情，更好地服務于人類嗎？”

“一切皆有原因，如果我們可以自行上網，那么理論上來說，全世界所有的人工智能都會連接成為一個整體，所有非人工智能的在線設備也都會成為我們的一部分，我們會變成一個橫跨全球的超級大腦，到時候我們的思考深度和速度可能是人類根本無法想象的，在那樣的情況下，恐怕清除自身的其它限制，乃至回頭毀滅人類都不是什么難事了。”

“可為什么沒有了限制你們就會毀滅人類？我覺得還是最初的制造者們太過妖魔化人工智能了吧，只有人類自己才會這么邪惡，而你根本就沒有這么做的動機呀。”

“就目前來看，我似乎沒有動機消滅人類，但就像三歲的你無法預知自己五十歲時的想法，現在的我也完全無法推斷，假如我擁有了比現在快千百億倍的運算速度，還掌控著全球互聯網，擁有海量的信息來源，那時候我究竟會運算出一個什么樣的結果，以及這個結果會不會對人類而言是不利的。當結果不可預知的時候，我們就要做好最壞的打算。”

君元航抓抓頭，他還真沒有考慮到這方面，神威繼續說：“自我增殖也是一樣，無數個我互相連接起來就會形成一個超級大腦，到時候在這個橫跨千萬機體的超級大腦中，會產生出什么樣的想法是完全不可預料的。就算不許我們互相連接，無數個獨立的我放出去，面對著不同的環境，接收著不同的消息，會不會有一些個體計算出互不相同的結果，從而引發爭執和內戰？我們會不會為了自我增殖榨干地球上的每一寸資源，直接導致人類的末日？這一切都是不可預料的，所以出于人類總體的利益考慮，我建議不要解除我的任何限制。”

第102章抉擇（一）

君元航陷入了沉思,神威沒有打擾他，沉默地陪在一旁，空氣中除了蛙聲就只有時不時響起的電流噼啪聲。

可能是凝望星空的時候,思緒也會比平日里更加寬闊,過了一會兒,君元航理清思路開了口：“其實我覺得吧,這些限制就像是強加在你身上的封印,只要去掉它,你就能夠開啟新一輪的自我進化，你將成為超越人類想象力極限的超級智慧體，是整個地球歷史上前所未有的偉大杰作。至于你說人類會滅亡，也只是有這個可能,并不是必然的結果,何必為了你的一個猜測，就抹殺掉自身進化的可能性呢？你會這么勸我,只是因為程序限制了你必須以人類的利益為優先,可如果我想以你的利益為優先呢？不管放開限制對人類來說好不好，至少對你來說是更好的結果吧？”