新人類文明曾經不止一次地產生一個念頭：創造一個傳說中的強人工智能！
這個強人工智能，擁有自我意識，能通過優化自己，改善算法，以實現無窮的自我更新迭代。如此一來，它能無限提升自己的智商。
這樣的物種，可以短期內，帶來科技爆炸的“奇點時代”。
這個想法確實很美好，從地球時代就已經存在了。先不計較其中的安全性，暫且認為它是安全的。
人們幻想著科技奇點的到來，一個強人工智能，能給所有人類帶來永生！在無限的智商下，永生還不是一件輕而易舉的事兒？
各種大拿們不停地吹噓著，他們算出一個距離美好未來的倒計時，距離奇點時代還有三十年，還有二十年等等…
但現實很糟糕。
隨著科技的發展，特別是進入星際文明，科技爆炸后，人們反而越來越傾向于，這種能夠無限進化的機械文明，似乎是不存在的…
換而言之，你只能創造出，比你更“蠢”的物種，卻不能創造出比你更“強”的！
這種說法很容易解釋。
“我們在以我們的大腦，來研究我們的大腦。”百合子用手指了指自己的腦袋，想了半天說道：“你認為…我們的智慧，能夠徹底了解我們的智慧嗎…”
不是繞口令，而是一個…哲學層次的問題。
人對大腦的了解，都基于人的思考。而思考，是建立在大腦本身的基礎上。同樣的，如果我們寫了一個能寫程序的程序，這個程序能否寫出和自己本身一樣復雜的程序？
如果人類是一個自然產生的程序，那么它能徹底辯明自身嗎？
“用一位醫生的話來解釋：如果我們的頭腦簡單到可以被理解，我們就會蠢得無法理解它；反之，如果我們聰明到能夠理解我們的大腦，它就會因為太過復雜而無法被我們揭示。”
“我們進步了，大腦也進步了。”
“如果我們連自己都不能夠理解，更何況，從根本上創造一個更強的物種了。”
“所以我認為，強智力壁壘，確實很可能是一個難以破解的巨大難題。生育篩選可以提高智力上下限，卻不能將它捅破。因為它本身根本不是智力的問題。”
“我們本身，即使成了超人類，很可能依舊沒有通過。”
聽到她的這一番解釋，于易峰心中黯然，這個問題已經上升到哲學的層次，讓人感到十分無奈。
這種無奈，是發自內心深處的無力感。
人們再聰明，再厲害，也只能創造出更弱的“人工智能“，難以實現無窮迭代。
弱人工智能的強大只在于它的計算力。假設它的計算力與新人類一樣，毫無疑問從各個方面會被完爆。
更進一步地思考，這個悖論一樣的問題，可以更加廣域地，推廣到宇宙所有的物種當中。
假設一個物種A，能夠比較輕易地創造出另一個更強的物種B；那么物種B，是不是可以輕易創造出更強的物種C？
然后C再創造更強的D…
D再創造F…
如此無窮地迭代下去，一直到后來的物種N，它將會多么強大？多么聰明？
如果真的如此，宇宙中早就充滿“神靈”一樣的生物了！
但星空依舊如此暗淡，“神靈”并沒有到處亂跑，也沒有“圣母”神靈來拯救萬物。
也即，“創造更強物種”這一命題，本身是極度困難的，抑或根本就是偽命題，在已知范圍內，難以做到！
同樣的，可以再將這個問題再次推廣。
宇宙是我們做研究的工具，我們所能夠思考、實驗的一切，都基于這個宇宙提供的基本規律。
而同時，宇宙又是我們研究的對象，我們研究宇宙的誕生與毀滅，研究宇宙為什么會是現在這個樣子，而不是別的樣子。
也即…我們的研究，包括我們的想象，本身就是宇宙提供的。能夠逼近，已經是了不起的成就。
“按照這種理論，世界是不可知的嗎？”于易峰苦悶地說道，他想到了各種一拳爆星的YY。
百合子輕聲說：“言歸正傳，先不要糾結這些更加廣義的東西…強壁壘只是一個猜想而已，并沒有被徹底證明。我們的思維以及自我意識確實一個黑箱系統，不知道如何研究，也不知道如何切入。”
“但我認為，在不斷接受輸入輸出的情況下，也有可能摸清其中的部分狀況，對里邊的內容進行少量改善。”
“或者…可以求助于未知，讓我們不了解的東西，來進行改善。”
看到于易峰埋頭思考的樣子，她微微笑道：“這樣的強智力壁壘，并不是L4級文明的課題吧，甚至不是星際文明的課題…我們暫時不要想太多。”
“跨過強門檻的，已經可以稱作神級文明。我們暫時懷疑這種神級文明的存在性…播種者是嗎？不知道。”
“L4文明面臨的，只是一個弱智力壁壘，是明確可以解決的。”
具體地說，強壁壘涉及的，是邏輯疆界，是悖論，是神秘，是自我意識，是腦域指令集的問題。
“弱壁壘”就簡單多了，只是一個生物學難題。
智慧的基礎是大腦，但一個大腦，僅僅相當于硬件，并完全不等同于智慧。
人在死的那一剎那，那0.000000001秒的時間，理論上，大腦的物理性質并沒有發生劇烈的變化，但是人為什么就這么死了呢？人的死亡，是瞬間的，還是連續的？
如果是瞬間的，很可能有某些“軟性”的東西，譬如說自我意識之類的東西掛掉了，所以人死了。
強壁壘描述的，主要是這種“軟件”。
“軟件”在某一刻，因為硬件的差錯掛掉了，宕機了，所以人死了。
而大腦本身的物理結構，作為“硬件”，生物學上是可以優化的，也是看得見摸得著的，并不像“自我意識”那樣，是一個黑箱系統。
“使用軟件來改造硬件，并沒有什么悖論。”
人的大腦就是一臺雜亂地拼裝在一起的器件，低效、笨拙、兼之深奧難解，卻還能工作。無論從哪個層面看，大腦都是個設計拙劣，效率低下的團塊，可又出人意料地運作良好。
從生物學角度，有部分團塊，因為進化的不完善，確實是可以改進的，這就是人們目前使用的“大腦芯片”的由來。
但目前的大腦芯片，還遠遠不夠，它能夠提升計算量，卻不能讓人更加更加聰明。
“大腦很久以前對某個問題形成了特定的解決方法，人們經年累月一直使用它，或者加以改進用于其他用途，形成了多種不同的智慧。用分子學家弗朗索亞•雅各布的話說來就是：進化是個修補匠，而不是工程師。”
進化也好，技術手段也好，如果能將大腦本身的能力，發揮到最佳，也就是…通過了“弱壁壘”。
生育篩選是通過弱壁壘的常用方式。
“硬件是智慧的基礎，而軟件，規劃了智慧的疆界。一款下圍棋的軟件，不可能去下象棋，這是算法問題。”
“人腦所擁有的軟件比任何電腦程序都要復雜，它非常強大，幾乎什么都會，看上去非常完美，但實際上也擁有自己的疆界。疆界外的東西，我們不可能考慮到，也想不到，感受不到。”
“也正因為這套軟件實在太強，硬件反倒太弱了。”
“換句話說，強壁壘是智慧生命的‘軟件’，是思維疆界，包括自我意識等等未解之謎，基本上沒有自我改進的可能。”
“弱壁壘只相當于硬件…是整個大腦的物理構造，改善硬件，確實是可以用各種手段做到的。”
只要有一種方法，能讓硬件更加強大，更適用于軟件，逐漸發揮出“軟件”最大的性能，就可以說通過了弱壁壘。
如果完全通過弱壁壘，相當于“軟件”的潛能完全開發，這個生命將會多聰明呢？
“但是，光是這一道門檻，一個弱壁壘，已經難如登天，卡住了絕大多數星際文明！”
于易峰感嘆道：“也不知道，我們到底通過了弱壁壘沒有…理論上超人類的大腦，還遠遠沒有開發完全。嗯…還有，我們的軟件是不是被完美素提升了？”
討論完這番話后，兩個人懷著心事，重新回到了辦公室。
接下來繁忙的工作還有很多…
