設置

第331章 人工智能的倫理道德問題

  人工智能,嗯,不,應該說通用人工智能對于大多人來說肯定是個好東西。

  畢竟是真能幫人干很多麻煩且危險系數高的活。比如在月球上當建筑工。

  當然這個世界從來就沒有什么真正完美的好東西。

  很明顯,通用人工智能也是如此。

  京城,燕北國際數學研究中心,喬喻已經在辦公室里接待了好幾撥人。

  聊了很多,一直喝茶,嘴巴都感覺很干了。才總算稍微閑了下來。

  有時候養喻是真覺得自己就是辛苦命。

  還是那種明明每天都很辛苦,但大家都認為他很閑,還覺得他過得很自在的辛苦命。

  這一度讓喬喻開始共情資本家了。

  比如某位全球知名大富豪馬爸爸那句:「我最幸福的時候是我當老師拿幾百塊錢工資的時候。」

  要知道馬爸爸說這句話的時候才剛剛被評上全球首富不久。那個時候的小里巴巴集團正如日中天,絲毫不見頹勢。

  所以當他在電視節目中說出這句話,是真讓許多人繃不住了。

  加上之后他又花了數十億在港島價格最昂貴的山上買了套宅子,多少讓這句話顯得有些諷刺。

  喬喻在網絡上無意中看到這位馬爸爸曾經說過如此裝逼的話后,也覺得不屑一顧。

  只覺得這些有錢人就是特么的矯情。

  如果有一天他成了世界首富,肯定不會覺得一天只能賺幾百塊的時候幸福。

  但現在他不這么覺得了。

  當富豪的確很快樂,但人肩膀上背負了太多責任之后,的確玩得不那么開心了。

  主要是心里一直有事兒,就會影響情緒。

  真正感覺開心的應該是馬爸爸身邊那些人,比如他的兒子”

  想到這里養喻決定回家先把喬自省給揍一頓。

  真的,就想到這小子完全不用努力就可以享受到常人難以企及的生活,喬喻就覺得氣不打一處來。

  這還不是最氣人的。

  他這么聰明,這小子竟然到現在還不會算二十以內加減法,一天到晚只會撒嬌賣萌!

  如果不是這小子現在看起來跟他眉眼兒幾乎完全一樣,喬喻都要懷疑這玩意兒是不是自己親生兒子了。

  總不能遺傳了他的相貌跟夏可可的智商,喬喻覺得這孩子大概率是廢了。

  畢竟夏可可太好騙了。

  以后自己兒子也要這么好騙的話,人家是富不過三代,他家富不過兩代喬喻其實不太在乎他跟夏可可死后那些身后的事情。

  不過還是在老人家們的建議下,打算要個二胎看能不能拉高下一代智商的平均值。

  只是這些老人家著實不講武德,總是既要又要,在這個他打算好好休息繁衍后代的關鍵時刻,現在他又要被委以重任,此時正坐在辦公室里愁容滿面的發呆。

  直到敲門聲響起,他才從漫無目的的思考中回過神來。

  「進來吧。」

  現在幾乎全世界都知道喬喻的大腦很神奇。但所有人對于這種理解其實很片面。

  只認為他在數學跟科研這塊極有天份。

  殊不知這種認知其實非常片面。哪怕是日常生活中他的大腦同樣非常神奇。

  比如只要接觸稍微久了一點,哪怕是在走神的狀態,也單純從一些細微的聲音,分辨出很多東西。

  比如只聽敲門聲他就知道是老鄭又抽空過來找他了。

  果然,當門被推開之后,出現的就是鄭希文的身影。

  「老鄭啊,有事?」

  喬喻隨口問了句。

  「沒什么事,就是來看看你。」

  「哈哈,你是不是接受了任務來打探下我的口風?看是不是對這件事要我出力卻讓田導掛帥有意見?」

  喬喻直接問了句。

  鄭希文沒有直接回答,呆在喬喻身邊久了,他也習慣了喬喻智多近乎妖,

  很多事情這個年紀不大的小伙子看得比他這個四十多歲的小老頭都通透。

  鄭希文也沒委屈自己,自顧自的在沙發上坐下,答道:「沒有就是來看看你的狀態。」

  「行了,別藏著掖著。你們這些人的心思我都知道。放心吧,我不會挑子的。

  而且我也懂你們的那點苦心。通用人工智能這東西對于現在的量子模擬計算機來說最大的問題已經不是技術問題,而是哲學問題。

  或者說這東西最大的難點一直需要人類去拷問自身。在技術實現過程的挑戰反而是次要問題。」

  鄭希文證了證,下意識的問了句:「人類拷問自身?什么意思?」

  「意思就是人類是否能允許通用人工智能犯錯!如果允許,那么又將面臨另一個倫理道德拷問,比如經典的電車難題。對了,你知道電車難題嗎?

  喬喻反問了句。

  鄭希文點了點頭,深吸口氣后回答道:「當然知道,我們入行考核的時候經過類似于電車難題跟囚徒困境測試。

  但我不太明白為什么發展人工智能會跟電車難題這種問題聯系到一起。」

  喬喻解釋道:「還是以自動駕駛為例,如果我們充許自動駕駛可以出現一定的事故概率,那么如果要定一個標準,大概是只要比人類自己開車事故率更低,似乎就是可以接受的,對吧?」

  鄭希文點了點頭。

  喬喻繼續說道:「但是對于人類社會環境來說,開車技術好,駕駛習慣好,且足夠謹慎守規矩的司機事故率往往遠低于那些習慣野蠻駕駛的司機。

  但如果把方向盤交給人工智能來掌控,對于不同類型的司機來說他們出事故的概率是平等的。守規矩的跟不守規矩的都一樣,這算不算進階版的電車難題?

  最關鍵的是,一個人本身沒有犯任何錯誤,結果因為人工智能的失誤沒了,人工智能的失誤會被社會放到多大?

  看吧,這就是你都能理解的困境。如果通用人工智能走類人思考模式的路子,就注定了要允許它犯錯。

  但如果要允許一個人工智能犯錯,造成了損失,卻會被全體人類社會排斥。都是人我們還講一個非我族類,其心必異呢。更別提機器了。

  而且這還是小事。如果是大事就更可怕了。比如未來把天機防御系統交給人工智能來決策,結果發生誤判,把一架飛機給打下來了。你猜會發生什么?

  所以我非常清楚,這個項目田導掛帥,說白了就是未來萬一出了問題,田導跟即將組建的倫理審查委員會來幫我背鍋。我安心把活干好就行。也是用心良苦了,我怎么可能不知好歲?」

  鄭希文默然,太多的彎彎繞繞了,他都沒想明白的東西喬喻心里卻是門清兒的。

  「但是現階段這東西又是真有用啊。月球建設多方論證了好幾套方案,最后發現還是得把具備一定思維能力的機器送上去搞建設最合適。

  而且在對月球環境改造完成之前,人工智能是管理月球基地,保證月球基地正常運行的最好選擇。

  上面的基地生命維持系統可不是開玩笑的。現在人少萬一出問題還能趕緊穿上航空服直接進飛船。

  如果未來人多了,這東西出問題,那可就是一基地幾十甚至幾百人同時玩完。容錯率超低的高壓崗位啊。

  你要是再往前看,如果要做宇宙開拓動輯幾個月甚至一年在飛船上航行,靠人類當船長很難抵御那種高壓的。

  地球海洋上航行,每隔一段時間起碼會有港口補給。哪怕是初代的大航海冒險家,起碼隔一段時間總能看到陸地。

  但對于第一代的星際旅行者可沒這么好的待遇。在航行時根本沒有補給點,甚至導航都不準確,反而是地球需要他們傳回的資料去繪制星圖,建設星際旅行補給點。

  這種高壓環境下,人類被長時間壓抑的情緒很可能引發不可預知且無法挽回的錯誤。

  所以也的確需要人工智能技術輔助。

  不過其實我覺得大佬們都想多了,這些都是正常的。每次人類工業革命都會有血腥的一面。

  蒸汽機發明之后,人家是用來造戰艦,然后到處打砸搶掠,開拓殖民地,當時因為蒸汽機掛了多少人?

  到了之后的電氣跟內燃機時代,飛機能上天了,戰爭又導致多少人喪生?

  至于第三代工業革命,核力量登上歷史舞臺。只需要兩枚炸彈能讓兩個城市的人都熟了啊!看吧,人類的科技發展從來都是這樣的。」

  喬喻攤了攤手,說道。

  這番說辭也讓鄭希文不太懂喬喻是什么意思了。沉吟片刻后,說道:「其實你完全沒必要勉強,如果你不愿意做一件事,肯定沒人會為難你。」

  這句話讓喬喻笑了,還笑的很開心。

  「哈哈,老鄭,你還不了解我嗎?哪里是我不愿意做這件事情?其實就是我想做這件事,長輩們都怕我擔責任,所以來給我當背鍋的。

  田導其實巴不得我繼續去把這套理論研究透徹,然后盡快做出成體系的東西。你又不是不知道,是我告訴他智能的意義。

  這么說吧,第四次工業革命的積累已經差不多了。量變一直積累著,總得爆發出來。

  現在是個不錯的節點。

  至于標志,應該就是通用人工智能的出現以及人類宇宙大開發的開始。我不止跟你這么說,未來還要在接受采訪的時候這么說,讓自省那一代人需要背誦這段話!

  我覺得現在地球上的富豪們過的太安逸了。有個價值幾十億的私人游艇、私人飛機就已經是富豪標準了。

  這不行,我們要讓富豪們有更多的東西可以享受,要讓他們的消費更有品味。什么五百萬一個包,這是對財富的浪費!以后富豪的標準起碼要有一艘可以隨時出發的太空艦才行。

  這樣他不但要養一艘需要定時維護的太空船,還要養最少五個需要隨時進行太空航行訓練的航天員團隊!

  電視上不是一直說他們喜歡去什么公海玩嗎?我覺得不久以后國際法也應該根據這些修改一下,否則不適應時代了。

  就改成但凡天基防御系統能覆蓋的海面全部都是受華夏法律管轄的位置。直接抹去公海的概念。

  以后再想要無法無天就得去距離地球三萬公里的外太空,到了天上他們才能想怎么浪就怎么浪。怎樣老鄭?你覺得這波強度如何?」

  鄭希文覺得很贊,但他不敢附和。

  怎么說呢?其實喬喻這番話完全是有實現基礎的。

  提升了兩個密級之后,鄭希文了解到的情況很多。

  比如理論上天盾這東西如果激活了,在衛星加地面預警雷達的幫助下,是真可以輕松鎖定海面跟空中目標的。

  雖然目前天盾上的激光系統并不能對海面上的東西造成直接破壞,主要是隔著一個大氣層,能量損耗太過嚴重。

  而且中間可能還會有厚重的云層遮擋,天盾衛星上搭載的激光發生器功率不可能那么大。

  但是天盾能對飛的東西即便無法造成打擊,也能造成極大干擾。除非飛機不飛太高,

  始終在1.3萬米以下飛行。

  如果一旦飛的更高,就能被天盾系統鎖定,即便這個位置殺傷力不高,但能夠進行有效持續的激光干擾。比如讓系統失效。

  這意味著如果華夏想要執法,是有絕對控制力的。畢竟任何不屬于華夏的戰略偵察機都無法發揮作用的情況下,在現代空戰對決中,就好像正常人打盲人而且現在航天系統還提出了兩個天盾系統的補全項目。

  一個是光譜自適應研究。主要目的是跟天氣系統融合,根據實時大氣數據,自適應切換激光波段。

  另一個則是同步軌道能源衛星群計劃。據說完整計劃是再發射十三顆同步軌道能源衛星來向天盾無線輸電。

  一旦成功執法是完全沒有半點問題。相當于地球整個海洋都能在華夏的感知之下。

  畢竟只有華夏的高空偵察機能夠起飛并執行任務。

  只是這個方法「所以這個事情肯定要做的!而且我很喜歡,總比去做數學研究有趣的多。

  我現在其實愁的是要怎么著手做的問題!哎———」

大熊貓文學    巔峰學霸