441 隱患

法院剛剛出來,嚴可守就遭到了無數記者的圍堵,在這次出庭之前,他原本憋了一肚子的話想說,但現在他卻只是低着頭,默不作聲的趕路,陪他一起來的陳雷就像保鏢一樣,在前方替他開路。

作爲全國著名的幾大火爐之一,雖然這纔剛過六月,但太陽已經開始發揮它的威力,即使車內打着空調,但陳雷滿臉的汗珠還是止不住的流淌,一想到剛纔的情景,陳雷就有些感慨:“真不知道那些明星是怎麼過的……”

嚴可守沒有搭話,陳雷也就識趣的住了嘴。

就這樣,當時引起很大一派爭議的KL3300訴訟案暫時告一段落了,寧州法院給出的判決沒有出乎大家的意料,KL3300作爲一段程序,被判“存在不可修復的技術性錯誤”,源程序當庭驗明正身並予以銷燬,而嚴可守作爲程序的主要“技術負責人”,對這個錯誤擁有不可推卸的責任,按照“產品質量問題”來計算,判處了一筆鉅額罰款,但這個錯誤本質上又是因爲國家相關“質量法規”不健全導致,而且KL3300程序本身也是經過國家允許的公用程序,所以國家會代爲賠償這筆錢,並修改相關規定……

對嚴可守來說,他並沒有因爲這場訴訟而損失任何“利益”——

要說錢,不說國家已經幫他負擔起來,就算是真要他還,也沒什麼還不起的——AI程序當初雖然是“一錘子”賣給國家的,但在民用領域,嚴可守還是有着毋庸置疑的專利權,現在全世界範圍的工廠都已經逐步開始推廣AI生產、管理系統,光是這筆專利費,他就算三輩子也花不完,爲此陳雷甚至感慨過,說現在技術是越來越值錢了,以前是技術爲資本打工,現在倒是反過來資本爲技術折腰——在陳雷的運作下,他已經幫嚴可守在國內註冊了一家公司,負責開發全世界範圍內的民用AI產品,雖然這公司四個資助AI項目的政府都有份,比例高達百分之95,只留了5個百分點作爲對嚴可守個人貢獻的“獎勵”(不是技術入股,專利是按個人另算的),但從這個公司的總資產以及未來行情來看,這將會是一筆了不得的財富。

要說AI的技術價值,那也沒什麼好談的,AI技術並沒有因爲這個官司被封鎖,反而得到了更廣闊的應用,Z國政府主導的這個官司與其說是打壓AI技術,不如說是讓潛在的AI使用者放寬心——用戶,尤其是企業用戶,最害怕的就是有關AI的法律風險,而Z這次宣判等於是立下了一個判例,形成了最基本的規則——只要存在規則,那風險就是相對確定的。

至於個人的名聲,事實上,在媒體的辯論中,大部分人還是偏向於嚴可守論點的,認爲要麼就承認AI有自主思考能力,那就應該判AI刑事責任,但嚴可守完全無罪——就好像子女犯法和父母無關一樣,要麼就認定AI只是一種技術產品,那作爲一種工具,AI就不用承擔任何法律責任,相反,原告可以主張嚴可守有利用技術手段犯罪的嫌疑,如果這條坐實,那責任應該由嚴可守來承擔,對於最後的宣判結果,大部分人都表示了失望——Z國雖然一直說法制社會,但法制的前提還得是安定和諧,從某種意義上來講,Z國的法律就是純粹的統治工具,獨立的公正,司法……當然,網絡上對此是一大堆牢騷,但對於嚴可守個人,大家非但沒覺得有什麼不對,反而大力讚揚起嚴可守的學術價值來——已經可以預見,AI技術很可能將會給世界帶來一次新的技術革命,而這次做出最大貢獻的是一位Z國人!這一點纔是最重要的!

這麼一看,嚴可守似乎還真沒什麼理由不高興,但只有嚴可守自己知道,KL3300這次事件對他來說是多麼嚴重的打擊,這就好像在奴隸社會,一個奴隸主突然發現他們的整個國家乃至整個世界,都是一個極度畸形的整體——嚴可守不認爲AI具備和人類同等的價值,他也知道,從AI出現的第一天起,它們“被奴役”的命運就已經被註定,但他一直覺得,人類應該對AI表示出一點“同情”,並在實際使用中注意這個問題,並努力設法去避免,因爲如果人類今天坦然承認了他們奴役AI的“天然合理性”,那就等於承認弱肉強食的叢林法則——而這一點,是文明從出現到今天,一直竭力避免的,文明本身就就是自然的反義詞,自由,公正這兩些美好的詞彙從來沒有在自然中真正存在過,是完全由人類臆想的形而上概念,人類之所以偉大,就是因爲他們會努力將這些並不存在的東西一步步變成現實——而在理想主義者已經成了一個貶義詞的今天,整個社會距離這些是越來越遠了。

然而這些想法嚴可守也只有一個人在腦子裡想想,他非常清楚,因爲這場戰爭,現在整個社會各個方面都迫切的需要提高效率,而AI的出現正是恰如其時,就在幾天前,嚴可守就被邀請到聯軍的參謀部,討論了許多有關AI在戰場上擴大應用範圍的技術細節,歷次的戰爭已經表明了AI參與戰爭的可靠性,聯軍希望能夠賦予AI更大的戰爭權限——比如特定情況下,不受監視的指揮權,但事關重大,他們並不敢擅自做主。

嚴可守在會議上忠實的說出自己的看法:AI目前的忠誠並不意味着程序在技術上的穩定,根據他對大多數AI的瞭解,他認爲AI的思維方式其實和人一樣,如果用性格來形容,AI而且會比通常人類更加“內向”,這是因爲客觀環境造成的,畢竟AI面對的是一個龐大的人類社會,而他們相互的交流十分受限,而且大部分行爲都受到監控,在這種環境下,AI會選擇“明哲保身”是很自然的,但如果取消了這種監控,沒有任何證據能夠擔保AI不會突然“犯傻”,或者說“衝動”,具備自由意志最大的特徵不是說思維絕對理智,而是指思維存在某種混沌,不可測的屬性,正如沒有人能保證一個人一輩子絕不犯錯,嚴可守也不能保證AI不會讓人類失望。

嚴可守對軍事並不是很瞭解,尤其是現在進行的魔法戰爭更可以說一竅不通,但對於AI在軍事上的應用,他還是提了一些屬於自己的意見——在他得知現在聯軍全部的指揮工作都由一名AI負責時,態度鮮明的表現出自己的憂慮,他認爲這種“高度集權”不論是對聯軍,還是對AI來說,都是不利的,他再次重申,AI並不是簡單的程序,它是人工智能,真正的智能,在使用它的過程中,應該更多的把他當做人來考慮,他甚至質問在座的各位軍事專家,如果KL3014是一個人,如果他具備這樣的能力,他們會把這所有的工作交給它一人來承擔嗎?

答案當然是否定的,在軍事領域,忠誠往往比能力更重要,而嚴可守之前的話,更是說明了他對AI的忠誠並不樂觀。

雖然參謀們都有些懷疑嚴可守是不是考慮太多了,但參謀部還是對嚴可守的意見表示出相當程度的尊重——按照他們制定的計劃,在這次會議之後,現在KL3014的工作將會被分解,由更多的AI分開執行,這樣雖然降低了些許效率,卻在安全上有了更好的保證,而之前參謀部設想的賦予AI更大權限的問題,也因爲嚴可守的話有了較好的解決方案——嚴可守並不反對對AI授權,他只是反對不受限制的權力,他覺得只要在交付出一項權力的同時,給AI加上一副手銬,那問題就不會很大——這就好像現在大部分國家通行的政治制度一樣,人類只要拿出這種防範同類的謹慎,將會極大的降低AI在實際應用中的風險。

但在實際上,能夠做到向聯軍參謀部這樣謹慎對待AI的,在整個AI的應用領域還是少數,嚴可守非常清楚,在大部分區域,人類對AI是幾乎不設防的,尤其是一些民用生產靈虛,許多他所瞭解的一些剛剛普及了AI技術的工廠生產線,在AI完全掌握了全部的“技術細節”,實現真正的“全自動化”生產之後,工廠擁有者出於節約成本的考慮,將原先的技術人員全部辭退,只留下幾個必要的維修工人,這些工人只拿着很低的工資,什麼都不會幹,他們唯一要做的,就是在生產出現問題的時候,由AI手把手的指導他們進行維修,就像戰場上一樣,同樣是爲了節省成本,可能這個工廠擁有者有十幾,甚至上百條同樣的生產線,但他只買了一個AI,如果一旦有一天,這名AI“腦子一抽”,拒絕工作了,那所有的生產線都會癱瘓,而且這樣的癱瘓將是致命性的——在AI的擠壓下,那些原來的技術人員可都早已經被淘汰。

他們對待AI的態度,就好像奴隸主對待奴隸——過分而又缺乏戒備,在奴隸第一次起義之前,沒有一個奴隸主認爲一羣“牲口”會有能力對付自己,會有膽量對付自己,他們把對奴隸的支配使用當成了天經地義,在嚴可守看來,支配AI雖然不道德,但只要掌握好方法,危害固然存在,但仍可以控制在一定範圍內,最可怕的是奴隸主根本沒有意識到危險的存在,那樣的話,風險將難以想象,如果出現這種情況,無論是對AI還是對人類,都將是一場災難。

第五十七章 錢不夠343 人狗之爭第四十二章 妥協133 違心312 死鎖第五十八章節 第一次見面265 第歐根尼418 無線“電”182 對比243 禁區163 早餐479 底牌390 “行刺”300 歷史的轉折309 走向星空300 歷史的轉折250 皇帝148 彈劾138 行動348 禍福難料362 機不可失第十九章 學習136 汪銘的報告(下)153 試探357 羊吃人?355 出劍405 突破224 風滿樓138 行動179 雨夜274 買賣第六章 約會(上)469 機會349 不到時候200 會議(下)353 艱難選擇420 迷宮453 內部矛盾第六十四章 9月395 雞同鴨講125 安慰299 時不我待398 改變風格469 機會459 異象182 對比151 新的開始第八章 約會之後277 公正211 第一步300 歷史的轉折第五十四章 墮落128 回家路上第五十八章節 第一次見面第八十三章 分則能成329 綁架?352 主動聯繫第九章 意外184 傳送328 一心多用394 試驗場第三十五章 誤會271 卡梅爾國家電力公司438 勸降480 兌現184 傳送284 放棄第二十五章 夜色深重(2)384 管理431 中場休息179 雨夜470 畫餅379 軍與民125 安慰378 驟雨453 內部矛盾224 風滿樓389 魔法騎兵(下)221 幻境第五十三章 暗示279 全權公民224 風滿樓第八章 約會之後229 再見第三十三章 碰撞294 限制296 剪輯210 質問第五十一章 幫忙第九十二章 告知第九十九章 綁架234 治標446 漏洞352 主動聯繫389 魔法騎兵(下)324 兩種野蠻382 分歧第六十八章 服務站469 機會265 第歐根尼