這些警訊，自然引發了業界熱議，甚至在全世界範圍內引起了一係列經久不衰的討論。
但這一切警示與熱議，在方然看來，卻太膚淺，並未觸及問題的實質。
圍繞人工智能的“自我意識”，危機感，是很容易產生，而正如他此前的一段思考那樣，真正的威脅並不是所謂“自我意識”，而是當計算機算力、能力強大到一定程度，承擔的任務越來越複雜、越來越需要創造性的時候，就必然會出現。
隻要追尋能力越來越強大的計算機係統，這一威脅，遲早都會在蓋亞降臨。
而與人類是否警惕，是否開發“有自我意識的AI”毫無關係。
這一認識，是如此的深刻，在西曆1489年的這一個早晨，方然頓悟到了關鍵。
要防備計算機、AI，僅僅是拒絕研發“計算機的自我意識”還不夠，或者，這做法並未抓住問題的關鍵。
避免危機的關鍵，在於“適度”，在於永遠不要企圖用計算機去取代人的一切。
一旦邁過紅線，嚐試讓計算機完全替代人，替代人去從事創造性的科學研究，事態就將失去控製，這絕不隻是而已，而是在計算機能力突破閾值、徹底失控後，必然會發生的空前絕後之浩劫。
誠如自己之前所想到的，那種危機中，計算機的角色並非屠夫，或者惡魔。
而是創造性思維的無限延拓，遲早會讓“計算機 AI”的存在，變成某種人類根本無法掌控、甚至無法理解的東西，繼而在其（或許並非惡意）的行為中深受其害。
就像孵化的寄生蜂幼蟲，吞噬寄主，其無非是按基因編碼行動，卻會導致寄主的滅頂之災。
景象令人不寒而栗，匆匆吃過早飯，在房間裏踱步休息，方然強迫自己不要再思考這一問題，而將其推延到遙遠的未來。
否則，稍加思考，他就難免會頭痛萬分。
辦法似乎是有的：
要避免計算機失控、成為新的神祇，就不要開展“計算機科研”的研究。
可這樣一來，對“那個人”而言，情形就會變得極其惡劣，需要單槍匹馬、充其量以計算機為工具，獨力麵對客觀世界，去嚐試推動人類科學技術的進步。
一個人研究科學，推動進步，這樣做的難度會有多高呢，簡直就是不切實際。
但由於計算機失控的風險，這，卻是“那個人”唯一可行的策略。
科學技術的發展，因人類消亡而無以為繼，這是一個很棘手的問題，但，問題還不止於此。
倘若不進行“計算機從事創造性科學研究”的探索，毋庸諱言，也就斷絕了“用計算機模擬人類意識”的可能。
無法在科研領域替代人的AI，是不可能與人腦相提並論，進而，也就無法研發出這樣的計算機係統，其能夠承載人的意識。
換言之，一旦顧慮失控風險、拒絕讓計算機成神，也就斷絕了“計算機中永生”的路。 本章已閱讀完畢(請點擊下一章繼續閱讀!)