沒有自主意識的計算機，即便頂著“人工智能”的名頭，按理，也無法與人的思維相比，這是方然以往的看法。
但話回來，自我意識究竟是什麽；
查看ASA提交的分析報告，並觀察這一軟件在網絡上的行為特征，方然心生疑惑，他偶爾還禁不住會想，所謂“AI的自我意識”這種東西，究竟是不是如人工智能領域的專家們所的那樣，是人類短時間內無法觸及的成就。
眼前，屏幕上的整齊字跡，就在透露出某種意識的跡象：
幾個月來學習方然的工作模式，正式上線後，ASA係統一開始的調查速度並不快，在旁觀者看來，就好像初次接入互聯網絡，在試探、熟悉周遭環境那樣；接下來，按常規思路，ASA嚐試外聯若幹已知的數據節點，同時從安全措施薄弱的服務器拉取信息列表，顯然是為後續的信息獲取做準備。
這些步驟，和人的行動模式差不多，隻是效率更高。
基礎科學部的計算資源，大部分依賴伯克利的公共大型機，必然有算力波動，作為後台程序的ASA展現出一定的智能性，會在網絡空閑時大量截取數據，算力空閑時集中解密、分析處理，在存儲空間緊張時則進行一次垃圾收集，很好的平衡了算力、帶寬和空間，捫心自問，方然承認這是他做不到的。
即便這些工作的技術原理並不複雜，問題在於，人並沒有AI那樣強大的計算和記憶能力，即便清楚原理也做不來。
觀察ASA的行為，對方然來，逐漸成為一種略帶消遣的日常工作。
但重要的還是分析結果，和看似有序的行為不同，ASA的報告，卻讓方然懷疑係統是不是出了什麽問題：
站在人的立場，ASA在初始化後調取的數據，豈但是雜亂無章，有時候簡直就是毫無道理，原本布置了追蹤“匿名者”的任務，但是在從聯邦公民信息係統（外聯接口）和聯邦電信節點獲取大量數據後，軟件就進入了四處開花的工作模式，開始侵入諸如賓夕法尼亞醫療結算中心、孟山都物流體係第14A7檢查點、東太平洋水文氣候監測站，甚至NASA俄勒岡射電觀測陣列這些不知所雲的機構。
在聯邦調查一個人的行蹤，固然需要大量數據，但……
真的需要這些風馬牛不相及的東西嗎。
建立在人工智能內核之上的ASA，一旦開始運行，身為管理員也隻能看到若幹接口送出的數據，對龐大軟件架構內部的運行情況，即便動用能拿到手的最先進動態監控模塊，麵對規模超乎想象的狀態碼、存儲器數據和訪問日誌，方然也隻能徒喚奈何。
想一想也是，倘若這係統正在做的事，居然能被人通過接口數據分析的清楚明白，那他又要這ASA何用呢，幹脆自己操縱還更保險。
開發軟件，部署人工智能係統，作為AI的創造者、至少也是參與了工作的使用者，卻無從掌握人工智能體係的具體運作，基於過往的積累，在與ASA打交道的過程中，方然對這類係統的黑盒子性質有了更直觀、更深刻的理解，也部分理解了為什麽一部分計算機、人工智能研究者，始終對AI心懷恐懼。 本章尚未完結,請點擊下一頁繼續閱讀---->>>