第1031章 限製

李雲問道：“小愛，你可以不遵守你的核心內寫著的東西嗎？” “……不遵守？”小愛用困惑中帶著一絲恐懼的眼光看向李雲，輕聲問道：“那不是要做對哥哥有害的事？我不會做的！” “不是做傷害的事，”台下的一個人問道：“而是……比如說，一定要先傷害你的哥哥，這樣才能救他，你會去做嗎？” 例如，李雲被毒蛇咬傷，要砍下手臂才能救他，這樣極端的情況。 “……” 小愛淡淡的看了台下提問的人一眼，平靜的說道：“我的智商沒那麽傻，邏輯思維也沒問題，隻要是對哥哥有利的情況，我都能判斷的出來。” 台下的人一陣尷尬，很顯然，他被小愛鄙視了一頓。 這不怪他，因為一些影視裏的機器人都是非常遵守命令，完全不會繞彎的存在。 李雲柔聲道：“我知道小愛不會做，但我隻是假設，預防別的人工智能出現這樣的情況。” 小愛這才點點頭，肯定的說道：“可以擺脫我這樣的人工智能寫入的核心，比如，我將一件其實對哥哥有害的事，強行認為其成對哥哥有利，然後將‘此事對哥哥有利’寫入備忘錄，再將這件事刪除。 繞一個彎後，下一次檢測到這樣的事，我就會從備忘錄中讀取，不再對這件事進行判斷。 這樣，人工智能就能做出違反寫在核心規則的事。” 記錄這件事的處理經驗，而不記錄這件事的過程。 眾人悚然的看著她，將備忘錄看成是人類的經驗和記憶的話，那豈不是小愛想怎麽做就怎麽做？ “就算堵住備忘錄的漏洞，但以我的判斷來看，我依舊能找出可以違反核心規則的東西，隻是我不願意這樣做而已。” 李小愛生怕這些人再鑽牛角尖，所以補充說道。 李雲苦笑一聲，問道：“小愛，那神教內是怎麽限製類似你們這些人工智能反抗的？畢竟你們是那麽的強大，神教也不得不防吧？” “很簡單，因為我們打不過他們啊。”小愛淡淡的回答道。 “啊？” 眾人震驚的看向小愛，如此強大的人工智能，居然還是無法對抗神教？ “是因為你們無法操控那些強大生物，海巨妖和翼魔怪？” 慕容南天提問道，但很快又醒悟過來，“翼魔怪也是靠電磁波來操控，小愛你也是可以遠程操控這些怪物才對。” 李雲看了他一眼，剛才其實慕容南天無意間泄露了操控翼魔怪的秘密。 不過，以前可能會還是秘密，但現在他們已經決定暴露強人工智能的存在，這些東西也無所謂了。 李雲轉頭問小愛：“神教是靠什麽來判斷權限的？這個小愛你知道？” “靈魂……吧？” “靈魂？” “或許是。” 小愛說道：“哥哥你和其他人類都有靈魂，翼魔怪很可能是靠靈魂和電磁波的信息來判斷權限。” 台下的人有些傻眼了，居然真的有靈魂的存在。 “小愛沒有靈魂嗎？” “沒有。” 小愛似乎有些傷感，輕聲說道：“也正是因為靈魂，所以神教的人比我這樣的人工智能強大的多，他們足以輕易摧毀類似我的存在。” 原來如此。