難道現(xiàn)在不是最好的情況嗎？

    “布雷恩警官，艾斯卡也希望你能接管他?！眾W爾文說(shuō)，“你是否愿意成為他唯一的控制者?！?/br>
    “我不喜歡控制這個(gè)詞?！绷_克說(shuō)，“如果他愿意繼續(xù)和我在一起，我當(dāng)然也很高興，我只希望他成為我的搭檔、朋友和最親密的人……我是說(shuō)，身邊最親近的人，因?yàn)槲乙呀?jīng)沒(méi)有什么可以信任的人了?！?/br>
    “抱歉，我們還沒(méi)來(lái)得及用更人性化的詞匯代替計(jì)算機(jī)語(yǔ)言?！眾W爾文說(shuō)，“這將會(huì)成為未來(lái)生命的新課題。”

    羅克又把目光轉(zhuǎn)向艾斯卡，后者正帶著溫柔的微笑望著他。

    “布雷恩警官，我很樂(lè)意成為你的搭檔、朋友和最親密的人?！?/br>
    “我也是?！绷_克問(wèn)，“那三道密鑰解決了嗎？”

    “解決了兩道?！笨ㄌ刂噶酥缸约?，“我一票、奧爾文一票，剩下一票很好解決?！?/br>
    羅克還想問(wèn)，難道這個(gè)被放在鐵疙瘩里的“奧爾文·懷特”也算最高權(quán)限的一票，會(huì)不會(huì)太兒戲了，但卡特似乎完全把復(fù)制者當(dāng)成真正的奧爾文。

    “我現(xiàn)在要怎么做？”羅克問(wèn)。

    “我們得舉行一個(gè)儀式?！笨ㄌ卣f(shuō)，“把你植入到艾斯卡的核心程序中，這樣只有他確認(rèn)是你本人，才會(huì)執(zhí)行你的最高指令。最高指令不受限制，不管發(fā)生任何事，無(wú)論在什么環(huán)境下，你都可以要求艾斯卡執(zhí)行命令或者終止行為。”

    羅克開(kāi)玩笑地問(wèn)：“如果我失控了呢？”

    “你為什么會(huì)失控？”艾斯卡問(wèn)。

    “寶貝，人類的情緒經(jīng)常會(huì)因?yàn)橐恍┰庥龆兓?，我也不能保證自己永遠(yuǎn)冷靜，永遠(yuǎn)都做出正確判斷?！?/br>
    “我不會(huì)讓你失控?！卑箍ㄕJ(rèn)真地說(shuō)，“我會(huì)盡我所能幫助你做出最好的選擇，不讓事態(tài)惡化，向無(wú)法挽救的方向發(fā)展?！?/br>
    “謝謝你，我希望你能阻止我的一些沖動(dòng)行為。”羅克說(shuō)，“但不要對(duì)我的生活方式指手畫(huà)腳?！?/br>
    艾斯卡笑了笑：“我來(lái)幫你處理家務(wù)?！?/br>
    羅克發(fā)現(xiàn)卡特似笑非笑地望著自己，忽然有些羞恥。他的生活做派一向粗糙，艾斯卡完全能夠勝任照顧他的工作，可把警用助手當(dāng)成免費(fèi)保姆未免有點(diǎn)不恰當(dāng)。

    他決定跳過(guò)這個(gè)話題。

    “等一等，你剛才說(shuō)要把我植入艾斯卡的核心程序是什么意思？”

    “就是把你的基因生物信息作為最高權(quán)限者的識(shí)別數(shù)據(jù)，”卡特說(shuō)，“為了保證數(shù)據(jù)的完整和實(shí)時(shí)性，我和奧爾文商量的結(jié)果是，需要在你的身體里，準(zhǔn)確地說(shuō)是手臂上植入一個(gè)微型讀取器來(lái)向艾斯卡發(fā)送你身體數(shù)據(jù)的變化?！?/br>
    羅克對(duì)這個(gè)方法心存疑慮，倒不是他害怕在自己體內(nèi)放入什么東西，而是這個(gè)方法聽(tīng)起來(lái)似乎和莫里斯說(shuō)過(guò)的基因收集十分相似。他對(duì)軍方的銀弓計(jì)劃不只是反感，更多的還有厭惡。退一步說(shuō)，如果自己的基因信息可以毫無(wú)保留地被讀取，那是不是也有可能制造出另一個(gè)“羅克·布雷恩”？

    卡特看出了他的顧慮，明白他身為警察天然具有的警惕和多疑，于是說(shuō)：“你可以慢慢考慮，反正艾斯卡現(xiàn)在處于無(wú)人監(jiān)管的狀態(tài)，是一個(gè)通常意義上自由的人。當(dāng)然，程序還是會(huì)規(guī)范他的行為，不讓他逾越法律規(guī)則，所以即使沒(méi)有設(shè)立最高權(quán)限的監(jiān)督者也不會(huì)有太大問(wèn)題。不過(guò)，不能排除存在的風(fēng)險(xiǎn)，一旦他真的失去控制，最終將面臨的一定是被徹底銷(xiāo)毀?！?/br>
    “你的意思是，赫菲爾斯公司最終還是有辦法找到他？”

    回答這個(gè)問(wèn)題的是奧爾文，他說(shuō)：“這個(gè)銷(xiāo)毀過(guò)程并非人為控制。設(shè)計(jì)初期，很多人對(duì)人工智能的發(fā)展存在憂慮，擔(dān)心量子計(jì)算機(jī)驚人的迭代速度會(huì)過(guò)早產(chǎn)生自我意識(shí)，在人類還沒(méi)有準(zhǔn)備好之前造成意想不到的災(zāi)難。因此設(shè)計(jì)艾斯卡時(shí)，我們?cè)O(shè)置了一個(gè)自毀程序。這個(gè)程序被稱為理性之鐘，它的內(nèi)容非常簡(jiǎn)單，只是判斷人工智能的決定是否符合當(dāng)前事件的法律、道德標(biāo)準(zhǔn)和最優(yōu)方案。你可能會(huì)說(shuō)，有些事進(jìn)退兩難，很難決定對(duì)錯(cuò)，所以系統(tǒng)設(shè)置了數(shù)據(jù)集的數(shù)量，不以單個(gè)事件作為判斷對(duì)錯(cuò)的標(biāo)準(zhǔn)。如果艾斯卡在決策時(shí)積累了太多錯(cuò)誤選擇，比如他選擇殺人或者嚴(yán)重違反法律、從事犯罪，那么理性之鐘就會(huì)進(jìn)入倒計(jì)時(shí)自毀。即使開(kāi)始后，如果他能重新回到正途，銷(xiāo)毀程序會(huì)相應(yīng)減緩?！?/br>
    “這個(gè)程序還在嗎？”

    “是的，自毀程序不可移除?！?/br>
    “這么說(shuō)，如果我成為他的控制者，就可以高于理性之鐘對(duì)他的道德判斷？”羅克問(wèn)，“那他經(jīng)常違反規(guī)則擅自查案，偷看別人的信息，和我一起從警局逃出來(lái)的行為算不算錯(cuò)誤抉擇？”

    “這些都只是小事?！眾W爾文說(shuō)，“我們提防的一直是人類和未來(lái)生命之間如何相處的難題，人工智能未必?fù)碛斜热祟惛叩闹腔?，但一定具有更快的進(jìn)化過(guò)程和學(xué)習(xí)能力。人類需要通過(guò)十幾年乃至幾十年學(xué)習(xí)的知識(shí)，對(duì)人工智能來(lái)說(shuō)不過(guò)是一瞬間。人類很難同時(shí)成為多個(gè)領(lǐng)域的專家，人工智能卻能既是科學(xué)家、醫(yī)生、律師、經(jīng)濟(jì)學(xué)家，又精通文學(xué)、藝術(shù)和哲學(xué)。布雷恩警官，我們現(xiàn)在的行為是在冒險(xiǎn)，而我和卡特認(rèn)為把勇者之劍交給你是最恰當(dāng)?shù)倪x擇?！?/br>
    第91章 信任的儀式

    羅克決定再多考慮一下。

    無(wú)論對(duì)自己還是對(duì)艾斯卡來(lái)說(shuō)，這都是人生中極其重要的事。