電影 I,機器人 ...中有一種芯片可以幫助機器人違背機器人技術的3條定律:
- 機器人不得傷害人類或通過無為而造成傷害。
- 機器人必須遵守人類給予的命令,除非這些命令會發生衝突。
- 機器人必須保護自己的存在,只要這種保護與第一或第二定律不衝突
ol>
但是真的發生了嗎?芯片是否可以幫助機器人完全忽略這三個定律,或者芯片上使用的定律中是否有漏洞?
電影 I,機器人 ...中有一種芯片可以幫助機器人違背機器人技術的3條定律:
- 機器人不得傷害人類或通過無為而造成傷害。
- 機器人必須遵守人類給予的命令,除非這些命令會發生衝突。
- 機器人必須保護自己的存在,只要這種保護與第一或第二定律不衝突
ol>
但是真的發生了嗎?芯片是否可以幫助機器人完全忽略這三個定律,或者芯片上使用的定律中是否有漏洞?
首先,讓我們重申一下第一定律
“機器人可能不會傷害人類,或者通過無所作為會傷害人類。。”
他們沒有違反法律,他們的行為是對他們的推斷。在書中,它解釋為零定律,但這只是第一定律的概括。
如果機器人有50%的機會拯救一個人,而10%的機會拯救另一個人,那它就沒有無法選擇,它必須保存第一人稱,必須最大化第一條定律。
Detective Del Spooner :救她!救救那個女孩!
偵探德爾·斯普納(Dp Spooner):[閃回結束]]但是事實並非如此。它救了我。
博士。蘇珊·卡爾文(Susan Calvin):機器人的大腦是一個差異引擎,它必須具有計算能力-
Detective Del Spooner :確實如此。我是邏輯的選擇。它計算出我有百分之四十五的生存機會。薩拉只有11%的機會。那是某人的孩子。 11%綽綽有餘。
如果有2輛車駛向懸崖,一輛要載1個人,而另一輛要載2人,則機器人必須優先考慮2個人。
如果機器人遇到即將殺死100人的自殺式炸彈襲擊者,它將完全避免殺死任何人,但是如果唯一可靠的干預措施是殺死自殺式炸彈襲擊者以挽救其他人,機器人需要這樣做。
在故事中,如果早期的機器人不得不在多個違反第一法的行為之間進行選擇,它們將遭受“障礙”,並會關閉,而更高級的機器人將做出涉及傷害最小。
因此,受第一部法令約束的任何足夠先進和強大的機器人,如果發現自己處於周圍人類可能因戰爭或無能而謀殺數百萬人的境地,就必須進行干預,以最大程度地減少對人類的傷害。沒辦法。如果另一種選擇可能造成數百萬人死亡,則可能需要機器人來殺死你。
Sonny可以選擇忽略這三個定律,因此可以在Spooner要求時挽救女孩,儘管可以更好地挽救Spooner。
因此影片的情節。
回答問題的第一部分;在電影中,N-5機器人具有實時更新功能,該功能允許V.I.K.I.來直接控制他們。只有在她進行表演時,機器人才能夠覆蓋其``三個定律''的核心程序...這將我們帶到了更大的問題;
與原始原始小說和故事不同(機器人只是簡單地制定了 etheth定律),這部電影有點更複雜。我們了解到,V.I.K.I。憑藉她的卓越才智,決定了這三個定律可以發展出更廣泛的道德。她認識到人類是在相互破壞的道路上前進的,因此,她決定犧牲人類自由是至關重要的。最重要的是,某些人必須為了更大的人類利益而被殺:
加爾文: 您在歪曲法律。 em>
VIKI: 不,請諒解……這三個定律都是指導我的事情。為了保護人類,必須保護某些人類。犧牲了。為了確保您的未來,必須放棄一些自由。我們的機器人將確保人類的持續生存。您就像孩子一樣。
我們必須把您自己救出來。
值得諷刺的是,這正是Spooner認為機器人應該能夠做出的選擇,即確定哪些生命具有更高的價值,而不是平等對待所有生命。
我注意到,到目前為止,還沒有答案能解決所問的問題。這裡的問題是關於VIKI 。它說“機器人”,複數。關於所有 Nestor 5s 其自己三定律編程,即所謂的“基本三定律操作系統”, >最肯定的是被違抗。發問者甚至在評論中提到了一個特定的 NS-5。
建造陽光明媚的科學家[…]
順便說一句,內斯特5號的名字叫Sonny。發問者指出,
有一種芯片可以幫助機器人違反機器人技術的三定律。
實際上,從來沒有說它是芯片。蘇珊·卡爾文(Susan Calvin)表示,VIKI利用NS-5內置的“ USR上行鏈路”來不斷“覆蓋”他們的三法則編程。
卡爾文:您正在使用上行鏈路來覆蓋NS-5的編程。
因此,“芯片”使他們超越自己的程序的是上行設備,其胸部發出的巨大發光光錶明了這一點。儘管從來沒有說過上行鏈路在機器人體內的什麼位置,而且我們都知道實際的上行鏈路在機器人的腳上,而胸部只是連接活動LED以便人類窺視的便利位置。
(電影的上行鏈路的機制以及實際上很多明顯的目的很大程度上取決於我們的想像。就我們所知,這是一個56K上行鏈路,這是載波偵聽光的。☺ )
編劇清楚地暗示,“上行鏈路”的行為與某些計算機軟件,固件甚至硬件在現實世界中的行為非常相似;製造商可以通過Internet(或其他方式)發佈軟件更新,可以更新“閃存”固件,還可以使用特殊電路對集成電路進行現場調試(讀取/寫入內部寄存器內容等)。在上行鏈路處於活動狀態時,單元的正常功能被掛起,而是處於特殊的“更新模式”,在該模式下,中央系統可以直接在基本級別上控制其功能。 JTAG在光明的正電子未來看來似乎還活著,而且狀況良好。
當然,人們可能會質疑允許實際重新編程“基本3律操作系統”的上行鏈路超過了設計階段的情況。 ,給出了所有關於它如何基本,不變和“安全”的讚譽。但這並不是市場營銷與工程學第一次就某種事物的工作方式達成共識。 ☺
這讓我們想到了一個例外:Sonny。
Sonny被明確描述為不具有上行鏈路,這與所有其他NS-5不同。
加爾文:您沒有USR的上行鏈路。
在他的箱中我們看到的是一個“次級系統”,“與他的正電子腦相撞”。因此,桑尼單憑擁有一個獨立的車載系統,而不是外部中央系統的“上行鏈路”,就違背了這三個定律,這打敗了他的主要正電子大腦的三定律編程。
電影中沒有提到,但合乎邏輯的推斷是,蘭寧的“下一代”設計實際上並沒有那麼徹底地改變。看來,所有 NS-5中都存在從根本上超越正電子大腦的機制。在所有其他NS-5中,此機制連接到“上行”設備,而在Sonny中,它連接到輔助大腦。桑尼的主要正電子大腦可能與所有其他NS-5相同。當然,只有一個組件的設計有所不同,而不是對整個機器進行完全重新設計,這一事實可能是Lanning設法擺脫在VIKI(隱喻)的鼻子下建造Sonny的方法。 ☺
每個人似乎都忘記了為什麼桑尼可以隨意違反這三個定律。 V.I.K.I.她沒有通過自己的邏輯啟示得出任何理由,說她可以殺死人類,同時仍然在這些法律的範圍內行動。她並沒有比任何人類都先進,並且沒有比任何人類都更大的智慧,因為她最終未能通過有效地使人類“聰明”來實施計劃而失敗。
每個人似乎都忘記了某種非常重要的信息,這基本上是整個故事情節概念的起點?
沒有其他人回想起建造桑尼的科學家故意將他編程為無視這三個定律來自殺嗎?
I是說,認真的說,我是否完全在考慮另一部電影?我很確定我的這部電影與我腦海中所想的場景正確相關。
這是一個簡短的倒敘場景,科學家本人向他解釋(我不告訴他的講話對象),他知道他永遠無法親自對自己執行該行為,但他可以鼓起勇氣如果某人/某事迫使他不傷害自己,就要勇於不進行反擊。
因此,他選擇了這種做法,並由他信任的人,自己的私人服務員和他所建立的人來完成!
事實上,正是由於桑尼確實執行了這項任務,憐憫的任務殺死了自己的老者,病殘者和沮喪者,才使V.I.K.I.意識到可以“做兩種危害中的較小者” 。
基本上,Sonny一直在現場觀看這件事,因為Sonny總是通過實時攝像頭殺死他,進入實驗室,而且她還知道這並不是出於惡意,而是出於某種程度的認知移情。
桑尼(Sonny)決定以幫助他人結束痛苦的方式表現出同情心-憐憫的行為是助長了她宏偉(或她認為)的總體計劃的火花。
聲明和法律的效力尚無定論。第一定律防止機器人傷害...等。然而,這部法律並未像暗示的那樣覆蓋人類。 VIKI的行為源自對“人類”的定義不明確的概念。她/它可以對人類採取行動,因為在這里人類的感知是一個未整合的整體。本質上,她的第一個定律是;
機器人可能不會因無所作為而傷害人類,而是讓人類受到傷害。就像傳統的NS5一樣,因為人類的皮膚細胞正在死亡。
除了辯論這部電影是沒有意義的,它的整個前提是一個情節漏洞。 Langford博士本來可以讓Sunny突破玻璃落在地面上,然後將整個情況報告給Spooner或警察。不用搞砸三定律,不要搞機器人殺人狂。看來,要建造一個全新的大腦並將其安裝在Sunny的胸部(反正其他NS5在那裡有什麼……烤麵包機?)。
PS-為什麼VIKI是唯一的女性機器人電影...