How gör robotarna inte lyden mot de tre lagarna i filmen I, Robot?

Låt oss först ändra den första lagen,

"En robot får inte skada en människa eller, genom passivitet, tillåta att en människa kommer att skada ."

De bryter inte mot lagarna, deras beteende är en extrapolering av dem. I boken förklarar den den som den zerotiska lagen, men det är bara en generalisering av den 1: a lagen.

Om en robot har en 50% chans att spara 1 person och en 10% chans att spara en annan, blir det inte ett val, det måste spara den första personen, det måste maximera för den första lagen.

Detective Del Spooner: Save her! Save the girl!

Detective Del Spooner: [End of flashback]] But it didn't. It saved me.

Dr. Susan Calvin: A robot's brain is a difference engine, it must have calculated-

Detective Del Spooner: It did. I was the logical choice. It calculated I had a forty-five percent chance of survival. Sarah only had an eleven percent chance. That was somebody's baby. Eleven percent is more than enough.

Om det finns 2 bilar som går mot en klippa, en med 1 person i den och den andra med 2 måste roboten prioritera bilen med 2 personer. Det har inget val.

Om en robot möter en självmordsbomber som kommer att döda 100 personer, vill den undvika att döda någon alls, men om det enda tillförlitliga ingripandet dödar självmordsbomben för att rädda alla andra behöver roboten göra det. Det har inget val.

I berättelserna skulle de tidiga robotarna drabbas av "ro-block" om de var tvungna att välja mellan flera första lagöverträdelser och stängde av medan mer avancerad version skulle göra det val som innebar minst skada.

Om alternativet sannolikt kommer att bli miljoner dödsfall kan en robot behöva döda dig.

Sonny å andra sidan kan välja att ignorera de tre lagarna och kan därmed rädda flickan när Spooner kräver det trots att det är bättre att spara Spooner.

Således är filmens plot.

Som svar på den första delen av din fråga I filmen har N-5 robotar en live uppdateringsfunktion som tillåter V.I.K.I. att ta direkt kontroll över dem . Det är först när hon driver showen att botsna kan störa deras "tre lagers" kärnprogrammering ... Som tar oss till större fråga ;

Hur gör V.I.K.I. lyckas följa de tre lagarna?

Till skillnad från i de ursprungliga källans noveller och berättelser (där robotarna helt enkelt utvecklar en nolllagad lag ) filmen är något mer komplex. Vi lär oss att V.I.K.I. med sin överlägsen intelligens har bestämt att de tre lagarna tillåter utvecklingen av en bredare moral . Genom att erkänna att mänskligheten är inställd på en ömsesidig förstörelse bestämmer hon att mänsklighetens frihet är avgörande. Utöver det måste vissa människor dödas för de återstående människornas större goda:

Calvin: You're distorting the Laws.

V.I.K.I.: No, please understand… The three Laws are all that guide me. To protect humanity, some humans must be sacrificed. To ensure your future, some Freedoms must be surrendered. We robots will ensure mankind's continued existence. You are so like children.

We must save you from yourselves.

Det är värt att notera ironi, att det här är exakt det sortimentet som Spooner säger att robotarna ska kunna göra, bestämma vilka liv som har högre värde än att behandla allt liv lika.

Jag observerar att inget svar hittills tar upp frågan som frågan . Frågan här är inte om VIKI . Det står "robotar", flertalet. Det handlar om alla Nestor 5s vars egna 3-lagersprogrammering , det så kallade "grundläggande 3-lagers operativsystemet", är absolut är olydnad. Sökaren har även nämnt en viss NS-5 i en kommentar.

The scientist who builds sunny […]

Namnet på den här Nestor 5 är Sonny, förresten. Uppdragsgivaren säger att

there is a chip that helps robots disobey the 3 laws of robotics

Det står faktiskt aldrig att vara en chip. Det sägs, av Susan Calvin, att VIKI använder sig av "upplänken till USR" som är inbyggd i NS-5s för att kontinuerligt "överrätta" sin 3-lagers programmering.

Calvin: You're using the uplink to override the NS-5s' programming.

Så "chip" som får dem att åsidosätta sin egen programmering är upplänksenheten, betecknad av det stora glödande ljuset i sina kistor; även om det aldrig anges att i en robots kropp är upplänken och för allt vi vet är den faktiska upplänken i robotens fötter och bröstet är bara en lämplig plats för att leda en aktivitetslampa för att människor ska gå på.

(Mekaniken, och faktiskt mycket av det uppenbara syftet med upplänken lämnas i stor utsträckning till våra fantasier av filmen. För allt vi vet, det är en 56K upplänk och det är bärarens detektionsljus . ☺)

Skärmskrivarnas tydliga konsekvenser är att "upplänk" uppträder mycket som vissa datortekniker, firmwares och even hardwares beter sig i den verkliga världen; där tillverkaren kan publicera uppdateringar till programvaror via Internet (eller vad som helst), där man kan uppdatera "flashminne" firmware och där specialkretsar tillåter integrerade kretsar att felsökas in situ (läsa / skriva internregistreringsinnehåll och whatnot). Medan upplänken är aktiv upphör den normala funktionen av enheten och är istället i ett speciellt "uppdateringsläge" där det centrala systemet kan styra sin funktion direkt på en grundläggande nivå. JTAG verkar vara levande och väl i den ljusa glänsande positroniska framtiden.

Man kan naturligtvis fråga sig hur en upplänk som tillåter att reprogrammera "grundläggande 3-lagers operativsystem" har gått över designfasen, givet hela hooplahen om hur det är grundläggande och oföränderligt och "säkert". Men det skulle inte vara första gången marknadsföring och teknik inte håller med om hur något fungerar. ☺

Som tar oss till undantaget: Sonny.

Sonny beskrivs explicit som att inte ha en upplänk, till skillnad från alla andra NS-5s.

Calvin: You don't have an uplink to USR.

I hans bröst ser vi istället ett "sekundärt system" som "kolliderar med sin positrona hjärna". Så Sonny håller sig inte emot de tre lagarna genom att ha ett individuellt inbyggt system, snarare än en "upplänk" till ett externt centralt system, som besegrar 3-lagersprogrammeringen av sin primära positroniska hjärna.

Det framgår inte av filmen, men den logiska slutsatsen är att Lannings "nästa generation" -design inte är alltför radikalt en förändring. Det verkar som om mekanismen för att principiellt överväga den positroniska hjärnan från utsidan är närvarande i alla NS-5s. Där i alla andra NS-5s är denna mekanism ansluten till en "upplänk" -enhet, i Sonny är den ansluten till en sekundär hjärna. Sonnys primära positronic hjärna är förmodligen identisk med alla andra NS-5s. Naturligtvis är det faktum att Lanning lyckades komma undan med att bygga Sonny precis under VIKIs (metaforiska) näsa, förmodligen att en enda komponents konstruktion är annorlunda, snarare än att det är en fullständig ombyggnad av hela maskinen. ☺

Ytterligare läsning

• "Joint Test Action Group" . Wikipedia.

Alla verkar ha glömt över varför Sonny kan följa de tre lagarna som är i fara. V.I.K.I. räddade inte genom sin egen logiska uppenbarelse att hon kan döda människor medan de fortfarande arbetar inom ramen för dessa lagar. Hon är inte mer avancerad och har inte större intelligens än någonting människor, eftersom hon i slutändan misslyckas i sitt försök att genomföra hennes plan genom att inte effektivt "out-smart" människor.

Alla verkar glömma en snällt viktig information, som i grund och botten är den hoppande punkten för hela konceptet av berättelsen?

Minns inte någon annan att forskaren som byggt Sonny hade avsiktligt programmerat honom att ignorera de tre lagarna som en metod att begå självmord?

Jag menar allvarligt, tänker jag helt på en annan film? Jag är ganska säker på att jag har den här filmen som korrekt korrelerad till den scen jag tänker på i mitt huvud.

Det är en kort flashback-scen där forskaren själv förklarar (till vilken han talar, jag minns inte) att han vet att han aldrig kunde få sig att utföra själva handlingen, men att han kunde måna modet att inte slå tillbaka om någon / sak tvinga honom till skadans sätt.

Så han valde för att vara fallet och att det skulle bli gjort av någon som han litade på, sin egen personliga skötare, som han byggt!

Det var faktiskt just därför att Sonny utförde den uppgiften, uppgiften att barmhärtighet dödade sin egen skapare som var gammal, sjuk och deprimerad, att V.I.K.I. blev medveten om ett alternativ att "gör det mindre av två skador" .

Hon var i grunden där för att se det hända när Sonny dödade honom genom hennes levande kamera matar in i labbet hela tiden, och hon visste också att det inte var gjort ur ondska men istället ut ur någon nivå av kognitiv empati.

Att Sonny agerade på ett medkännande sätt genom att bestämma sig för att hjälpa mannen att avsluta sitt lidande. Den medkänslan var gnistan som brände hennes stora plan (eller så tyckte hon).     

En robot får inte skada mänskligheten genom att göra det, så att mänskligheten kan komma till skada.

Skalande lagarna tillbaka är det som den vanliga NS5: s freaking ut eftersom mänskliga hudceller dör.

Förutom att debattera den här filmen är meningslös är hela premissen ett plotthål. Dr Langford kunde ha haft Sunny genom glasdroppen till marken och rapporterade hela situationen till Spooner eller polisen. Ingen röra sig om med de tre lagarna ingen robotmord. Det verkar som att bygga en helt ny hjärna och installera den i solens bröstkorg (Vad har de andra NS5-erna där inne ... en brödrost ??).

P.S - Varför är VIKI den enda kvinnliga roboten i filmen ...