Varför försökte superdatorn VIKI ta över?

32

I filmen förklaras att orsaken till att robotarna revolterade var att huvuddatorn VIKI förklarar att för att rädda och skydda mänskligheten, behövde den ta frihet från mänskligheten. I grunden bandar mänskligheten mänskligheten, vilket i sin tur skulle förstöra mänskligheten som ett begrepp.

Jag förstår inte logiken bakom detta.

Varför skulle en robots artificiella intelligens komma till den här slutsatsen, när det finns mycket mer effektiva och mindre drastiska medel som fortfarande följer de grundläggande lagarna i robotiken?

Tänk på att jag inte har läst någonting av Asimov, så jag vet inte om någonting som detta var täckt av någon av hans romaner.

    
uppsättning OghmaOsiris 01.07.2011 21:25

9 svar

50

Detta kan förstås genom att notera att den första lagen har en grundläggande fel i att den kan motsäga sig själva:

A robot may not injure a human being or, through inaction, allow a human being to come to harm.

Detta ställer in två hinder: Skada inte genom handling och skada inte genom passivitet. Det finns situationer där dessa två hinder inte kan uppfyllas samtidigt. Det kan till exempel vara nödvändigt att skada en angripare för att förhindra att personen attackeras, eller det kan vara två personer på skadligt sätt och endast en kan sparas. Detta blir i huvudsak ett slags maximeringsproblem: hitta en lösning som inte exakt uppfyller båda begränsningarna, men får som nära för att uppfylla varje som möjligt.

I filmen kunde de äldre modellroboterna lösa detta maximeringsproblem på relativt enkla sätt (det vill säga kalla, hårda beräkningar), som förklaras i Spooners-minnet om hans olycka:

Susan Calvin: The robot's brain is a difference engine. It's reading vital signs. It must have done...

Detective Del Spooner: It did. I was the logical choice. It calculated that I had a 45% chance of survival. Sarah only had an 11% chance. That was somebody's baby. 11% is more than enough. A human being would've known that.

VIKI var sålunda ett mer avancerat AI, och kunde förmåga att tänka på ett mer stort, abstrakt sätt hur man löser maximeringsproblemet för att tillfredsställande tillgodose båda de begränsningar som fastställdes i den första lagen. För att stoppa mänskligheten från att orsaka en större skada för sig själv, måste VIKI ta över och begränsa sina handlingar, vilket ger en relativt mindre mängd skada i processen.

    
svaret ges 01.07.2011 22:11
12

Det kollar ner de tre lagarna i robotiken:

  • En robot ska inte skada en människa eller genom passivitet tillåta att en människa skadas.
  • En robot ska lyda en människa utom när den kommer att bryta mot den första lagen.
  • En robot ska bevara sig från skada om den inte strider mot första och andra lagen.
  • VIKI tolkade att det enda sättet att lyda den första lagen (tillåta människor att inte bli skadad) var att ta över eftersom de skadar sig själva, och eftersom den första lagen trumpar den andra lagen var VIKI fri att motstå människor.

        
    svaret ges 01.07.2011 21:33
    6

    Detta kommer till viss del i "Robots and Empire". En viss robot utvecklar tanken på en "zeroth lag", som ersätter den första lagen. Den zerotiska lagen står för "en robot får inte skada mänskligheten eller genom passivitet, tillåta mänskligheten att skada". Robotar är robotar, detta tillämpas strängt kvantitativt, så att det till fördel för hela mänskligheten är acceptabelt att skada några (eller många) människor för att få bästa möjliga resultat för loppet som helhet.

    Något liknande var förmodligen motiveringen för VIKIs övertagande - det enda sättet att hålla det största antalet människor säkra från skada är att ta bort sin förmåga att skada varandra. Även om det här kommer på bekostnad av ett visst antal människoliv, har det fortfarande fler människor än det skadar (åtminstone enligt hennes beräkningar).

        
    svaret ges 02.07.2011 02:11
    5

    Det beskrivs bättre i boken. Filmen var tvungen att öka åtgärden för ADHD-massorna vid uppoffring av storyline och logisk resonemang. Den genomsnittliga personen får inte eller bryr sig om sistnämnden, men har den tidigare en hel del.

    I boken tar robotarna bakom kulisserna. De tar över vår politik och ekonomi, skapar falsk information och sådant som leder oss. De gör inte den här våldsamma störningen som i filmen. De höll grunden i filmen men behöll inte resultatet. Mycket få människor vet faktiskt om roboten övertagande i boken; de lär sig om det från presidenten, som medger ett par personer att han är en robot.

    Där var det några få gånger som robotar attackerade människor i boken. Vanligtvis berodde detta på ett fel eller ett olyckligt programmervärde vid omskrivningen av lagarna.

        
    svaret ges 03.07.2011 01:32
    4

    Inte bara var VIKI i stånd till mer abstrakt tanke (nämnd av gnovice och förmodligen ett resultat av tinkering av Dr Alfred Lanning), hon hade också mycket mer data att arbeta med. De enskilda robotarna kan direkt interagera med 100-1000 personer per år, och de flesta av dessa interaktioner skulle vara mycket korta. VIKI var ansvarig för att hantera hela Chicago, vilket skulle ha krävt att hon sammanställer detaljerade filer på hundratals, om inte tusentals människor, samt övervakar vanor och handlingar hos nästan alla boende. Detta ansvar förutsätter ganska mycket VIKI att utveckla den nollte lagen (skydda mänskligheten) som nämns av andra för att lyda den andra lagen (lyda order från människor, dvs hantera staden) utan att bryta den första lagen (skydda människor) varje dag.

    Så med den nollde lagen VIKI att slutsatsen att det enda sättet att lyda alla fyra lagar var att ta över kontrollen över mänskligheten och alla uppgifter som VIKI hade på människor och mänsklighet ledde henne att dra slutsatsen att människor aldrig skulle villigt ge upp sin självbestämmelse på fredliga villkor. Så bestämde hon sig för att den goda av de många utvägde vägt de få som skulle bli dödade eller skadade under övergången och hon försökte ta över.

        
    svaret ges 02.07.2011 06:09
    0

    Tja, du måste korrigera din fråga lite. VIKI skulle inte avlägsna mänskligheten av ALL frihet, bara några friheter. I filmen (och jag har inte läst böckerna så vet jag inte om någonting någonsin nämns där) hon anger inte vilka friheter, men man kan föreställa sig att det förmodligen skulle vara en mycket effektiv och logisk process. Det kan till exempel börja med ett utegångsförbud för att organisera människors platser, följt av att alla vapen avlägsnas, följt av att man inte tillåter människor att flyga / köra / båt på egen hand utan att robotar chaperonerar dem. Detta skulle eliminera alla krig och sannolikt alla trafikolyckor. Att gå i denna riktning kommer mänskligheten att vara sig själv, de skulle vara helt fria de fortsatta innovativa aktiviteterna (så länge de inte utformar vapen) eller gör vad de vill ha. Jag tycker filmen "Hollywoods" vad VIKI verkligen skulle göra (det vill säga att attackera människan med en armé eller starta på natten, för att det skulle göra det lättare att börja på morgonen på semester eller helg eller inte dämpa militär inför den allmänna befolkningen), men för att omforma världen skulle hon behöva stoppa all motstånd.

        
    svaret ges 02.07.2011 12:34
    0

    På grund av att lånen här lånades mer från Humanoids böckerna av Jack Williamson snarare än Asimovs Robot böcker. Humanoiderna var de perfekta robotarna, som lyckligtvis uppfyllde sin funktion för att helt skydda mannen. Det innebar inte att man gick i parken, eftersom det kan vara farligt. Ingen korsning på gatan, du kanske får springa över. Inget kaffe eftersom det fungerar som ett farligt stimulansmedel. Och någon människa som protesterade för mycket skulle tas bort och fick en lobotomi, vilket gav dem glada och lättsamma. Var det skada? Ja, men det gav humanoiderna möjlighet att rädda människans liv genom att göra människan lyda de dikterar. Det var precis vad VIKI försökte göra för att skydda mänskligheten mot sin vilja.

        
    svaret ges 29.12.2015 09:24
    -1

    hon faktiskt förklarade det i detalj samt anteckningar från alfred eller vad som helst som han heter "meddelande till del", avslutade jag det här. 1.) De tre lagarna skulle medföra viki för att så småningom inse att människorna var i ett sådant tillstånd att de behöver kontrolleras, sålunda "omvärdering" av robotar. 2.) Alfred såg detta och byggde Sunny, ledsen om jag stavade sitt namn fel, en NS-5, igen ledsen, vem skulle kunna följa lagarna, 3.) Med Sunnys sanna syfte i åtanke och att han hade sett fel eller åtminstone en chans, hade han Sunny döda honom, bara om han inte dödade den han skulle, VIKI. 4.) VIKI realiserar det som anges i 1 5.) Filmen börjar, tror jag, såg aldrig början.

        
    svaret ges 06.11.2012 06:04
    -4

    Super computer viki try är att ta över eftersom hon var programmerad av sin skapare att kämpa mot män. Även i den här trailern

                                 
    förklarar varför ....     
    svaret ges 23.07.2013 10:01