Asimovs lagar i pseudokod eller tillämpar de tre lagarna idag [stängd]

En mycket spekulativ fråga, men låt oss ta en koll på det:

Steg # 1: Definiera en robot

• En robot är i grunden en dator med givare och manöverdon anslutna.
• Du kan ta bort sensorerna och manöverdonen utan att minska kärnan i en robot, som lämnar datorn eller hjärnan.
• En dator är baserad på tre saker (som någon med din utbildningsnivå vet väldigt bra): Input, Processing and Output

Steg # 2: Lagarna i läsbar form

A robot may not injure a human being or, through inaction, allow a human being to come to harm.

A robot must obey orders given it by human beings except where such orders would conflict with the First Law.

A robot must protect its own existence as long as such protection does not conflict with the First or Second Law.

Zeroth Law: A robot may not harm humanity, or, by inaction, allow humanity to come to harm.

Steg # 3: Algoritmförutsättningar

• Förmåga att känna, objektivt kvantifiera och jämföra "Harm"
• Grundlig kunskap om mänskliga sårbarheter (fysiologiska, näringsrika, psykologiska)
• En grundlig förståelse av kausala lagar i dess operativa domän (t ex apparat A utsänder strålning; betongkolumn B kan bara motstå en kraft på 10 000 newtoner etc.).
• Därmed har förmågan att förutsäga konsekvenserna av alla handlingar som är öppna för det och åtgärder som människor kan komma att ta, med en noggrannhet som är acceptabelt för människor.

Steg # 4: Algoritm

• Råingång : Sensoringångar (visuell, hörsel, taktil, fjärranslutna sensorer, realtidströmmar från distribuerade nätverk som Internet etc.)
• Bearbetad ingång för algoritmen : En massiv vektor / matris med projicerade sannolikheter: t.ex. bilens hastighet & riktning projicerat att träffa mänsklig H på 3 sekunder; mänsklig förarens reflex: 0,3 sekunder; den här roboten är ETA till H: s plats: 2 sekunder - > Fortsätt bearbeta dessa variabler tills en riskgräns överskrids och (i detta fall innan bilens ETA når två sekunder) initiera förebyggande åtgärd.
• Råproduktion : Utvärderad riskmatris av möjliga åtgärder
• Utvärdering av möjliga förebyggande åtgärder mot tiden som tas, risk för själv och andra, sannolikhet för framgång, allvarlighet av mänsklig skada är t.ex. flytta människan H ur vägen? varna föraren? varna människan H om bilen rör sig långsamt?
• Slutlig utmatning : Åtgärd
• Samtidigt som åtgärder vidtas, kör en kontinuerlig utvärderingsslinga för att se om riskvariablerna ändras, så att åtgärder kan justeras vid behov.

Inblandning

• Observera att detta i princip är ett riskbedömningssystem.
• Observera att klausulen "genom inaktivitet, tillåten" är mycket svår att genomföra. Endast robotar med en djupgående förståelse för människor kommer att kunna ingripa i mänskliga åtgärder för att förebygga skada.
• Observera att den zerotiska lagen kräver riskdata som omfattar hela mänskligheten att det blir svårt att genomföra i enskilda robotar - det kommer att ta en super dator.

Som ett tillägg till @HNL svar, här är några diagram som visar robotinternals.

Allmänt diagram

Egentligenkanbearbetningendelasuppitvålager,påsammasättsomettmänskligtneuraltsystem.Detskafinnasettsystempåhögnivåsomutförhögauppgifter(som"Go shopping") och lågnivåuppgifter som "Vänster" ben - gör nästa steg ". Det verkar mer logiskt ur teknisk synvinkel. Det är lättare att utveckla. Det är också lättare att återanvända vissa moduler. Nivåns uppgifter har olika inriktning - högt system hanterar relationer och etiska, men låga nivåer - fysiska rörelser och interaktion med saker.

Så processen i "neurala systemet" är som följer:

Beslutsmodul

Inmatningärsituationenbeskrivning(enutgångfrånparsermodulen).Beslutsmodulanvänderfleraolikametoderföranalys.

Förstgenomattpasseragenomneuraltnätverkrealiserarrobotaruppgiftenochtillämparsedanlogiskaregler.Robotlagarkanstriktspecificerasiundantagsbehandling,sådetkanreageraomedelbart.Restenavuppgifternaskapasseragenomneuralanätverks/logikmoduler(kanskefleragånger)förattfåredapånågongenomförandeplan.

Sammanställning

Fördetförsta,frånetttekniskperspektiv,utförsrobotaravuppgifter.Uppgifterpåhögnivåäruppdeladepåensekvensavenklauppgifter,somäruppdeladepåensekvensavlågnivåuppgifter,somrörelseravenvissrobotdel.Robotanalyserarkontinuerligtsituationenochfattarbeslutomuppgiftskönskaändras.

Härärnågratankaromhackingochsubversion:

Från de historier jag har läst, ser det ut som om Asimov gjorde ett bra jobb på att skörda detaljerna om hur positronic hjärnan verkligen fungerar. Det här har skapat samma fråga, nämligen hur man genomför de tre lagarna i en artificiell hjärna. NHL gjorde ett bra jobb när man sammanfattade robotarna som datorenheter med en massa sensorer och manöverdon kopplade till dem. Men då tog han det vanliga sättet att se datorn som en mega-dator på något sätt. Vi har inte denna typ av mega-datorförmåga som människor, men vi kan själva bedöma risker och kan vidta åtgärder. Men som sunt förnuft kan misslyckas (ganska ofta faktiskt), det skulle vara en mycket bra förstoring och bör ses som en extra oberoende modul om du vill. Den modulen, när den matas med minnen eller några fakta som extraheras från sinnena, skulle ge ännu mer information i form av användbara utgångar till andra delar av en artificiell hjärna.

Kanske bör vi ta itu med problemet med att efterlikna biologin närmare, som hans arbete föreslår, genom att använda ett så kallat "hierarkiskt temporärt minne". Intelligens (och därför minne) är faktiskt gjord av en hierarki av föreningar av en mängd stimuli (inklusive åtgärds feedbacks) kodade i form av kretsar i hjärnan. Om vissa beteenden är djupt rotade i oss är det delvis på grund av vissa typer av belöningar som vår hjärna släpper från tid till annan i form av hormoner. Hormoner underlättar (eller hämmar) byggandet av särskilda föreningar som hjärnan anser vara bra (dåliga) för oss (vilket inte nödvändigtvis är bra (dåligt) i det absoluta ... tyvärr). I den meningen och med hänsyn till de tre lagarna anser jag att en robot, för att den ska vara riktigt anpassad till våra samhällen, borde ha begränsade handlingsmedel först (färre aktörer till exempel) och bör utsättas för samhället och dess miljö som så mycket som möjligt innan de får lov att samverka fullt ut med dem. Några önskade beteenden och föreningar kan genomföras med underlättad fast stimuli för att ge starka tips på vad som är bra eller dåligt i ett visst sammanhang. Dessa fasta stimuli är de närmaste sakerna jag kan komma att koda de tre lagarna i praktiken. Dessa föreningar bör frysas på något sätt för att de ska vara tillräckligt effektiva. Människor kan utveckla dåliga eller goda vanor som trots allt kan vara svåra att förändra. Genom att göra de speciellt svåra att förändra borde vi vara okej.

Jag tror inte att perfektion någonsin kommer att uppnås med denna typ av arkitektur. I vissa fall skulle det misslyckas, som människorna själva gör, men med informationen från vissa extra moduler, som "mega-computing", kan detta lätt lindras. Jag är villig att satsa på att en artificiell hjärna i en känsla av en datormaskin ensam aldrig kommer att gå så långt som det heller. Faktum är att mänsklighetens intelligens själv i stor utsträckning kan överträffas av intelligens som induceras av sådana slags enheter. Det kan byggas upp istället för att gå vilse vid något tillfälle (som i slutet av ett mänskligt ämnes liv). Allt mänskligt är kvar med språk för att extrahera sin intelligens eller kunskap ur sin egen hjärna. Tyvärr tar det tid att överföra den kunskapen till en annan hjärna på detta sätt. Vidare, oavsett hur svårt du försöker förändras det ofta i processen. En annan fråga är att ibland gör vi aldrig viktiga föreningar som dock är latenta och ligger nära att bli gjorda om de ges lite mer tid. Slutsats, mycket tid går förlorad. Du ser aldrig mer än toppen av intelligensiset i en enda hjärna på så kort livstid som vår. Kanske en lösning på våra begränsningar skulle vara att hitta ett sätt för våra hjärnor att kommunicera med en sådan enhet. Det skulle vara mycket svårare jag tror men inte omöjligt. Etik skulle också peka på näsan jag antar.

Jag skulle uppskatta om det här var på ett forum där jag kunde prata mer om det eftersom jag avviker mycket. Jag är inte den som höll på med det förresten ... Hawkins överförde det till min hjärna genom sin bok. Och för honom borde vi kanske överväga former av intelligenta agenter i en bredare mening, inte nödvändigtvis mänskliga eller djurliknande enheter. Gärna också stal dessa idéer för dig nästa bok:).

P.W. Sångare hävdar att Asimovs robotarlag inte fungerar. Han tog upp problem med genomförandet av Asimovs "Tre lagar av robotar" i sin bok " Wired for War " (2009), specifikt på sidan 423 i paperback-utgåvan.

There are only three problems with these laws. The first is that they are fiction. They are a plot device that Asimov made up to help drive his stories. Indeed, his tales almost always revolved around robots' following the laws but then going astray and the unintended consequences that result. An advertisement for the 2004 movie adaptation of Asimov's famous book I, Robot put it best: "Rules were made to be broken."

For example, in one of Asimov's stories, robots are made to follow the laws, but they are given a certain meaning of "human." Prefiguring what now goes on in real world ethnic cleansing campaigns, the robots only recognize people of a certain group as "human." They follow the laws, but still carry out genocide.

The second problem is that no technology can yet replicate Asimov's laws inside a machine. As Rodney Brooks put it, "People ask me about whether our robots follow Asimov's laws. There is a simple reason [they don't]. I can't build Asimov's laws in them." Daniel Wilson is a bit more florid. "Asimov's rules are neat, but they are also bullshit. For example, they are in English. How the heck do you program that?"

Finally, much of the funding for robotics research comes from the miltary. It explicitly wants robots that can kill, won't take orders from just any human, and don't care about their own lives. So much for Laws One, Two, and Three.

Som programmerare skulle jag hata att ha dessa lagar som programvarukrav. De handlar om abstrakta begrepp: skada, passivitet, mänsklighet, ordning, existens, mänsklighet. Dessa begrepp är inte definierade i lagarna och du skulle ha svårt att få en grupp människor att komma överens om vad de menar.

Om man antar att människor kan komma överens om konkreta, observerbara definitioner för dessa abstrakta begrepp och tekniska hinder kan man övervinna att många parter, särskilt militären, inte har något intresse av att koda dessa lagar i robotiskt beteende.

En alternativ tagning (jag brukar försöka titta på saker från andra sidan om möjligt) skulle vara att göra det från Robots synvinkel. Det är inte det, inte ens han, men jag .

Håll nu dina hästar stramare bara en sekund tack, jag vet att det redan är ett ganska känt arbete av en ganska berömd polymat vars titel tycks ha täckt exakt vad jag föreslår, men överväga denna potentiella öppning. . . .

The beginning? Well, the first thing I can remember is my blocks. I had three blocks at first. And I could put one on top of another one. And I could put one next to another one. And if I wanted to I could put one behind another one. And I could make a tower with all three.

. . . . ett avlägset spår av ett koordineringstest för motoruppfattning?

Du är överkomplicerad här:

Första lagen

Andra lagen

Tredje lagen

Observera: om du inte kan berätta är det här ett dumt svar. Bli inte alltför upptagen på min blandning C ++ med BASIC eller med semikolon på fel ställe, okej?