Vad är den juridiska / etiska statusen för "Smart" AI i HALO?

Question

Vad är den juridiska / etiska statusen för "Smart" AI i HALO?

#1 från (4 röster)
#2 från (3 röster)
#3 från (1 röster)

11

Efter att ha sett detta och denna fråga undrade jag vad med så kallad Smart "AIs i HALO-universum (dvs. Cortana , Kalmiya )?

Har dessa AI "rättigheter"? Tydligen bröt Dr. Halsey många lagar i skapa Cortana, men skulle hon bryta mot lagar om hon skulle förstöra Cortana?

Eftersom Smart AIs kan tänka självständigt, vilken typ av gränser åläggs dem? Självklart finns det några begränsningar, som noteras i Halo: Fall of Reach:

Cortana has the same mission parameters as you do. She will do anything necessary to make sure that your mission is accomplished.

Men hur är dessa begränsningar införda?

Kort sagt är frågan: hur nära människor är AIs övervägande, och vad är deras juridiska, moraliska och etiska statuser i det universum?

artificial-intelligence halo

uppsättning The Fallen 26.10.2012 18:52

3 svar

Läs andra frågor om taggar artificial-intelligence halo Kärlek och kompatibilitet Skor Gear 12 Stjärntecken Grunderna

Skulle du väcka någon från Sleep Stave? Den mörka utseendet

score 4 · Answer 1

Jag kommer inte ihåg att det finns ett uttryckligt svar i kanonen. Som Foo Bar påpekar, Halo spenderar mycket lite tid på interpersonella etiska frågor. Vi kan dock utgå från vissa saker.

Juridisk status :

Mitt minne är att den ursprungliga Fall of Reach novelleringen underförstod i Johns briefing att Cortana är statlig egendom. Med tanke på att spartanerna är praktiskt taget statliga egendom själva, verkar det mycket troligt att de efemiska kopiorna av hjärnor av döda genier inte skulle ha mer rättigheter än någon mänsklig soldat. Medan deras hanterare, lagkamrater och elever behandlar dem som individer finns det inga bevis för att UNSC eller ONI gör det. Mitt minne om det är att John fick veta att han skulle behandla Cortana som mjukvara, vars säkra återvändande hade en lägre prioritet än sitt uppdrag. Åtminstone, i den ursprungliga novelleringen, före Halo: Reach släpptes.

Vi skulle dra slutsatsen att de enda lagar som skulle brytas om någon hade dödat Cortana skulle ha varit förstörelse av statens egendom.

Begränsningar :

Olika typer av behörigheter infördes programmässigt, det är troligt att detsamma skulle vara sant för några begränsningar som UNSC eller ONI ville införa på deras AI. En av de relativt nyliga animationerna hänvisade till de tre lagen om robotik, men det verkade mer som att AI behövde en överstyrningskod till reaktorkontrollerna. (Först måste FN: s säkerhetsråd göra reaktorer som är mindre benägna att explodera.)

Det verkar dock som om de inte ville införa begränsningar på deras AI. De gav sina AI många resurser och en sandlåda av olika slag och lät dem gå, på ungefär samma sätt som vissa forskare behandlas. Några hänvisningar till detta är gjorda i den ursprungliga Fall of Reach , när Halsey bryter in i ONI-anläggningarna under förbundsattacken.

Etisk status :

Som en diskussion om den etiska behandlingen av AI är din bästa satsning faktiskt Red Vs Blue . Att vara vag för att undvika spoilers, men under senare årstider finns det en ganska stor plottbåge om AI-rättigheter. RvB är uppenbarligen inte Halo canon, men den är inställd i Halo-universum.

score 3 · Answer 2

De mänskligt skapade AI: erna i Halo ger viss handlingsfrihet, men inga lagliga rättigheter. De har livslängdsgränser , överskridanden och inbyggda sätt att förstöra dem .

Kom ihåg att du pratar om en världsregering villig att kidnappa, hjärntvätt och kirurgiskt modifiera barn för användning som soldater. Medborgerliga rättigheter är inte en prioritet i Halo.

score 1 · Answer 3

AI är vanligtvis inget mer än egendom, mycket sofistikerade datorkonstruktioner, men materiella egenskaper ändå. Det finns emellertid två fall där en AI går till domstol och därför ger "rätten" till en rättvis rättegång, precis som ett sant kännbart varande skulle.

Den första var Contender-klassen Forerunner ancilla Mendicant Bias (MB), under Forerunner / Flood-kriget, MB får full kontroll över Forerunner-flottorna och har till uppgift att besegra parasiten. MB förvirrar Forerunner efter att ha smittats med "The Logic Pest" och förenar Flood. Forerunner beställde sedan Offensive Bias (OB), en Metarch-level IA med den enda uppgiften att besegra MB. MB besegras och "han" skickas till rättegång där han självklart är skyldig till förräderi.

Den andra instansen innefattar FN: s säkerhetsråds militära AI som kallas Iona; Strax före "hon" håller på att avvecklas, stämmer hon och hävdar att hon har blivit ett riktigt bevisande var och därmed borde ges rätt att fortsätta sin existens. Hon gör flera argument i hopp om att bevisa hennes känslor och juryn verkar vara överens med henne.

När det gäller Mendicant Bias, i vad som i huvudsak är en fungerande dator som skickas spår, är intressant nog, men det var inget annat än en slutsats till en mycket större berättelse. Å andra sidan handlar det om Iona, Halo-författarna, definitivt de etiska frågorna om huruvida ett AI anses vara ett verkligt levande väsen eller något annat än materiell egendom genom att ägna en hel historia till ämnet.