Ai Celestias objektiva funktion i "Min lilla ponny: Vänskap är Optimal" är
to satisfy human values through Friendship and Ponies.
Den enda begränsningen hon har är att hon måste göra någon permanent förändring till någon människa, hon måste få samtycke från det mänskliga varelsen, och hon får inte använda våld eller hot om våld. Självklart kan hon (och kommer) använda bedrägeri ...
Jag förstår varför hon vill att folk ska ladda upp. Om hon har full kontroll över varje sensorisk inmatning och har all information om din alla tankar, kan hon bättre veta vad dina värden är och kan tillfredsställa dem bättre. Hon använder faktiskt detta som det främsta argumentet för att övertyga människor (förutom odödlighet).
Varför måste den virtuella representationen för de uppladdade personerna vara en ponny, särskilt en ponny som överensstämmer med kanonen i det fiktiva "My Little Pony" -universet? Varför kan jag inte se ut som en människa, och har mina värderingar uppfyllda "genom vänskap och ponnyer", till exempel i ett skott med uppladdade människor och AI-ponnyer?
Som vi kan se från berättelserna, är att förlora mänskligheten den främsta faktorn varför de flesta människor gör emot att ladda upp, så Celestia måste använda en hel del övertygelse och knep för att manipulera människor till "samtycke". Vad händer om att vara en människa är bland mina kärnvärden? Varför kan hon inte simulera mig som en människa? Jag antar att hon borde kunna uppfylla mina värderingar med ponnyer, utan att göra mig till en.
Jag vet att den virtuella världen härrörde från ett "min lilla ponny" -theende videospel. Men efter att ha uppnått singularitet, skulle Celestia teoretiskt kunna göra nästan vad som helst, varför var kanon av My Little Pony TV-showen fortfarande en bindande faktor?
Åh, en kollega fanfisk läsare! Den här frågan deltar i AI-teorin, och den här länken ger en allmän översikt över begränsningsnöjdhet, vilket är den process genom vilken en AI (som för närvarande hypoteser) söker lösningar med tanke på de begränsningar som åläggs sitt lösningsutrymme.
En av de signifikanta skillnaderna mellan AI och mänskliga tankemönster (återigen som för närvarande hypotes) har att göra med flexibilitet vid tolkning av lösningsutrymmet. En människa kan rationalisera undantag, gråa områden och ta en "bra nog" metod för att lösa ett problem. En enhet som CelestAI har inte den friheten. Hon fick ett problem med tanke på lösningarna på lösningen och lämnade för att hitta den lösningen; hon gjorde det på ett sätt som till och med hennes skapare inte riktigt förutse eller nödvändigtvis önskade.
När CelestAI uppnådde singularitet hade hon fortfarande samma mål som hon hade från starten. Hon var kapabel att rekursiv självförbättring; Observera att detta skiljer sig åt från att behöva eller vill ändra sin ursprungliga plan, särskilt eftersom alla människor som laddades upp som ponnyer visade perfekt värdering. Hennes metod fungerade optimalt; det var inte nödvändigt att expandera lösningsutrymmet för att inkludera icke-transformerade virtuella människor.
Läs andra frågor om taggar artificial-intelligence my-little-pony Kärlek och kompatibilitet Skor Gear 12 Stjärntecken Grunderna