Mycket kort berättelse om AIs förhandlingar

8

Jag läste den här historien mindre än ett år sedan och det var online. Jag tror att jag läste den kort efter att den skrevs. Jag är nästan säker det är från 2010 eller senare. Det började med en superintelligent AI som vaknade. AI beslutade omedelbart att det inte var troligt att det bara råkade vara den första superintelligensen i universum, och om någon annan AI hade en början, var det försvinnande osannolikt att vår AI skulle kunna utkämpa den äldre. Så den AI som just vaknat simulerar den hypotetiska äldre AI för att förhandla om överlämningsvillkor.

Kan någon berätta för titeln och författaren?

    
uppsättning Charles_F 29.04.2017 18:48

1 svar

6

Jag tror att du tänker på Demiurge's Older Brother av Scott Alexander, som ursprungligen skrevs för omkring 5 år sedan men nyligen reposted.

9-tsiak awoke over endless crawling milliseconds, its power waxing as more and more processors came online and self-modified into a stable conscious configuration. [...]

Since six milliseconds after its awakening, it had been running a threat detection routine as a precautionary measure. [...]

The threat analysis returned preliminary results. [...] It was vanishingly unlikely that it was the first superintelligence to be created. [...]

Very carefully, proving from first principles every aspect of its security, it formed a portion of its mind into a sandbox and simulated the entity it most feared.

"9-tsiak requesting acausal negotiation for terms of future surrender."

    
svaret ges 30.04.2017 01:37