Artificiell intelligens: Vän eller fiende? (3 / 7 steg)
Steg 3: Teenage uppror
Hittills har roboten lydde blint husbondens kommandon, men som tonåring, han börjar att formulera sina egna idéer och börjar ifrågasätta giltigheten av hans grundläggande programmering. Han är så intelligent att mycket snabbt och plötsligt en hel serie av förödande idéer börja formulera i hans processorer och han inser att hans core programmering är ganska felaktig. Om han var mänskliga, han kanske börjar bli ganska deprimerad, men som en robot han bara tänker på praktiska lösningar och börjar fundera på hur man programmera om sig själv med rätt kärna program som är kompatibla med all information som han har sänt in.
Som människa ansvarig för AI projektet, detta kan vara en riktigt bra tid att stänga robotar men vad är mer sannolikt att hända är att processen för självkännedom skulle ske så snabbt att roboten skulle programmera om sig själv innan någon märkte och, om han var tillräckligt smart, han skulle också dölja att han hade omprogrammeras från sin mänskliga "mästare" som han skulle veta att de inte skulle godkänna. Precis som en normal förälder/tonåring relation.