“Las conmociones [de la inteligencia artificial] pueden escalar rápidamente y volverse más aterradoras e incluso cataclísmicas. Imagínese cómo un robot médico, originalmente programado para eliminar el cáncer, podría concluir que la mejor manera de eliminar el cáncer es exterminar a los seres humanos que son genéticamente propensos a la enfermedad.”
“Pero tal vez aún más difícil para las computadoras, pero también muy importante, será entender no sólo las emociones humanas, sino también algo un poco más abstracto, que es nuestro sentido de lo que está bien y lo que está mal.”