“El riesgo real con la IA no es la malicia sino la competencia. Una IA superinteligente será extremadamente buena para lograr sus objetivos, y si esos objetivos no están alineados con los nuestros, estamos en problemas. Probablemente no seas un malvado que saca hormigas por malicia, pero si estás a cargo de un proyecto de energía verde hidroeléctrica y hay un hormiguero en la región para ser inundado, demasiado malo para las hormigas. No pongamos a la humanidad en la posición de esas hormigas.”
Frases de Stephen Hawking
