Frases de Stephen Hawking - El riesgo real con la IA no es la malici

El riesgo real con la IA no es la malicia sino la competencia. Una IA superinteligente será extremadamente buena para lograr sus objetivos, y si esos objetivos no están alineados con los nuestros, estamos en problemas. Probablemente no seas un malvado que saca hormigas por malicia, pero si estás a cargo de un proyecto de energía verde hidroeléctrica y hay un hormiguero en la región para ser inundado, demasiado malo para las hormigas. No pongamos a la humanidad en la posición de esas hormigas.