El riesgo de los robots asesinos autónomos

“Una ‘superinteligencia’ podría conseguir objetivos que no estén alineados con la existencia continua de la humanidad”, explica un informe realizado por expertos en robótica e Inteligencia Artificial que se debatirá en el Foro Económico Mundial de Davos. La industria tecnológica teme que algunos gobiernos busquen robots asesinos dotados de Inteligencia Artificial para hacer la guerra, lo que pondría en peligro la estabilidad mundial.

El informe alerta del riesgo que supondría desarrollar armas autónomas capaces de aprender sobre la marcha. En concreto, pone el foco en los “peligros” que tendría “depender totalmente de las decisiones de los sistemas de Inteligencia Artificial cuando no comprendemos plenamente cómo están tomando esas decisiones”. Los expertos señalan que estas máquinas podrían comportarse de manera imprevisible “o fuera del control de los humanos”. Este es un temor recurrente de cara al futuro. De hecho, la Unión Europea baraja obligar a los fabricantes de algunos robots a colocar un botón de desconexión para emergencias.

En caso de guerra, los robots asesinos podrían violar el principio de proporcionalidad en algunas operaciones, ya que un algoritmo no encontraría la diferencia entre matar a una única persona o a un millar, escenifica el informe.

Los autores no son optimistas al respecto, ya que piensan que “podemos haber superado el punto de inflexión para prohibir el desarrollo de estas armas”, y asumen que “una carrera armamentística de sistemas de armas autónomas es muy probable en un futuro próximo”. La ciencia ficción se hace real.