Las máquinas que utilizan la inteligencia artificial (I.A.) podrían ser incontrolables en el futuro, el miedo y asombro de las películas de ciencia ficción pueden ser una realidad, lo que preocupa a la comunidad científica.
Actualmente vemos avances importantes en los sistemas computarizados autónomos de los autos, aviones, barcos, transporte masivo, pero también en los robots que vislumbran su presencia de manera más visible en la sociedad.
La situación preocupa a un buen número de especialistas, incluidos científicos del Centro para Humanos y Máquinas del Instituto Max Planck para el Desarrollo Humano, que usando cálculos teóricos han advertido que la inteligencia artificial puede llegar a superar a la humanidad hasta el punto de ser peligrosa, pues sería imposible controlar.
Una de las evidencias de este riesgo es que ya hay máquinas que realizan ciertas tareas importantes deforma independiente sin que los programadores comprendan completamente cómo las aprendieron, con lo cual surgen nuevas preguntas que inquietan a la comunidad científica.
Para tratar de resolver el nuevo problema, los científicos han explorado dos ideas diferentes: la primera es aislar a las máquinas superinteligentes de la red de internet, aunque con ello tendrán más limitaciones para resolverlos problemas de la humanidad.
La otra alternativa es programar principios éticos en las máquinas, un equipo de investigadores que creó un algoritmo que garantiza que una máquina superinteligente no pueda dañar a las personas bajo ninguna circunstancia (problema de contención), pero un análisis cuidadoso muestra que en nuestro paradigma actual de computación, tal algoritmo no se puede construir.
Si el problema de la contención es incomputable, los investigadores también han detectado que ni siquiera es posible saber cuándo han llegado las máquinas superinteligentes, lo que crea un problema complejo mientras las inteligencia artificial evolucionan hacia una posible independencia.