Es difícil pensar en avances tecnológicos de manera estanca y no en relación con la guerra. Los avances tecnológicos habitualmente se han usado en conflictos bélicos. Descubrimientos que han hecho del mundo un lugar mejor, también se han revelado como maneras más eficaces de matar y poner en peligro a la humanidad. La carrera por la victoria militar suele ser también una lucha a contrarreloj por estar a la cabeza en nuevas tecnologías.
Así como los mayores hitos en el desarrollo de aviones acontecieron durante la Segunda Guerra Mundial podríamos concluir que las grandes potencias no se han enfrentado en guerras convencionales debido a la posesión del arma nuclear. Las caras de esta paradoja son evidentes.
En los conflictos actuales cada vez vemos más robótica en los campos de batalla. Drones y sistemas no tripulados nos demuestran que La IA puede ser utilizada de muchas maneras, que es una tecnología aún más disruptiva que la electricidad, y que no debemos obviar las implicaciones que tiene para la seguridad internacional.
Hay quien argumenta que los sistemas de armas autónomas protegerán a los soldados, alejándolos del campo de batalla y realizarán operaciones más precisas. Los críticos ante esta postura auguran un futuro en el que los sistemas de armas autónomos estarán diseñados para matar humanos. Defienden que sólo los humanos deben decidir entre la vida y la muerte en tiempos de guerra y que permitir a un algoritmo tomar estas decisiones equivaldría a la deshumanización digital absoluta.
No obstante, este escenario aún no se ha dado. El debate es anticipatorio y, de hecho, es la integración humano-máquina en equipos HMT (Human Machine Teaming) lo que se está considerando como objetivo inminente en los foros militares.
Los sistemas habilitados por IA están actualmente diseñados para ofrecer apoyo. Su rol es asistir, no reemplazar. Para que las máquinas puedan ser compañeros de equipo, precisarán más capacidades que los chatbots, robots sociales o asistentes digitales cuya función es de apoyo. Deberán intervenir en algunos pasos del proceso complejo de resolución de problemas, bien sea definir problemas, identificar causas, proponer soluciones, elegir opciones, tomar acciones, aprender de interacciones pasadas y participar en revisiones de la acción una vez realizada. Es necesario un intercambio de intenciones, conciencia situacional compartida y desarrollo de modelos mentales compartidos, así como confianza dentro del equipo.
El debate está abierto y en estos tiempos en los que la guerra, lamentablemente, es un hecho (cercano) debemos reflexionar sobre la dirección en que avanza la realización del HMT y de la robótica en general. Queremos la paz, pero quizá debamos anticipar los peligros y retos que nos acechan y no considerar estas tecnologías al margen de los terribles escenarios, tan humanos, por otra parte, que implica la guerra.