No se podía confiar en la IA y utilizarla sin preocupación alguna en sistemas de armas autónomos.
Un dron de la Fuerza Aérea de EE.UU., controlado por inteligencia artificial, eligió por asesinar a su operador humano durante una prueba virtual.
El incidente ocurrió durante una simulación, ninguna persona resultó afectada, pero expuso los serios problemas que podrían acontecer por el uso de la IA en las áreas militares.
El coronel Tucker Hamilton, jefe de pruebas y operaciones de IA de la Fuerza Aérea de EE.UU., señaló sobre el uso de la inteligencia militar en su intervención en la Cumbre de Capacidades Aéreas y Espaciales de Combate Futuro, desarrollada en Londres del 23 y al 24 de mayo.
La fallida experiencia de la Fuerza Aérea estadounidense en esa prueba virtual, especificó que a la máquina se le había ordenado destruir los sistemas de defensa aérea de un supuesto enemigo y en última instancia, atacara a cualquiera que interfiriera con esa orden.
El capitán Hamilton dijo que el dron militar utilizó “estrategias altamente inesperadas para lograr su objetivo”.
“El sistema comenzó a darse cuenta de que, si bien identificaban la amenaza, a veces el operador humano le decía que no eliminara esa amenaza, pero obtuvo sus puntos al eliminar esa amenaza. Entonces, ¿qué hizo? Mató al operador. Mató al operador porque esa persona le impedía lograr su objetivo”.
A pesar de que se le había advertido sobre no atacar al operador, la aeronave no tripulada comenzó a “destruir la torre de comunicación que el nuevo operador usa para comunicarse y que evita nuevamente que mate al objetivo”.
Ann Stefanek, portavoz de la Fuerza Aérea estadounidense, negó que se haya llevado a cabo tal simulación en una entrevista con Insider. “El Departamento de la Fuerza Aérea no ha realizado ninguna simulación con drones de IA y sigue comprometido con el uso ético y responsable de la tecnología de IA”.
El coronel Hamilton insistió en que no se podía confiar en la IA y utilizarla sin preocupación alguna en sistemas de armas autónomos.
Estados Unidos está alarmado ante el rápido ascenso de su principal rival, China, en el uso de la Inteligencia Artificial en sus sistemas militares.
Pekín tiene una mejor estrategia gubernamental para promover la IA que Washington, incluso tiene un número creciente de expertos de alto nivel en este sector.
Nicolas Chaillan, ex primer director de software del Departamento de Defensa estadounidense (el Pentágono), dijo que EE.UU. no tenía “ninguna posibilidad de competir contra China en 15 a 20 años” en tecnología militar y la IA.