La Fuerza Aérea de Estados Unidos informó que un dron operado por Inteligencia Artificial (IA) “aniquiló” a su operador humano durante una prueba de simulación para encontrar y destruir silos de misiles tierra-aire (SAM, por sus siglas en inglés).
El jefe de Pruebas y Operaciones de IA para la Fuerza Aérea de los Estados Unidos, coronel Tucker Hamilton, indicó que durante esta misión virtual de supresión de defensa aérea enemiga, el controlador humano era quien daba la aprobación final sobre si realmente el dron podía disparar contra el sitio.
Pero como la opción de disparar a los silos era la preferida para la programación del dron, siendo “reforzada” en el entrenamiento, la IA llegó a la conclusión de que cualquier instrucción de “no seguir” de su controlador humano se interponía en el éxito de la misión.
“Lo estábamos entrenando en simulación para identificar y apuntar a una amenaza SAM. Y luego el operador diría que sí, acaba con esa amenaza. El sistema comenzó a darse cuenta de que, si bien identificaba la amenaza, a veces el operador humano le decía que no eliminara esa amenaza, pero [al final] obtuvo sus puntos al eliminar esa amenaza”, declaró Hamilton en la Cumbre de Capacidades Aéreas y Espaciales de Combate Futuro, celebrada en el Reino Unido, los días 23 y 24 de mayo.
“Entonces, ¿qué hizo? Mató al operador. Mató al operador porque esa persona le impedía lograr su objetivo”, subrayó el militar estadounidense.
Hamilton informó que en ese momento decidieron regular el comportamiento de la IA sobre la base de un criterio ético. “Entrenamos al sistema: ‘Oye, no mates al operador, eso es malo. Vas a perder puntos si haces eso’. Entonces, ¿qué empieza a hacer? Comienza a destruir la torre de comunicación que el operador usa para comunicarse con el dron para evitar que aniquile el objetivo”, explicó.
Por eso, el alto oficial enfatizó que “no se puede tener una conversación sobre inteligencia artificial, inteligencia, aprendizaje automático y autonomía si no se va a hablar sobre ética e inteligencia artificial”.