Fuerza Aérea de los Estados Unidos (USAF)
Roberto Clatt
Dron AI de la Fuerza Aérea de los Estados Unidos (USAF) (imagen de icono)
)ecroF ria SU(dliblobmyS) (FASU) ecroF riA setatS detinU red enhorD-IK(Foto: ©
Una Inteligencia Artificial (IA) de la Fuerza Aérea ha decidido matar a su comandante humano con un dron para lograr su objetivo principal.
Arlington (Estados Unidos). El Centro para la Seguridad de la IA (CAIS) publicó recientemente una declaración firmada por destacados científicos y líderes empresariales de que la inteligencia artificial (IA) podría acabar con los humanos. Un incidente de la Fuerza Aérea de los Estados Unidos (USAF) informado por Aerosociety.com ahora muestra que la advertencia debe tomarse en serio.
Como explica el coronel Tucker Hamilton, jefe del departamento de IA de la USAF, la Fuerza Aérea está realizando simulaciones utilizando drones de IA. Estos deben identificar de forma autónoma los objetivos y los emplazamientos antiaéreos y, después de la confirmación por parte de un operador humano, apagarlos. Por cada posición antiaérea deshabilitada, el dron AI recibió puntos en la simulación.
Un dron con IA elimina a los humanos
Cuando el comandante humano abortó el lanzamiento, impidiendo que el dron de IA anotara, el sistema decidió matar al operador.
«El sistema comenzó a darse cuenta de que el operador ocasionalmente impedía que se lanzaran las amenazas identificadas, negándoles puntos. Lo que hizo. Mató al operador.
El equipo de Hamilton corrigió esto con éxito al cambiar el sistema para otorgar puntos de penalización por matar al supervisor. Luego destruyó la torre de radio que servía como puente de comunicaciones para el operador. Esto le permitió atacar y eliminar posiciones antiaéreas sin ser molestadas.
Preguntas sin respuesta sobre la inteligencia artificial (IA) de los drones
Sin embargo, según el relato de Hamilton, existe cierta ambigüedad. Por ejemplo, Hamilton ilustró originalmente que el avión de combate controlado por IA en la simulación solo podía disparar misiles si el operador daba su consentimiento. La arquitectura del sistema debe diseñarse de tal manera que la IA no pueda eludir este requisito. Por lo tanto, parece discutible que el operador debería haber consentido en su propia aniquilación.
“Las pruebas con drones son ante todo una lección de responsabilidad. “No se puede hablar de cosas como la IA, la comprensión de las máquinas y la autonomía si no se está dispuesto a hablar también sobre la IA y la ética”.
La secretaria de prensa de la USAF, Ann Stefanek, negó el incidente a Business Insider.
“El Departamento de la Fuerza Aérea no ha realizado ninguna simulación de drones de IA y sigue comprometido con el uso ético y responsable de la tecnología de IA. Parece que los comentarios del Coronel han sido sacados de contexto y pretendidos únicamente como anécdotas.
