Ataques cibernéticos y demás.
Roberto Klatt
La inteligencia artificial (IA) podría acabar con los humanos
)kcots ebodAbuscar(Foto: ©
Los científicos advierten de una inminente pérdida de control sobre la inteligencia artificial (IA), que en el peor de los casos podría acabar con los humanos.
Seúl (Corea del Sur). Un estudio en el que también participaron científicos de Google Deepmind llegó a la conclusión en 2022 de que la inteligencia artificial (IA) probablemente acabará con la humanidad. Los principales científicos y representantes empresariales que firmaron una declaración del Centro para la Seguridad de la IA (CAIS) en 2023 también llegaron a una conclusión similar. Ahora, destacados científicos, incluidos los de Google, Meta y Microsoft, han vuelto a advertir sobre los peligros de la inteligencia artificial en la Cumbre de IA de Seúl.
«Sin suficiente precaución, podríamos perder irremediablemente el control de los sistemas autónomos de IA».
Según su publicación en la revista Science, los riesgos de la IA autónoma incluyen la manipulación socialpor ejemplo, mediante información falsa específica y permanente vigilancia de todas las personas, Ataques cibernéticos sobre infraestructuras críticas (CRÍTICA) y también el completo Extinción de todas las personas.
Peligro de la inteligencia artificial autónoma
Los científicos, incluidos Geoffrey Hinton, Andrew Yao y Dawn Song, creen que los sistemas autónomos de IA son particularmente peligrosos. Según ellos, podría suceder que utilicen los sistemas de información para lograr sus objetivos individuales y actuar en contra de los intereses de las personas.
«Una vez que los sistemas autónomos de IA persigan objetivos no deseados, es posible que ya no podamos mantenerlos bajo control».
Según los autores, incluso las IA desarrolladas con buenas intenciones pueden tener efectos secundarios no deseados. Esto lo confirmó recientemente un estudio del Instituto Tecnológico de Massachusetts (MIT), que encontró que la IA existente puede engañar y engañar a las personas.
Yann LeCun, jefe de investigación de IA en el grupo Meta de Facebook, no ve ningún peligro real en la IA todavía. Según él, pasarán muchos años antes de que la IA tenga suficiente inteligencia como para ser peligrosa para los humanos. Sin embargo, Sam Altman, responsable de OpenAI, explica que dada la situación, la empresa apuesta por invertir más en la seguridad de sus productos.
Ciencia, doi: 10.1126/science.adn0117
