- Home
- Noticias Y Eventos
- Noticias
- El Uso Fraudulento De La Ia Y La Tecnología Está Convirtiendo La Mente En El Principal Campo De Batalla Del Siglo Xxi, Según Ie University
El uso fraudulento de la IA y la tecnología está convirtiendo la mente en el principal campo de batalla del siglo XXI, según IE University
El documento ofrece un conjunto de recomendaciones para proteger el orden liberal internacional de los riesgos de la guerra cognitiva, que incluye el uso de estas mismas tecnologías para abordar las vulnerabilidades de nuestras democracias.
La inteligencia artificial (IA) y otras tecnologías emergentes están permitiendo a agentes estatales y no estatales influir directamente en el comportamiento y la toma de decisiones de los ciudadanos, según un estudio publicado por el Centro para la Gobernanza del Cambio (CGC) de IE University. "The Battle for the Mind: Understanding and Addressing Cognitive Warfare and its Emerging Technologies" refleja las ideas que se debatieron en una mesa redonda de alto nivel sobre guerra cognitiva organizada por el CGC durante la última Conferencia de Seguridad de Múnich, con Margrethe Vestager, Arancha González Laya, Anne-Marie Slaughter y responsables políticos y líderes de la industria de alto rango.
El documento político profundiza en la emergencia del dominio cognitivo como sexto dominio de la guerra -después de la tierra, el mar, el aire, el espacio exterior y el ciberespacio.
- Hoy en día, los actores estatales y no estatales disponen de medios e incentivos para jugar con nuestros pensamientos y perturbar nuestra visión compartida de la realidad, con objetivos tan diversos como frustrar maniobras militares concretas o desestabilizar sociedades enteras y la cooperación multilateral.
- El creciente uso de narrativas engañosas y de la IA con fines fraudulentos en los procesos democráticos, la guerra de Ucrania o la guerra entre Israel y Hamás indican el creciente interés geopolítico por controlar las percepciones de la gente.
- Los ciudadanos de las democracias liberales son especialmente vulnerables a la manipulación cognitiva, ya que la economía de la atención ha hecho mella en nuestra cognición y capacidad de pensamiento crítico, la confianza en las instituciones se encuentra en un mínimo sin precedentes y la polarización de la sociedad está en su punto álgido.
El estudio también explica cómo las tecnologías emergentes facilitan el desarrollo de la guerra cognitiva, llevando las campañas de manipulación y desinformación a un nuevo nivel:
- La creciente cantidad de datos personales que generamos al utilizar nuestras redes sociales, comprar en línea o utilizar chatbots de IA como ChatGPT, proporciona información sobre nuestras preferencias, comportamientos y estados emocionales, y ello facilita la elaboración de perfiles precisos y el “microtargeting” para diversos fines.
- El desarrollo de la IA generativa, capaz de aprender de sus interlocutores y crear contenidos muy realistas en cuestión de segundos, permitirá llegar de forma más eficiente y eficaz a individuos muy diferentes dentro de un público objetivo utilizando los mensajes adecuados en el momento oportuno, con escasa intervención humana.
- En un futuro próximo, la RA, la RV o las BCI, y los datos neuronales que genera su uso, también podrían permitir a los actores piratear la "realidad" que nos rodea, o incluso nuestros estados de ánimo y reacciones, para moldear nuestro comportamiento.
Para proteger el orden liberal internacional de los riesgos de la guerra cognitiva y sus tecnologías emergentes, el documento avanza tres conjuntos de recomendaciones:
- Intensificar los esfuerzos para comprender y concienciar sobre los mecanismos y las implicaciones de la guerra cognitiva en los sectores académico, industrial y de defensa, a fin de preparar eficazmente a los ciudadanos y a los responsables políticos.
- Desarrollar un marco de gobernanza global para la guerra cognitiva y sus tecnologías emergentes, determinando cómo y en qué casos se aplica el derecho internacional vigente, y estableciendo mecanismos claros de atribución y rendición de cuentas.
- Ampliar la colaboración entre el sector público y privado para aprovechar el potencial de las tecnologías emergentes para abordar las vulnerabilidades de las democracias liberales y protegerlas de los riesgos de la guerra cognitiva.
"La tecnología continuará cambiando el carácter del conflicto máxime en el contexto actual de amenazas híbridas. Los esfuerzos para diseñar un sistema de gobernanza efectivo de estas nuevas tecnologías serán clave para la seguridad internacional y nacional, así como la preservación de los derechos fundamentales del particular".
Irene Blázquez, Directora del Center for the Governance of Change
Este es uno de los nuevos temas bandera de investigación para el CGC por su carácter trascendental y potencial de cambio en la agenda de Estados, organizaciones internacionales, corporaciones y sociedades. El centro aspira a desarrollar un ambicioso proyecto de investigación sobre esta temática que se encuentra en la frontera del conocimiento y será un eje de transformación.