Una mirada a los riesgos y amenazas de la inteligencia artificial, desde la Ecología de los Medios

• Octavio Islas ^[3] ; Fernando Gutiérrez ^[1] ; Amaia Arribas ^[2]
  1. [1] Instituto Tecnológico y de Estudios Superiores de Monterrey

     Instituto Tecnológico y de Estudios Superiores de Monterrey

     México

     
  2. [2] Universidad de Valladolid

     Universidad de Valladolid

     Valladolid, España

     
  3. [3] Universidad del Carmen (México)

  Mostrar afiliaciones +
• Localización: Comunicar: Revista Científica de Comunicación y Educación, ISSN 1134-3478, Nº 79, 2024 (Ejemplar dedicado a: Ecologías del metaverso y el transhumanismo: perspectivas para la reculturización digital), págs. 1-9
• Idioma: español
• Títulos paralelos:
  • A Look at the Risks and Threats of Artificial Intelligence, From Media Ecology
• Enlaces
  • Texto completo (pdf)
• Resumen
  • español

    Desde una perspectiva histórica y un análisis prospectivo, el artículo tiene como objetivo comprender el papel de las tecnologías y su impacto en la sociedad, a través de los postulados de la ecología de los medios. A través de esta metadisciplina, nos adentramos a la rigurosa revisión de diferentes autores que ven en las tecnologías un rol destacado en la configuración del futuro porque no solo influyen en la cultura de las sociedades, sino que también impactan en el curso, avance y significado de la historia. El texto se centra en las ventajas y, sobre todo, en la explicación de los riesgos de la inteligencia artificial generativa, identificando ocho escenarios críticos: armamento, desinformación, juegos de proxy, debilitamiento, bloqueo o retención de valor, metas emergentes no deseadas, engaño y comportamiento de búsqueda de poder. Posteriormente, el CASI las reagrupa en cuatro amenazas: uso malicioso, la carrera de la IA, riesgos organizativos e IA descontrolada. Terminamos recuperando las reflexiones de McLuhan y su tétrada sobre la necesidad de enfriar las tecnologías cuando han alcanzado altos niveles de desarrollo para minimizar su impacto negativo. Si bien la inteligencia artificial no ha alcanzado ese estado, se advierte sobre la acelerada evolución y la necesidad de una alfabetización en IA como una medida para afrontar los riesgos y amenazas, eso sí, en un tiempo limitado antes de que sea tarde.

  • English

    From a historical perspective and a prospective analysis, the article aims to understand the role of technologies and their impact on society through the postulates of media ecology. Through this meta-discipline, we delve into the rigorous review of different authors who see technologies as playing a prominent role in shaping the future because they not only influence the culture of societies, but also impact the course, advancement and meaning of history. The text focuses on the advantages and on the explanation of the risks of generative artificial intelligence, identifying eight critical scenarios: weaponization, disinformation, proxy games, weakening, blocking or withholding of value, unwanted emerging goals, deception and power-seeking behavior. Subsequently, CASI regroups them into four threats: malicious use, the AI race, organizational risks and uncontrolled AI. We end the by drawing on McLuhan’s reflections and stressing the need to scale back technologies when they have reached elevated levels of development to minimize their negative impact. Although artificial intelligence has not reached that state, there is a warning about the accelerated evolution and the need for AI literacy as a measure to face risks and threats, in a limited time before it is too late.