Razonamiento, falacias y sesgos en el análisis de inteligencia

• José Luis Gracia Cáceres ^[1]
  1. [1] Banco de España
• Localización: Cuadernos de la Guardia Civil: Revista de seguridad pública, ISSN 1136-4645, Nº 71, 2024, págs. 27-51
• Idioma: español
• Enlaces
  • Texto Completo Ejemplar
• Resumen
  • español

    El análisis de inteligencia se lleva a cabo fundamentalmente a través de un proceso intelectual de razonamiento humano, y se desarrolla normalmente en contextos complejos y dinámicos bajo una elevada incertidumbre. El razonamiento se apoya en mecanismos mentales que procesan la información disponible hasta convertirla en un producto para los consumidores de inteligencia. La aplicación de heurísticos o atajos mentales es uno de los mecanismos que se utilizan para afrontar problemas complejos con el menor coste cognitivo posible, lo que permite dar respuestas aproximadas a los problemas planteados. En ocasiones el razonamiento es erróneo y conduce a argumentos falaces, es decir, a argumentos que aparentan ser correctos cuando en realidad no lo son. Asimismo, la información que maneja el analista puede que no sea interpretada adecuadamente o que le lleve a emitir juicios erróneos como consecuencia de algún sesgo cognitivo. En el presente estudio se presentan algunos de los mecanismos mentales más utilizados, así como las principales falacias y sesgos que todo analista debería conocer para evitar -o al menos minimizar- su impacto en la calidad del análisis. Asimismo, aunque las tecnologías emergentes –y en particular la inteligencia artificial (en adelante, IA)- suponen una asistencia cada vez más necesaria para la integración y procesamiento de grandes volúmenes de datos procedentes de diversas fuentes, paradójicamente también contribuyen a la difusión masiva de desinformación y a la herencia de sesgos derivados de los datos de entrenamiento. Dichas circunstancias comportan nuevos retos para los analistas que deberán formarse en diversas materias y adaptarse a situaciones cada vez más complejas y dinámicas.

  • English

    Intelligence analysis is fundamentally carried out mainly through an intelectual process of human reasoning and normally developed in complex and dynamic contexts under high uncertainty. Reasoning is supported by mental mechanisms that process the available information until it becomes a product for intelligence consumers. The application of heuristics or mental shortcuts is one of the mechanisms that are used to face complex problems with the lowest posible cognitive cost, which allows approximate answers to the problems posed. Sometimes reasoning is flawed and leads to fallacious arguments, that is, arguments that appear to be correct when they are not really. Likewise, the information that handles the analyst may not be interpreted properly or may lead him to make erroneous judgments as a result of some cognitive bias. In this paper some of the most used mental mechanisms are presented, as well as the main falacies and biases that every analyst should know to avoid or at least minimize their impact on the quality of the analysis. Likewise, although emerging technologies –and in particular, artificial intelligence (hereinafter, IA) represent an increasingly necessary assistance for the integration and processing of large volumes of data, paradoxically they also contribute to the massive dissemination of misinformation and the inheritance of biases derived from training data. These circumnstances bring new challenges for analysts who must train in various subjects and adapt to increasingly complex and dynamic situations.