Bibliographic Metadata

Title
Mitigation and prediction of the confirmation bias in intelligence analysis / eingereicht von Lisa-Christina Winter
AuthorWinter, Lisa Christina
CensorAlbert, Dietrich
PublishedGraz, September 2017
Description292 Blätter : Illustrationen, Diagramme
Institutional NoteKarl-Franzens-Universität Graz, Dissertation, 2017
Annotation
Zusammenfassungen in Deutsch und Englisch
LanguageEnglish
Document typeDissertation (PhD)
Keywords (GND)Geheimdienst / Informationsentscheidung
URNurn:nbn:at:at-ubg:1-120765 Persistent Identifier (URN)
Restriction-Information
 The work is publicly available
Files
Mitigation and prediction of the confirmation bias in intelligence analysis [15.42 mb]
Links
Reference
Classification
Abstract (German)

Der „Confirmation Bias“ beschreibt die Tendenz, bestehende Überzeugungen zu bestätigen anstatt diese zu widerlegen und wurde als eine der Ursachen für vergangene Fehlentscheidungen in der geheimdienstlichen Arbeit identifiziert. In dieser Dissertation wurde ein „High-Level Modell der Aktivitäten im Geheimdienstbereich“ (HLMAIC) entwickelt, welches geheimdienst-relevante, fehleranfällige Aktivitäten abbildet. Es besteht aus der aktiven Suche nach Information (z.B. Suchmaschinenbenutzung), Informationssuche (z.B. Sammelnvon Quellen) und Informationsevaluation (Beurteilung der Informationsqualität). Es wurde, auf Basis des HLMAIC, versucht, den Confirmation Bias zu reduzieren und sein Wiederauftreten in späteren Phasen des HLMAIC besser zu verstehen. Hauptstudie 1 (n = 46) zeigt, dass das Priming des analytischen Denkens zwar den Confirmation Bias in Informationsevaluation (CIE), jedoch nicht in der aktiven Suche nach Information (CASI) oder Informationssuche (CIS) reduziert. Machen sich Geheimdienst-MitarbeiterInnen den Confirmation Bias unmittelbar vor den Informationsevaluierungs und -suchaufgaben bewusst, reduziert sich CIE, wie Hauptstudie 2 (n = 105) zeigt. Diese Reduktion gab es in keiner anderen Phase des HLMAIC (d.h., aktive Suche nach Information oder Informationssuche), weder durch die Schaffung von Bewusstsein noch das Anregen analytischen Denkens. Die Daten beider Studien wurden gemeinsam in Hauptstudie 3 analysiert um den Confirmation Bias im HLMAIC vorherzusagen und Auswirkungen in realen Situationen zu ermitteln (z.B. CASI gefolgt von der Präsentation bestätigender Information). Es zeigte sich, dass CASI und die Informationsreihenfolge den CIE vorhersagen, während durch das Ausmaß des CIE die Wahrscheinlichkeit einer Entscheidungsänderung vorausgesagt werden kann. Praktische Implikationen zur Verbesserung von Geheimdienstarbeit und Empfehlungen für zukünftige Forschung werden diskutiert.

Abstract (English)

The confirmation bias is the tendency to try to confirm rather than disprove previous beliefs and attitudes and has been held accountable for failures in intelligence analysis in the past. In this thesis, a high-level model of activities in the intelligence cycle (HLMAIC) including the most intelligence-relevant but error-prone activities, was developed. It consists of the “Active Search for Information” (e.g., using a search engine), “Information Search” (e.g., collecting sources of information) and “Information Evaluation” (e.g., the quality assessment of information). Based on the HLMAIC, an attempt was made to mitigate the confirmation bias in the relevant activities and to understand how the occurrence of a confirmation bias in one phase of the HLMAIC can determine its reoccurrence at a later point. Main-study 1 (n = 46) demonstrates that the priming of analytical thinking (“System 2”) reduces “Confirmatory Information Evaluation” (CIE) but does not reduce “Confirmatory Active Search for Information” (CASI) or “Confirmatory Information Search” (CIS). Main-study 2 (n = 105) demonstrates that creating awareness of the confirmation bias reduces CIE in the group of intelligence professionals. This effect could only be observed if awareness was created immediately before the “Information Evaluation” and “Information Search” tasks. In main-study 2, the confirmation bias could not be reduced in any other phase of the HLMAIC, neither by creating awareness nor by triggering analytical thinking. Data from both studies were analysed in main-study 3 to predict the confirmation bias in the HLMAIC and identify its consequences in real-life situations (e.g., initial exposure to decision-consistent information following CASI). It showed that the CASI and “Order of Information Exposure” predict CIE, which by itself predicts the likelihood of a “Decision Change”. Practical implications to improve intelligence analysis and recommendations for future research are discussed.