Open Access

Klaus Weber

• With the steadily growing abundance of online information, whether through news portals on the internet or social networks, two increasingly pressing problems have arisen: On the one hand, online users in social networks are frequently confronted with distorted and one-sided information due to filter algorithms, while on the other hand, there is a diminishing willingness for open discourse. These issues have been particularly evident during the recent COVID-19 pandemic, where divergent viewpoints were quickly rejected. One reason is that it is easier to engage with arguments from one's own side, while arguments from the opposing side (referred to challenger arguments) are often blocked or perceived as provocative. This phenomenon can be explained psychologically through affective reactions and peripheral information processing, where information contradicting one's own opinion triggers strong emotional reactions, thus complicating rational understanding and leading to aWith the steadily growing abundance of online information, whether through news portals on the internet or social networks, two increasingly pressing problems have arisen: On the one hand, online users in social networks are frequently confronted with distorted and one-sided information due to filter algorithms, while on the other hand, there is a diminishing willingness for open discourse. These issues have been particularly evident during the recent COVID-19 pandemic, where divergent viewpoints were quickly rejected. One reason is that it is easier to engage with arguments from one's own side, while arguments from the opposing side (referred to challenger arguments) are often blocked or perceived as provocative. This phenomenon can be explained psychologically through affective reactions and peripheral information processing, where information contradicting one's own opinion triggers strong emotional reactions, thus complicating rational understanding and leading to a reflection bias. This means that certain arguments are either misinterpreted or ignored (content-based reflection bias), or people are influenced by subliminal cues, such as emotions (behavior-based reflection bias), of which many people are not aware, though. This dissertation focuses on the reflection bias from two perspectives: 1) Raising awareness of the behavior-based reflection bias through the use of explainable Artificial Intelligence, and 2) mitigation of the content-based reflection bias using an argumentative dialog system. In the first part of the thesis, we examine how, with the help of explainable Artificial Intelligence and Neural Networks, we can make the behavior-based reflection bias, specifically regarding gestures, visible. The goal is to draw attention and awareness to the influence of gestures on the perceived persuasive effect through visual explanations. We investigate whether we can generate satisfactory explanations when training Neural Networks with subjective data that significantly differ in quality and accuracy from gold standard data due to noise. Furthermore, we explore whether these explanations are suitable for highlighting the behavior-based reflection bias and differences between individuals by examining whether the focus of the networks aligns with insights from the literature. Our analysis shows that Neural Networks primarily focus on hand gestures, which is identified in the literature as an important indicator of persuasion. In the second part of the thesis, we explore how to mitigate the content-based reflection bias. To achieve this, we develop an argumentative dialog system that encourages users through targeted interventions to move away from a one-sided argument exploration and to consider arguments from the opposing side. The system utilizes a metric, gauging the extent to which users predominantly focus on arguments that align with their viewpoint. In three studies, we examine the effects of interventions on reflection and exploration behavior. The results of the studies demonstrate that users significantly engage more with challenger arguments and spend considerably more time considering these arguments when the system applies intervention strategies. Additionally, we present some interaction effects with personality traits, supporting the idea that systems aiming to improve reflection should also take into account the user's personality.…
• Durch die stetig wachsende Fülle an Online-Informationen, sei es über Nachrichtenportale im Internet oder soziale Netzwerke, treten zwei immer drängendere Probleme auf: Zum einen werden Online-Nutzer in sozialen Netzwerken vermehrt durch Filteralgorithmen mit verzerrten und einseitigen Informationen konfrontiert, während zum anderen die Bereitschaft zum offenen Diskurs abnimmt. Diese Probleme wurden insbesondere während der jüngsten Corona-Pandemie deutlich, als abweichende Standpunkte schnell abgelehnt wurden. Ein Grund dafür ist, dass es einfacher ist, sich mit Argumenten der eigenen Seite zu befassen, während Gegenargumente (sogenannte Herausforderungsargumente) oft abgeblockt oder als provokativ empfunden werden. Dieses Phänomen kann psychologisch durch affektive Reaktionen und periphere Informationsverarbeitung erklärt werden, bei denen Informationen, die der eigenen Meinung widersprechen, starke emotionale Reaktionen hervorrufen und somit das rationale VerständnisDurch die stetig wachsende Fülle an Online-Informationen, sei es über Nachrichtenportale im Internet oder soziale Netzwerke, treten zwei immer drängendere Probleme auf: Zum einen werden Online-Nutzer in sozialen Netzwerken vermehrt durch Filteralgorithmen mit verzerrten und einseitigen Informationen konfrontiert, während zum anderen die Bereitschaft zum offenen Diskurs abnimmt. Diese Probleme wurden insbesondere während der jüngsten Corona-Pandemie deutlich, als abweichende Standpunkte schnell abgelehnt wurden. Ein Grund dafür ist, dass es einfacher ist, sich mit Argumenten der eigenen Seite zu befassen, während Gegenargumente (sogenannte Herausforderungsargumente) oft abgeblockt oder als provokativ empfunden werden. Dieses Phänomen kann psychologisch durch affektive Reaktionen und periphere Informationsverarbeitung erklärt werden, bei denen Informationen, die der eigenen Meinung widersprechen, starke emotionale Reaktionen hervorrufen und somit das rationale Verständnis erschweren und zu einem Reflexions-Bias führen können. Das bedeutet, dass bestimmte Argumente entweder falsch interpretiert oder ignoriert werden (inhaltsbasierter Reflexions-Bias), oder man subtilen, nichtverbalen Signalen wie Emotionen erliegt (verhaltensbasierter Reflexions-Bias). Viele Menschen sind sich dessen jedoch nicht bewusst. Diese Dissertation fokussiert sich daher auf den Reflexions-Bias aus zwei Perspektiven: 1) Bewusstseinssteigerung des verhaltensbasierten Reflexions-Bias durch Einsatz erklärbarer künstlicher Intelligenz und 2) Mitigation des inhaltsbasierten Reflexions-Bias mithilfe eines argumentativen Dialogsystems. Im ersten Teil der Dissertation untersuchen wir konkret, wie wir durch den Einsatz von erklärender künstlicher Intelligenz und neuronalen Netzen den verhaltensbasierten Reflexions-Bias, insbesondere im Zusammenhang mit Gesten, sichtbar machen können. Das Ziel ist es, durch anschauliche Bild-Erklärungen das Bewusstsein für den Einfluss von Gesten auf die wahrgenommene Überzeugungswirkung zu schärfen. Dabei analysieren wir einerseits, ob wir zufriedenstellende Erklärungen generieren können, wenn wir neuronale Netze mit subjektiven Daten trainieren, die sich durch Rauschen in Qualität und Genauigkeit deutlich von Goldstandard-Daten unterscheiden. Andererseits untersuchen wir, ob diese Erklärungen geeignet sind, um auf den verhaltensbasierten Reflexions-Bias und die Unterschiede zwischen Personen aufmerksam zu machen, indem wir überprüfen, ob der Fokus der Netze mit Erkenntnissen aus der Literatur übereinstimmt. Unsere Analyse zeigt, dass sich die neuronalen Netze vor allem auf Handgesten fokussieren, was in der Literatur als wichtiger Indikator für Überzeugung benannt wird. Im zweiten Teil der Dissertation untersuchen wir, wie wir den inhaltsbasierten Reflexions-Bias mitigieren können. Hierzu entwickeln wir ein argumentatives Dialogsystem, das durch gezielte Interventionen den Nutzer dazu bringt, von einer einseitigen Argumentexploration abzurücken und vor allem Argumente der Gegenseite zu betrachten. Dabei verwendet das System eine Metrik, die das Ausmaß misst, in dem sich Benutzer überwiegend auf Argumente konzentrieren, die mit ihrer Sichtweise übereinstimmen. In drei Studien untersuchen wir die Effekte der Interventionen auf Reflexion und Explorationsverhalten. Die Ergebnisse der Studien zeigen, dass sich Nutzer signifikant mehr mit Argumenten der Gegenseite befassen und sich mit Argumenten deutlich länger auseinandersetzen, wenn das System Interventionsstrategien anwendet. Darüber hinaus zeigen wir einige Interaktionseffekte mit Persönlichkeitsmerkmalen auf, die belegen, dass Systeme, die Reflexion verbessern wollen, auch die Persönlichkeit des Nutzers berücksichtigen sollten.…