Supercomputer gegen Polarisierung auf Social Media
Supercomputer gegen Polarisierung auf Social Media
Der Informatiker Stefan Neumann und sein Team erforschen Social-Media-Netzwerke, um zu verstehen, wie Algorithmen die Meinungen von User:innen beeinflussen: Auf dem ASC simulieren sie, wie Filterblasen und Polarisierung entstehen und welche Möglichkeiten es gibt, um diese Entwicklung zu beeinflussen. Was wir aus den Ergebnissen machen? Das müssen wir dann als Gesellschaft schon selbst entscheiden, sagt Stefan im Interview. Spannend.
Bettina Benesch
Stefan, ihr forscht daran, wie Empfehlungssysteme auf Online-Plattformen die Polarisierung beeinflussen – und zwar prospektiv, also bevor diese Systeme zum Einsatz kommen. Wie macht ihr das?
Stefan Neumann: Indem wir auf einem Supercomputer verschiedene Szenarien durchspielen. Man kann sich das so vorstellen, wie die Simulationen während der Corona-Pandemie: Da haben Data Scientists mit Hilfe von Virusmodellen geschaut, was passiert, wenn die Leute nicht mehr zur Arbeit gehen und zuhause bleiben: Was verändert sich dann, und wie? So ähnlich machen wir es auch: Wir haben bauen ein abstraktes Modell der sozialen Medien und ändern einen einzigen Parameter oder mehrere. Dann schauen wir uns an, wie sich das auf die Polarisierung der User:innen auswirkt.
Warum ist das wichtig?
Stefan Neumann: Empfehlungssysteme in sozialen Netzwerken können zum Beispiel eine wichtige Rolle bei Desinformationskampagnen zur Beeinflussung von Wahlen spielen und Leute bewusst manipulieren. Wir wollen verstehen, wie Empfehlungssysteme verändert und verbessert werden müssen, um schädliches Verhalten entschärfen zu können.
Im Grunde hat das Projekt drei Ziele: Erstens wollen wir theoretische Modelle entwickeln, die erklären, wie Empfehlungssysteme mit menschlichem Verhalten interagieren. Zweitens geht es darum, zu untersuchen, wie feindliche Akteure ein Netzwerk manipulieren könnten, und in einem dritten Schritt untersuchen wir, wie man Marketing personalisieren kann; zum Beispiel wie ein Produkt, das polarisiert, gesellschaftlich verantwortbar beworben werden kann. Also: Wie erreiche ich vor allem die Leute, die das interessiert und den Rest lasse ich sozusagen in Ruhe.
Euer Projekt läuft seit 2024. Habt ihr bereits erste Ergebnisse?
Stefan Neumann: Ja. Wir haben zum Beispiel simuliert, wie sich Meinungen durch geringfügige Änderungen in den Themen der Timeline modifizieren lassen. Die Frage war, ob das dafür sorgen würde, dass die Menschen weniger polarisiert werden.
“
Wir haben in der Simulation jeweils nur zwei bis drei Prozent an der Gewichtung der Themen in der Timeline verändert; zum Beispiel zwei Prozent mehr Fußball, drei Prozent weniger Politik. Das hat sich deutlich auf die Polarisierung im Netzwerk auswirkt, nämlich teilweise zu zehn bis 20 Prozent Reduktion in der Polarisierung geführt.
„
Würde es dafür sorgen?
Stefan Neumann: Ja. Und zwar bringt schon eine kleine Veränderung in der Gewichtung der Themen relativ große Änderungen mit sich. Nehmen wir ein soziales Netzwerk wie Twitter/X: Wir haben in unserer Simulation für jeden User zusammengestellt, wie die jeweilige Timeline aussieht. Also so etwas wie: 50 Prozent Formel 1, 30 Prozent Fußball, 20 Prozent Politik. Dann haben wir uns gefragt: Wie kann man da ein bisschen umgewichten? Also überall zwei, drei Prozent nach oben oder unten verändern: zwei Prozent mehr Fußball, drei Prozent weniger Politik zum Beispiel. Wir haben uns angesehen, wie sich das auf die Polarisierung im Netzwerk auswirkt.
Das hat in der Simulation teilweise zu zehn bis 20 Prozent Reduktion in der Polarisierung geführt. Man kann dieses Modell zwar nicht eins zu eins auf die echte Welt umlegen, aber es waren trotzdem interessante Ergebnisse, die zeigen, dass es Möglichkeiten gibt, die sozialen Medien weniger polarisierend zu machen und damit vielleicht auch manche Menschen zu deradikalisieren.
Was habt ihr konkret im Feed verändert?
Stefan Neumann: Wenn ich zum Beispiel einen User habe, der politisch eher links steht, liefere ich ihm ein klein wenig mehr Themen, die eher von der rechten Seite kommen – und zwar gerade so, dass das noch akzeptabel ist für ihn. Denn wenn er die Themen ablehnt, weil es zu rechts ist, dann springt er natürlich ab.
Man könnte eure Ergebnisse auch wunderbar nutzen, um Menschen zu manipulieren. Wie kann man das verhindern?
Stefan Neumann: Was wir idealerweise rausbekommen möchten, ist eine Art Checkliste für Algorithmen, die uns zeigt: Diese Eigenschaften müssen Algorithmen haben, damit sie Gutes tun. Wir hätten gern eine Menge an Kriterien, wo auch die Politik sagen könnte: Okay, irgendwann könnten diese Kriterien auch in eine Regulierung einfließen.
“
Was wir idealerweise rausbekommen möchten, ist eine Art Checkliste für Algorithmen, die uns zeigt: Diese Eigenschaften müssen Algorithmen haben, damit sie Gutes tun.
„
Was gilt denn als „gut“?
Stefan Neumann: Genau das definieren wir als Forscher:innen nicht. Aktuell geht es darum, herauszufinden was denn überhaupt die Dimensionen sind, in denen man so eine Vorhersage überhaupt sinnvoll treffen kann. Dann wäre die Idee, dass man diese Kriterien als Basis für eine gesellschaftliche, politische Debatte verwendet, in der es darum geht, für uns als Gesellschaft wirklich “gut” ist. Aber zuerst wir müssen wir die Tools liefern, um diese Debatte überhaupt führen zu können.
Lass uns etwas technischer werden: Was macht euer Projekt denn von der handwerklichen Seite einzigartig?
Stefan Neumann: Dass wir das Thema von der technischen/mathematischen Seite angehen. Das kommt aktuell in der Forschung ein bisschen zu kurz. Es gibt derzeit viele Forscher:innen, die eher angewandt arbeiten; Studien mit Nutzer:innen machen, die mit verschiedenen Algorithmen interagieren und so weiter. Bei uns geht es darum, eine Möglichkeit zu finden, mit der man aus theoretischer Sicht versteht, was man in den echten Daten sieht.
“
Warum lesen denn mehr Leute Boulevardmedien als Der Standard? Die Boulevardmedien haben emotionalere Themen und leichter zugängliche Überschriften. Und genau das wird durch soziale Medien verstärkt.
„
Ihr untersucht auch Filterblasen. Gibt es Möglichkeiten für mich als Userin, aus meiner Filterblase zu entkommen?
Stefan Neumann: Ich glaube, man muss vor allem kritisch sein, welche Themen man konsumiert. Und wer Spaß daran hat, kann bei Medien wie Bluesky ja eigenständig den Timeline-Algorithmus anpassen und zuschauen, wie sich der Inhalt verändert. Was mir bei dieser ganzen Debatte aber zu kurz kommt, ist, dass es ja auch zu einem gewissen Grad menschliches Verhalten ist, das verstärkt wird. Warum lesen denn mehr Leute Boulevardmedien als Der Standard? Die Boulevardmedien haben emotionalere Themen und leichter zugängliche Überschriften. Und genau das wird durch soziale Medien verstärkt – ganz ohne irgendeinen Algorithmus: Leute, die diese Dinge posten, bekommen ganz automatisch mehr Aufmerksamkeit. Und on top gibt es dann die Algorithmen, die das teilweise nochmal verstärken. Aber man kann diese Algorithmen auch so bauen, dass sie das unter Umständen abschwächen.
Wenn du 2031 auf dein Projekt zurückschaust, woran würdest du festmachen, dass ihr wissenschaftlich erfolgreich wart und eure Arbeit auch gesellschaftlichen Impact entfaltet?
Stefan Neumann: Ich glaube, wenn wir bis dahin dann solche Bedingungen für Algorithmen haben, die einerseits theoretisch interessant sind, die man gut analysieren kann und andererseits so verständlich sind, dass man darüber mit der Öffentlichkeit diskutieren kann.
Wordrap
Stefan Neumann vervollständigt folgende Sätze:
Supercomputing ist für unsere Arbeit … unerlässlich.
Forschung an der TU Wien … macht Spaß.
Informatik ist … mega spannend, gerade massiv im Wandel und wird sich weiterhin stark verändern.
Ein Leben ohne Social Media ist … auch nicht schlecht.
Soziale Netzwerke in 20 Jahren sind … viel diverser und viel mehr aufgesplittet.
Zur Person
Assistant Prof. Dr.techn. Stefan Neumann, BSc MSc leitet an der TU Wien eine vom Wiener Wissenschafts-, Forschungs- und Technologiefonds (WWTF) geförderte Forschungsgruppe zum Projekt „Towards Trustworthy Recommendation Systems for Online Social Networks“.
Das Team entwickelt mathematische Modelle, um zu verstehen, wie Empfehlungssysteme und Timeline-Algorithmen in sozialen Netzwerken Filterblasen und Polarisierung verstärken, und wie sich dieser Einfluss schon vor dem Einsatz der Algorithmen abschätzen und begrenzen lässt - auch im Hinblick auf böswillige Akteure und Desinformationskampagnen.
Langfristig sollen die Ergebnisse Politik, Regulierung und Industrie dabei unterstützen, soziale Medien verantwortungsvoller zu gestalten und Informations- bzw. Werbekampagnen gezielter und gesellschaftlich verträglicher auszuspielen.
https://informatics.tuwien.ac.at/people/stefan-neumann