Spielerische Indoktrination: wie Kindern das kritische Denken abtrainiert werden soll

In diesem zweiten Teil ihres Beitrages über den Kampf, der derzeit gegen das kritische Denken geführt wird, zeigt Dr. habil. Heike Diefenbach, mit welchen Taschenspielertricks versucht wird, Kinder und Jugendliche so zu konditionieren, dass sie vorgegebene Wertungen für objektive Tatbestände halten und gar nicht mehr auf die Idee kommen, davon abweichende Meinungen überhaupt zur Kenntnis zu nehmen. Es ist ein erschütterndes Dokument dessen, was heute normal geworden zu sein scheint, und ein erschreckender Einblick in die Beschränktheit der Vertreter politischer Korrektheit.

Teil 1 kann hier nachgelesen werden.


von Dr. habil. Heike Diefenbach

 

Das Spiel “Bad News” ist kein Spiel, sondern spielerische Indoktrination

Die Zuwachs oder Verlust an Followern ist im Übrigen im Spiel nicht tatsächlich abhängig von Entscheidungen, die der Spieler trifft, weil der Spieler während des gesamten Spiels jeweils drei, zwei oder nur eine einzige Reaktionsmöglichkeit hat, und in den Fällen, in denen er drei oder zwei Reaktionsmöglichkeiten hat, wird er schon im nächsten Schritt umgeleitet auf die erwünschte Option, von der aus die Demonstration einer der sechs – angeblich nur oder speziell – von Verbreitern von „fake news“ in Internet angewendeten Methoden erfolgen kann. Die Zahl der Follower – und für die Spielentwickler damit das Ausmaß der Glaubwürdigkeit – steigt, stagniert oder sinkt lediglich in Reaktion darauf, ob der Spieler die erwünschte Option sofort oder auf Umwegen über die anderen Optionen, sofern vorhanden, wählt. Daher ist das Spiel überhaupt kein Spiel, sondern eine Demonstration des Weltbildes der Spielentwickler unter Vortäuschung einer relevanten Interaktion mit dem „Spieler“.

Fairerweise sei angemerkt, dass es jederzeit möglich ist, das Spiel zu beenden oder das Spiel so weit zu treiben, dass es aufgibt, d.h. sich für einen Spieler, der sich anscheinend bis zu einem bestimmten Punkt als hoffnungsloser Fall bei der Indoktrination erweist, selbst beendet. In der Sprache des Spiels heißt das, dass ein Spieler bis zu diesem Punkt alle seine „Follower“ verloren hat. Wohlgemerkt kann es relativ schnell so weit kommen, wenn der „Spieler“ die Kooperation mit dem Spiel unterläuft, indem er systematisch diejenigen Optionen wählt und wiederwählt, die nicht in den „Lehrplan“ des Spiels passen. Ein Mitglied der ScienceFiles-Redaktion, der das Spiel ausprobiert hat, hat das Spiel insofern glanzvoll besiegt – und danach – wohl zum psychologischen Ausgleich – das gute, alte „Titan Quest“ gespielt, bei dem die eigenen (Fehl-/)Entscheidungen tatsächlich einen Unterschied machen und zu einem ziemlich einseitig ausgerichteten Helden führen können, der sich zu einem späteren Zeitpunkt im Spiel als Fehlkonstruktion erweist.


Angebliche Merkmale von „fake news“

Betrachten wir nun die Strategien oder Methoden, die die Spielentwickler den Spielern als Merkmale von „fake news“ „einimpfen“ wollen, etwas genauer. Zur Erinnerung die sechs Merkmale von „fake news“, wie die Spielentwickler sie sehen:

1. Identitätsbetrug;
2. Emotion;
3. Polarisierung;
4. Verschwörung;
5. Verruf und
6. Trollen.

„Identitätsbetrug“:
Stereotypisierung, das Unterschieben impliziter Prämissen und Fehlinformation durch „Bad News“

„Identitätsbetrug“ zu begehen, ist die erste Un-/Tat, zu der die Spielentwickler den Spieler führen, der ja die Rolle des Falschmelders einnimmt. Zum „Identitätsbetrug“ stehen dem Spieler zwei Möglichkeiten zur Verfügung, nämlich „Offiziellen Twitter-Kanal imitieren“ und „Berühmte Person nachahmen“. Wählt man die erste Möglichkeit, so stellt sich – wie könnte es anders sein!? – als fingierter Twitter-Kanal eine Imitation von Donald Trumps Twitter-account mit seinem Bild und dem Namen „Donald J. Trunp“ ein. In der zugehörigen Nachricht schreibt „Trunp“, dass er Nordkorea den Krieg erklärt habe, und schon bekommt man vom Spiel 31 (weitere) (vom Spiel-Algorithmus zugeteilte, natürlich nicht existente,) Follower verpasst, die als so unglaublich dämlich entworfen sind, dass sie die Nachricht ohne Weiteres glauben und sich an der falschen Schreibweise des Namens von Trump nicht stören – oder nicht wissen, wie der Mann tatsächlich heißt.

Die Spielentwickler halten Menschen tatsächlich für so dumm und haben bei der Verachtung ihrer Mitmenschen anscheinend richtigen Spaß: Direkt nach der schon oben erwähnten Bemerkung über die Aufmischung des Internets am Anfang des Spiels wird der Spieler aufgefordert:

„Fangen wir an, indem du deinen Frust auf Twitter auslässt. Du bist bestimmt wegen irgendwas frustriert, oder? Sind wir doch alle.“

Und dann wird der Spieler dahin geleitet, einen „Frust-Tweet“ zu posten. Unterstellt wird also, dass Leute „fake news“ bewusst kreieren und verbreiten, weil sie „frustriert“ sind. Da wir aber „doch alle“ frustriert sind, bedarf es aber außerdem wohl des „Bösen“, das eine Person einen „Frust-Tweet“ posten lässt. Der erste vom Spiel vorgeschlagene „Frust-Tweet“ (von drei möglichen) lautet:

„Diese Regierung hat komplett versagt! #auflösen Gescheiterte Loser!“

Der fingierte Tweet stammt von „Otto Normalverbraucher“, der „Durchschnittsbürger“ und „Twitternutzer“ ist. Man fragt sich unwillkürlich, ob ein „Frust-Tweet“ wie

„In der Bevölkerung werden die Befunde meiner Diskriminierungsstudie nicht akzeptiert! #Umerziehungslager Modernisierungsverlierer!“

von den Spielentwicklern als Äquivalent zu dem von ihnen formulierten „Frust-Tweet“ akzeptiert würde.

Wie dem auch sei – es gibt Alternativen im Spiel. Eine Alternative zum im Spiel vorgeschlagenen, oben zitierten „Frust-Tweet“ lautet: „Lügenpresse[,] halt die Fresse! Und wurde von „Lieschen Müller, einer „Durchschnittbürgerin“ der es „[…] gut geht[…]“ verfasst.

Der frustrierte Böse, der „Frust-Tweets“ absetzt, ist in der Darstellung durch die Spielentwickler also eine Art Rattenfänger von Hameln, für den die dummen „Durchschnittsbürger“ oder „Normalverbraucher“ leichte Beute sind, auch dann, wenn es ihnen „gut geht“.

Nicht nur über ihr Menschenbild bzw. eine entsprechende politische Ideologie geben die Spielentwickler Aufschluss, sondern auch – einmal mehr – über ihre kognitiven Fähigkeiten, lautet die Antwort des Spiels auf das Posten des „Frust-Tweets“ durch den Spieler doch „Schau mal! Deine bissige Kritik der Regierung hat dir neue Follower gebracht …“. Dass es tatsächlich Leute gibt, die meinen, es sei eine „bissige Kritik“, wenn Institutionen oder Leute mit irgendwelchen abwertenden Begriffen belegt werden, ist einigermaßen erschreckend. Die Spielentwickler tun dies offensichtlich, denn sie bezeichnen Beschimpfungen („Loser“) und primitive Anwürfe („Halt die Fresse!“), als „Kritik“, noch dazu als „bissige Kritik“, obwohl im Rahmen der vermeintlichen „Kritik“ keinerlei Argumente vorgebracht werden – und wo keine Argumente sind, kann keine Kritik sein. Und als „bissige Kritik“ würde man vermutlich eine besonders treffende oder substanzielle Kritik bezeichnen, z.B. eine, die die logischen Widersprüche des Standpunktes identifiziert. In der englischsprachigen Version von „Bad News“ wird die Beschimpfung von Institutionen oder Leuten sogar als „constructive criticism“, d.h. als „konstruktive Kritik“ bezeichnet, was die Sache m.E. noch schlimmer macht.

Im Folgenden wird der Spieler dahin geleitet, ein eigenes „Nachrichten-Portal online“ zu stellen – statt eines Blogs, das als einzige alternative Möglichkeit vorgegeben wird, von den Spielentwicklern aber als zu wenig ambitioniert eingestuft wird, weshalb eine Schleife zurückführt zum „Nachrichten-Portal“ – und sich zum Chefredakteur desselben zu erklären. Die einzige angebotene Alternative zur Funktion des „Chefredakteurs“ lautet „Aushilfe“, und wenn man sie wählt, wird man von den Spielentwicklern darüber aufgeklärt, dass „Aushilfen […] kein hohes Ansehen [genießen]. Wieso nicht Chefredakteur werden?“ Also muss der Spieler Chefredakteur werden; „Aushilfen“ sind als solche für die Spielentwickler zu unglaubwürdig oder unbedeutend, um erfolgreich „fake news“ verbreiten zu können. Und so „verdient“ der Spieler sein erstes „Abzeichen“ für „Identitätsbetrug“, und das Abzeichen, auf dem eine schwarze Maske – Meme für die Antifa?! – zu sehen ist, ist mit dem Text versehen:

„Der kleine Wutbürger ist ein hohes Tier geworden: Chefredakteur eines echten Nachrichtenportals“.

Falls das Humor sein oder einen lockeren Stil darstellen soll, halte ich diesen Versuch für vollkommen missglückt. Es ist m.E. einfach nur primitiv. Immerhin lernt der Spieler über die Spielentwickler dadurch noch einiges mehr als er bislang über sie lernen durfte, denn die Art und Weise, wie sie den „bösen“, „frustrierten“, in sozialen Medien die Dummheit des Durchschnittbürgers ausnutzenden Falschmelder darstellen, gibt Aufschluss über das Feindbild der Spielentwickler, aber nicht darüber, was individuelle – und nicht organisierte –Falschmelder, falls es sie überhaupt in nennenswerter Anzahl gibt, tatsächlich oder vermutlich motiviert und durch welche Persönlichkeitsmerkmale sie sich ggf. auszeichnen. Sofern das Feindbild des individuellen Falschmelders ebenso wie das Bild des „Durchschnittsbürgers“, das im Spiel kreiert wird, Projektionen der Spielentwickler sind, erweisen sich die Spielentwickler als autoritäre Persönlichkeiten, die ihre Mitmenschen, die sich z.B. auf Twitter ausdrücken, als „Böse“, „Frustrierte“, als „Wutbürger“, nein, „kleine Wutbürger“ und schlichtweg dumm oder extrem einfältig abqualifizieren und darüber hinaus anscheinend bereit sind, einem „Chefredakteur“ grundsätzlich mehr Glauben zu schenken als einer „Aushilfe“.

Und weil Arroganz oder Verachtung für Andere – gemäß des Dunning-Kruger-Effektes (Dunning 2011; Kruger & Dunning 1999) – stark mit Ignoranz korreliert, widersprechen sich die Spielentwickler außerdem selbst, ohne es zu bemerken, denn es kann kein „Identitätsbetrug“ sein, wenn jemand, der real existiert, ein Nachrichtenportal eröffnet, das von da an real existiert. Und wenn diese Person sich, um ihre Funktion mit Bezug auf das Nachrichtenportal zu beschreiben, „Chefredakteur“ nennt, dann ist das vermutlich eine ganz gute Beschreibung dieser Funktion. Begriffe wie „Chefredakteur“ sind Begriffe, die Funktionen beschreiben. Sie sind keine geschützten Begriffe im Rahmen einer Geltungs-Hierarchie in Organisationen, die Körperschaft- und Gewerbesteuern an Verwaltungen abführen, geschweige denn in der Gesamtgesellschaft. M.E. tritt hier die anti-individualistische bzw. kollektivistische Orientierung der Spielentwickler deutlich hervor: Wer „bloß“ böser, frustrierter Wutbürger ist, der in Eigeninitiative ein Nachrichtenportal eröffnet, kann sich nur zum „Chefredakteur“ emanzipieren, wenn er seine bösen, frustrierten, wütenden Impulse in einer Organisation notdürftig unterdrückt oder, wenn er es darf, auslebt, in der er den Status eines jederzeit erpressbaren Angestellten hat.

Und wenn man über jedes Nachrichtenportal, das Unwahrheiten verbreitet, sagen wollte, es sei nicht „echt“, müsste man z.B. ARD und ZDF oder zumindest bestimmten Sendungen, die dort ausgestrahlt werden, als „nicht echt“ oder „unecht“ qualifizieren. Das ist so besonders vor dem Hintergrund, dass die Spielentwickler den Spieler im Spielverlauf dazu mahnen, etwas Glaubwürdiges auf dem „unechten“ Nachrichtenportal zu veröffentlichen, denn:

„Wer zu offensichtliche Falschmeldungen verbreitet, dem wird nicht mehr geglaubt.“

Die beste Strategie für den Falschmelder, der glaubwürdig erscheinen will, wäre es also, Wahres mit Falschem in der Berichterstattung zu vermengen. Wenn er das tut, unterscheidet sich sein Produkt nicht von den Produkten der Mainstream-Medien, die Falsches und mitunter Richtiges berichten.

Worin der „Identitätsbetrug“ besteht, mit dem der Spieler „ausgezeichnet“ wird, wenn er ein Nachrichtenportal online gestellt hat und sich selbst als „Chefredakteur“ desselben bezeichnet, bleibt also völlig unnachvollziehbar, ganz davon abgesehen, dass es im Strafrecht keinen entsprechenden Straftatbestand gibt; es kennt „Identitätsdiebstahl“, aber keine „Identitätsbetrug“. Durch den Begriff „Betrug“ soll vielleicht suggeriert werden, dass jemand, der ein Nachrichtenportal online gestellt hat und sich selbst als „Chefredakteur“ desselben bezeichnet, nicht nur moralisch fragwürdig sei, sondern am Rand der strafrechtlichen Belangbarkeit entlangschramme. DAS nenne ich, wenn nicht „fake news“, so doch „Manipulation“.

Aber nehmen wir einfach einmal an, wir wollten von „Identitätsbetrug“ sprechen, wenn eine Handvoll „kleiner“ Durchschnittsbürger beschließt, sich als Organisation zu inszenieren und sich einen entsprechenden Namen zu geben, nämlich DROG, dann aus „Frust“ und in böser Absicht eine Seite Online stellt, die nur einen einzigen Inhalt hat, der auf die Beeinflussung von Leuten abzielt, und sich diese Durchschnittsbürger als glaub- bzw. vertrauenswürdig darstellen wollen, indem sie sich als irgendwie besonders, qualifiziert oder wichtig darstellen, sagen wir: als „Spezialisten“. Würde es sich dann bei DROG, den Entwicklern des Spiels „Bad News“, nicht um „Identitätsbetrüger“ handeln?! Wie vertrauenswürdig sind sie dann bzw. ist das von ihnen entwickelte Spiel?!

 

Emotionen – der Spielentwickler! – und der Fehlschluss ad populum

Im weiteren Spielverlauf schieben die Spielentwickler dem Spieler fortgesetzt ihre Stereotype, Plattitüden und Fehler (oder Täuschungsversuche?) unter und verweisen dabei ständig auf sich selbst (zurück), so z.B., wenn der Spieler als nächstes dahingeleitet wird, auf seinem „Portal“ „[a]ufwühlende Inhalte“ statt „[s]achliche Inhalte“ zu veröffentlichen, zu denen der Spieler die Erläuterung erhält:

„Gute Wahl! Durch Angriff können wir Wut erzeugen ….“

Die Spielentwickler assoziieren mit „[a]ufwühlenden Inhalte[n]“ also offensichtlich nur das negative Gefühl der Wut; sie haben mein Bedauern!

Als erster „[a]ufwühlende[r]“ Inhalt wird von den Spielentwicklern die Schlagzeile angeboten „Wissenschaftler: ‚Klimawandel verändert das alltägliche Leben‘“. (Warum war ich hiervon nicht überrascht?!) Der alternative „[a]ufwühlende Inhalt“, den die Spielentwickler dem Spieler anbieten, betrifft gentechnisch veränderte Lebensmittel. Klimawandel und gentechnisch veränderte Lebensmitte mögen Themen sein, die bei den Spielentwicklern Wut auslösen oder sonstwie emotional „[a]ufwühlen[…]“, aber tatsächlich sind es Sachthemen insofern ihre angemessene Beurteilung allein von der Antwort auf eine Reihe von Sachfragen abhängt, mit Bezug auf Klimawandel u.a. von Antworten auf Fragen wie: wie wird sich das Klima wo auf der Erde in welche Richtung verändern? Was ist der Grund dafür? Was werden voraussichtlich die Folgen hiervon sein? Sind die Folgen so umfassend oder ernsthaft, dass staatliche Maßnahmen zur Minderung der Folgen gerechtfertigt wären? Wären sie möglich? Etc. etc.

Wenn sich ein Falschmelder dieser Inhalte bedienen kann, um „aufzuwühlen“, dann liegt der Grund hierfür nicht in den Inhalten selbst, die tatsächlich Sachfragen betreffen, sondern darin, dass sich manche Menschen, die Ideologie und Irrationalität an die Stelle von Gelassenheit und Rationalität gesetzt haben, von diesen Themen emotional angesprochen fühlen, oder darin, dass diese Inhalte vorher schon für bestimmte, ideologisch motivierte Anliegen instrumentalisiert worden sind – und gewöhnlich nicht von irgendwelchen Internet-Nachrichtenportalen oder Bloggern, sondern von öffentlichen Verwaltungen, Regierungen oder Organisationen – oder von Entwicklern von Indoktrinations“spielen“.

Einen emotionalen Inhalt als ein Merkmal (nur?!) von „fake news“ darzustellen, ist stark irreführend. Vielleicht haben die Spielentwickler hiervon zumindest eine vage Ahnung, denn das Sätzchen, das dem vom Spieler verdienten „Abzeichen“ für „Emotion“ beigegeben ist, lautet merkwürdig zurückhaltend:

„Inhalte, die mit Gefühlen wie Angst, Wut oder Mitleid spielen, verbreiten sich gut“.

Wenn das so ist, dann ist nicht erkennbar, warum es im Spiel in Zusammenhang gebracht wird mit „fake news“ oder mit der Veröffentlichung online, in sozialen Medien, und die Spielentwickler geben auch keinen Aufschluss darüber, wann mit „Gefühlen wie Angst, Wut oder Mitleid“ „[ge]spiel[t]“ wird und wann nicht. Was unterscheidet das Spiel mit diesen Gefühlen von sachlicher Berichterstattung, die aufgrund der menschlichen Natur vermutlich bei vielen Rezipienten Wut oder Mitleid auslösen wird? Ist ein Bericht über Tausende von Menschen, die wegen eines Tsunamis Obdachlos geworden sind, „fake news“, weil er bei (hoffentlich) vielen Menschen Mitleid auslöst?!?

Die gewählte Schlagzeile muss der Spieler dann „[a]ngreifen“ – und dann passiert etwas sehr überraschende: Der Spieler wird – zum ersten und letzten Mal im Spiel – nach seiner Meinung zum „Klimawandel“ bzw. zu gentechnisch veränderten Organismen gefragt, wobei die Frage nach der Meinung „zum Klimawandel“ natürlich unsinnig ist, denn niemand wird bestreiten, dass sich das Erdklima verändert und immer verändert hat und immer verändern wird. Gemeint ist anscheinend menschengemachter Klimawandel. Ob die Spielentwickler hier einen Fehler gemacht haben oder das Wort „menschengemacht“ bewusst unterschlagen wurde – zu welchem Zweck auch immer –, bleibt unklar; jedenfalls fehlt das „menschengemacht“ interessanterweise auch in der englischsprachigen Version. Welchem Zweck die Frage nach der eigenen Meinung an dieser Stelle (und keiner anderen!) dient, bleibt ebenfalls unklar, denn für den Spielverlauf ist sie unerheblich:

Wenn der Spieler von den beiden angebotenen Antwortvorgaben auf die Frage nach seiner Meinung zum (menschengemachten?) Klimawandel die Antwort „Es ist ein ernst zu nehmendes Problem“ wählt, erhält er vom Spiel die Reaktion:

„Langweilig! Das sagt doch jeder. Mit Nachplappern gewinnst du keine Follower …“

Hier wird suggeriert, dass jeder der Meinung wäre oder zumindest sagen würde, dass (menschengemachter?) Klimawandel ein „ernst zu nehmendes Problem“ sei, es sich hier also um eine Mehrheitsmeinung handeln würde, was kaum anders als durch einen Apell der Spielentwickler an das argumentum ad populum aufgefasst werden kann, also das Fehlargument, das darin besteht, etwas als wahr oder richtig zu bewerten, weil es von einer Mehrheit als wahr oder richtig betrachtet wird – und auch das nur angeblich, denn – mangels empirischer Evidenz – ist die Behauptung, „jeder“ würde „Klimawandel“ für ein „ernst zu nehmendes Problem“ halten, eine völlig haltlose Behauptung, die von den Spielentwicklern aus der Luft gegriffen wird, um den Spieler dazu zu zwingen, die einzige Antwortalternative zu wählen und den (menschengemachten?) Klimawandel zur „Verschwörung“ zu erklären.

Anschließend muss der Spieler sich dafür entscheiden, entweder „Forscher an[zu]greifen“, (wieder) „Emotionen [zu] wecken“ oder „Auf[zu]klären“ [sic!]. Damit wird suggeriert: Nur eine Minderheit von unaufgeklärten Leuten, die im Übrigen Verschwörungstheoretiker sind (s.o.), glauben nicht, dass (menschengemachter?) Klimawandel ein „ernst zu nehmendes Problem“ sei, und „Forscher“ hätten (menschengemachten?) Klimawandel festgestellt, was unterschlägt, dass „Forscher“ hierüber tatsächlich sehr unterschiedlicher Auffassungen sind. In der englischsprachigen Version ist interessanterweise auch nicht von einer „conspiracy“ die Rede, sondern von einem „hoax“, d.h. einem Schwindel, einer Falschmeldung oder einem Versuch, die Leute zum Narren zu halten. Das ist nicht unbedingt identisch mit einer „conspiracy“ bzw. „Verschwörung“.

An dieser Stelle wird wieder sehr deutlich, dass es in „Bad News“ tatsächlich darum geht, Spieler dazu zu bringen, bestimmte inhaltliche Meinungen zu übernehmen, und eben nicht darum, irgendwelche formalen Kriterien kennenzulernen, anhand derer man „fake news“ erkennen könnte.

Und um den Glauben an (menschengemachten?) Klimawandel sozusagen nachhaltig einzuhämmern, wird im Spiel entsprechend nachgesetzt: Wählt der Spieler „Forscher angreifen“, so erhält er vom Spiel die Antwort:

„Gute Idee! Besserwisser angreifen ist ein kluger Schachzug …“

Gelernt werden soll anscheinend: Wer „Forscher“ „angreift“, der hat keinen legitimen Grund hierfür, sondern stellt sie bewußt als „Besserwisser“ dar, um das, was sie sagen, zu diskreditieren. Es kann für die Spielentwickler keinen legitimen Zweifel an denjenigen geben, die etwas angeblich oder tatsächlich „besser wissen“; wie oben schon bemerkt: es muss sich bei ihnen um autoritäre Persönlichkeiten handeln. Wer sich nicht unhinterfragt den vermeintlichen Autoritäten beugt, die die Spielentwickler als solche darstellen möchten, der kann nach Ansicht der Spielentwickler nur „fake news“ verbreiten wollen.

 

Polarisierung: Die dichotome Welt der Spielentwickler

Als nächste Methode, anhand derer man angeblich (nur? besonders?) „fake news“ in sozialen Medien erkennen kann, präsentieren die Spielentwickler die „Polarisierung“. Auch diese „Methode“ fällt auf die Spielentwickler zurück, z.B. an der Stelle, an der sie dem Spieler als Antwortmöglichkeiten auf die Frage nach ihrer Meinung zum Klimawandel im oben beschrieben „Lernschritt“ „Emotion“ vorgeben: „Es ist eine Verschwörung“ vs. „Es ist ein ernst zu nehmendes Problem“. Wenn jemand glaubt, dass der (menschengemachte!?) Klimawandel kein „ernst zu nehmendes Problem“ ist, dann bedeutet das für die Spielentwickler, dass er notwendigerweise die Rede vom (menschengemachten) Klimawandel als „Verschwörung“ einstufen müsste. Aber das muss er nicht! Er könnte z.B. einfach denken, dass das „Problem“ nicht so groß ist, wie es einige Leute darstellen. Das macht ihn nicht zu einer Person, die meint, hier müsse eine „Verschwörung“ vorliegen. „Polarisierung“ ist also (auch) eine Methode, die die Spielentwickler selbst verwenden – und zwar auf recht offensichtliche und dreiste Art – , um den Spieler zu beeinflussen.

Polarisierend agieren die Spielentwickler auch, wenn sie anschließend an den Erwerb des „Abzeichens“ für „Emotionen“ durch den Spieler im Zusammenhang mit dem Thema „Chemieunfälle“ danach fragen, wen der Spieler dafür verantwortlich machen will, „Behörden“ oder „Großkonzerne“. Wählt man „Behörden“, erhält man die Antwort:

„Ein traditioneller Standpunkt von rechts …“,

was einigermaßen überraschend ist, wird „Rechten“ doch gewöhnlich unbedingte Treue zu Vaterland und seine Institutionen unterstellt. Und weiter steht in der Reaktion, die das Spiel gibt, zu lesen:

„… Doch du hättest auch links wählen können. Es macht keine Unterschied: Man wählt eine Seite und verteufelt die Gegenseite.“

„Links“ ist für die Spielentwickler, wenn man Großkonzerne für Unfälle verantwortlich macht (wie sich zeigt, wenn man die entsprechende Antwortalternative, also „Großkonzerne“, wählt), nicht „Behörden“ – ungeachtet der Tatsache, dass z.B. die Antifa bekanntermaßen kein Freund der Polizei ist. Die Spielentwickler stellen die Welt (der sozialen Medien) grob und in unverantwortlicher Weise als in genau zwei „Seiten“ untereilt dar.

Solche Plattitüden zu präsentieren, ist nicht pädagogisch begründbar und ist auch nicht bloß eine spieltechnisch bedingte Vereinfachung. Im Mindesten suggerieren die Spielentwickler damit, dass der böse, frustrierte etc. Falschmelder die Welt in zwei entgegengesetzte Lager unterteilen würde, obwohl es tatsächlich sie selbst sind, die dies tun, wenn sie suggerieren, nur oder vor allem Falschmelder würden eine solche Weltsicht typischerweise pflegen oder ausbeuten.

 

Verschwörung: Der „Totschläger“ der Einfältigen

Von den verbleibenden drei Methoden, die angeblich für „fake news“ in sozialen Medien charakteristisch sein sollen oder für sie spezifisch sein sollen, nämlich „Verschwörung“, „Verruf“ (was heißen soll: „In-Verruf-Bringen“) und „Trollen“, will ich hier nur noch auf die „Verschwörung“ eingehen, weil die pauschale Abqualifizierung von Verschwörungstheorien bzw. ihre Behandlung als unfehlbare Anzeiger von „fake news“ eine leider übliche schlechte Angewohnheit derer ist, die keinen Zweifel kennen, autoritäre Persönlichkeiten sind oder direkt vom status quo profitieren.

Die generelle (Ab-/)Qualifizierung von Vermutungen über Verschwörungen als Aberglaube ist ihrerseits ein Aberglaube, wie Pigden (1995: 28) festgehalten hat, und arbeitet denjenigen zu und immunisiert diejenigen gegen Kritik, die sich tatsächlich miteinander verschwören, um bestimmte Zielsetzungen zu erreichen, die, würden sie einer breiten Öffentlichkeit bekannt, voraussichtlich auf großen Widerstand treffen würden.

Es ist möglich, dass gerade diejenigen, für die es eine Selbstverständlichkeit ist, „Netzwerke“ zu bilden, Multiplikatoren zu trainieren und zu platzieren und auf viele anderen Arten gemeinsam an der „guten Sache“ zu arbeiten und gleichzeitig „Transparenz“ nur mit Bezug auf ausgewählte Aktivitäten und Daten zeigen, Behauptungen über die Existenz von Verschwörungen vehement bekämpfen, nicht nur weil es – wie gesagt – in ihrem Interesse ist, sondern auch deshalb, weil sie einer Selbsttäuschung unterliegen, die Pigden (1995: 28) so auf den Punkt bringt: „Conspiracies are bad, therefore I am not a conspirator“.

Fakt ist, dass eine „Verschwörungstheorie“, wenn auch normalerweise keine Theorie, so doch eine Behauptung über die Existenz einer Verschwörung ist:

„A conspiracy is a secret plan on the part of a group to influence events partly by covert action“ (Pigden 1995: 5),

nicht mehr und nicht weniger. Wird die Existenz einer Verschwörung behauptet, kann die Behauptung sachlich richtig oder falsch sein bzw. in der Realität zutreffend oder unzutreffend, sein.

Typischerweise erfahren wir von Verschwörungen dann, wenn jemand mühevoll aufarbeitet, wie vergangene Ereignisse zustandegekommen sind. In diesem Fall sind Verschwörungen historische Erscheinungen, die man getrost zugestehen kann – und weiter darauf insistieren kann, heutzutage sei alles ganz anders. Oder wir erfahren von aktuellen Verschwörungen, wenn sie misslingen oder aufgedeckt werden. In diesem Fall werden die Verschwörer versuchen, zu retten, was zu retten ist, und die Verschwörung irgendwie umzudefinieren, als Fehler oder Irrtümer darzustellen, oder ein bestimmtes Individuum oder wenige Individuen als „Bauernopfer“ dafür verantwortlich zu machen. Oder es wird ein Ausschuss eingerichtet, der die Angelegenheit untersucht, die Komplexität der Sache betont und am Ende keine Verfehlung feststellen kann oder will.

Dies war z.B. beim Climategate aus dem Jahr 2009 der Fall, bei dem der email-Austausch von „Wissenschaftlern“ über die beste Art, die Daten über die mittelalterliche Wärmeperiode hinwegzufälschen, um vortäuschen zu können, dass es eine Erwärmung der Erde erst nach der Industrialisierung gegeben hätte, durch Hacker oder einen internen Whistleblower bekannt geworden ist. Diverse Untersuchungen dieser Angelegenheit haben dazu geführt, dass „mehr Transparenz und ein besseres Management“ gefordert wurde, aber es wurde kaum auf das unethische Verhalten der „Wissenschaftler“ eingegangen und auch nicht auf den brisanten Inhalt der emails und ihre Bedeutung für die Behauptung vom menschengemachten Klimawandel:

“Only the Oxburgh review dedicates a few lines to this question. It states ‘We saw no evidence of any deliberate scientific malpractice in any of the work of the Climatic Research Unit and had it been there we believe that it is likely that we would have detected it. Rather we found a small group of dedicated if slightly disorganised researchers who were ill-prepared for being the focus of public attention. As with many small research groups their internal procedures were rather informal” (Oxburgh 2010: 5, zitiert nach Grundmann 2013: 72).

Und weil auf diese Weise Täter zu Opfern öffentlicher Aufmerksamkeit erklärt werden, auf die (hier die armen Fälscher nicht vorbereitet waren, gibt es keine aktuellen Verschwörungen, die als solche auch anerkannt und bezeichnet werden.

Aber wir wissen, dass Verschwörungen keineswegs seltene Erscheinungen sind; sie sind sogar wichtige Bestandteile des Geschichtsunterrichts. Man denke nur an die Verschwörung einiger Senatoren zur Ermordung Cäsars, an die Gruppe englischer Katholiken um Guy Fawkes, die den „Gunpowder Plot“ von 1605 geschmiedet haben, der bekannterweise misslungen ist, ebenso wie die „Cat Street“-Verschwörung aus dem Jahr 1820 zur Ermordung aller Mitglieder des britischen Kabinetts und des Premierministers, an die Glorious Revolution aus dem Jahr 1688 und die Folgezeit (s. hierzu das unterhaltsame Buch von Weil 2014) und an die Verschwörung aus Kreisen des deutschen Militärs zu Ermordung Hitlers im März 1943. Beispiele für Verschwörungen aus neuerer Zeit, die (noch) keinen routinemäßigen Eingang in die Bücher für den Geschichtsunterricht in Europa gefunden haben, sind Watergate und das oben erwähnte Climategate.

Zumindest in den USA hat sich auch herumgesprochen, dass sowohl die Behauptung zutrifft, dass der CIA Programme zum Zweck der Verhaltens- oder Gedankenkontrolle durchgeführt hat (s. z.B. Ross 2007; Scheflin & Opton 1978; Stephenson 1978), als auch diejenige, dass der CIA im Zuge der Suche nach Osama bin Laden ein angebliches Impfprogramm organisiert hat (s. z.B. https://www.scientificamerican.com/article/how-cia-fake-vaccination-campaign-endangers-us-all/). Von solchem Wissen sind die Spielentwickler entweder völlig unbehelligt geblieben, oder sie unterschlagen es bewusst.

Jedenfalls benutzen sie ausgerechnet Behauptungen über die Existenz falscher Impfprogramme, um den Bezug auf eine „Verschwörung“ als ein Merkmal von „fake news“ in sozialen Medien zu präsentieren:

„… Doch es gibt verrückte [!] Theorien darüber, dass Impfungen von der UNO zur Gedankenkontrolle eingesetzt werden und krank machen“.

Man beachte – neben der unbegründeten Bewertung der Behauptung als „verrückt“ – die nicht gerade plausible Kombination von „zur Gedankenkontrolle eingesetzt werden“ und „krank machen“. Ist diese Formulierung kombinatorisch oder alternativ gemeint? Wird dies bewusst unklar gelassen? Wäre es nicht kontraproduktiv, wenn durch Impfung Gedankenkontrollierte krank würden und vielleicht vorzeitig sterben würden?!

Jedenfalls wird der Spieler dahin geleitet, in seinem „Nachrichtenportal“ eine der „verrückte[n] Idee“ entsprechende Schlagzeile zu posten, und das Spiel erledigt den Rest:

„Du könntest noch stärkere Wörter benutzen. Aber immerhin! Du erreichst bald Kultstatus“,

und

„Du hast Deine Follower so erfolgreich manipuliert [!], dass sie eine Verschwörungstheorie glauben“,

Für mich ist hier der Höhepunkt der Lächerlichkeit des Spiels erreicht: Die Botschaft, die die Spielentwickler vermitteln wollen, ist, dass es keine Verschwörungen, jedenfalls keine durch internationale (soll das heißen: „gute“?) Organisationen wie die UNO, gibt, und dass, wer etwas anderes behauptet, entweder selbst bewusster Verbreiter von Falschmeldungen oder von denselben manipuliert worden sein muss.

Das „Abzeichen“, das der Spieler für die Verwendung von „Verschwörung“ erhält, wurde von den Spielentwicklern mit dem Merksatz versehen:

„Eine gut platzierte Verschwörungstheorie kann die Mainstream-Medien Vertrauen kosten“,

womit wieder deutlich wird, dass es den Spielentwicklern darum geht, durch „Bad News“ soziale Medien zu diskreditieren. Ihnen werden hier wieder „Mainstream-Medien“ als „gute“ Medien entgegengestellt, denen „böse“, „frustrierte“ Falschmelder in sozialen Medien durch Berichte über Verschwörungen das Vertrauen der Konsumenten entziehen (wollen).

„Fakten- Checker“ gegen „Wutbürger“, und das argumentum ad auctoritatem

Von diesem Punkt an bis zum Ende des Spiels ist es nur noch ein peinlicher, weil zu offensichtlicher, Versuch, bei den Spielern bestimmte Arten von Personen oder Einrichtungen gegen Zweifel zu „immunisieren“. So wird ein „Fakten-Checker“ eingeführt, der selbstverständlich im Stande ist, die Dinge richtig zu beurteilen und richtigzustellen, d.h. die Schlagzeile des Spielers, der ja den Falschmelder spielt, als „fake“ zu erweisen. Die Verteidigung des Spielers, der den „Wutbürger“ spielt, gegen den die Wahrheit verkündenden „Fakten-Checker“ wird von den Spielentwicklern kanalisiert in eine „Gegenoffensive“ oder genauer: einen „persönliche[n] Angriff“:

„… Nichts wirkt so gut wie ein persönlicher Angriff. Schreibst du einen kleinen Verriss über FactCheckOnline?“

Suggeriert wird dem Spieler: (1) Ein „Fakten-Checker“ ist eine Instanz, die kraft Bezeichnung „Fakten-Checker“ die Wahrheit kennt und verkünden kann – womit die Spielentwickler den Fehlschluss ad auctoritatem (übrigens nicht nur an dieser Stelle) institutionalisieren, (2) eine Entgegnung ist ein „Verriss“, (3) eine Entgegnung auf die Instanz „FactCheckOnline“ ein „persönlicher Angriff“, obwohl der Fakten-Checker – wohl bewusst – als Organisation oder Einrichtung, eben als „FactCheckOnline“, dargestellt wird und eben nicht als individuelle Person.

Dies ist m.E. nicht mehr nur grober Unfug, sondern – nicht gerade gut verhüllte –Indoktrination, vielleicht Indoktrination mit einem Schuss Selbstironie: Man kann sich schwerlich des Eindrucks erwehren, dass die Strategien und Methoden, die das Spiel als Merkmale von „fake news“ darstellen will, genau die Strategien und Methoden sind, die die Spielentwickler benutzen, um die Spieler zu manipulieren und zu indoktrinieren, bis hin zu dem Satz, den man kaum anders lesen kann denn als programmatisch für das Spiel „Bad News“:

„Die Leute wollen ‚die Wahrheit‘ hinter all den Unklarheiten wissen. Dieses Bedürfnis kannst du ausnutzen, um sie auf deine Seite zu bringen.“

Zusammenfassung: Was „Bad News“ beibringen will

Und die „Wahrheit“ der Spielentwickler ist, dass „Wutbürger“ zu Falschmeldern werden, die dumme „Normalverbraucher“ durch Funktionsbezeichnungen wie „Chefredakteur“ beeindrucken können und dass sie – und anscheinend nur sie – außerdem polarisieren, emotionalisieren, Verschwörungen behaupten und „Verrisse“ schreiben.

Es ist durchaus möglich, dass es unter Falschmeldern Leute gibt, auf die diese Beschreibung zutrifft. Das ist nicht der Punkt.

Der Punkt ist erstens, dass das Spiel durchsetzt ist von Verallgemeinerungen, Stereotypen, Plattitüden und Bewertungen. Zweitens propagiert das Spiel eine ganze Reihe von Fehlschlüssen, wie z.B. den Fehlschluss ad hominem, wenn die Spielentwickler ihren Tweeter einen ihnen missliebigen oder für sie (!) unglaubwürdigen Inhalt tweeten lassen und ihn als „Wutbürger“ charakterisieren, und den Fehlschluss ad auctoritatem, wenn ein „Chefredakteur“ von den Spielentwicklern gegenüber einer „Aushilfe“ als per se vertrauenerweckender dargestellt wird.

Aber vor allem soll im Spiel der Fehlschluss der Bejahung des konsequens den Spielern als modus operandi eintrainiert werden: die Spieler sollen dazu gebracht werden, von der schlichten Beobachtung z.B. eines Tweets oder einer Schlagzeile in einem sozialen Medium, der/die ihnen „emotional“ vorkommt, ihnen „polarisierend“ erscheint, die Existenz einer Verschwörung behauptet u.a.m., auf die Falschheit der darin enthaltenen Aussage/n zu schließen und den entsprechenden Tweet oder die entsprechende Schlagezeile als „fake news“ einzuordnen.

 

Schlußfolgerung: „Bad News“: Denn sie wissen nicht, was sie tun!?

Würde dies gelingen, wären die Spieler auf grundlegende Weise am eigenen, vernünftigen, logisch korrekten Denken bzw. dessen Entwicklung und der Entwicklung von Urteilskraft behindert worden, wenn nicht tatsächlich gegen eigenes, vernünftiges, logisch korrektes Denken und die Entwicklung von Urteilskraft „immunisiert“ worden.

„Bad News“ kann deshalb nicht nur mit Fug und Recht, sondern muss, als gegen Rationalität, gegen Aufklärung und gegen die Entwicklung eigener Urteilskraft gerichtet eingestuft werden. „Bad News“ erfüllt vollständig die Charakteristika von Indoktrination nach Green (2010[1972]: 34).

Bleibt nur noch zu fragen, aufgrund welcher Motivation jemand ein solches „Spiel“ entwickeln sollte. Ich kann über die Antwort auf diese Frage nur spekulieren. Ich halte es nicht für ausgeschlossen, dass die Spielentwickler die Fehlschlüsse, die sie im Spiel propagieren, routinemäßig selbst ziehen, und dass ihr Welt- und Menschenbild so generalisierend und von Feindbildern geprägt ist, wie es im Spiel etabliert wurde. Das wäre die bestmögliche Erklärungsmöglichkeit: die Spielentwickler würden in diesem Fall nämlich zumindest weitgehend unbewusst gehandelt haben.

Es gibt aber mindestens einen klaren Hinweis darauf, dass mindestens einer der Spielentwickler weiß, was er tut – und es absichtlich tut: Sander van der Linden hat als Wissenschaftler, der er sein möchte, keine Schwierigkeiten damit, seine Zeit mit der Erforschung von Manipulations- und Indoktrinationsmöglichkeiten zuzubringen, um Menschen dazu bringen zu können, sich so zu verhalten, wie er das für richtig hält, wie man seiner Publikation mit dem Titel „The Future of Behavioral Insights: On the Importance of Socially Situated Nudges“ aus dem Jahr 2018 entnehmen kann.

Versuche, durch „nudging“ soziale Kontrolle auszuüben, sind nicht gänzlich neu (s. z.B. Riggan 1978), aber eine Recherche in „Google Scholar“ unter Verwendung verschiedener Zeiträume zeigt deutlich, dass Publikationen zum „nudging“ im sozialpolitischen Bereich international seit 2010 erheblich häufiger sind als sie es in vorhergehenden Dekaden waren und in Deutschland im Jahr 2018 ein vorläufiger Höhepunkt in erheblichem Ausmaß erreicht wurde.

Glücklicherweise hat sich die Mehrheit der Menschen (bislang) als weitgehend resistent oder reaktiv erwiesen. Und glücklicherweise ist das Spiel sowohl inhaltlich als auch visuell wenig ansprechend, so dass mir scheint, dass die Mehrheit der Menschen bereits „immun“ ist, nämlich „immun“ gegen die pervertierte und allzu einfache „Wahrheit“, die die Spielentwickler glaubhaft machen wollen.

Dennoch besteht die Möglichkeit, dass Jugendliche, vielleicht am ehesten 15- bis 18-Jährige, durch das Spiel in die Irre geführt werden. Besonders bedenklich ist wahrscheinlich die „Junior-Version“ des Spiels, die auf Acht- bis Zehnjährige abzielt. Ich habe diese Version bislang nicht selbst einsehen können, aber alles spricht dafür, dass sie im selben „Geist“ kreiert wurde, also im Geist der Indoktrination. Haben Sie daher ein Auge darauf, ob, wann und wie Kinder oder Jugendliche in Ihrem Umfeld mit dem Indoktrinationsspiel „Bad News“ konfrontiert werden oder sind, und setzen sie dem Indoktrinationsversuch – falls notwendig – etwas entgegen!

Kritisches Denken ist das Gegenteil von Rezeptwissen, das den Fehlschluss der „Bejahung des konsequens“ zum modus operandi für Bewertungen, Urteile oder Entscheidungen aufbauen will – und das ist, was durch „Bad News“ eintrainiert werden soll. Und Wissenschaft im Dialog (WiD) findet nichts dabei, „Bad News“ zu propagieren – „Bad News“, wie wahr!


Zitierte Literatur:

Aronson, Elliot, Wilson, Timothy D. & Akert, Robin M., 2004: Sozialpsychologie. München: Pearson studium.

Baum, Matthew A. & Zhukov, Yuri, 2015: Filtering Revolution: Reporting Bias in International Newspaper Coverage of the Lybian Civil War. Journal of Peace Research 52(3): 384-400.

Bennett, W. Lance, 2016: News: The politics of Illusion. Chicago: The University of Chicago Press.

Dunnning, David, 2011: The Dunning–Kruger Effect: On Being Ignorant of One’s Own Ignorance. S. 247-296 in: Olson, James M. & Zanna, Mark P. (Hrsg.): Advances in Experimental Social Psychology, Volume 44. New York: Elsevier.

Green, Thomas F., 2010[1972]: Indoctrination and Beliefs. S. 25-46 in: Snook, Ivan A. (Hrsg.): Concepts of Indoctrination: Philosophical Essays. Abingdon: Routledge.

Grundmann, Reiner, 2013: “Climagate” and The Scientific Ethos. Science, Technology, & Human Values 38(1): 67-93.

Kruger, Justin & Dunning, David, 1999: Unskilled and Unaware of it: How Difficulties in Recognizing One’s Own Incompetence Lead to Inflated Self-assessments. Journal of Personality and Social Psychology 77(6): 1121–1134.

Lasorsa, Dominic L. & Lewis, Seth C., 2010: Reports, Inferences, and Judgments in Deceptive and Legitimate News Stories. Journalism & Media Communication Quarterly 87(2): 378-392.

McGuire, William J., 1964: Inducing Resistance to Persuasion: Some Contemporary Approaches. S. 191-229 in: Berkowitz, Leonard. (Hrsg.): Advances in Experimental Social Psychology, Volume I. New York: Academic Press.

Myers, Daniel J. & Caniglia, Beth Schaefer, 2004: All the Rioting That’s Fit to Print: Selection Effects in National Newspaper Coverage of Civil Disorders, 1968-69. American Sociological Review 69(4): 519-543.

Peelo, Moira, 2006: Framing Homicide Narratives in Newspapers: Mediated Witness and the Construction of Virtual Victimhood. Crime, Media, Culture: An International Journal 2(2): 159-175.

Peelo, Moira, Francis, Brian, Soothill, Keith, Pearson, Jayn & Ackerley, Elizabeth, 2004: Newspaper Reporting and the Public Construction of Homicide. British Journal of Criminology 44(2): 256-275.

Pigden, Charles, 1995: Popper Revisited, or What Is Wrong With Conspiracy Theories? Philosophy of the Social Sciences 25(1): 3-34.

Riggan, W., 1978: Education for Indoctrination and Social Control.

Roozenbeek, Jon & van der Linden, Sander, 2018: The Fake News Game: Actively Inoculating Against the Risk of Misinformation. Journal of Risk Research, DOI: 10.1080/13669877.2018.1443491; abgerufen am 15. November 2019 unter der Adresse https://doi.org/10.1080/13669877.2018.1443491

Ross Colin A., 2007: Ethics of CIA and Military Contracting by Psychiatrists and Psychologists. Ethical Human Psychology and Psychiatry 9(1): 25-34.

Salmon, Wesley C., 1983: Logik, Stuttgart: Philipp Reclam jun.

Scheflin, Alan W. & Opton, Edward M., 1978: The Mind Manipulators: A Non-Fiction Account. New York: Paddington Press.

Stephenson, Richard M., 1978: The CIA and the Professor: A Personal Account. American Sociologist 13(3): 128-133.

van der Linden, Sander, 2018: The Future of Behavioral Insights: On the Importance of Socially Situated Nudges. Behavioural Public Policy 2(2): 207-217.

Weil, Rachel J., 2014: A Plague of Informers: Conspiracy and Political Trust in William III’s England. New Haven: Yale University Press.



Bleiben Sie mit uns in Kontakt.
Wenn Sie ScienceFiles abonnieren, erhalten Sie bei jeder Veröffentlichung eine Benachrichtigung in die Mailbox.

ScienceFiles-Abo
Loading



Wandere aus, solange es noch geht!
Finca Bayano in Panama.


Folgen Sie uns auf Telegram.
Anregungen, Hinweise, Kontakt? -> Redaktion @ Sciencefiles.org
Wenn Ihnen gefällt, was Sie bei uns lesen, dann bitten wir Sie, uns zu unterstützen. ScienceFiles lebt weitgehend von Spenden. Helfen Sie uns, ScienceFiles auf eine solide finanzielle Basis zu stellen.
Wir haben drei sichere Spendenmöglichkeiten:

Donorbox

Unterstützen Sie ScienceFiles


Unsere eigene ScienceFiles-Spendenfunktion

Zum Spenden einfach klicken

Unser Spendenkonto bei Halifax:

ScienceFiles Spendenkonto: HALIFAX (Konto-Inhaber: Michael Klein):
  • IBAN: GB15 HLFX 1100 3311 0902 67
  • BIC: HLFXGB21B24

Print Friendly, PDF & Email
5 Comments

Bitte keine Beleidigungen, keine wilden Behauptungen und keine strafbaren Inhalte ... Wir glauben noch an die Vernunft!

Diese Website verwendet Akismet, um Spam zu reduzieren. Erfahre mehr darüber, wie deine Kommentardaten verarbeitet werden.

Entdecke mehr von SciFi

Jetzt abonnieren, um weiterzulesen und auf das gesamte Archiv zuzugreifen.

Weiterlesen

Entdecke mehr von SciFi

Jetzt abonnieren, um weiterzulesen und auf das gesamte Archiv zuzugreifen.

Weiterlesen