Tiktok, einst nur als harmloses Tool für Tanzvideos und Schminktutorials bekannt, hat sich mittlerweile zu einer zentralen Informationsquelle für viele junge Menschen entwickelt – mit Risiken und Nebenwirkungen. Eine erschreckende Erkenntnis zeigt ein Selbstversuch zweier SRF-Journalist:innen, welche die Gefahr untersuchten, die von der Plattform ausgehen kann.

Im Selbstversuch der Journalist:innen wurde ein fiktives Tiktok-Profil eines 16-jährigen Jugendlichen namens «Remo» erstellt. Zu Beginn war seine For-You-Page, der Hauptinhaltsstrom von Tiktok, gefüllt mit verhältnismässig harmlosen Videos: Boxkämpfe, inspirierende Zitate – typische Inhalte, die viele Jugendliche ansprechen. Doch bereits nach wenigen Minuten und nur einem einzigen Like für ein Boxkampfvideo veränderten sich die Vorschläge drastisch. Der Algorithmus, gesteuert von Künstlicher Intelligenz, begann gewalttätige Inhalte wie Verfolgungsjagden, Polizeieinsätze und Unfälle anzuzeigen. Was als vermeintlich unschuldige Interaktion begann, entwickelte sich rasant zu einer Flut von gewalttätigen und politischen Inhalten. Bereits nach einer Viertelstunde sah «Remo» Aufnahmen von Begräbnissen, trauernden Menschen und zunehmend religiösen, teils apokalyptisch wirkenden Szenen. Nach etwa einer halben Stunde tritt ein Mann in einem Video auf und erklärt, welche Verhaltensweisen einen «guten Muslim» ausmachen und welche nicht.

Der Versuch gipfelte nach etwa einer Stunde in Videos von Diktatoren wie Saddam Hussein und Muammar al-Gaddafi sowie verstörenden Kriegsbildern. Die Journalist:innen brachen den Versuch nach einer Stunde ab, schockiert über das Tempo der Radikalisierung.

Dieser Selbstversuch illustriert, wie gefährlich Tiktok sein kann. Jugendliche verbringen oft mehrere Stunden täglich auf solchen Plattformen und die Inhalte, die ihnen angezeigt werden, haben einen direkten Einfluss auf ihre Wahrnehmung der Welt.

Constantin Winkler vom Peace Research Institute Frankfurt bestätigt im SRF-Artikel, dass das Internet ein zentraler Ort für die Radikalisierung von Menschen unter 30 Jahren ist, ganz besonders bei den unter 20-Jährigen. Die Kombination aus der hohen Nutzung sozialer Medien und den raffinierten Algorithmen, die auf maximale Interaktionen abzielen, schafft eine gefährliche Dynamik, in der junge Menschen unbewusst in radikale Denkmuster gedrängt werden. Im aktuellen Sicherheitsbericht des Nachrichtendienstes des Bundes wird dieses Phänomen ebenfalls explizit erwähnt. Insbesondere im Bereich Dschihadismus, aber auch im Bereich des gewalttätigen Rechtsextremismus sei in der Schweiz eine Zunahme der Radikalisierung Minderjähriger festzustellen. Diese erfolge online, in kurzer Zeit und könne bis zur Verübung eines Terroranschlags führen, hält der Nachrichtendienst fest.

Angesichts dieser Entwicklungen wird die Bedeutung von Medienkompetenz immer klarer. Jugendliche müssen lernen, die Inhalte, die ihnen online begegnen, kritisch zu hinterfragen. Doch das ist leichter gesagt als getan, da viele Jugendliche nicht oder nur oberflächlich verstehen, wie Algorithmen funktionieren und ihren Informationsfluss beeinflussen. Sie sind sich oft nicht bewusst, dass diese Systeme gezielt Inhalte ausspielen, um ihre Aufmerksamkeit zu fesseln und sie länger auf der Plattform zu halten.

Hier setzt die Arbeit von YouMedia an: Mit Hosts, die auf Augenhöhe mit den Jugendlichen kommunizieren. Und es werden genau solche Themen in einem zugänglichen und verständlichen Format diskutiert.

Aufklärung ist dringend notwendig. Denn: Der Tiktok-Versuch von SRF zeigt, wie rasch und stark Jugendliche beeinflusst werden können. In diesem Video erklärt YouMedia-Host Jenny wie sie Newsquellen hinterfragt und zeigt, dass Aufklärung durchaus auch mit anderen Inhalte wie beispielsweise Beauty-Content vermittelt werden kann.

Tiktok ist nicht die einzige Plattform, auf der Radikalisierung durch Algorithmen gefördert wird. Auch andere Social Media-Angebote funktionieren so. Youtube und Facebook etwa sind berüchtigt für ihre Filterblasen, in denen Nutzer immer extremere Inhalte angezeigt werden, je länger sie sich auf der Plattform aufhalten. Diese Filterblasen sind gefährlich, weil sie den Usern das Gefühl geben, dass die von ihnen konsumierten Informationen die einzige Wahrheit darstellen. Und mit der steten Wiederholung wird Ausserordentliches und Extremes als normal wahrgenommen. In diesem Video erklärt YouMedia-Host Destan ausführlich wie Filterblasen funktionieren. Jugendliche sind besonders anfällig für diese Mechanismen, da ihre Weltanschauung noch in der Entwicklung ist und sie nach Orientierung suchen.

Verantwortlich für die Lösung dieses Problems sind nicht nur die Nutzerinnen und Nutzer selbst, sondern auch die Plattformen. Tiktok, Youtube und andere soziale Netzwerke müssten stärker in die Verantwortung genommen werden, was die Verbreitung von Desinformation und extremistischen Inhalten angeht. Algorithmen, die darauf ausgelegt sind, Interaktionen zu maximieren, sollten transparenter werden, und es müsste Mechanismen geben, die verhindern, dass Jugendliche in radikale Filterblasen geraten.

Doch bis solche Massnahmen ergriffen werden und wirken, ist es entscheidend, dass die Aufklärung vorangetrieben wird. Sei es in Schulen, welche Medienkompetenz vermitteln oder Eltern, die den Medienkonsum ihrer Kinder aufmerksam begleiten. Und auch Jugendliche selbst müssen lernen, kritisch mit den Inhalten umzugehen, die sie online konsumieren.