- 1. Das Problem: Overblocking durch Künstliche Intelligenz
- 2. Rechtliche Grundlagen: Wann darf gesperrt werden?
- 3. Instagram-Sperrgründe: Das sollten Sie vermeiden!
- 4. Pflicht zur Anhörung und Begründung
- 5. Wie kann ich gegen die Sperrung vorgehen?
- 6. Wenn Meta nicht reagiert: Anwalt einschalten
- 7. Das letzte Mittel: Rechtsschutz vor Gericht
- 8. Antworten auf die wichtigsten Fragen
Das Problem: Overblocking durch Künstliche Intelligenz
Keine andere Plattform ist so sehr auf die Darstellung des menschlichen Körpers fixiert wie Instagram. Dass (angebliche) Verstöße gegen die Gemeinschaftsstandards, die unter die Kategorien „sexuelle Inhalte”, „Nacktheit” oder „Adult Content” fallen, laut aktuellem Transparenzbericht von Meta zu den häufigsten Sperrungsgründen auf Instagram gehören, überrascht nicht.
Wir bekommen aktuell auch viele Anfragen von Nutzer:innen, die schockiert sind, weil Meta ihnen unbegründet einen Verstoß gegen die „Gemeinschaftsstandards gegen den sexuellen Missbrauch von Kindern und Nacktdarstellungen von Kindern“ vorwirft. Die Betroffenen können sich oft nicht erklären, warum ihr Konto gesperrt wurde. Besonders brisant ist die Sperrung, wenn das Konto beruflich genutzt wird.
„Viele Sperrungen bei Instagram sind unbegründet. Wir beraten Sie zu Ihren rechtlichen Möglichkeiten, damit Sie den Zugriff zurückbekommen.“
Was viele aber nicht wissen: Knapp 90 % der Sperrungen werden durch automatisierte KI-Modelle von Meta ausgelöst. Dabei kommt es immer wieder zu „Overblocking”, also zur Sperrung von Inhalten, die nicht gegen die Gemeinschaftsstandards verstoßen.
Die KI-Modelle werden zwar ständig verbessert, doch Bilder richtig zu interpretieren, ist schwierig. Schon ein falscher Schatten, eine bestimmte Pose oder ein zu weiter Ausschnitt können zu einer unberechtigten Sperrung führen. Betroffene fragen sich dann, was sie falsch gemacht haben. Oft (aber nicht immer) lautet die Antwort: Nichts!
Meta sperrt häufig zulässige Inhalte
Besonders häufig betroffen von Overblocking sind Bikini-Fotos, Fitnessbilder, Tanzbilder, Kunstfotografie, Body-Positivity-Kampagnen, Strandfotos auf denen auch Kinder in Badebekleidung zu sehen sind und Fotos, die beim Stillen von Babys aufgenommen wurden. Diese Inhalte werden nach unserer Erfahrung immer wieder auch dann gesperrt, wenn sie die Richtlinien von Instagram nicht verletzen.
Gerade im Bereich des sexuellen Missbrauchs von Kindern setzt Meta auf ein KI-System, dass nicht nur Bilder analysiert, sondern auch Interaktionen mit anderen Accounts und Suchanfragen erfasst, um Gefahren früh zu erkennen. Dieses System ist sehr wichtig für den Kinderschutz, aber auch anfällig für Fehler und Overblocking.
Rechtliche Grundlagen: Wann darf gesperrt werden?
Die EU hat den Digital Services Act (DSA) erlassen. Danach ist Meta verpflichtet, gegen bestimmte Inhalte auf seinen Plattformen vorzugehen. Auch verschiedene nationale Gesetze schreiben vor, dass man bestimmte Inhalte löschen muss. So müssen beispielsweise bei sexuellen Inhalten deutsche Jugendschutzvorschriften eingehalten werden.
Deshalb hat Meta sogenannte Gemeinschaftsstandards festgelegt, denen Sie bei der Eröffnung eines Accounts normalerweise zugestimmt haben. In diesen ist konkret geregelt, welche Inhalte auf Instagram (und Facebook) nicht verbreitet werden dürfen. Teilweise gehen die Gemeinschaftsstandards aber über deutsches Recht hinaus.
Rechtliche Einordnung der Gemeinschaftsstandards
Die Gemeinschaftsstandards von Meta stellen nach deutschem Recht allgemeine Geschäftsbedingungen (AGB) dar.
Verstoßen Sie gegen die Gemeinschaftsstandards, ist Meta grundsätzlich berechtigt, Sie zu sperren. Allerdings muss Meta dabei einige Anforderungen erfüllen. Es muss immer ein tatsächlicher Verstoß vorliegen und die Entscheidung muss konkret begründet werden. In den meisten Fällen ist auch eine vorherige Anhörung erforderlich.
Instagram-Sperrgründe: Das sollten Sie vermeiden!
Auf Grundlage der Gemeinschaftsstandards gibt es eine Reihe von Inhalten, die regelmäßig zu einer Sperre führen. Inhalte mit sexuellen Bezügen lassen sich dabei in zwei Gruppen einteilen:
Sexuell motivierte Kontaktaufnahme und sexuell explizite Sprache von Erwachsenen:
- Sämtliche Angebote sexueller Dienstleistungen, egal ob „Sugar Dating“, Escortservice oder erotische Chat-Angebote
- (Offensichtliche) Verlinkungen zu Erotikseiten oder „OnlyFans“, egal ob in der Bio, in einer Story oder Kommentaren – die KI sperrt oft, wenn sie die Inhalte erkennt.
- Der Verkauf oder Tausch von Nacktfotos („Nudes“), insbesondere bei der Erwähnung von Schlagwörtern wie „pay per view“ oder „sexy content“
Nacktheit und sexuelle Handlungen von Erwachsenen:
- Vollständig entblößte Genitalien werden von der KI schnell entdeckt und führen zu direkten Sperrungen
- Echte sexuelle Handlungen und simulierte Sexszenen oder Rollenspiele. Insbesondere auch Nahaufnahmen von sexualisierten Berührungen werden schnell erkannt.
- Sichtbare Brustwarzen bei Frauen: In nicht sexualisiertem Kontext (Stillen/Kunst/Aufklärung) theoretisch erlaubt, die KI neigt aber überwiegend zu Overblocking.
- Transparente Kleidung, durchsichtige Stoffe und erotische Posen. Auch hier kommt es auf den Einzelfall an, die Entscheidungen sind hier nicht immer nachvollziehbar.
Selbstverständlich sperrt Instagram auch sämtliche Inhalte, die tatsächlich Missbrauch und Nacktdarstellungen von Kindern zeigen. Wenn Sie sich zu entsprechenden Inhalten hingezogen fühlen, finden Sie beim Präventionsnetzwerk „Kein Täter werden“ Hilfe und Informationsangebote in einem vertraulichen Rahmen.
Pflicht zur Anhörung und Begründung
Da Sie mit Meta einen sog. Plattformvertrag geschlossen haben, darf Ihr Instagram-Konto nicht willkürlich gesperrt werden. Eine rechtmäßige Sperrung setzt neben einem Verstoß gegen geltende Gesetze oder die Gemeinschaftsstandards auch eine konkrete Begründung voraus.
Meta muss die Sperrung seinen Nutzer:innen gegenüber also konkret begründen, das ergibt sich aus Art. 17 des Digital-Services-Acts (DSA) der Europäischen Union.
Anforderungen an die Sperrgründe
Die Begründung der Sperrung muss nach Art. 17 DSA enthalten:
- Bei rechtswidrigen Inhalten: einen Verweis auf die Rechtsgrundlage und Erläuterungen, warum die Informationen auf dieser Grundlage als rechtswidrige Inhalte angesehen werden
- Bei Verstößen gegen die Gemeinschaftsstandards: einen Verweis auf die betreffende vertragliche Bestimmung und Erläuterungen, warum die Informationen als damit unvereinbar angesehen werden.
Unserer Erfahrung nach nennt Meta häufig nur das Gesetz oder allgemein die Gemeinschaftsstandards, wenn ein Verstoß vorliegen soll. Zusätzlich muss aber auch begründet werden, welche konkreten Inhalte einen Verstoß darstellen und worin dieser genau liegen soll. Das sieht dann ungefähr so aus:
Fehlt aber eine konkrete Begründung, ist es für Nutzer:innen oft nicht nachvollziehbar, was sie falsch gemacht haben. Darauf haben auch deutsche Gerichte wiederholt in Entscheidungen hingewiesen.
In den meisten Fällen muss Meta aber gemäß einem Grundsatzurteil des Bundesgerichtshofes eine Anhörung durchführen. Das bedeutet konkret, dass Nutzer vorab über die geplante Sperrung informiert werden müssen und die Gelegenheit erhalten, sich zu dem Vorwurf zu äußern. Ausnahmen gelten nur bei besonders schwerwiegenden Verstößen, also etwa bei eindeutig pornografischen Inhalten, bei denen die Plattform sofort handeln muss.
Wie kann ich gegen die Sperrung vorgehen?
Wenn Ihr Account gesperrt wurde, können Sie zunächst Einspruch einlegen. Sie können den Einspruch damit begründen, dass
- kein Verstoß gegen die Gemeinschaftsstandards oder geltendes Recht vorliegt,
- und/oder im Voraus keine Anhörung durch Meta erfolgt ist,
- und/oder die Entscheidung nicht ausreichend begründet wurde.
Ein Einspruch kann entweder innerhalb der Instagram-App eingereicht werden, oder per E-Mail. Die jeweils aktuelle E-Mail-Adresse findet man im Impressum von Instagram. Dabei müssen Sie Ihren vollständigen Namen, Ihre bei Instagram hinterlegte E-Mail-Adresse und vor allem Ihren Instagram-Benutzernamen angeben.
Sie können die nachfolgende Formulierungshilfe verwenden, um Einspruch einzulegen:
Guten Tag,
am (hier Datum einfügen) musste ich feststellen, dass mein Instagram-Account
Accountname: (hier Accountname eintragen)
E-Mail: (hier verknüpfte E-Mail-Adresse eintragen)
wegen eines Verstoßes gegen die Nutzungsbedingungen gesperrt wurde. Ich wurde vor der Sperrung nicht angehört. Ich bin mir keinerlei Handlungen bewusst, die einen Verstoß gegen die Nutzungsbedingungen darstellen würden. Außerdem habe ich auch keine konkrete Begründung für die Sperrung erhalten. Daher fordere ich Sie auf, mein Profil unverzüglich, spätestens innerhalb von drei Tagen ab Datum dieser E-Mail, zu entsperren. Kommen Sie dem nicht nach, werde ich gerichtliche Hilfe in Anspruch nehmen müssen.
Mit freundlichen Grüßen
(hier Ihren Namen einfügen)
Wenn Meta nicht reagiert: Anwalt einschalten
Unserer Erfahrung nach reagiert Meta in vielen Fällen nicht angemessen auf Einsprüche von privaten Nutzer:innen.
Gerade wenn der Einspruch innerhalb der Instagram-App erfolgt, erhalten Mandant:innen oft nur generische Nachrichten, in denen noch einmal in unzureichender Form auf einen vermeintlichen Verstoß hingewiesen wird. Meta ist zwar nach Art. 20 DSA verpflichtet, sein Einspruchsverfahren nicht vollständig automatisiert, sondern unter Aufsicht qualifizierter Mitarbeiter durchzuführen. Die Antworten klingen aber leider oftmals KI-generiert.
In vielen Fällen kann es deshalb helfen, eine Kanzlei einzuschalten. Aufforderungsschreiben von Kanzleien haben eine deutlich größere Chance, an die Rechtsabteilung von Meta weitergeleitet und dort von einem geschulten Sachbearbeiter geprüft zu werden.
In einem anwaltlichen Schreiben wird Meta förmlich auf die Rechtswidrigkeit der Sperrung hingewiesen und unter Fristsetzung zur Aufhebung aufgefordert.
Das letzte Mittel: Rechtsschutz vor Gericht
Wenn Meta nicht reagiert oder sich weigert, den Account freizuschalten, kann als letztes Mittel auch ein Gericht eingeschaltet werden. Wir haben bereits viele Verfahren gegen den Konzern geführt und oftmals hat sich herausgestellt, dass die Sperrung unberechtigt war.
Gerichtsstand für Unternehmer in Irland?
Meta-Europa sitzt zwar in Irland, als Verbraucher können Sie aber vor deutschen Gerichten gegen Meta vorgehen. Für Unternehmer, die ihren Account gewerblich nutzen, ist die Lage etwas schwieriger und vom jeweiligen Einzelfall abhängig.
Soll ein Gericht eingeschaltet werden, erfolgt als erster Schritt eine förmliche anwaltliche Abmahnung, nach der Meta noch einmal die Chance erhält, den Account freizuschalten.
Wenn auch diese nicht zu einer Entsperrung führt, kann bei besonders dringenden Fällen eine einstweilige Verfügung gegen Meta beantragt werden, über die das Gericht bestenfalls innerhalb weniger Tage entscheidet. Ansonsten ist auch eine normale Klage auf Freischaltung möglich. Wir unterstützen Sie hierbei gerne!
Antworten auf die wichtigsten Fragen
Schreiben Sie einen Kommentar