In der EU steht aktuell eine Verordnung zur Prävention und Bekämpfung des sexuellen Missbrauchs von Kindern auf der Agenda, die unter anderem Maßnahmen wie die automatische Prüfung verschlüsselter privater Kommunikation („Chat-Kontrolle“) vorsieht. Befürworter sehen darin einen wichtigen Schritt zum Schutz von Kindern, Gegner warnen vor einer massiven Einschränkung von Bürgerrechten, insbesondere Datenschutz, Meinungsfreiheit und Privatsphäre.
Inwiefern kann eine Chatkontrolle tatsächlich effektiv sein zur Bekämpfung von Kindesmissbrauch?
Welche Schwachstellen gibt es - z. B. Umgehung durch andere Kanäle, technische Limitierungen, Fehlalarme?
1 „Gefällt mir“
Aktuell ist da sehr wenig, wenn man mal davon absieht, dass aktuell mal wieder darüber diskutiert wird. Die EU hat das Thema erstmals vor über drei Jahren aufgeworfen und sich im Verlaufe der Diskussion bisher vor allem blutige Nasen geholt. Das EU-Parlament ist lagerübergreifend dagegen und bevor das überhaupt gefragt wird, müssen sich die Staaten auf Ebene des Rates einigen. Die Aussage, dass die „Chatkontrolle“ nicht einmal ansatzweise so kommt, wie gedacht, ist insofern weniger spekulativ als man auf den ersten Blick meinen sollte.
Wie jede andere Präventionsmaßnahme auch, wird sie einzelne Taten verhindern und viel mehr nicht verhindern.
Alles davon.
Servus,
diese ganzen Scheinaktionen sind nur Augenwischerei. Die in Brüssel haben keine Ahnung von der Realität.
Was hat Frau Merkel auf einem “Gipfel” 2013 im Beisein von Obama aus dem Hals gelassen - Das Internet ist für uns Neuland. Wie erbärmlich.
Das Hauptprobelm sind die Eltern, die selber am Mobiltelefon abhängen und nicht in der Lage sind ihren Blagen Medienkompetenz und den verantwortlichen Umgang mit diesen zu vermitteln. Und jetzt brüllen die aus lauter Verzweiflung nach dem Staat, weil die selber an allen Fronten versagen und keinen Dunst haben.
Die jungen Menschen haben mehr Ahnung von VPN, Tor etc. als diese Penner in Brüssel und Linnemann.
Gruß
Trianon
Schön. Da stellt jemand eine politische Frage mit technischem Bezug (zu welchem Zweck auch immer) und Du machst daraus nicht nur ein Erziehungsthema, sondern gibst einfach den Eltern die Schuld, wenn sich aus einem scheinbar harmlosen Chat sexueller Missbrauch, der Austausch von kinderpornographischem Material oder eine andere Art von Kriminalität in diesem Bereich entwickelt.
Mal abgesehen von dieser besonders speziellen Form von Opfer-Täter-Umkehr ist schon der Ansatz völlig falsch, weil so eben nicht Erziehung funktioniert. Kinder werden nicht drogenabhängig, kriminell oder FDP-Parteivorsitzender, weil die Eltern das nicht richtig vorgelebt oder ihnen erklärt haben, dass man so etwas nicht macht, sondern weil Eltern eben keine Ingenieure sind, die den Charakter und das Verhalten eines Kindes nach ihrem Belieben planen und gestalten können.
Hinzu kommt, dass Kinder eben nicht nur unter Aufsicht Kontakt zu digitalen Endgeräten haben, sondern vor allem in ihrem sozialen Umfeld - d.h. in der Klasse, im Freundeskreis, im Verein usw. In so einer Welt kannst Du zu Hause tausendmal alle Weisheiten über die große Medienkompetenz von Dir geben. Am Ende entscheidet das Kind, welchem Mist es sich aussetzt und da ist eben der Charakter und das Umfeld viel entscheidender als das Gelaber der langweiligen Eltern zu Hause.
Um mal eine tatsächlich passierte Geschichte zu erzählen: vor gar nicht langer Zeit hat hier eine fünfzehnjährige gefilmt, wie zwei ihrer Mitschüler in der Umkleidekabine der Schule Sex hatten, und dann das Video in irgendein asoziales Medium hochgeladen.
Meinst Du ernsthaft, die mindestens drei Dinge, die besser nicht passiert wären, hätten sich verhindern lassen, wenn die Eltern der drei Beteiligten zu Hause ein bisschen öfter über sozialadäquates Verhalten gesprochen hätten?
Ich kenne keine Eltern, der nach dem Staat gebrüllt hat. Weißt Du da genaueres?
Hm ja; dann erklär doch mal bitte, wie die Verwendung eines VPN verhindert, dass der Betreiber eines Messengers die Daten vor der Verschlüsselung an die Chatkontrollbehörde übermittelt?
2 „Gefällt mir“
Dann erklär doch mal, wie es richtig geht. Bis dahin würde ich ja sogar mitgehen. Das Problem ist aber ein anderes. Du gibst vor, dass das Problem die technischen Deppen seien. Klingt doch toll. Bekommt man viel Applaus. Tatsächlich willst du aber keine wirksame Kontrolle. Genau da liegt aber das Problem. Wir brauchen dringend wirksame Mittel. Das Problem beginnt auch nicht erst, wenn dumme Eltern (super, der nächste, über den man sich lustig machen kann) zu blöd sind, den Kindern Medienkompetenz beizubringen.wobei, wie würde eigentlich ein Klugscheißer Kindern beibringen, derartige Inhalte nicht zu sehen? Nur zu? Erzähl!
Das Problem besteht bereits beim Erstellen der Inhalte! Dies ist u.U. Schon kriminell und das nicht nur bei Kindern. Die nächste Stufe ist dann die Verbreitung. Die ist aus unterschiedlichen Motiven Sinn der Sache, weswegen Inhalte überhaupt erst erstellt werden. Ganz egal, ob es der Ex ist, der aus Kränkung seines Egos der „Alten“ zum Abschied noch einmal richtig eine reinwürgen will, oder jemand Dominik heißt, und anderen zeigen will, was man mit einer bewusstlosen Frau so alles machen kann. Oder eben auch Kinder. All das würde zumindest nicht so häufig stattfinden, wenn es die Verbreitung nicht so leicht gäbe. Wobei wir hier von einem kriminellen Akt sprechen, den du bitte gefälligst möglich gemacht haben willst ohne Hürde.
Hast du doch eigentlich mal mit Opfern beschäftigt? Woran die so leiden besonders stark? Welche Faktoren dazu führen, dass das Leid besonders groß ist? Oder guckst du da lieber nicht genau hin? Oder sind die Opfer in deinen Augen auch zu doof, inkompetent etc. gewesen, dass sie Opfer wurden?
So neu ist der Versuch nicht. Diesbezügliche Bestrebungen gibt es in Deutschland schon seit mindestens zwei Jahrzehnten.
Damals schob man den Schutz vor terroristischen Anschlägen vor.
Ja, diese Formulierung wählte ich bewusst. Denn ich sehe darin tatsächlich nur den Wunsch von Ermittlungskräften, systematisch, anlasslos die Kommunikation von Bürgern auszuforschen. Es liegt in der Natur eines Geheimdienstes, sämtliche Geheimnisse kennen zu wollen, aber selbst möglichst im Geheimen zu arbeiten.
Der angebliche Schutz Minderjähriger vor sexueller Ausbeutung scheint mir nur ein vorgeschobenes Argument zu sein, so wie einst der angebliche Schutz vor Terroristen. Es geht darum, dass Geheimdienste und Sicherheitskräfte erstmal einen Fuß in die Tür bekommen, um dann die Überwachung auch auf andere Themen auszuweiten. Da die AfD immer bessere Umfrage- und Wahlergebnisse einfährt, wird mir da ganz übel. Ich erinnere gern an das so genannte Judenregister in den Niederlanden, das die deutschen Nazis aus dem staatlichen Melderegister heraus erstellten: Informationen, die bei ihrer Erhebung unwichtig und unverdächtig erschienen wurden wenige Jahre später für perverse Verbrechen an der Menschlichkeit missbraucht.
Genau das ist die Frage, die niemand der Politikschaffenden oder der Sicherheitsbehörden klar und deutlich beantworten kann. Denn ein Großteil der Bilder und Videos wird nach wie vor über andere Kanäle zugänglich gemacht.
Ja, ein paar moderne Phänomene könnte man darüber eindämmen. Aber das geht auch über Aufklärung von Kindern und Jugendlichen. Aber das Gros, der professionelle Missbrauch, kann aus meiner Sicht durch diese Maßnahme gar nicht bekämpft werden.
Der wichtigste Umschlagpunkt dafür sind wohl nach wie vor Server-Datenbanken. Und zum Austauschen von Informationen werden heute (auch von Terroristen) andere Kanäle benutzt, wie zum Beispiel In-Game-Chats. Diese liegen schon heute offen, können aber aufgrund der ausgetauschten Datenmengen nicht systematisch untersucht werden. Und wie schon geschrieben: der Großteil der Datenmengen wird schon heute über Kanäle getauscht, die durch eine „Chatkontrolle“ nicht angegriffen werden würden.
Der größte Kritikpunkt ist der generell durchbrochene Schutz der Kommunikation. Denn wenn der demokratische Rechtsstaat die Möglichkeit des Zugriffs hat, wird ihn recht schnell auch der Despot haben und das organisierte Verbrechen.
Auch stellt sich die Frage, welche Rechenzentren gebaut, installiert und betreut werden müssten, um verdächtige Inhalte zu erkennen und welche Ermittlungskräfte nötig sind, um das Material nochmals vom Menschen sichten zu lassen und rechtskräftige Maßnahmen einzuleiten.
Von vielen Kritikern wird unterstellt, und von Politikschaffenden nicht genügend dementiert, dass die heute schon zur Verfügung stehenden Werkzeuge nur mäßig ausgenutzt, einfach weil es an kompetenten Personal fehlt.
Kein System funktioniert zu 100% sicher. Zu falschpositiven Meldungen wird es kommen. Apple hatte 2012 mal vor, in seinem Betriebssystem ein System zu installieren, das auf dem iPhone selbst per KI verdächtige Fotos per Hash erkennen und melden sollte. Noch vor dem Erscheinen wurde es abgesagt, weil, so Apple, zum einen so der Schutz der Privatsphäre nicht sicher sei und zum anderen sich das System auch einfach missbrauchen lasse. Ich erinnere dabei gerne daran, dass der orange Präsident die Demokraten gerne mal als linksradikale Verbrecher bezeichnet…
2 „Gefällt mir“
Schrieb ich gestern und schon heute spült mir meine Nachrichten-Timeline eine Meldung des BMI unter Führung von Milliarden-Dobrindt an die Oberfläche, dass das BMI einen neuen Aufhänger gefunden habe, warum die gesamte Bevölkerung anlasslos überwacht werden soll: angebliche Verhinderung von Schleuserkriminalität.
Stärkere Befugnisse zur Bekämpfung von Schleusungskriminalität und Cybergefahren
Die Bundespolizei soll künftig besser gegen organisierte Schleusungskriminalität und Cybergefahren vorgehen können. Dafür erhält sie neue Ermittlungs- und Überwachungsbefugnisse. Dazu gehört auch die präventive Telekommunikationsüberwachung, einschließlich der Quellen-Telekommunikationsüberwachung.
Die scheinen wirklich zu glauben, dass wir alle bescheuert sind und nichts mehr merken.
Oder wie es eine Kommentatorin auf Facebook schreibt:
Schon 2001 hieß es Terrorismus. Dann Kinderpornografie. Jetzt Cybercrime. Der Trick ist immer derselbe: Nimm ein gesellschaftlich unanfechtbares Feindbild – und öffne hintenrum die Tür für die flächendeckende Kontrolle der Bevölkerung.
4 „Gefällt mir“
Klar, die politische Umsetzung ist momentan alles andere als sicher - das sehe ich auch so. Trotzdem finde ich es interessant, die Maßnahme an sich zu betrachten, unabhängig davon, ob sie tatsächlich kommt.
Dass sie „einzelne Taten verhindern und viel mehr nicht verhindern“ wird, klingt nach einer realistischen Einschätzung. Aber genau das wirft für mich die Frage auf, ob der Nutzen den massiven Eingriff in die Grundrechte rechtfertigt. Wenn Täter ohnehin auf alternative Kanäle oder verschlüsselte Tools außerhalb der EU ausweichen, verliert das Ganze ja enorm an Wirksamkeit.
Dazu kommen technische Probleme: Künstliche Intelligenz oder Hash-Matching sind fehleranfällig - Fehlalarme könnten zu ungerechtfertigten Verdächtigungen führen, während echte Fälle eventuell durchrutschen, weil Material leicht verändert oder neu erstellt wird.
Kurz gesagt: Die Idee, Kindesmissbrauch besser zu bekämpfen, ist absolut richtig und wichtig. Aber die Chatkontrolle scheint mir ein Werkzeug zu sein, das in der Praxis sehr wenig leistet, dafür aber ein enormes Missbrauchspotenzial birgt - gerade was Überwachung oder Zensur betrifft.
Ok. Die Frage ist nur, wie oft und wie lange wir das noch machen sollen.
Die ja auch von den meisten Experten, Politikern und Journalisten geteilt wird.
Weswegen das halt auch höchstwahrscheinlich so nicht kommen wird.
Hier noch einmal konkret am Fall White Tiger. Das lief überwiegend über Discord.
Es ist in dem Fall eine Menge schiefgelaufen, um eine sehr, sehr nette Formulierung zu wählen!
Ich würde als Bürger erwarten, dass man sich konkret hinsetzt, und so etwas vernünftig aufarbeitet! Warum hat das mehr als zwei unfassbar lange Jahre gedauert? Da reden wir von Prozessfehlern, Fehleinschätzungen etc., wir reden von Strukturellen Problemen, fehlende Manpower, fehlende technische Ressourcen, KI, die künftig noch mehr zur Verfügung steht und das bitte auch soll. Dieser Job durch Menschen gemacht, gehört mit zum Schlimmsten, was Ermittler leisten „müssen“ ( formal werden Freiwillige eingesetzt, daher die Anführungszeichen).
Bei all dem muss im Mittelpunkt genau diese Frage stehen: wie geht das künftig schneller? Wie kann das auch jene Mitarbeitenden ent- oder weniger belasten, die mit solchem Material zu tun haben? Und irgendwann landen wir dann auf den Kanälen, wo das passiert.
Ich habe keinerlei Verständnis, weder für Gesetzgeber noch eine Community, die bei Urheberrechtlichen Fragen recht still ist, bzw. Rege der Gesetzgeber, wie es bei Discord und u.a. YouTube gelaufen ist, dann aber ein massives Problem damit hat, wenn es um derartige Inhalte geht. Es ist aus meiner Sicht Minimum, sich besonders um die Plätze zu kümmern, in denen sich besonders auch Kinder tummeln.
1 „Gefällt mir“
Die Chatkontrolle klingt auf den ersten Blick sinnvoll, weil sie helfen könnte, bekannte Missbrauchsbilder zu erkennen und Täter aufzuspüren. Aber in der Praxis hat das große Haken.
Täter können ganz einfach auf andere, nicht überwachte Kanäle ausweichen. Außerdem müsste man verschlüsselte Chats direkt auf den Geräten scannen – das ist ein massiver Eingriff in die Privatsphäre und macht Systeme unsicherer. Dazu kommen viele Fehlalarme, wenn KI fälschlicherweise harmlose Inhalte meldet.
Unterm Strich bringt das also vielleicht ein paar Funde mehr, gefährdet aber Datenschutz, Sicherheit und Vertrauen in digitale Kommunikation.
1 „Gefällt mir“
Du bist der erste, von dem ich das außerhalb der EU-Politik höre. Wie dem auch sei: das Thema ist vom Tisch.
Datenschutz: Anlasslose Chatkontrolle auf Missbrauchsinhalte kommt vorerst nicht | DIE ZEIT
Es ist bezeichnend, dass hier ausschließlich von den Bürgerrechten gesprochen wird, nicht aber von den Rechten von Kindern und Jugendlichen, deren Rechte auf eine sichere Umgebung verletzt werden, in denen der Staat weitgehend versagt. Dazu die Missbrauchsbeauftragte:
Braucht es aus Ihrer Sicht eine Beschränkung für die Nutzung sozialer Medien durch Kinder und Jugendliche?
Bei dieser Frage geht es ja um „digitale Teilhabe“. Und es gibt keine digitale Teilhabe, kein gesundes digitales Aufwachsen in Räumen, in denen Kinderschutz nicht funktioniert. Im Internet werden sämtliche Restriktionen der analogen Welt aufgelöst, vom Umgang mit Drogen über Pornografie bis zur Alterseinstufung von Kinofilmen. Gleichzeitig will man, dass Kinder und Jugendliche in dieser Welt gut navigieren. Das funktioniert nicht. Kinder- und Jugendschutz braucht definierte Räume, in denen die Standards des Jugendschutzes durchgesetzt werden.Ich fordere deswegen, dass Maßnahmen ergriffen werden, dass Kinder- und Jugendschutz flächendeckend digital umgesetzt wird. Das heißt nicht, dass das ganze Netz durchdekliniert werden muss nach Kriterien des Kinder- und Jugendschutzes. Aber da müssen Räume sein, in denen junge Menschen unter sich sind und in denen ich Standards anwende.
Was für Standards?
Beispielsweise, dass in Chats keine Telefonnummern getauscht werden können, Nacktbilder nicht verschickt werden können. Vielleicht auch, dass eine KI mitläuft, die Sprachmuster bezogen auf Grooming, also das Anbahnen sexueller Kontakte, prüft. Wird sie fündig, könnte ein Hinweis aufploppen: „Willst du diesen Dialog wirklich führen? Übrigens, hier ist der Hilfebutton.“Und ich brauche eine Altersverifikation, die funktioniert. Zum Beispiel eine unverwechselbare, persönliche Schüler-ID, die jedes Kind, das eingeschult wird, bekommt. Wir müssen Safe Spaces, also Bereiche im Netz schaffen, in denen Kinder und Jugendliche unter sich sind und Schutzmechanismen greifen. Eine reine Verbotsdebatte dagegen ist kein Kinder- und Jugendschutz.
Gut gemachte KI könnte eine gute Lösung sein. Das Ganze in der heutigen Zeit auf „ freiwilliger Basis“ regeln zu wollen angesichts dessen, was in den USA los ist, hat schon Züge von Verhöhnung.
Derzeit möchte ich das grundsätzlich verneinen.
Siehe das Thread hier bei w-w-w zur Erkennung eines Objektes auf einem Foto. Während ein wissender Mensch sofort den Rasierklingenschärfer erkannte, halluzinierte die KI anhaltend über den Inhalt herum - zu Beginn grundsätzlich, später in den Details.
Bei derzeitigen KI ist die Fehlerrate einfach zu hoch.
Apple versuchte schon mal, ein solches System in sein Smartphone-Betriebssystem zu integrieren. Eine KI sollte ausschließlich auf dem Gerät nach bestimmten Bedingungen Hashtags der Bilder generieren. Die sollten mit Hashtags typischer Kindesmissbrauchsbilder verglichen werden. Wenn es zu viele Bilder mit Korrelationen gegeben hätte (ich meine, 30) sollten die verdächtigen Bilder von Apple-Mitarbeitern überprüft werden und im Falle der Bestätigung an das US National Center for Missing and Exploited Children (NCMEC) gemeldet werden, welches dann mit Polizei und anderen Strafverfolgungsbehörden Maßnahmen ergriffen hätte.
Apple ruderte bereits vor dem Launch der Funktion aufgrund starker Proteste zurück. Zum einen wäre das eine anlasslose Massenüberwachung von fast der Hälfte aller Amerikaner (der Marktanteil von Apple liegt bei etwa 50%). Wenn Google mit eingestiegen wäre, wären es fast 100% aller Smartphonenutzer überwacht worden.
Wenn man dann noch die systematischen Nachteile betrachtet (falschpositive Meldungen, Missbrauchspotential (z.B. Ausweitung auf andere Abbildungen auf Anweisung einer faschistischen oder sehr prüden Regierung oder gar nur besonders lauten Minderheit…), fehlende Transparenz des Systems) wurde die Luft dünn für Apple.
Und letzten Endes kann dann auch noch eine ethische Frage auf Apple zu: sie versuchten, ein gesellschaftliches Problem durch technische Lösungen zu bewältigen, für die es keinen gesellschaftlichen Konsens in Form von Gesetzen oder einheitlichen Moralvorstellungen gab.
Bei der geplant gewesenen Chat-Kontrolle hätte man vielleicht eine Hürde genommen: die gesetzliche Regelung. Die restlichen Probleme hätten weiter bestanden.
Und da sind wir beim ethischen Dilemma einer guten Demokratie: es gilt, Rechte gegeneinander abzuwägen. Und ja, manchmal bedeutet das leider auch, dass die Rechter einer vulnerablen Minderheit nicht optimal geschützt werden können, weil es die Rechte von zu vielen nicht betroffenen zu stark eingeschränkt hätte.
Wobei ich nicht ausschließen möchte, dass in 5 oder 10 Jahren übliche KI eine Entwicklung genommen hat, dass sie mit wenig Rechenaufwand (Energieverbrauch) und mit einer Zuverlässigkeit von 1:1.000.000.000 entsprechende Daten in Bild, Schrift und Ton erkennt und dass das System so offen gestaltet ist, dass Missbrauch durch Regierungen und relevanten Gruppen ausgeschlossen oder wenigstens erkannt und öffentlich benannt wird.
Aber selbst dann wird es den Missbrauch noch immer geben und Bilder und Videos werden getauscht werden. Man hat dann lediglich einen Weg der Herstellung und des Vertriebes trockengelegt.
Möglicherweise ist dann die KI aber auch so weit und es gibt unbeschränkte Versionen, die Missbrauchsbilder und -videos generieren können. Womit wir beim nächsten ethischen Dilemma für eine neue Diskussion wären…
1 „Gefällt mir“
Hast du gelesen, was die Missbrauchsbeauftragte geäußert hat? Hier geht es um zwei verschiedene Bereiche! Das Eine ist die Verbreitung kinderpornographischer Inhalte. An der Stelle ust es richtig, darauf hinzuweisen, dass sich die Konsumenten woanders tummeln. Aber hier geht es um die Kontaktaufnahme zu Kindern. Und es geht auch nicht darum, von KI geprüfte Inhalte 1:1 zu übernehmen, respektive die Wertung.
Falsch ist auch, von der Qualität der Spielzeuge, wie sie frei verfügbar sind, auf die Qualität heute schon existierender KI zur Erkennung von Bildmaterial zu schließen! Die ist wesentlich weiter als der Murks, den ChatGPT veranstaltet.
Immer noch nicht Highend, aber kostenlos als Einblick: SeeingAI. Eigentlich für Blinde entwickelt. Es ist phänomenal, was da möglich ist. Ich teste das gerade in Vorbereitung auf ein berufliches Projekt.
Zur Sichtung gigantischer Mengen kinderpornographischen Materials ist es unabdingbar, auch in dem Bereich weiterzuentwickeln. Das geht gerade so schnell, dass man in Jahresschritten, eher Halbjahr rechnen kann.
Das mag mit drei Dingen zusammenhängen:
- Es ging in der Ausgangsfrage primär um die Bürgerrechte.
- Die in Rede stehende und inzwischen verworfene Methode ist aus mehreren Gründen nicht für die Erreichung des Schutzes der Rechte von Kindern und Jugendlichen geeignet.
- Bei der Frage, ob es sinnvoll ist, Kinder und Jugendliche vor Missbrauch zu schützen, besteht bei dem Teil der Bevölkerung, der Missbrauch nicht anstrebt, sowieso Konsens.
[…] Persönlichen Übergriff entfernt; MOD Pierre