Warum es wichtig ist: Big-Tech-Konzerne wie Meta versuchen, unter dem Vorwand der Desinformationsbekämpfung die Kontrolle über digitale Inhalte zu behalten. Jetzt fliegt ihnen ihre eigene Kontrolltechnologie spektakulär um die Ohren. Die vermeintlich unfehlbare Erkennungssoftware scheitert schon an den simpelsten Bildbearbeitungen, so Cyber News.
Die nackten Zahlen: Eine Reuters-Analyse zeigt das ganze Desaster des neuen „Muse Image“-Detektors. Bei 40 originalen KI-Bildern schlug das System zwar noch fehlerfrei an. Sobald die Bilder jedoch um ein Drittel bis die Hälfte zugeschnitten wurden, versagte die Erkennung in 55 Prozent der Fälle. Mehr als jedes zweite manipulierte Bild schlüpfte also mühelos durch die Zensurkontrolle.
Das Problem: Meta verkaufte sein unsichtbares „Content Seal“-Wasserzeichen als unzerstörbar. Es sollte Zuschnitte, Kompressionen und Screenshots problemlos überstehen. Die Realität sieht aber fatal aus. Wenn Brüsseler EU-Bürokraten über das umstrittene „Chat Control“-Verfahren künftig private Nachrichten der Europäer scannen lassen, basieren diese Filter auf genau solch fehlerhafter Technologie.
Ausreden der Konzerne: Meta flüchtet sich in die übliche PR-Rhetorik und spricht von einer bloßen „Vorschauversion“. Auch die Konkurrenz kocht nur mit Wasser. OpenAI gibt offen zu, dass negative Testergebnisse wertlos sind, weil Metadaten leicht manipuliert werden können. Google warnt bei seinem „SynthID“-Detektor ebenfalls vor Unvollkommenheit. Die Silicon-Valley-Elite scheitert kolossal an ihren eigenen Kontrollphantasien.
Der Ausblick: Der technologische Totalitätsanspruch der Techriesen erweist sich als zahnloser Tiger. Bürger werden weiterhin Wege finden, die digitale Bevormundung durch simple Kniffe zu umgehen.
Hoffentlich schneidet die EU ihre Regulierungen künftig genauso präzise zu wie Reuters die KI-Bilder – dann bleibt von der Zensur am Ende auch nichts mehr übrig.
Frank sagt:
