Claude hilft russischem Hacker

In drei Sätzen: Ein russischer Hacker hat Anthropics Claude mit dem Tool HexStrike AI gekoppelt und dutzende Buchungssysteme geknackt. Über 2,1 Millionen E-Mail-Adressen plus Namen, Reservierungsdaten, Zahlungsinfos und teilweise WLAN-Passwörter sind gehackt worden. Der Server mit den geklauten Daten stand eine Zeit lang offen im Netz.

Der Clou: Der Hacker hat Claude nicht einfach „böse“ gefragt. Er hat ihn als „legitimen Penetrationstester“ getarnt.

• Klassische Guardrail-Umgehung: Kleine harmlose Tasks, eine schöne Geschichte und fertig ist der Datenklau.
• HexStrike AI hat die Drecksarbeit dann weitgehend autonom erledigt.
• Betroffen: RoomScope (Thailand), IGMS (Kanada), NebulaPMS (Südafrika), Staysee (Japan) und andere. Allein bei RoomScope 6,4 Millionen Buchungsdatensätze.

Bezug zu Österreich: Und jetzt wird’s für uns Österreicher richtig ungemütlich. Im April haben dieselben oder ähnliche Hacker bereits bei Gastrodat und Chekin zugeschlagen – österreichische und spanische Plattformen. Millionen Datensätze, darunter zigtausende österreichische Gäste.

• Die übliche Leier: „Wir haben Maßnahmen ergriffen.“
• Übersetzt: Wir haben die Passwörter geändert und hoffen, dass niemand merkt, wie heftig es eigentlich ist.

Zwischen den Zeilen: Anthropic & Co. erzählen uns seit Monaten, ihre KI sei „aligned“, „safe“ und „hilft der Menschheit“. In Wahrheit reicht ein halbwegs kreativer Russe mit einem Subscription-Account, um aus dem netten Chatbot einen automatischen Datensauger zu machen. Die gleichen Firmen, die uns vorschreiben wollen, wie wir KI in Europa einsetzen dürfen (AI Act), können nicht einmal ihre eigenen Modelle vor Missbrauch schützen.

Frank sagt: Das ist der echte KI-Wahnsinn, den die Sonntagsredner in Brüssel und Wien nicht kapieren wollen. Während Politiker über „ethische KI“ labern und Steuergeld in sinnlose Aufsichtsbehörden pumpen, zeigen Kriminelle, wie schnell die Technologie in der Realität zur Waffe wird. Die Hotelbranche sollte endlich aufhören, billige Cloud-Lösungen von irgendwelchen Drittanbietern zu vertrauen. Und die Politik sollte aufhören, so zu tun, als hätte sie das Thema im Griff. Hat sie nicht. Nie gehabt.