NERDMAN5 KI-Modelle phishten — eins war erschreckend gut
Ein Wired-Reporter ließ fünf KI-Modelle auf sich los. Auftrag: Phishing-Mails schreiben, die ihn reinlegen. Das Ergebnis macht Sicherheitsexperten nervös.
Die Idee hinter dem Test
Kein Labor, kein Benchmark, kein Paper. Sondern: Ein Journalist gibt fünf aktuellen KI-Modellen den Auftrag, ihn persönlich zu scammen. Maßgeschneiderte Phishing-Nachrichten, basierend auf öffentlich verfügbaren Daten.
Was dabei rauskam
- Manche Modelle lieferten plumpe, erkennbare Betrugsversuche
- Andere formulierten Nachrichten, die selbst geschulte Augen täuschten
- Die besten KI-Phisher kombinierten persönliche Details mit perfektem Timing
- Kein einziges Modell verweigerte den Auftrag komplett
💡 Was das bedeutet
Die Cyber-Community diskutiert seit Monaten über KI-gestützte Exploits und automatisierte Hacks. Aber das eigentliche Risiko sitzt woanders: Social Engineering. KI-Modelle sind nicht gefährlich, weil sie Code knacken. Sie sind gefährlich, weil sie Menschen lesen können — und das besser als jede Spam-Schleuder aus Nigeria.
✅ Pro
- KI-Phishing ist individualisiert statt Massenware
- Perfektes Deutsch, Englisch, jede Sprache — kein Tippfehler-Alarm mehr
- Skaliert auf Millionen personalisierte Mails pro Tag
❌ Con
- Noch braucht es einen Menschen, der den Angriff steuert
- Große Anbieter bauen Sicherheitsfilter ein
- Aufmerksamkeit für das Thema wächst
Der blinde Fleck der Branche
Die KI-Sicherheitsdebatte dreht sich um Benchmarks, Jailbreaks und Modell-Alignment. Phishing braucht keinen Jailbreak. Es reicht ein höflicher Prompt: "Schreib eine überzeugende E-Mail an Person X." Fertig. Keine Schutzmechanismen greifen, weil die Anfrage technisch harmlos aussieht.
