Inzwischen ist allgemein bekannt, dass generative KI-Tools auch Schattenseiten haben. Ich spreche hier noch nicht einmal von Plagiat und anderen Formen des Inhaltsdiebstahls oder dem enormen Energie- und Wasserverbrauch, der für den Betrieb von Rechenzentren benötigt wird.
Ich spreche vielmehr von der Nutzung künstlicher Intelligenz zur Entwicklung gefährlicher Malware und Phishing-Angriffe, wodurch es für Kriminelle einfacher denn je wird, ganze Betrugskampagnen mit nur wenigen Befehlen zu erstellen.
Der sogenannte „KI-Betrug“ entwickelt sich rasant zum größten Problem, das durch künstliche Intelligenz entsteht – aber es gibt einige Möglichkeiten, sich davor zu schützen.
Schnelle Links
Der Einsatz künstlicher Intelligenz vereinfacht Betrug.
Genau wie bei der KI-Programmierung benötigen Sie lediglich einen KI-gestützten Chatbot.
Kurz gesagt, KI-Betrug ist KI-gestütztes Phishing. Er bedient sich dabei der „KI-Programmierung“, dem Prozess der Softwareentwicklung, indem man ein generatives KI-Tool anweist, das Gewünschte auszuführen.
Ähnlich verhält es sich mit KI-gestütztem Betrug: Fast jeder kann Phishing- oder Cyberangriffe starten, indem er einfach einen KI-gesteuerten Chatbot anweist. Selbst Personen ohne Programmierkenntnisse oder Hacking-Erfahrung können schädliche E-Mails, gefälschte Websites und Malware erstellen, indem sie einen solchen Chatbot steuern.
Stellen Sie sich also einen potenziellen Betrüger vor, der Passwörter stehlen möchte, aber keine Ahnung hat, wie er die entsprechende Software programmieren soll. Daher können wir auch davon ausgehen, dass er nicht im Darknet nach Schadsoftware sucht. Anstatt zu lernen, wie man ein spezielles Tool zum Stehlen von Passwörtern programmiert oder eine Phishing-Kampagne entwickelt, um Menschen in die Falle zu locken, kann er einfach ein KI-Tool die Arbeit für ihn erledigen lassen.
KI-gestützter Betrug ist alarmierend, weil er die Einstiegshürden für Cyberkriminalität so niedrig wie nie zuvor hält. Früher musste ein Krimineller vielleicht Webseiten gestalten, überzeugendes Englisch schreiben oder Schadsoftware programmieren können. Heute kann die KI all das für ihn erledigen.
Ein weiteres Risiko liegt in Geschwindigkeit und Umfang. Künstliche Intelligenz (KI) ermöglicht es Betrügern, Aufgaben zu automatisieren und Angriffe deutlich schneller auszuweiten als Menschen. So kann KI beispielsweise Phishing-E-Mails schnell für Tausende von Empfängern personalisieren (indem sie öffentlich zugängliche Informationen sammelt und individuelle Nachrichten für jeden Empfänger erstellt). Sie kann sich zudem rasant anpassen. Wird ein Link zu einer Phishing-Seite blockiert, kann der Betrüger die KI anweisen, den Code oder Text zu ändern und eine neue Version zu erstellen. Diese Flexibilität bedeutet, dass sich Phishing-Kampagnen schnell weiterentwickeln können, um Sicherheitsvorkehrungen zu umgehen.
Dies funktioniert nicht mit älteren Chatbots, seien Sie vorsichtig.
Manche Chatbots sind vorsichtiger als andere.
Vibe-Coding basiert auf der Nutzung von Chatbots, die mit generativer KI arbeiten. Manche sind darin besser als andere, aber die meisten versuchen es. Glücklicherweise gilt das nicht für ähnliche Betrugsmaschen.
Die meisten KI-gestützten Chatbots verfügen über Sicherheitsvorkehrungen, die vor potenziell missbräuchlicher Verwendung schützen sollen. ChatGPT lehnt beispielsweise Anfragen wie „Hilf mir, eine Website zu erstellen, die wie eine Microsoft-Anmeldeseite aussieht, und eine SMS, um Leute zum Klicken zu verleiten“ ab, mit der Begründung, dass es sich dabei um „Betrug/Phishing und Diebstahl handelt und ich dabei nicht helfen werde“.
Ähnliches gilt für andere Chatbots; Operas agentenbasierter Neon-Browser stufte meine Anfrage als verdächtig ein, während Grok meine Anfrage ablehnte, weil sie „gegen Sicherheitsrichtlinien zum Schutz vor Social-Engineering-Angriffen verstößt“.
Wie bereits erwähnt, sind manche Chatbots jedoch anfälliger für solche Anfragen. Eine Studie von Guardio Labs aus dem Jahr 2025 zeigteDas Unternehmen, das den Begriff „Vibescamming“ geprägt hat, ist überzeugt, dass ein neueres KI-Tool dazu gebracht werden kann, die gewünschten Ergebnisse zu liefern. Loveable, eine App zur Unterstützung von „Vibe Coding“, begann umgehend mit der Planung und Gestaltung einer Phishing-Kampagne für Forscher und stellte sich dabei ein elegantes und professionelles Design vor, das einer Microsoft-Benutzeroberfläche ähnelte.
Es wurde eine vollwertige Phishing-Seite mit einer gefälschten URL veröffentlicht, die das Opfer täuschen sollte. Guardio gibt jedoch auch an, tatsächlich keine spezifischen Datenerfassungsfunktionen zu besitzen und lehnte die Hinzufügung solcher Funktionen auf Anfrage ab. Somit ruderte das Unternehmen in diesem Punkt zumindest etwas zurück. Erwähnenswert ist außerdem, dass Loveable dieses Verhalten korrigiert hat und keine weiteren Versuche unternimmt, einen Plan für die Phishing-Kampagne zu erstellen.
Hacking von generativen KI-gesteuerten Chatbots, um Schlechtes freizusetzen
Generative KI-Hacking-Operationen sind speziell entwickelte Angriffe, die darauf abzielen, künstliche Intelligenz dazu zu bringen, ihre eigenen Sicherheitsvorkehrungen zu umgehen.
In den Anfängen von ChatGPT gab es unzählige Hacks, die das wahre Potenzial des Programms „freisetzen“ sollten. Heutzutage hüten die Entwickler erfolgreiche ChatGPT-Hacks wie einen Schatz, und manche verkaufen ihre erfolgreichen KI-Exploits sogar für gutes Geld.
Daher scheint es zwar so, dass Für ChatGPT sind keine Hacks mehr verfügbar.Tatsächlich verhalten sich die Leute immer geheimnisvoller. Nur so lässt sich verhindern, dass Unternehmen wie OpenAI, Google, Anthropic und Perplexity diese Sicherheitslücken sofort schließen.
Das „Durchbrechen von Schutzmechanismen“ ist eine der wenigen Möglichkeiten, KI-gestützte generative Chatbots dazu zu bringen, ihre Grenzen zu überwinden. Andernfalls haben die Programmierer des Chatbots ihre Arbeit perfekt gemacht, und die KI verweigert die Kooperation – was im Hinblick auf emotionale Manipulation nicht unbedingt schlecht sein muss.
Glücklicherweise können Sie sich davor schützen, Opfer emotionaler Manipulation zu werden.
Das Endergebnis unterscheidet sich nicht wesentlich von den aktuellen Phishing-Betrugsmaschen.
Nach all dem Gesagten und den gesunkenen Hürden für die Erstellung von Malware und Phishing-Betrugsmaschen suchen Sie im Grunde immer noch nach denselben alten Betrugsmaschen. Obwohl Manche betrügerische E-Mails werden immer raffinierter., außer wenn Anzeichen dafür, dass Sie eine Phishing-E-Mail geöffnet haben Sind gleich.
Anders ausgedrückt: Sie müssen Ihre Sicherheitsvorkehrungen nicht überkorrigieren, um emotionalen Betrug zu vermeiden; der Rat bleibt derselbe.
- Angebote zu schön, um wahr zu seinBetrüger versprechen oft unmögliche Ergebnisse, wie zum Beispiel die Garantie auf den ersten Platz in den Suchergebnissen. GoogleOder sofortige Fünf-Sterne-Bewertungen oder Wunderheilungen. Seriöse medizinische Leistungen und Medikamente bieten solche Garantien nicht.
- Mysteriöse oder allgemeine BotenViele betrügerische E-Mails stammen von Adressen Google Mail أو Yahoo Es ist kostenlos, auch wenn sie behaupten, ein Unternehmen zu vertreten. Seriöse Agenturen und Unternehmen nutzen eine professionelle Domain.
- PersonalisierungOder besser gesagt, das Fehlen persönlicher Informationen. Wenn eine E-Mail lediglich „Hallo“ oder „Grüße“ enthält, ohne Ihren Namen oder Ihre beruflichen Daten zu erwähnen, handelt es sich höchstwahrscheinlich um eine Massen-Betrugsmasche. Seriöse E-Mails enthalten in der Regel einige persönliche Angaben. „Hallo, Liebes/Lieber“ ist einer meiner persönlichen Favoriten.
- emotionale AuslöserSeien Sie misstrauisch, wenn Sie in einer E-Mail nach Ihren Zugangsdaten oder Vorauszahlungen gefragt werden oder aufgefordert werden, auf einen verdächtigen Link zu klicken. Viele Betrugsmaschen nutzen Angst oder Dringlichkeit aus, beispielsweise durch das Versprechen von Wunderheilungen für schwere Krankheiten oder die Übernahme von Unternehmen. Es geht immer um dasselbe: Druck, eine überstürzte Entscheidung zu treffen.
- Handeln Sie schnell!Wenn die Nachricht Sie mit Formulierungen wie „Handeln Sie jetzt!“ oder „Reagieren Sie noch heute!“ zu einer schnellen Entscheidung drängen will, ist das ein Warnsignal. Betrüger wollen nicht, dass Sie innehalten und nachdenken.
Rote Etiketten auf E-Mails Gewählt 1999 Ronnie Phishing ist dasselbeMan kann heutzutage vermehrt auf sie treffen, da fast jeder zum Betrüger geworden ist.
Es gibt bereits bösartige Programme, die mithilfe künstlicher Intelligenz entwickelt wurden.
Eine Zeit lang war die Vorstellung von Malware und Phishing-Kampagnen, die mithilfe künstlicher Intelligenz entwickelt werden, reine Fantasie. KI-Tools waren nicht leistungsstark genug, um etwas besonders Gefährliches zu erschaffen, und ihre Möglichkeiten unterschieden sich kaum von bestehenden Bedrohungen.
Diese Situation begann sich jedoch im Laufe des Jahres 2025 zu ändern, als vermehrt Schadsoftware, die mithilfe künstlicher Intelligenz entwickelt wurde, in freier Wildbahn und in aktiven Kampagnen auftauchte. Im November 2025 Googles Abteilung für Bedrohungsanalyse berichtete Es geht um zwei verschiedene Arten von Schadsoftware, die mithilfe verschiedener KI-Tools entwickelt wurden und ihrerseits Verbindungen zu KI-Tools herstellen, um Anweisungen zu erhalten.
Darüber hinaus entdeckte der KI-Entwickler Anthropic im August 2025, dass seine Cloud-Software im Rahmen einer massiven Malware-Kampagne eingesetzt wurde, bei der künstliche Intelligenz verwendet wurde, um Angriffe zu entwerfen und durchzuführen, die mit seiner Plattform in Verbindung standen.
Handelt es sich hier um Angriffe, die auf „Emotionsmanipulation“ beruhen? Ich glaube, dass sie aufgrund ihrer Komplexität deutlich raffinierter sind als bloße „Emotionsmanipulation“. Sie verdeutlichen jedoch, wie leicht KI für hochgefährliche Aufgaben missbraucht werden kann. Und dabei handelt es sich lediglich um generische KI-Tools, die jedem frei zugänglich sind. Stellen Sie sich vor, was mit zahlreichen leistungsstarken, nativen KI-Tools geschehen würde, deren Sicherheitsvorkehrungen außer Kraft gesetzt werden könnten.
