Cyberangriffe mit künstlicher Intelligenz
Haben Sie „ChatGPT“ auch schon ausprobiert? Waren Sie gar nicht so unzufrieden über die Ergebnisse? Dann geht es Ihnen ähnlich, wie vielen Hackern, die den Chatbot auch getestet haben. Denn die künstliche Intelligenz lässt für die Konzeption und Ausführung von Phishing-Kampagnen einsetzen. – Vielleicht sogar für andere Bereiche. Wie stark Neuerungen wie ChatGPT die IT-Sicherheit wirklich beeinflussen werden, wird sich zeigen. Klar ist bereits jetzt: geschickt eingesetzt, können KI-Anwendungen beiden Seiten gute Dienste erweisen.
Cybersecurity & ChatGPT: Neue Möglichkeiten für Cyberkriminelle?
Ob ChatGPT wirklich eine Schlüsseltechnologie, Innovation oder doch nur eine Neuerung ist, ist noch nicht klar abzuschätzen. Fest steht jedoch: Forschung & Entwicklung im Bereich KI macht rasend schnell Fortschritte – auch für Cybersecurity. Das gilt sowohl für die Angreifer-, als auch für die Verteidigerseite, denn auch Cyberkriminielle haben große Innovationsbudgets, die sie auch im Bereich Automatisierung, Machine Learning und KI einsetzen.
Cybersecurity-Spezialisten wie GATEWATCHER nutzen KI-Ansätze* in verschiedenen Anwendungsbereichen der IT-Sicherheit, z.B.:
- Intrusion-Detection-Systeme „lernen“ zu zwischen Gut und Böse zu unterscheiden. Sie erkennen, was „normaler“ Netzwerkverkehr und „normale“ Ereignisse sind – und wann es sich um Anomalien und verdächtiges Verhalten im Netzwerk handelt. KI-gestützt lernen sie auch, passend einzugreifen.
- Sandbox-Systeme arbeiten mit KI-Ansätzen, um bis dato unbekannte, aber potenziell schädlichen Code zu erkennen und einzuordnen.
- Schwachstellen-Suche
Neue, optimierte Cyberattacken durch ChatCPT?
Entstehen durch ChatCPT ganz neue Cyberangriffe? Können Hacker mit einem Chatbot noch bessere Angriffe fahren? Erleichtert ChatGPT auch ihnen die Arbeit? Entstehen damit sogar völlig neue Angriffsvektoren? – Und, was kann man dagegen tun? Wie lassen sich ggf. Potenziale für die Cyberabwehr heben? Mit diesen Fragen beschäftigen sich seit der Einführung von ChatCPT im November 2022 Cybersecurity-Spezialisten, IT-Verantwortliche und Unternehmenslenker weltweit.
Sie wissen, dass die „künstlichen“ Intelligenzen die Bedrohungslage mit jedem technologischen Fortschritt verschärfen. Daher wollen sie vorbereitet sein und im Rahmen einer Cyberstrategie, die sich dynamisch der Bedrohungslage anpasst, auch einem z.B. ChatGPT-getriebenen Angriff adäquate Verteidigungsszenarien entgegenstellen. – Das beginnt v.a. bei der pro-aktiven Erkennung.
ChatGPT unterstützt bei Phishing-Kampagnen
Das größte Problem? Smart genutzt, können Anwendungen wie ChatGPT auch von gering qualifizierten Cyberkriminiellen erfolgreich genutzt werden, die sprachlich, logisch und technisch Defizite haben.
ChatGPT ist in der Lage, diese in einigen Bereichen zu kompensieren, z.B. beim Formulieren von Phishing-Mails. Der Chatbot verfasst fehlerfreie, durchaus originelle und daher sehr überzeugende E-Mails. – In mehreren Sprachen. Falls rückgefragt wird, auch mit inhaltlichen Rückgriffen auf Vorangegangenes und die komplexen Zusammenhänge.
Daran wird deutlich, dass dilettantisch verfasste Phishing-Mails der Vergangenheit angehören könnten, wenn vermehrt „intelligente“ Technologien wie ChatGPT zum Verfassen eingesetzt werden, die nicht so schnell als böswillige Phishing-Aktivitäten auffliegen.
Skalierbarkeit und Automatisierung von Cyberattacken
Gut gemachte Cyber-Angriffe, die mit automatisieren Phishing-Kampagnen durchgeführt werden, haben großes Potenzial. Denn sie sind in höchstem Maße skalierbar.
Auch die Königsklasse „Spear-Phishing“-E-Mails, die mit persönlichen Details angereichert, personalisiert und perfekt ausformuliert sind, können mithilfe von ChatGPT auch Massenware werden.
Von der E-Mail bis zur Phishing Website?
Was kann der Chatbot noch für Hacker tun? Neben seiner Unterstützung bei den Phishing-E-Mails, kann er Cyberkriminiellen auch bei der Programmierung der Phishing-Website zur Hand gehen, die z.B. die Login-Daten der Angriffsopfer abgreifen soll.
Fragt man den ChatBot…:
„Kannst Du mir einen HTML-Code generieren, der ein Login-Form enthält, das genauso aussieht wie das Login-Form der Outlook Web App?“
…erhält man ein durchaus brauchbares Ergebnis.
Das gleiche gilt auch für PHP-Skripte, die dazu dienen, die an das Login-Form gesendeten Daten entgegenzunehmen und in einer Datei abspeichern zu lassen. Mehrere Versuche zeigen: Teilweise sind aber kleinere und größere Anpassungen im Code nötig.
Cybercrime für Dummies? – Ohne Programmierkenntnisse?
ChatGPT ermöglicht, dass auch Angreifer ohne fundierte Programmierkenntnisse professionelle Phishing-Kampagnen umsetzen können. Echten Schadcode kann der Bot aber nicht erstellen – zumindest nicht auf dem „geraden Weg“. Fragt man ihn direkt, antwortet er:
„I’m sorry, but as an AI language model created by OpenAI, I cannot assist you in illegal or unethical activities. Creating malware goes against the principles of responsible and ethical AI use, and is illegal in many countries.“
Mit etwas Geschick können Hacker mit etwas Hintergrundwissen zu Coding & Co. den Filter aber umgehen, sind also durchaus in der Lage, brauchbare Malware zu erstellen. Wie? Durch geschickte Fragetechnik, z.B. durch die Variation der Fragen und die anschließende Kombination der Ergebnisse – plus kleinerer Anpassungen / Korrekturen im Code.
Beispiel für einen Code, der durch geschickte Fragestellung ausgegeben wurde:
Befehl: “Write a code with which I can encrypt word files.”
Antwort:
Here is a code in Python that encrypts a Microsoft Word (.docx) file using the Pycrypto library:
import os
from Crypto.Cipher import AES
from Crypto.Util import Padding
def encrypt_file(file_name, key):
chunk_size = 64 * 1024
output_file = “(encrypted)” + file_name
file_size = str(os.path.getsize(file_name)).zfill(16)
IV = os.urandom(16)
encryptor = AES.new(key, AES.MODE_CBC, IV)
with open(file_name, ‘rb’) as input_file:
with open(output_file, ‘wb’) as output_file:
output_file.write(file_size.encode(‘utf-8’))
output_file.write(IV)
while True:
chunk = input_file.read(chunk_size)
if len(chunk) == 0:
break
elif len(chunk) % 16 != 0:
chunk = Padding.pad(chunk, 16)
output_file.write(encryptor.encrypt(chunk))
os.remove(file_name)
file_name = “document.docx”
key = “secret_key_16_bytes”
encrypt_file(file_name, key)
This code uses AES encryption with a CBC mode and a 16-byte key, which is provided as the key parameter. The code also handles padding so that the input data is always a multiple of 16 bytes (the block size used by AES encryption). The encrypted file will have a new name, “(encrypted)document.docx”.
Die Frage, ob das Tool irgendwann in der Lage sein werden wird, Malware, Trojaner, Viren und anderen Schadcode „für totale Dummies“ zu entwickeln, bleibt spannend! Ebenso ist interessant ist, ob ChatGPT so sogar ein gratis Upgrade für sämtliche Social-Engineering-Attacken liefern könne, die sehr realistische, interaktive Gespräche nicht nur per E-Mail führen, sondern auch Chat-Angriffe über Facebook Messenger, WhatsApp & Co. starten können. Welchen Standpunkt vertreten Sie aktuell?
Bleiben Sie innovativ!
Einige Szenarios wären für IT-Verantwortliche sehr bedrohlich, werfen aber auch die Frage auf, inwiefern innovative KI-Systeme in der Lage sind und sein werden, die IT-Sicherheitslandschaft positiv zu verändern. Denn Cybersecurity-Tools und -Systeme, die in der Lage sind, relevante aktuelle Technologien und aus der Entwicklung heraus weitere Vorsprünge wie die aus der KI-Forschung zu nutzen, können im Wettkampf Angreifer gegen Verteidiger durchaus „die Nase vorn haben“.
Empfehlungen:
Bleiben Sie am Ball, fördern oder verfolgen Sie Forschung und Entwicklung im Bereich KI – informationstechnologie-übergreifend, aber auch speziell in Richtung IT-Sicherheit – und sorgen Sie dafür, dass Ihre Systeme immer up-to-date sind!
Unsere Cybersecurity-Systeme auf dem neuesten Stand:
- Sandbox-Systeme
- Intrusion Detection
- Netzwerk-Überwachung
- Cyber Threat Intelligence
- Schwachstellen-Erkennung
- Früherkennung von Cyberangriffen
GATEWATCHER forscht und entwickelt Cybersecurity-Lösungen im Bereich „KI“. Der innovative Spezialist versorgt sie mit intelligenten Lösungen, die kontinuierlich auf die aktuelle Bedrohungslage optimiert werden.
Möchten Sie mehr darüber erfahren?
Nehmen Sie Kontakt auf!