Die ersten Spam-Erkennungssysteme, die auf Algorithmen des maschinellen Lernens basierten, tauchten in den 1990er Jahren auf. Seitdem hat die Integration von KI in E-Mail-Sicherheitslösungen stetig zugenommen, um Bedrohungen wie Phishing und Malware zu erkennen. Dennoch erfordert die E-Mail-Sicherheit trotz fortschreitender Verfeinerung der Techniken weiterhin menschliches Eingreifen.
Künstliche Intelligenz zur Spamfilterung
Die Fähigkeiten der KI im Kampf gegen Spam sind unbestritten. Sie erkennt Bedrohungen, indem sie E-Mails auf Phishing-Muster, bösartige Anhänge oder betrügerische Links untersucht. Sie filtert Spam, indem sie den Inhalt von E-Mails analysiert und gemeinsame Merkmale unerwünschter E-Mails identifiziert. Eine weitere Funktion ist die Verhaltensanalyse, mit der sie verdächtige Aktivitäten in den E-Mail-Interaktionen der Benutzer überwacht. Diese Aktivitäten könnten auf eine Kompromittierung des Kontos oder einen Phishing-Versuch hindeuten.
Alinto integriert seit 2019 KI-Technologien in seine Lösungen und entwickelt Programme, die auf Lernmodellen basieren, die durch Stichproben gespeist werden, um die Sicherheit von E-Mails zu erhöhen. Die Effizienz dieser Programme hängt jedoch davon ab, wie gut sie in Echtzeit arbeiten können, was Einschränkungen hinsichtlich der Größe und Geschwindigkeit der verwendeten Modelle mit sich bringt. Die Herausforderung besteht darin, eine hohe Leistungsfähigkeit bei akzeptablen Verarbeitungszeiten aufrechtzuerhalten.
Menschliche Intelligenz verbessert Filteralgorithmen
Trotz der Errungenschaften der KI bleibt der Mensch im Kampf gegen Spam unverzichtbar: Die kognitiven Fähigkeiten des Menschen sind in dieser Phase unersetzlich, um die von Anti-Spam-Algorithmen erzeugten falsch positiven und falsch negativen Ergebnisse zu verarbeiten. Menschliche Intelligenz ist daher unverzichtbar, um neue Bedrohungen gründlich zu analysieren und potenzielle Schwachstellen in Sicherheitssystemen zu erkennen. Daher füttert der Mensch die Algorithmen weiterhin mit Regeln und Lernmustern, die den identifizierten neuen Praktiken entsprechen. Auf diese Weise verbessert Alinto seine Spamfilter kontinuierlich.
Tatsächlich ist die automatische Optimierung von Spamfiltern durch KI im Zuge der Fehlersammlung keine denkbare Alternative. Sie würde das System kognitiven Verzerrungen oder sogar «Poisoning»-Angriffen aussetzen: Hacker könnten das Verhalten des Filters oder des Modells durch Eingabe böswilliger Daten verändern und damit das System korrumpieren. Außerdem ist KI allein nicht in der Lage, neue Techniken zu antizipieren, die von Hackern entwickelt werden.
Darüber hinaus nutzen Hacker selbst menschliche Intelligenz, um Filter zu umgehen und Systeme zu verseuchen. Es ist daher notwendig, ihnen menschliche Intelligenz entgegenzusetzen. Letztlich zeigt dieser Wettlauf der Intelligenzen die Notwendigkeit einer engen Komplementarität zwischen Mensch und Maschine, um neue Angriffe effizient zu erkennen: KI als Werkzeug, um Bedrohungen zu charakterisieren – z.B. dubiose URLs aufzuspüren – und Warnungen schneller zu verbreiten, während die Analyse und Entscheidung über die Optimierung der Modelle dem Menschen überlassen bleibt.
Da so viel auf dem Spiel steht und die Relevanz einer Regel so widersprüchliche Auswirkungen haben kann, hat der Mensch seinen Platz in einem Expertenteam zur Bekämpfung von Spam, das unter dem Namen Spamfight bekannt ist.
Der Beitrag des Spamfighter-Teams zur E-Mail-Sicherheit liegt also nicht in der Echtzeit-Filterung. Sie ist aber unverzichtbar, wenn es darum geht, False Positives zu analysieren und zu entscheiden, ob Anti-Spam mit neuen Regeln angereichert werden soll. Ein Filter ohne KI wäre ineffektiv, da er die Erkennung von Bedrohungen weitgehend automatisiert, ebenso wie eine KI ohne menschliches Eingreifen bei der Anreicherung, da sie an Relevanz verlieren würde. Die Lösung liegt daher in der Zusammenarbeit von KI und Mensch, wobei jeder seine eigenen Analysefähigkeiten einbringt, um die bestmögliche E-Mail-Sicherheit zu gewährleisten.
