Google hat bekannt gegeben, dass es einen der bisher stärksten Beweise dafür gefunden hat, dass Künstliche Intelligenz aktiv in die Entwicklung von Cyberangriffen einbezogen wird. Die Threat Intelligence Group (GTIG) des Unternehmens entdeckte eine mithilfe von KI entwickelte "Zero-Day"-Schwachstelle, bevor Angreifer eine groß angelegte Exploit-Operation starten konnten, und warnte den entsprechenden Softwareanbieter.
Berichten zufolge sollte diese Schwachstelle von einer bekannten Cyberkriminellengruppe für groß angelegte Angriffe genutzt werden, um finanziellen Gewinn zu erzielen. Durch das rechtzeitige Schließen der Lücke wurde eine mögliche massenhafte Angriffskampagne verhindert.
Angriffe, die Zero-Day-Schwachstellen ausnutzen, sind kleine Programme, die auf zuvor unbekannte und ungepatchte Sicherheitslücken abzielen, um Malware zu installieren und Datenzugriff auf den Zielcomputer oder das Zielnetzwerk zu erhalten.
Künstliche Intelligenz aktiv genutzt
Google-Forscher entdeckten bei ihren Untersuchungen des Angriffscodes verschiedene technische Spuren, die darauf hindeuten, dass KI intensiv genutzt wurde.
Zu den Elementen, die die Aufmerksamkeit der Forscher auf sich zogen, gehörten Python-basierte Kommentarstrings, übermäßig detaillierte Kommentarzeilen und ein fiktiver CVSS-Sicherheits-Score, der in Wirklichkeit nicht existierte, aber im Code generiert wurde. Laut Google stimmen solche Anomalien nicht mit der typischen Arbeitsweise menschlicher Entwickler überein und weisen auf den Einsatz von KI hin.
John Hultquist, Chefanalyst bei GTIG, erklärte, dies sei der Beginn einer lang erwarteten Ära. Aus Sicherheitsgründen gab Google nicht bekannt, welche Software von der Schwachstelle betroffen war. Das Unternehmen bestätigte jedoch, dass die Sicherheitslücke in einem beliebten Open-Source-Webverwaltungstool gefunden wurde.
Dem Bericht zufolge ermöglichte die Schwachstelle den Angreifern, das im Dienst verwendete Zwei-Faktor-Authentifizierungssystem zu umgehen. Obwohl die Details der Schwachstelle und das Angriffsszenario nicht öffentlich geteilt wurden, stufen Sicherheitsexperten dies als kritische Bedrohung ein.
Das Unternehmen gab zudem die Identität der Gruppe, die den Angriff plante, nicht bekannt. Google wies jedoch darauf hin, dass es sich bei der Gruppe um eine erfahrene Struktur handelt, die in der Vergangenheit hochkarätige Vorfälle und groß angelegte Angriffe durchgeführt hat.
Möglicherweise hat auch KI die Schwachstelle entdeckt
Die Google-Forscher sind sich ziemlich sicher, dass die Angreifer KI in den Entwicklungsprozessen der entsprechenden Schwachstelle genutzt haben. Es ist jedoch noch unklar, ob die KI die Sicherheitslücke auch entdeckt hat.
Google betonte insbesondere, dass das verwendete Modell weder das eigene Gemini-System noch das Mythos-Modell von Anthropic war. Es wurden jedoch keine Details darüber genannt, welche KI-Infrastruktur verwendet wurde.
Laut Google ist der eigentliche Grund zur Sorge nicht ein einzelnes Ereignis, sondern die zukünftigen Auswirkungen. Das Unternehmen ist der Ansicht, dass die Kapazität für KI-gestützte Cyberangriffe oder die Entwicklung von Schwachstellen rasant fortschreitet und in naher Zukunft weitaus verheerendere Zero-Day-Angriffe auftreten könnten. Denn dank KI lassen sich einige Dinge, die früher viel Erfahrung erforderten, heute fast sofort erledigen.
