Das Big Sleep-Team von Google deckt erstmals Zero-Day-Schwachstelle mithilfe von KI auf
Wenn Sie nicht wissen, was Project Zero ist, und nicht beeindruckt waren von dem, was es im Sicherheitsbereich erreicht hat, dann haben Sie in den letzten Jahren einfach nicht aufgepasst. Diese Elite-Hacker und Sicherheitsforscher arbeiten unermüdlich an der Aufdeckung Zero-Day-Schwachstellen in den Produkten von Google und darüber hinaus. Der gleiche Vorwurf der mangelnden Aufmerksamkeit gilt, wenn Sie DeepMind, die KI-Forschungslabore von Google, nicht kennen. Jetzt haben sich diese beiden Technologiegiganten zusammengeschlossen, um Big Sleep zu schaffen, einen Agenten für die Schwachstellenforschung, der auf großen Sprachmodellen basiert. In dem angeblich ersten, zumindest veröffentlichten Beispiel dafür, dass ein KI-Agent eine bisher unbekannte, ausnutzbare Zero-Day-Sicherheitslücke in der Speichersicherheit in weit verbreiteter realer Software entdeckt, ist Big Sleep erwachsen geworden.
Google verwendet ein großes Sprachmodell, um Zero-Day-Schwachstellen in realem Code zu erkennen
In einer Ankündigung vom 1. November bestätigte Googles Project Zero-Blog, dass das Projekt Das Naptime-Framework für die Untersuchung großer Sicherheitslücken unterstützte das große Sprachmodell hat sich entwickelt zu Großer Schlaf. Diese gemeinsame Anstrengung, an der einige der besten ethischen Hacker im Rahmen von Project Zero und die besten KI-Forscher im Rahmen von Google DeepMind beteiligt sind, hat einen großen, sprachmodellbasierten Agenten entwickelt, der sehr reale Sicherheitslücken aufdecken kann in weit verbreitetem Code. Im Fall dieser Weltneuheit sagte das Big Sleep-Team, es habe „einen ausnutzbaren Stapelpufferunterlauf in SQLite, einer weit verbreiteten Open-Source-Datenbank-Engine“, gefunden.
Die Zero-Day-Schwachstelle wurde dem SQLite-Entwicklungsteam im Oktober gemeldet, das sie noch am selben Tag behob. „Wir haben dieses Problem entdeckt, bevor es in einer offiziellen Version erschien“, sagte das Big Sleep-Team von Google, „also waren SQLite-Benutzer nicht betroffen.“
KI könnte die Zukunft des Fuzzing sein, sagt das Google Big Sleep-Team
Auch wenn Sie den Begriff „Fuzzing“ vielleicht noch nie gehört haben, gehört er schon seit Jahrzehnten zum festen Bestandteil der Sicherheitsforschung. Unter Fuzzing versteht man die Verwendung zufälliger Daten, um Fehler im Code auszulösen. Obwohl der Einsatz von Fuzzing weithin als unverzichtbares Werkzeug für diejenigen gilt, die nach Schwachstellen im Code suchen, geben Hacker ohne weiteres zu, dass damit nicht alles gefunden werden kann. „Wir brauchen einen Ansatz, der Verteidigern helfen kann, die Fehler zu finden, die durch Fuzzing nur schwer (oder gar nicht) zu finden sind“, sagte das Big Sleep-Team und fügte hinzu, es hoffe, dass KI die Lücke schließen und „Schwachstellen in der Software finden kann, bevor sie überhaupt vorhanden sind“. „freigegeben“ und lässt den Angreifern wenig Spielraum für Angriffe.
„Das Finden einer Schwachstelle in einem weit verbreiteten und gut untersuchten Open-Source-Projekt ist ein aufregendes Ergebnis“, sagte das Google Big Sleep-Team, gab jedoch zu, dass die Ergebnisse derzeit „sehr experimentell“ seien. Derzeit gilt der Big-Sleep-Agent als nur so effektiv wie ein zielspezifischer Fuzzer. Es ist jedoch die nahe Zukunft, die rosig aussieht. „Diese Bemühungen werden den Verteidigern einen erheblichen Vorteil verschaffen“, sagte das Big Sleep-Team von Google, „mit dem Potenzial, nicht nur abstürzende Testfälle zu finden, sondern auch eine qualitativ hochwertige Ursachenanalyse, Triage und Behebung von Problemen bereitzustellen, könnte es viel sein.“ in Zukunft günstiger und effektiver.“
