Adobe Forscher haben einen Artikel veröffentlicht, der ein neues Modell der künstlichen Intelligenz (KI) beschreibt, mit dem Dokumente lokal auf einem Gerät verarbeitet werden können. Das letzte Woche veröffentlichte Papier hebt hervor, dass Forscher mit vorhandenen großen Sprachmodellen (LLMs) und kleinen Sprachmodellen (SLMs) experimentiert haben, um herauszufinden, wie die Größe des KI-Modells reduziert und gleichzeitig seine Verarbeitungsfähigkeit und Inferenzgeschwindigkeit hoch gehalten werden können. Als Ergebnis der Experimente konnten die Forscher ein KI-Modell namens SlimLM entwickeln, das vollständig in einem Smartphone funktionieren und Dokumente verarbeiten kann.
Adobe-Forscher entwickeln SlimLM
Die KI-gestützte Dokumentenverarbeitung, die es einem Chatbot ermöglicht, Benutzeranfragen zu seinem Inhalt zu beantworten, ist ein wichtiger Anwendungsfall generativer KI. Viele Unternehmen, darunter auch Adobe, haben sich diese Anwendung zunutze gemacht und Tools veröffentlicht, die diese Funktionalität bieten. Allerdings gibt es bei all diesen Tools ein Problem: Die KI-Verarbeitung findet in der Cloud statt. Die Verarbeitung von Daten auf dem Server wirft Bedenken hinsichtlich des Datenschutzes auf und macht die Verarbeitung von Dokumenten, die vertrauliche Informationen enthalten, zu einem risikobehafteten Prozess.
Das Risiko entsteht hauptsächlich aus der Befürchtung, dass das Unternehmen, das die Lösung anbietet, die KI darauf trainieren könnte oder dass ein Vorfall einer Datenschutzverletzung dazu führen könnte, dass sensible Informationen durchsickern. Als Lösung veröffentlichten Adobe-Forscher eine Papier im Online-Journal arXiv, in dem ein neues KI-Modell beschrieben wird, das die Dokumentenverarbeitung vollständig auf dem Gerät durchführen kann.
Die kleinste Variante des KI-Modells mit dem Namen SlimLM enthält nur 125 Millionen Parameter, was die Integration in das Betriebssystem eines Smartphones ermöglicht. Die Forscher behaupten, dass es lokal betrieben werden kann, ohne dass eine Internetverbindung erforderlich ist. Dadurch können Benutzer selbst die sensibelsten Dokumente bedenkenlos verarbeiten, da die Daten das Gerät nie verlassen.
In der Arbeit betonten die Forscher, dass sie mehrere Experimente an einem durchgeführt hatten Samsung Galaxy S24 um das Gleichgewicht zwischen Parametergröße, Inferenzgeschwindigkeit und Verarbeitungsgeschwindigkeit zu finden. Nach der Optimierung hat das Team das Modell auf dem Basismodell SlimPajama-627B vorab erstellt und mit DocAssist, einer speziellen Software für die Dokumentenverarbeitung, verfeinert.
Insbesondere handelt es sich bei arXiv um eine Pre-Print-Zeitschrift, für deren Veröffentlichung keine Peer-Reviews erforderlich sind. Daher kann die Gültigkeit der in der Forschungsarbeit aufgestellten Behauptungen nicht festgestellt werden. Wenn dies jedoch zutrifft, könnte das KI-Modell in Zukunft mit den Plattformen von Adobe ausgeliefert werden.
