// HEISE ONLINE — INTELLIGENZA ARTIFICIALE
LLMs im Browser – Teil 1: Eine neue KI-Runtime
Künstliche Intelligenz wandert ins Frontend: Lokale Modelle im Browser bieten kontextnahe Unterstützung, offline und ohne Inferenzkosten.
Browser haben sich über die vergangenen Jahre stetig weiterentwickelt. Ursprünglich waren sie reine Anzeigewerkzeuge für HTML und Medien. Mit JavaScript, WebAssembly, WebGL und WebGPU wurden sie zu vollwertigen Anwendungsplattformen, die auch Bytecode ausführen und komplexe 3D-Grafik darstellen können.
Sebastian Springer weckt als Dozent für JavaScript, Sprecher auf zahlreichen Konferenzen und Autor die Begeisterung für professionelle Entwicklung mit JavaScript.
KI im Browser ist die nächste Evolutionsstufe und ermöglicht neue Interaktionsmuster für Weboberflächen wie natürlichsprachliche Eingaben und das Streaming von Ausgaben. Ein Teil der Aufgaben lässt sich von serverseitigen Modellen zum Client verlagern, wodurch sich ganz neue Interaktionsmuster und architektonische Möglichkeiten eröffnen. Es gibt dabei zwei Bestrebungen: Built-in AI, bei der der Browserhersteller das Modell selbst über standardisierte Schnittstellen zur Verfügung stellt, und Bring Your Own AI, bei der das Modell Bestandteil des Web-Frontends ist.
Lokale LLMs im Browser bringen entscheidende Vorteile mit sich, die serverseitige Modelle nicht leisten können:
Agentische KI bringt eine neue Dynamik in die Webentwicklung. Erfahre am 22. Oktober 2026 auf der Online-Konferenz enterJS Agentic, wie du mit Agentic AI moderne JavaScript-/TypeScript-Projekte entwickelst, wie du Kosten vs. Performance abwägst und wobei dir KI wirklich weiterhilft. Frühbuchertickets sind im Online-Ticketshop erhältlich.
LLMs im Browser spielen ihre Fähigkeiten in vielen unterschiedlichen Anwendungsfällen aus. Diese lassen sich in die folgenden Kategorien einteilen:
LLMs sind ressourcenintensiv. Ihre internen Strukturen wie die Gewichte brauchen Speicherplatz, hinzu kommt der Speicher für den Kontext. Je mehr RAM zur Verfügung steht und je schneller ein Modell auf diesen Speicher zugreifen kann, desto schneller und stabiler läuft die Inferenz. Es lassen sich größere Modelle verwenden, mehr Kontext nutzen und das Modell antwortet schneller. Allerdings reicht die Spannbreite der Endgeräte von einfachen Smartphones bis zu leistungsfähigen stationären Rechnern. Modelle müssen also auch mit Geräten geringer Leistung funktionieren. In der Regel liegt eine sinnvolle Obergrenze bei etwa 4 GByte. Damit lassen sich Modelle zwischen drei und 7 Milliarden Parametern verwenden.
Nicht nur die Ressourcen des Endgeräts, sondern auch die Übertragungsbandbreite limitiert die Modellgröße. Bei einer schwachen Mobilfunkverbindung kann der initiale Download eines größeren Modells mehrere Minuten dauern oder sogar fehlschlagen, was die nutzbare Modellgröße begrenzt.
Die Größenbeschränkung der Modelle hat eine direkte Auswirkung auf ihre Leistungsfähigkeit und ihren Feature-Umfang. Kleinere Modelle brauchen eine klarere Rahmensetzung als große Modelle, da sie eher zu Halluzinationen tendieren, und sie besitzen ein kleineres Kontextfenster. Die großen Frontier-Modelle verfügen über Kontextfenster mit einer bis zehn Millionen Token. Kleinere Modelle liegen typischerweise bei etwa 128.000 Token, beispielsweise Gemma 4 E4B. Beim lokalen Einsatz wird der Kontext sogar noch weiter reduziert, da er wertvollen Speicher belegt. Auch die Fähigkeiten der Modelle unterscheiden sich. Das Reasoning ist bei den kleineren Modellen deutlich eingeschränkt und nur wenige von ihnen können visuelle Eingaben analysieren.