// HEISE ONLINE — INTELLIGENZA ARTIFICIALE
heise+ | AnythingLLM: Eigene Dokumente mit KI lokal auswerten
AnythingLLM liest Dokumente ein und gibt mit einem KI-Chat Antworten dazu. Dabei bleiben Daten und LLM lokal und so vollständig unter Ihrer Kontrolle.
Auf dem PC gibts oft Ordner, die man gar nicht mehr öffnen möchte: Da finden sich Dutzende Rechnungen, Handbücher oder ein Haufen Excel-Tabellen – alles über mehrere Jahre gesammelt, reingeworfen und so gar nicht strukturiert. Wer da eine Information sucht, benötigt viel Geduld. Oder man fragt in einem Chatfenster einfach: „Wie hoch war mein Stromverbrauch im letzten Quartal, und wie viel muss ich im Januar nachzahlen?“ Das geht mit AnythingLLM.
Die Firma hinter AnythingLLM heißt Mintplex Labs und ist ein kleines amerikanisches Unternehmen. AnythingLLM selbst ist kein Large Language Model (LLM), sondern fungiert als Brücke: Es lädt Dateien und Dokumente in Workspaces, wandelt sie in Vektoren um und zieht dann ein separates LLM für Antworten auf Prompts heran. Die Antworten basieren dann dokumentenübergreifend auf dem Inhalt der angegebenen Quellen.
In diesem Artikel zeigen wir, wie Sie AnythingLLM zusammen mit dem lokalen Open-Source-Werkzeug Ollama und einem leistungsstarken KI-Modell wie Gemma auf Ihrem Rechner einrichten. Dabei erklären wir Schritt für Schritt, wie Sie Dokumente lokal auswerten. Durch den Einsatz von Agenten sowie spezifischen Optimierungen können Sie das System zusätzlich an Ihre Bedürfnisse anpassen.
Apples Erinnerungen-App wirkt auf den ersten Blick wie eine spartanische To-do-Liste, ist tatsächlich aber ein mächtiges Planungswerkzeug.
Wenig- oder Vielfahrer, kleine oder große Batterie: Ob und wann sich der ID. Polo gegenüber Raval, Polo und Ibiza rechnet, zeigt unser Kostenvergleich.
Selbst gehostete Dienste lassen sich dank DNS-01-Challenge mit Let's-Encrypt-Zertifikaten absichern, ohne aus dem Internet erreichbar sein zu müssen.
Im Überraschungshit werden Büroräume, Flure und andere Zweckarchitektur zum Albtraum. Wie gut funktioniert das auf UHD, Blu-ray und im Stream?
Das nächste große Firmware-Update für Fritzboxen ist erschienen, unter anderem mit einer Adblock-Funktion. Wir haben es ausprobiert und geben Einrichtungstipps.
Onleihe 3 bringt digitale Medien der heimischen Bücherei aufs iPhone und iPad. Wir haben uns die App im Detail angesehen.