Zum Hauptinhalt springen

Ollama Smart-Home-Integration, kostenlos und Open Source

Ollama-Integration für Gladys Assistant

Frag deine lokalen Ollama-Modelle aus einer Szene und behalte den Server im Blick.

Auf GitHub ansehenAlle Integrationen

Ollama führt Sprachmodelle (Llama, Mistral, Qwen, Gemma…) auf deinem eigenen Rechner aus. Mit dieser Integration können deine Gladys-Szenen ihnen Fragen stellen, mit den Informationen der Szene in der Frage, und die Antwort in den nächsten Aktionen verwenden: als Nachricht senden, vorlesen lassen, in einer Bedingung prüfen. Alles bleibt in deinem Netzwerk: kein Konto, keine Cloud.

Die Integration überwacht auch den Server: online oder nicht, installierte Modelle, Modelle im Speicher und belegter Speicher, mit einem Dashboard-Widget und zwei Szenen-Auslösern.

Gladys hat bereits einen KI-Assistenten über Gladys Plus (OpenAI). Diese Integration ist sein lokales Gegenstück: kostenlos, privat und so schnell wie deine Hardware.

Voraussetzungen​

  • Gladys 5.1 oder neuer.
  • Ein Ollama-Server in deinem Netzwerk mit mindestens einem Modell (zum Beispiel ollama pull llama3.2). Ein kleines Modell (1 bis 3 Milliarden Parameter) antwortet auf einem aktuellen Prozessor in wenigen Sekunden; eine Grafikkarte macht größere Modelle nutzbar.
  • Läuft Ollama auf einem anderen Rechner als Gladys, muss es das Netzwerk annehmen: Starte es mit OLLAMA_HOST=0.0.0.0 (siehe die Ollama-FAQ). Ollama hat kein Passwort: Halte Port 11434 innerhalb deines Netzwerks.

Einrichtung​

  1. Öffne in Gladys Integrationen, suche Ollama und installiere es.
  2. Fülle unter Konfiguration aus:
    • Adresse: die IP-Adresse oder der Name des Servers, z. B. 192.168.1.20 (Port 11434 wird ergänzt), 192.168.1.20:8080 oder die vollständige URL eines Reverse-Proxys (https://ai.example.org);
    • API-Schlüssel (optional): nur für einen Reverse-Proxy, der ein Bearer-Token verlangt;
    • Standardmodell: das Modell, das verwendet wird, wenn eine Szenen-Aktion keins nennt, z. B. llama3.2;
    • Längste Wartezeit auf eine Antwort: 30 bis 110 Sekunden (standardmäßig 60);
    • Modell im Speicher halten: wie lange Ollama das Modell nach einer Frage oder einem Laden behält. Länger: schnellere Antworten, aber der Speicher bleibt belegt;
    • Aktualisierungsintervall: wie oft der Zustand des Servers gelesen wird (standardmäßig eine Minute);
    • Sprache der Funktionsnamen: die Namen der Funktionen und die Texte der Szenen-Ereignisse und Fehler.
  3. Speichere und drücke dann Verbindung testen: Es zeigt die Version von Ollama und die installierten Modelle mit ihren genauen Namen.
  4. Füge im Tab Erkennung das Gerät Ollama zu Gladys hinzu.

Das Ollama-Gerät​

FunktionBedeutung
Online1, wenn der Server antwortet, 0 nach zwei fehlgeschlagenen Abfragen
Installierte ModelleAnzahl der Modelle auf dem Server
Modelle im SpeicherAnzahl der geladenen Modelle, bereit zu antworten
Belegter SpeicherSpeicher, den die geladenen Modelle belegen, in Megabyte

Dashboard​

Das Widget Ollama zeigt den Server (online, Version), die Anzahl der installierten Modelle, die Modelle im Speicher mit ihrer Größe und den Minuten, bevor Ollama sie entlädt, und den belegten Speicher. Zwei Tasten:

  • Modell laden: lädt das Standardmodell in den Speicher, damit die nächste Frage schnell beantwortet wird (ein Häkchen, wenn es schon geladen ist);
  • Speicher freigeben: entlädt alle Modelle im Speicher.

Szenen​

Auslöser​

  • Ollama ist offline: Der Server antwortet nicht mehr (zwei fehlgeschlagene Abfragen in Folge, im Abstand von 15 Sekunden). Variable: der Grund.
  • Ollama ist wieder online: Der Server antwortet wieder. Variable: die Dauer des Ausfalls in Minuten.

Aktionen​

  • Ollama fragen: stellt einem Modell eine Frage.

    • Frage: Tippe {{, um Informationen der Szene einzufügen, z. B. die Temperatur eines Sensors oder einen Wert des Auslösers;
    • Modell: leer für das Standardmodell;
    • Anweisung: wie das Modell antworten soll, z. B. „Antworte in einem kurzen Satz auf Deutsch.“;
    • Kreativität: die Einstellung des Modells oder von präzise (0) bis sehr kreativ (1,2);
    • Längste Antwort: in Zeichen (standardmäßig 1000, höchstens 10.000). Eine längere Antwort wird am Ende eines Satzes (oder Wortes) gekürzt und mit … markiert.

    Die Ergebnisse stehen den folgenden Aktionen zur Verfügung: Antwort, Verwendetes Modell, Antwortzeit (Sekunden) und Antwort gekürzt (ja/nein). Tippe in einer Aktion Nachricht senden {{ und wähle Antwort. Schlägt die Frage fehl (Server offline, Modell nicht installiert, zu lang), ist die Antwort leer und die Szene läuft weiter.

  • Ollama-Modell laden: lädt ein Modell vorab in den Speicher (leer: das Standardmodell). Ergebnis: das geladene Modell.

  • Ollama-Modell entladen: gibt den Speicher eines Modells frei (leer: alle Modelle im Speicher). Ergebnis: die Anzahl der entladenen Modelle.

Ideen für Szenen​

  • Morgen-Briefing: Um 7:00 Uhr Ollama fragen „Fasse den Tag in zwei freundlichen Sätzen zusammen: Außentemperatur {{…}}, Wetter {{…}}.“ und die Antwort an dein Handy senden.
  • Lesbarer Alarm: Wenn die Steckdose der Waschmaschine unter 5 W fällt, frage „Schreibe eine kurze, lustige Nachricht, dass die Wäsche fertig ist.“ und verwende Auf einem Lautsprecher sprechen mit der Antwort.
  • Speicher nachts freigeben: Um 1:00 Uhr Ollama-Modell entladen mit leerem Modell, damit der Server für seine anderen Aufgaben frei ist.
  • Server überwachen: Bei Ollama ist offline schickst du dir eine Nachricht mit dem Grund.

Fehlerbehebung​

  • „Ollama antwortet nicht“: Prüfe Adresse und Port (11434), ob der Server läuft und ob er im Netzwerk lauscht (OLLAMA_HOST=0.0.0.0). Mit Docker muss der Port veröffentlicht sein.
  • „Modell nicht installiert“: Der Name muss genau der sein, den Verbindung testen auflistet (ollama list auf dem Server). Installiere es mit ollama pull <Name>.
  • „Ollama hat zu lange für die Antwort gebraucht“: Die erste Frage nach einer Weile lädt das Modell von der Festplatte. Verwende vorab Ollama-Modell laden, halte das Modell länger im Speicher, erhöhe die längste Wartezeit oder wähle ein kleineres Modell.
  • „Zugriff verweigert“: Der Reverse-Proxy hat den API-Schlüssel abgelehnt.
  • Probleme und Ideen: GitHub-Issues.

Grenzen​

  • Eine Frage, eine Antwort: Die Aktion behält keinen Gesprächsverlauf zwischen zwei Ausführungen.
  • Nur Text: kein Bild in der Frage, keine Tool-Aufrufe.
  • Gladys wartet höchstens zwei Minuten auf eine Aktion: Sehr große Modelle auf einem reinen Prozessor passen eventuell nicht hinein. Die Antwort ist auf 10.000 Zeichen begrenzt.
  • Reasoning-Modelle (DeepSeek-R1, Qwen3…) werden gebeten, ohne ihre Überlegungen zu antworten; bleibt etwas davon übrig, wird es aus der Antwort entfernt.
  • Fragen und Antworten landen nie in den Protokollen der Integration.
  • Getestet mit einem echten Ollama-0.40-Server und kleinen Modellen (qwen2.5 0.5B, SmolLM2 135M).
  • Nicht mit Ollama verbunden.

Konfigurationseinstellungen​

Diese Einstellungen fragt Ollama in seinem Konfigurationsbildschirm in Gladys ab.

EinstellungTypPflichtfeldBeschreibung
Dein Ollama-ServersectionNeinOllama lauscht auf Port 11434. Läuft es auf einem anderen Rechner als Gladys, starte es mit OLLAMA_HOST=0.0.0.0, damit es das Netzwerk annimmt.
AdressestringJaIP-Adresse oder Name des Servers (standardmäßig Port 11434) oder die vollständige URL eines Reverse-Proxys.
API-Schlüssel (optional)secretNeinNur für einen Reverse-Proxy, der ein Bearer-Token verlangt: Ollama selbst hat kein Passwort.
StandardmodellstringNeinWird verwendet, wenn eine Szenen-Aktion kein Modell nennt. „Verbindung testen“ listet die installierten Modelle.
Längste Wartezeit auf eine AntwortselectNeinEin großes Modell auf einem Prozessor ohne Grafikkarte kann eine Minute oder länger brauchen.
Modell im Speicher haltenselectNeinNach einer Frage oder einem Laden. Länger: schnellere Antworten, aber der Speicher bleibt belegt.
AktualisierungsintervallselectNeinWie oft der Zustand des Servers gelesen wird.
Sprache der FunktionsnamenselectNeinNamen der Funktionen beim Hinzufügen des Geräts und Texte der Szenen-Ereignisse und Fehler.

So installierst du Ollama in Gladys​

  1. Öffne in Gladys Integrationen: Ollama erscheint im Katalog neben den nativen Integrationen, mit einem Community-Badge.
  2. Klicke auf Installieren. Gladys lädt das Docker-Image (ghcr.io/guim31/gladys-ollama:1.0.1) herunter, startet es in einer vom Kern isolierten Sandbox und erzeugt die Oberfläche der Integration (Geräte, Erkennung und Konfiguration).
  3. Öffne den Bildschirm Konfiguration der Integration, fülle die Einstellungen aus und speichere.
  4. Du kannst sie auch direkt über die URL ihres Repositorys installieren: https://github.com/guim31/gladys-ollama.

Ollama benötigt Gladys >=5.1.0. Der Katalog in Gladys wird stündlich aktualisiert, eine neue Version ist also spätestens eine Stunde nach ihrer Veröffentlichung verfügbar.

Du nutzt Gladys noch nicht? Es ist kostenlos und Open Source: folge der Installationsanleitung, um loszulegen.

Über externe Integrationen​

Ollama ist eine externe Integration: eine Community-Integration, die als Docker-Container verpackt und auf GitHub veröffentlicht wird. Gladys installiert sie mit einem Klick und führt sie in einer vom Kern isolierten Sandbox aus. Sie wird von guim31 veröffentlicht und gepflegt, nicht vom Gladys-Kernteam.

Abonniere den Newsletter von Gladys Assistant

Ein paar E-Mails im Monat zu neuen Releases und Neuigkeiten aus dem Projekt. Verschickt von Pierre-Gilles Leymarie, dem Gründer des Projekts. Jederzeit abbestellbar 🙂
Zuletzt aktualisiert am