Hallo Ihr Lieben,
ich habe vor ein paar Tagen meine Grafik Karte aktualisiert um die neuesten Sprachmodelle wie z.B. Llama 3 oder Mistral 7B über das Programm Ollama selbst im lokalen Netzwerk zu hosten.
Aktuell verwende ich dazu eine Ubuntu Instanz. Die Ports wurden in der Firewall von Ubuntu geöffnet, für Ollama den Port 11443 und für das Webinterface (Open-Webui) der Port 8080.
Innerhalb meines lokalen Netzwerkes kann ich von meinem Laptop aus auf das Webinteface (Open-Webui) zugreifen mit: http://192.168.178.23:8080
Nun möchte ich über DynDNs von außerhalb auf meinen PC (Ubuntu Instanz) zugreifen. Dazu habe ich einen Account bei dem DynDNS Anbieter wie z.B. selfhost.de erstellt.
Ich möchte nun wie folgt auf meinen lokalen PC von außerhalb auf meine Sprachmodelle zugreifen:
wie z.B. http://beispiel.selfhost.co:8080
Ich habe mir eine Fritzbox (FRITZ!Box 6490 Cable) gekauft die DynDNS untersützt. Wir verwenden aktuell den dummen standard Router von Vodafone (Schwarzer Kasten). Bei diesem ist der Bridgemodus aktiv. Die Fritzbox ist mit dem LAN-Anschluss-1 mit dem Vodafone Router verbunden. Die restlichen Geräte hängen an der Fritzbox.
Welche Einstellungen muss ich nun im Webinterface der Fritzbox tätigen, um von außerhalb auf meine Sprachmodelle zuzugreifen, d.h auf den HTTP Webserver er Ubuntu Instanz auf Port 8080 (Aktuelle IP 192.168.178.23)
Beste Grüße,
Lucas
