Beiträge von Nietzsche

3 Container konnte ich schon wieder herstellen, leider sieht es bei Overleaf noch nicht so gut aus. Ich bekomme nach dem Hochfahren den Fehler:

Set UV_THREADPOOL_SIZE=16 {"name":"default","hostname":"695d80940379","pid":78,"level":50,"error":{"message":"connect ECONNREFUSED 127.0.0.1:27017","name":"MongooseServerSelectionError","stack":"MongooseServerSelectionError: connect ECONNREFUSED 127.0.0.1:27017\n at _handleConnectionErrors (/overleaf/node_modules/mongoose/lib/connection.js:1110:11)\n at NativeConnection.openUri (/overleaf/node_modules/mongoose/lib/connection.js:1041:11)","info":{}},"msg":"Failed to connect to MongoDB - cannot set up

Die Mongo DB läuft aber. Ich vermute, das Problem liegt darin, dass er sich auf den localhost verbindet, aber die interne mongo-db nutzen müsste. In den Settings hatte ich bereits:

mongo: {
 host: 'docker-overleaf-mongo-1',
 port: 27017,
 db: 'overleaf',
 replSet: 'rs0',
 auth: false
}

Oder alternativ:

mongo: {
 url: 'mongodb://docker-overleaf-mongo-1:27017/overleaf',
 replSet: 'rs0',
 auth: false
},

Aber beides klappt nicht? Mache ich was falsch? Hab danach sowohl overleaf neu gestartet via docker restart als auch overleaf über die yml neu gebaut?

Hallo,

versehentlich habe ich die Container in Docker Desktop gelöscht. Darunter Whisper, Open Web UI, Overleaf, paperless ngx usw. Wie kann ich das am besten wieder herstellen? Ich glaube bei Open Web UI hatte ich die Gespräche gesichert, bei Overleaf glaube ich auch die Paper. Sicherheitshalber dachte ich aber:

1.) Alle Volumen nochmal sichern.
2.) Schritt für Schritt die Container neu bauen?

Nur müsste ich ja auch herausfinden, wie ich wieder alles "zurück" baue? Bspw. bzgl. der Datenbanken, die ja (hoffentlich) noch in den Volumen liegen?

Hallo,

ich habe mich an die Anleitung gehalten: youtube.com/watch?v=bv47DR_A0hw&t=786s

Das hatte jetzt auch geklappt, da ist mir ein Fehler unterlaufen. Ich kann das NAS nun unter den Namen erreichen und per SSL zugreifen. Sobald ich aber einen Port dazu schreibe, z.B. NASX:8080 wird die Verbindung nicht mehr als sicher angesehen. Da ich Docker nutze und hier eine Verschlüsselung möchte, und ein Zertifikat, stellt sich die Frage, wie ich das bewerkstelligen sollte, am besten ohne was am Router umzustellen, da da nur begrenzte Zugriffsrechte vorhanden sind (vom Anbieter aus). Vielleicht über einen Webserver, der am NAS gehostet wird? Oder kann ich an der NAS einen DHC einrichten, damit ich die URL NAS:Port über eine fixe URL erreiche, auf die ich dann das Zertifikat ausstelle? Oder kann man auch für Port URLs Zertifikate anlegen?

MFG

Hallo,

ich habe eine QNAP NAS. Die NAS ist über eine IP Adresse des NAS lokal erreichbar und über dynDNS und Wireguard über das Internet. Jetzt wäre meine Frage, wie man die Zertifikate über OpenSSL anlegen muss, damit diese gültig sind. Ich hatte mir einmal nach einer Anleitung welche erstellt und sie in Windows hinzugefügt, bzw. im Firefox. Leider hatte es noch nicht geklappt. Kann da jemand weiterhelfen?

Danke.

LG

Ich bräuchte aber wie gesagt immer noch ein Hosting lokal. Am liebsten wäre mir bisher Deep Seek, da ich ein paar mathematische Sachen berechnen wollte. Ich denke zwar, dass dazu die LLMs nichts taugen, aber testen will ich es dennoch. Nur sind die Rechnungen zu sensible für Open AI.

Bisher konnte ich herausfinden, dass Deep Seek mit Ollama weniger Hardware braucht, sonst wäre das zu teuer:

"With tools like Ollama, part of the model can be stored in system RAM while the active layers are kept in GPU VRAM, shifting them dynamically as needed. This method works particularly well for Mixture of Experts (MoE) models like DeepSeek V3, which only activate a portion of their parameters at a time.

However, even with offloading, you still need a high-memory server, such as:

• 512GB of RAM and an NVIDIA L4 GPU (24GB VRAM)
• Hetzner’s 512GB RAM + RTX 6000 Ada 48GB VRAM setup ($1k/month)

Since the entire model doesn’t fit into VRAM, response speeds drop significantly due to constant memory swapping. In practical terms, this means performance is often limited to just a few tokens per second."

We tested DeepSeek. Here’s what you need to know

Some say DeepSeek R1 is a game-changer, others say it’s impractical. Both are right.

www.quickchat.ai

Zitat von martin

Wenn du es nicht selber hosten willst: Chatpad mit OpenAI-Key und Guthaben.

Ich will allerdings die Daten rein lokal gesichert haben,
so einer API an Open AI würde ich nicht ausreichend vertrauen.

Eventuell wäre es eine Option das über Vertex AI laufen zu lassen: https://medium.com/@development_5…ts-f5ebaa0f60a3

Zitat von Syntafin

Zu wenig Arbeitsspeicher.

Wieso nicht einfach Microsoft Azure oder Google Cloud? Die bieten diverse LLMs dort an.

Den gleichen Gedanken hatte ich auch. Ich müsste mal schauen welche LLM die anbieten, ich würde gerne mal Deep Seek testen, da das LLM ja recht gut bei den Tests abgeschnitten hatte.
Vielleicht wäre es am kostengünstigen einfach eine Cloud alleine zu mieten und dann das LLM selber zu installieren? Sofern das möglich ist von den Rechten her.

Hier hab ich mal einen Anbieter gefunden: https://contabo.com/de/vds/vds-m/?…ty=1&contract=1

Kosten sind beim Einstiegsmodell 50€. Das wäre vertretbar, aber dennoch währe mir eine Zahlung nach verbrauchten Volumen lieber. Zudem stellt sich die Frage, ob die Serverleistung für das LLM ausreichend ist:

CPU

4 physische Kerne

AMD EPYC 7282 2.8 GHz

RAM

32 GB RAM

Storage

240 GB NVMe

Mehr Speicherplatz verfügbar

Port

500 Mbit/s Port

Werde noch weiter suchen, bevor ich einen Anbieter teste.

Hallo,

hat sich mal jemand mit Alternativen zu Chat GPT in einer Cloud befasst? Am besten Bezahlung pro Nachricht.
Vermutlich ist Deep Seek aktuell die leistungsstärkste OS Alternative zu Chat GPT?
Gut wäre, wenn man nicht sonderlich viel konfigurieren müsste.

Zitat von aebian

Wenn du Linux nutzt kannst du mit nmap pruefen, welche Ports offen sind.
Bist du sicher, dass du Dual-Stack hast und nicht Dual-Stack Lite? Bei letzterem ist deine public IPv4 naemlich geroutet via CGNAT und kann deswegen nicht direkt genutzt werden um Dienste bei dir Zuhause zu erreichen.

Hallo, ich habe hier mal einen Test gemacht: wieistmeineip.at/ipv6-test/

Ergebnis;

Protokoll noch einige Jahre parallel weiter.

So wie ich das verstehe liegt hier vielleicht das Problem? Beim Router hab ich noch nichts gefunden um da was umzustellen.

Zitat von aebian

Ist Links die Config deines Clients welcher sich zur NAS verbinden soll?
Bei Peer hast du eine andere IP drinnen (links) als dein NAS als IP hat. Die Peer IP muss deine Server IP sein (wo der VPN laeuft) und auch der Public Key vom Server muss dort rein.

Hint: x-styler

Hallo,

ja, das links ist die Conifg des Peers. Den Key hatte ich schonmal erneuert, da stand beim Zeitpunkt des Bildes noch ein alter drinnen. Die IP ist meine normale IP des Routers, nicht die interne des NAS. Denke das müsste auch so sein, alternativ kann man die Zugangsdaten der Qnap Cloud nutzen, leider klappt aber auch das nicht. Ich hab es mal mit der NAS IP getestet innerhalb des WLANs, nur klappt es auch nicht.

Alternativ habe ich eine andere VPN getestet, die QBelt. Wenn ich hier bei den Hostnamen: NAS_XXXX in den Client eingebe, dann habe ich eine Signal zu dem NAS (er zeigt eine Verbindung an), wenn ich im lokalen WLAN bin. Wobei das Verbinden noch nicht klappt. Wenn ich dann die URL eingebe (das müsste normal klappen, nach Tutorial) dann ist die Verbindung weg, ebenso wenn ich meine IP eingebe (die WAN-IP).

Mal von dem Problem abgesehen, dass ich eine dynamische IP hab und die nun zum testen immer ändern muss (was ich natürlich noch umstellen muss), scheint generell der PORT nicht offen zu sein? Bei der Cloud bekomme ich jedenfalls keine Verbindung, obwohl ich den PORT freigeschallten hatte. Kann ich den Port eigentlich direkt anpingen um ihn zu testen?

MFG

Hier hab ich die IPs nochmal wie empfohlen geändert. Aber geht immer noch nicht.

Zitat von martin

Das musst du hier jetzt auch ändern, IP ist die IP deines NAS - die 198 ist wieder eine Cisco-IP.

Erstmal vielen Dank für deine Mühe! Zu den Punkten;

Die NAS IP lautet: 192.168.8.100

Hab mal versucht die 7 in eine 8 zu tauschen, danach gibt er mir aus, dass die IP bereits vergeben ist.

Die anderen Punkte habe ich geändert. Wenn ich nun im WLAN drinnen hänge und Wireguard aktiviere, dann kappt er mir das Internet, aber ich kann noch auf die NAS zugreifen. Das war - soweit ich mich erinnere - zuvor nicht so. Scheint also schon etwas besser geworden zu sein. Locke ich mich aber über eine andere IP ein (Handyinternet), klappt es leider noch nicht. Hab nun nochmal Bilder angefertigt.

Ich könnte ja mal die NAS aningen, wenn ich mich verbunden habe, würde mich aber wundern. Welche IP nehme ich da? Einfach meine normale IP die mein Internet hat ?

Zitat von martin

Die Adressen 198.18.7.2 und 198.18.7.1 die IP welches Gerätes?

Das war im Tutorial so eingestellt. Hab testhalber mal bei "erlaubte IPs" die IP des PCs (ipconfig WLAN Adapter) eingetragen, hat aber auch nicht geholfen.
Sollte da eine bestimmte IP rein?

Hallo,

ich habe eine QNAP NAS und wollte mir hier eine VPN einrichten, leider klappt es nicht. Weder Open VPN klappt, noch die QNAP VPN, noch Wire Guard. Am NAS ist die Firewall ausgeschalten, Port ist mit IP des PCs bzw. testhalber auch mit der der IP des NAS am Router aktiviert (was wäre eigentlich richtig), zudem habe ich mich an die Tutorials gehalten. Am PC hab ich auch den Antivirus ausgeschalten. Was könnte ich falsch gemacht haben? Anbei Bilder der Konfiguration.