heise+ | Sprachmodelle mit Open WebUI: LLM-Server für kleine Teams selbst hosten
Es gibt genug Gründe, mit selbstgehosteten LLMs unabhängiger zu werden. Mit diesen Open-Source-Werkzeugen wird aus einer Linux-Maschine mit GPU ein KI-Server.
Ähnliche Beiträge
Zurück zur Grundsicherung: Linnemann verteidigt Ende des Bürgergelds
Die kurze Ära des Bürgergelds geht zu Ende. Die Rückkehr zur Grundsicherung setzt die Empfänger unter größeren Druck, wieder Arbeit zu finden. CDU-Generalsekretär Linnemann sieht in der Reform von SPD-Ministerin Bas nur Vorteile.
Mikroorganismen sollen Rohstoffe aus Elektroschrott extrahieren
Jährlich fallen Millionen Tonnen von Elektroschrott an. Forscher haben ein biobasiertes Verfahren entwickelt, um Rohstoffe aus entsorgter Technik zu gewinnen.
heise-Angebot: Softwareentwicklung: Online-Konferenz zum Spannungsfeld zwischen KI und Security
Am 11. Mai zeigt eine Online-Konferenz, wie man sich gegen Angriffe auf KI-Anwendungen schützt und wie KI-Tools bei sicherer Softwareentwicklung helfen.
Termine für beides noch offen: Serbiens Präsident Vucic kündigt Rücktritt und Neuwahlen an
Nach einem tödlichen Unglück im Jahr 2024 gehen vor allem viele junge Serben gegen die aktuelle Regierung auf die Straße. Das tun sie noch immer. Nun regiert Präsident Vucic womöglich darauf und kündigt seinen Rücktritt und Neuwahlen an. Wann das passiert, ist völlig unklar.
Schnellere Nord-Süd-Achse: Österreich eröffnet 50 Kilometer langen Tunnel
Zwischen Graz und Klagenfurt geht eine neue Hochleistungsstrecke in Betrieb. Ihr Kernstück, der Koralmtunnel, ist der sechstlängste Eisenbahntunnel der Welt. Das Projekt schafft vollkommen neue Verkehrsmöglichkeiten zwischen Nord- und Südeuropa.
Nginx 1.30 ändert das Standard-Proxy-Verhalten
Nginx 1.30 ist da: ECH verschlüsselt den TLS-Handshake, Backends sprechen HTTP/2, und Multipath TCP nutzt mehrere Netzwerkpfade parallel.
