heise+ | AirLLM: Große KI-Modelle auf schwachen Grafikkarten starten
Mit dem GitHub-Repository AirLLM können Sie gewaltige KI-Modelle lokal auf wenigen GByte VRAM laufen lassen. Doch die Sache hat einen großen Haken.
Ähnliche Beiträge
Kampf gegen teure Mogelpackungen: SPD will heimische Nahrungsmittel in „Deutschland-Korb“ günstig anbieten
Die SPD-Fraktion will in Deutschland produzierte Grundnahrungsmittel stärken. Bestimmte Waren sollten von Supermärkten besonders günstig angeboten werden. Das SPD-Papier fordert gegen hohe Lebensmittelpreise zudem eine schärfere Preisbeobachtungsstelle.
Andere Teile abgewiesen: AfD-Klage gegen Thüringens Verfassungsschutzchef in einem Punkt erfolgreich
Die AfD stört sich an mehreren Aussagen von Stephan Kramer, dem Chef des Verfassungsschutzes in Thüringen. Die Partei klagt vor Gericht und ist damit teilweise erfolgreich. Eine Äußerung hätte der 57-Jährige demnach so nicht tätigen dürfen.
Im EU-Parlament: Google wird als Standard-Suchmaschine durch Qwant ersetzt
Zahlreiche EU-Abgeordnete haben mehr digitale Souveränität in ihrem Haus gefordert. Nun soll in einem ersten Schritt die Standard-Suchmaschine geändert werden.
Der Kanzler war dabei: Charlotte Merz verletzt sich bei Fahrradsturz
Am Wochenende gönnt sich Bundeskanzler Friedrich Merz eine Pause von der Politik bei einer Fahrradtour mit seiner Frau. Doch auch diese Auszeit bringt nicht wirklich Entspannung – Charlotte Merz muss nach einem Sturz im Krankenhaus behandelt werden.
Gouverneur in Kalifornien: Folgt auf Newsom ein Republikaner?
Gouverneur Newsom will wohl ins Weiße Haus – doch wer tritt seine Nachfolge in Kalifornien an? Das Rennen ist in vollem Gange. Ausgerechnet den Demokraten droht dort jetzt eine Enttäuschung. Von Reinhard Spiegelhauer.[mehr]
Anthropic vs. Pentagon: Etappensieg für US-Regierung vor Berufungsgericht
Der Streit über die Einstufung von Anthropic als „Lieferkettenrisiko“ wird jetzt vor Gerichten ausgetragen. Nun hat die KI-Firma dabei eine Niederlage erlitten.
