TurboQuant: Google will den Speicherhunger großer LLMs bändigen
Googles TurboQuant drückt den KV-Cache großer Sprachmodelle auf 3 Bit. Die Genauigkeit soll bleiben, die Geschwindigkeit sich vervielfachen.
Ähnliche Beiträge
Freitag: Hondas Kurswechsel bei Elektroautos, Google Maps bald mit Gemini-KI
Abkündigung geplanter E-Autos + Maps-Suche und -Navigation per KI + Atlassian-Entlassungen wegen KI + FPGA-Modul aus Deutschland + Datenschutz der EUDI-Wallet
Project Helix spielt PC-Spiele: Microsofts Hochrisiko-Xbox
Der PC ist die beste Spieleplattform. Dass die nächste Xbox offenbar ein PC wird, ist eine gute Nachricht – für Spieler. Microsoft geht ein großes Risiko ein.
Sollen Umsturz geplant haben: Prozess gegen „Sächsische Separatisten“ hat begonnen
Bekannt wurde die Existenz der Gruppe „Sächsische Separatisten“ erst 2024, als sie bei einer Razzia zerschlagen wurde, nach einem Hinweis des FBI aus den USA. Nun wird in Dresden gegen acht mutmaßliche Mitglieder der militanten Rechtsextremen verhandelt.
Repressalien gegen Athleten?: Ukrainisches Team erhebt bei Paralympics schwere Vorwürfe
Der Streit um die Teilnahme von Russen und Belarussen bei den Paralympics geht weiter: Das ukrainische Team macht dem Internationalen Paralympischen Komitee schwere Vorwürfe. Eigene Sportler und deren Familien würden unter Druck gesetzt. Das IPC reagiert überrascht.
Strategische Reserve: EU drängt zum frühen Füllstart der Gasspeicher
Angesichts der Instabilität im Nahen Osten drängt die EU-Kommission auf koordinierte Vorsorge beim Gasnachschub. In Deutschland stehen erste Speicher vorm Aus.
US-Firma plant Rechenzentrum in NRW für vier Milliarden Euro
Der Datenbedarf steigt weiter, Cloud-Dienste und KI-Anwendungen werden immer wichtiger. Um sie bewältigen zu können, soll in NRW ein großer Standort entstehen.
