heise+ | AirLLM: Große KI-Modelle auf schwachen Grafikkarten starten

T2Covered by 1 source · first reported by Europe/UK: Tech.eu / Sifted / TNW / Silicon Republic / UKTN / Computer Weekly / heise / Golem / t3n / Maddyness / FrenchWeb at 06 Oct, 16:40 UTC

Mit dem GitHub-Repository AirLLM können Sie gewaltige KI-Modelle lokal auf wenigen GByte VRAM laufen lassen. Doch die Sache hat einen großen Haken.

dev

Sources

• T2heise+ | AirLLM: Große KI-Modelle auf schwachen Grafikkarten startenEurope/UK: Tech.eu / Sifted / TNW / Silicon Republic / UKTN / Computer Weekly / heise / Golem / t3n / Maddyness / FrenchWeb06 Oct, 16:40