Zusammenfassung:
In einem ruhigen Viertel in Bellevue, Washington, ist der Keller von Gary Flecks modernem Haus wie ein voll funktionsfähiger Freizeitraum für Männer eingerichtet: Zwischen dem Großbildschirm und dem Digitalprojektor steht ein bequemes Sofa, außerdem gibt es ein Spinning- und Rudergerät. Aber das eigentliche Highlight dieses Raumes ist ein speziell angefertigter Host, der wie ein riesiges zusammengebautes Modell aussieht, an dessen Regal sieben Nvidia-Hochleistungsgrafikkarten hängen.
Technikbegeisterte bauen zu Hause einen Hochleistungs-KI-Host zusammen, und was folgt, ist ein heikles Problem der Wärmeableitung
Flake arbeitete zuvor bei Microsoft und ist außerdem Gründer mehrerer Start-up-Unternehmen. Er baute die Maschine als Teil eines Startups, das er nicht mehr verfolgt, um benutzerdefinierte KI-Modelle zu trainieren, die auf Terabytes an Elektroenzephalogrammdaten basieren, die elektrische Signale im Gehirn aufzeichnen.
Um das KI-Modell zu trainieren, hätte er industrietaugliche GPU-Rechenleistung im Rechenzentrum von einem Cloud-Dienstleister mieten können. Aber er sagte, es sei viel kostengünstiger, es selbst mit reduzierten Komponenten zu installieren. Die Gesamtkosten für die gesamte Ausrüstung betragen weniger als 6.000 US-Dollar, was weitaus weniger ist als die Zahlung einer monatlichen Gebühr an Amazon Cloud oder Microsoft Cloud.
Selbst wenn man die Kosten für elektrische Modifikationen und ein neues HVAC-System (insgesamt 1–20.000 US-Dollar) zur Ableitung der Wärme im Keller und zum Ausgleich der enormen vom KI-Host erzeugten Wärme berücksichtigt, ist es immer noch kosteneffektiv, es selbst zu installieren. „Ich möchte die Rechenleistung in meinen eigenen Händen haben“, sagte Flake, der die Maschine in den kommenden Monaten wiederverwenden will, um neue Projekte zu starten. „Ich möchte nicht die Rechenleistung anderer Leute mieten.“
Das lokale Ausführen von KI-Workloads auf Dachböden, Kellern und Heimbüros ist in dieser Runde des KI-Trends zu einem unerwarteten Phänomen geworden. Große KI-Unternehmen trainieren und betreiben große Modelle in großen Remote-Rechenzentren mit Zehntausenden von GPUs, um den Bedarf an enormer Rechenleistung zu decken.
GPU-Ausrüstung bei Gary Fleck zu Hause
Gleichzeitig gibt es eine
Welle lokaler KI
entsteht. Viele kleine Entwickler und Hardware-Enthusiasten entscheiden sich aus Kosten-, Datenschutz- und Benutzerfreundlichkeitsgründen dafür, KI auf ihren Heimgeräten auszuführen. Einige Entwickler, die an das Konzept der Freiheit glauben, glauben, dass lokale KI zukünftige staatliche Beschränkungen umgehen und ihnen die Erlaubnis zur Nutzung von KI-Technologie entziehen kann. Lokale Agentenplattformen wie OpenClaw können native Anwendungen und lokale Dateien direkt aufrufen, um komplexe Aufgaben zu erledigen, was ebenfalls zu diesem Trend beigetragen hat.Manchmal sind Heim-KI-Geräte einfach coole Heimfunktionen. Letzten Monat ging Shopify-CEO Toby Lütke auf sozialen Plattformen viral, nachdem er in seinem Haus drei Sätze vertikaler Serverschränke zur Schau gestellt hatte. Die Schränke waren mit rosafarbenen LED-Lichtleisten umwickelt. Zur Ausstattung gehört ein Dell-Host, der mit der High-End-Grafikkarte von Nvidia ausgestattet ist, die der Hersteller als „ultimativen Desktop-Supercomputer“ bezeichnet. Auch das Problem der Gerätewärmeableitung löste Lüdtke geschickt.
Der Aufstieg von Heim-KI-Konsolen ist ein unerwarteter Vorteil für Hardwarehersteller. Mac mini und Mac Studio erfreuen sich bei Smartphone-Entwicklern großer Beliebtheit und die Verkaufszahlen steigen; Dell sagte außerdem, dass der Markt für Heim-KI-Enthusiasten ein explosionsartiges Wachstum erfährt.
Mark Hammons, leitender Ingenieur bei Dell, sagte: „Das ist der Trend der Zeit. Nach der Einführung von OpenClaw in diesem Jahr ist die Nachfrage nach entsprechender Hardware sprunghaft angestiegen.“
Hochleistungs-Hosts zu Hause zu platzieren ist nichts Neues, und „Homelab“-Enthusiasten-Communities sind auf Plattformen wie Discord und Reddit bereits floriert. Zu Beginn des 21. Jahrhunderts bauten Audiophile zu Hause Server, montierten riesige Festplatten und speicherten heruntergeladene MP3-Musik und -Videos. Später trieb der Boom beim Kryptowährungs-Mining die Nachfrage nach Hochleistungs-GPUs für den Heimgebrauch in die Höhe.
Hitten Shah war damals ein Kryptowährungsspieler. Im Jahr 2020 installierte er acht GPUs im heimischen Server-Rack, um Ethereum zu schürfen. Heute hat sich Shah, CEO des Software-Startups Crazy Egg, der KI-Entwicklung zugewandt und die Rechenleistungsbewaffnung in seinem Haus in Redwood Shores, Kalifornien, erheblich auf insgesamt 18 Geräte erweitert, darunter 14 Mac minis und Mac Studio.
Shah sagte, dass er mit der lokalen Rechenleistung die Leistung der von ihm entwickelten Website-Optimierungssoftware steuern könne. Bei großen Cloud-Modellen ist es normal, dass es häufig zu Ausfallzeiten und Verzögerungen kommt. „Immer wenn ein großes Modell in der Cloud aktualisiert wird, ist das System mehrere Tage lang instabil und es kommt häufig zu Ausfällen.“
Der Preis ist jedoch, dass der Wohnkomfort stark reduziert wird. Die gesamte Computerausrüstung ist in seinem Heimbüro untergebracht, und die von den Maschinen abgegebene Wärme führt oft dazu, dass die Innentemperatur auf 85 Grad Fahrenheit (etwa 29,4 Grad Celsius) ansteigt. Er kann sich oft nur in kurzen Hosen im Zimmer aufhalten. „Ich sollte eine Klimaanlage einbauen“, sagte Shah.
Viele lokale KI-Enthusiasten sind zu Internet-Prominenten der Branche geworden. Ein in Austin ansässiger YouTuber, der um Anonymität bittet und nur den Kanalnamen Digital Spaceport verwendet. Er baute in seiner Garage ein sogenanntes „Heimrechenzentrum“. Zur Hardware gehören fünf AMD-Grafikkarten sowie eine Vielzahl an Netzwerk- und Speichergeräten. Derzeit betreibt er auf diesem Rechner das große inländische Open-Source-Modell Tongyi Qianwen Qwen-3.8-27B, um seine eigenen YouTube-Videos zu bearbeiten und zu analysieren.
Ein weiterer polnischer Technologieberater und YouTuber, ebenfalls anonym, verwendet die Kanal-ID 0xSero. Da er immer mehr Hardware kaufte, musste er den KI-Host in seinem Zuhause verschieben. Ursprünglich standen in seinem Heimbüro vier NVIDIA 6000-Grafikkarten, aber sie machten viel Lärm, erzeugten extrem hohe Hitze und trockneten die Luft im Raum aus. Er glaubte, dass dies die Ursache seiner Krankheit im letzten Jahr sei. Also wurde das ganze Set auf den Dachboden verlegt.
0xSero war der erste, der Cloud-KI-Modelle verwendete. Ende 2024 kam der Wendepunkt: Der Preis des KI-Programmiertools Cursor stieg. „In diesem Moment habe ich beschlossen, lokale KI zu entwickeln.“
Er besteht auf einem Standpunkt: Das Eigentum und die Kontrolle über KI-Systeme sollten in den Händen der Benutzer liegen. In Zukunft kann es zu staatlichen Kontrollen und Einschränkungen der KI-Zugriffsrechte kommen. „Ich liebe KI wirklich und möchte weiterhin das Recht haben, sie zu nutzen.“
Kommentare