Die Raspberry Pi Foundation hat ein neues KI-Erweiterungsboard, AI HAT+ 2, herausgebracht, das die Möglichkeit bietet, generative KI-Modelle lokal auf dem Raspberry Pi 5 auszuführen, wobei der Schwerpunkt auf der Erledigung von Aufgaben wie Text und multimodalem Denken auf Edge-Geräten liegt. Dieses 130-Dollar-Erweiterungsboard wurde auf Basis der Vorgängergeneration vollständig aufgerüstet. Es verfügt über einen integrierten 8-GB-Speicher und ist mit dem Hailo 10H-Chip ausgestattet, der angeblich eine KI-Rechenleistung von 40 TOPS bietet.
Durch die Verbindung mit dem Raspberry Pi 5 „lädt“ der AI HAT+ 2 den Großteil der AI-bezogenen Inferenzlast von der Arm-CPU des Mainboards ab und wird unabhängig von der Erweiterungsplatine erledigt, sodass der Host stärker für andere Rechenaufgaben genutzt werden kann. Anders als der vorherige AI HAT+, der sich mehr auf die Bildverarbeitung konzentrierte, kann die neue Produktgeneration aufgrund des zusätzlichen integrierten Speichers kleinere generative KI-Modelle wie Llama 3.2, DeepSeek-R1-Distill und mehrere Modelle der Qwen-Serie direkt lokal ausführen und unterstützt das Training und die Feinabstimmung von Modellen auf der Geräteseite.
Zu den von Raspberry Pi gezeigten Demonstrationsfällen gehören: Die Verwendung des AI HAT+ 2-Treibermodells zur Generierung von Textbeschreibungen von Kamerabildern und zur Beantwortung von Fragen, z. B. ob sich Personen auf den Bildern befinden, was sein Anwendungspotenzial beim Szenenverständnis widerspiegelt. Eine weitere Demonstration zeigt die Verwendung des Qwen2-Modells zur Textübersetzung vom Französischen ins Englische und unterstreicht seine Fähigkeiten bei der lokalen Mehrsprachenverarbeitung.
Den Tests Dritter zufolge ist die Positionierung dieser Erweiterungsplatine in Bezug auf Leistung und Kosteneffizienz jedoch nicht unumstritten. Die tatsächlichen Messergebnisse des Technologie-Bloggers Jeff Geerling zeigen, dass bei einer Vielzahl unterstützter Modelle die Gesamtleistung eines unabhängigen Raspberry Pi 5 mit 8 GB Speicher häufig besser ist als die einer Kombination, die an AI HAT+ 2 angeschlossen ist. Er führt diesen Unterschied auf Einschränkungen beim Stromverbrauch zurück: Das Pi 5-Gehäuse kann mit einer maximalen Leistung von etwa 10 Watt betrieben werden, während der AI HAT+ 2 auf einen Stromverbrauchsbereich von etwa 3 Watt beschränkt ist.
In Bezug auf die tatsächliche Auswahl wies Geerling darauf hin, dass die zusätzlichen 8 GB Speicher, die AI HAT+ 2 bietet, nicht ausreichen, um das Gesamterlebnis des direkten Kaufs der High-End-Version von Pi 5 mit 16 GB Speicher zu übertreffen. Letzteres bietet möglicherweise größere Vorteile in Bezug auf Flexibilität und Modelllaufgeschwindigkeit, sodass AI HAT+ 2 eher als dedizierte Lösung für bestimmte Szenarien als als universeller Upgrade-Pfad für alle Benutzer geeignet ist.