Zusammenfassung:
Am 20. November kündigte Tencent Hunyuan das offizielle Open-Source-Hy4-Modell an und veröffentlichte gleichzeitig die Hy4-Systemkarte, wobei die Sicherheitsbewertungsmethode, Testergebnisse und bekannten Risiken des Modells offengelegt wurden. Entwickler können derzeit relevante Modelle erhalten und diese über GitHub, Hugging Face, ModelScope und GitCode bereitstellen.

Öffentliche Informationen zeigen, dass Hy4 ein multimodales Modell ist, das eine hybride Expertenarchitektur verwendet, die das Verständnis von Text, Bildern und Videos unterstützt. Die Gesamtzahl der Parameter seines Sprachmodellkörpers beträgt 770 Milliarden, jeder Token aktiviert etwa 49 Milliarden Parameter und unterstützt ein Kontextfenster von bis zu 1 Million Token. Diese offene Version umfasst neben dem Standard-Anweisungsmodell auch das FP8-Quantisierungsmodell und das vorab trainierte Basismodell.
Die zusammen mit den Modellgewichten veröffentlichte Systemkarte wird hauptsächlich zur Erläuterung der Sicherheitsbewertung von Hy4 verwendet und bietet Entwicklern eine Referenz, um die Grenzen der Modellfähigkeiten und potenziellen Risiken zu verstehen. Tencent Hunyuan sagte, dass dieser Schritt seine Praxis fortsetzt, während des Modellfreigabeprozesses gleichzeitig Informationen zur Sicherheitsbewertung offenzulegen.
Mit der Eröffnung von Hy4 ist die Hy-Serie großer Sprachmodelle, die derzeit von Tencent Hunyuan veröffentlicht werden, Open Source, einschließlich Hy3-Vorschau, Hy3, Hy4-Vorschau, Hy4- und Hy4-Flash-Versionen. Unter ihnen hat Hy4 Flash zuvor Modellgewichte eröffnet und ist in Anwendungsszenarien positioniert, die eine hohe Inferenzeffizienz und Bereitstellungskosten erfordern.
Kommentare