Qualcomm auf dem Mobile World Congress 2024
Qualcomm baut überall Künstliche Intelligenz ein
Der Technologieriese Qualcomm hat auf dem Mobile World Congress neue Hardware für 5G und WiFi 7 gezeigt, aber das dominierende Thema war natürlich Künstliche Intelligenz. Ganz wichtig: Der neue AI Hub als KI-Schnittstelle für Entwickler.
Beim neu vorgestellten Qualcomm AI Hub handelt es sich um eine Bibliothek von KI-Modellen, die von Entwicklern nahtlos auf Geräten implementiert werden können, die mit Snapdragon- beziehungsweise Qualcomm-Chipsets laufen. Die Bibliothek enthält 75 KI-Modelle wie zum Beispiel Whisper, ControlNet, ...
Beim neu vorgestellten Qualcomm AI Hub handelt es sich um eine Bibliothek von KI-Modellen, die von Entwicklern nahtlos auf Geräten implementiert werden können, die mit Snapdragon- beziehungsweise Qualcomm-Chipsets laufen. Die Bibliothek enthält 75 KI-Modelle wie zum Beispiel Whisper, ControlNet, Stable Diffusion und Baichuan 7B. Jedes Modell ist auf die effiziente on-device-Verarbeitung optimiert, wie Qualcomm betont, so werden etwa alle Kerne innerhalb der AI Engine (NPU, CPU und GPU) ausgereizt.
Die KI-Modellbibliothek kümmert sich automatisch um die Modellübersetzung vom Quellframework zu populären Laufzeitumgebungen und arbeitet direkt mit dem Qualcomm SDK zusammen. Die optimierten Modelle sind ab sofort im Qualcomm AI Hub, auf GitHub und auf der Plattform des US-Unternehmens Hugging Face verfügbar. Entwickler können sich bei Qualcomm anmelden, um die Modelle selbst auf cloud-gehosteten Geräten auf Basis von Qualcomm-Plattformen auszuführen und so einen sehr frühen Zugang zu neuen Funktionen und KI-Modellen zu erhalten.
On-Device-KI ist Qualcomms Steckenpferd
Für einen Chip-Entwickler und Smartphone-Ausrüster wie Qualcomm ist die KI-Berechnung direkt auf dem Smartphone und ohne Umweg über die Cloud ein zentrales Thema. Auf dem MWC hat man den Large Language and Vision Assistant (LLaVA) auf einem Android-Smartphone demonstriert, ein multimodales Modell mit mehr als 7 Milliarden Parametern (LMM), das verschiedene Dateneingabetypen akzeptieren kann, einschließlich Text und Bildern. Es kann mehrstufige Gespräche mit einem KI-Assistenten über ein Bild führen. LMMs mit Sprachverständnis und visuellem Verständnis ermöglichen viele Anwendungsfälle, wie die Identifizierung und Diskussion komplexer visueller Muster, Objekte und Szenen.
Bei der Low Rank Adaptation (LoRA), die Qualcomm ebenfalls erstmals auf einem Android-Smartphone demonstrierte, steht die Effizienz im Vordergrund. Die Technologie reduziert die Anzahl der trainierbaren Parameter von KI-Modellen und ermöglicht eine höhere Effizienz, Skalierbarkeit und Anpassungsfähigkeit. LoRA lässt sich laut Qualcomm auf verschiedene Sprachmodelle anpassen, um maßgeschneiderte persönliche Assistenten, verbesserte Sprachübersetzung und mehr zu erstellen
Snapdragon X80: 5G-Modem mit KI-Chip
Das X80 ist bereits die 7. Generation von Qualcomms 5G-Modem. Es ist das erste 5G-Modem weltweit mit vollständig integrierter NB-NTN-Satellitenkommunikationsunterstützung, mit einer 6-Antennen-Architektur für Smartphones und 6X-Carrier-Aggregation. Der KI-Chip wird genutzt, um Datenraten, Latenz, Dienstqualität (QoS), Abdeckung, Standortgenauigkeit, Spektrumeffizienz, Energieeffizienz und das Multi-Antennen-Management verbessern. Es wird erwartet, dass erste Geräte mit dem Snapdragon X80 in der zweiten Hälfte des Jahres 2024 auf den Markt kommen.
FastConnect 7900 WiFi Chip
Das neue WiFi-Modem 7900 wird ebenfalls von KI unterstützt. Es integriert Wi-Fi 7, Bluetooth und Ultra Wideband in einem Chip. KI wird benutzt, um Energieverbrauch, Netzwerklatenz und Durchsatz zu optimieren.
