Qualcomm AI Hub: Optimierte Entwicklungsoptionen für On-Device-KI
27. November 2024 | Planegg
Der neue Qualcomm AI Hub revolutioniert die Entwicklung von KI auf Geräten!
Mit Stable Diffusion, Whisper und LLaVA (verfügbar auf Plattformen wie Hugging Face und GitHub) bietet der neue KI-Hub von Qualcomm eine große Auswahl an voroptimierten KI-Modellen, die speziell für die Entwicklung von On-Device-KI mit Snapdragon und Qualcomm-Plattformen entwickelt wurden.
Die verschiedenen Modelle bieten erweiterte Features wie Sprachverarbeitung, Text-zu-Bild-Verarbeitung und Objekterkennung. Sie ermöglichen eine verbesserte Entwickler- und Nutzererfahrung durch eine schnellere, sicherere und kosteneffizientere On-Device-KI-Entwicklung für z.B. Smartphones, PCs, IoT- und Automotive-Lösungen.
Die Hardware-Beschleunigung der KI-Engine durch NPU, CPU und GPU reduziert die Inferenzzeiten um den Faktor vier und ermöglicht so eine schnellere Verarbeitung der einzelnen Verarbeitungsschritte.
Qualcomm AI Hub unterstützt auch Large Language Models (LLMs), wie das multimodale LLaVA-Modell, das die lokale Verarbeitung von Text- und Bildeingaben für eine optimierte Leistung und erhöhten Datenschutz ermöglicht. Mit der Low Rank Adaptation Technologie (LoRA) gewährleistet AI Hub eine stabile Verbreitung auf Android und optimiert und vereinfacht so die Skalierung und Anpassung von maßgeschneiderten KI-Modellen für den Einsatz generativer KI in der Bildverarbeitung und Sprachmodellanpassung.
Atlantik Elektronik unterstützt Sie dabei, den Qualcomm AI Hub in Ihre Projekte zu integrieren und lokal optimierte, sichere und leistungsfähige KI-Lösungen für eine Vielzahl von Branchen zu entwickeln.
Erfahren Sie hier mehr über den Qualcomm AI Hub und die neuen KI-Optionen für Ihre Anwendungen!
