Kit Module M5Stack LLM (modèle de langage large) (AX630C)

Module LLM Kit est un kit modulaire intelligent axé sur l'inférence IA hors ligne et les applications d'interface de communication de données. Il intègre les modules Module LLM et Module13.2 LLM Mate pour répondre aux exigences d'inférence IA hors ligne et d'interaction de données dans divers scénarios.

Module LLM est un module d'inférence intégré hors ligne de grand modèle de langage (LLM) conçu spécifiquement pour les appareils terminaux nécessitant une interaction efficace et intelligente. Que ce soit pour des applications de maison intelligente, des assistants vocaux ou le contrôle industriel, Module LLM offre une expérience IA fluide et naturelle sans dépendre du cloud, garantissant confidentialité, sécurité et stabilité.

Module13.2 Module LLM Mate offre une variété de fonctions d'interface pour faciliter l'intégration et l'expansion du système. Il réalise une alimentation empilée avec le Module LLM via l'interface M5BUS ; sa puce de conversion USB intégrée CH340N offre une fonctionnalité de débogage USB-série, tandis que l'interface Type-C est utilisée pour la sortie de journal USB. De plus, l'interface RJ45 fonctionne avec le transformateur réseau embarqué pour s'étendre à un port Ethernet 100 Mbps et un port série principal (supportant les applications SBC) ; l'interface FPC-8P se connecte directement au Module LLM, garantissant une communication série stable ; en outre, un pad de soudure HT3.96*9P est réservé pour l'expansion DIY.

Le module Module LLM intègre le framework StackFlow ainsi que les bibliothèques Arduino/UiFlow, permettant de mettre en œuvre l'intelligence en périphérie avec seulement quelques lignes de code. Propulsé par le processeur avancé AiXin AX630C SoC et doté d'un NPU haute efficacité délivrant 3,2 TOPS avec un support natif pour les modèles Transformer, il gère sans effort des tâches d'IA complexes. Équipé de 4 Go de mémoire LPDDR4 (1 Go pour les applications utilisateur et 3 Go dédiés à l'accélération matérielle) et de 32 Go de stockage eMMC, il prend en charge le chargement parallèle de plusieurs modèles et l'inférence en chaîne, garantissant un multitâche fluide. Avec une consommation électrique en fonctionnement d'environ 1,5 W seulement, il est bien plus économe en énergie que des produits similaires, ce qui le rend idéal pour une utilisation à long terme.

Le module LLM est compatible avec plusieurs modèles et est préinstallé avec le grand modèle de langage Qwen2.5-0.5B, comprenant des fonctions intégrées telles que KWS (mot d'activation), ASR (reconnaissance vocale), LLM (grand modèle de langage) et TTS (synthèse vocale). Il prend également en charge les mises à jour rapides des logiciels et des packages de modèles basées sur apt. En installant le plugin openai-api, il devient compatible avec l'API standard OpenAI, supportant le chat, la complétion de conversation, la conversion de la parole en texte et la synthèse vocale parmi divers modes d'application. Le dépôt officiel apt offre de nombreuses ressources de grands modèles — y compris deepseek-r1-distill-qwen-1.5b, InternVL2_5-1B-MPO, Llama-3.2-1B, Qwen2.5-0.5B et Qwen2.5-1.5B — ainsi que des modèles de synthèse vocale (whisper-tiny, whisper-base, melotts) et des modèles visuels (comme yolo11 et d'autres modèles SOTA). Le dépôt est continuellement mis à jour pour supporter les applications de modèles les plus avancées, répondant aux exigences des tâches complexes en IA.

Module LLM Kit est prêt à l'emploi, et lorsqu'il est associé à l'hôte M5, il offre une expérience interactive d'IA instantanée. Les utilisateurs peuvent l'intégrer facilement dans des appareils intelligents existants sans configuration compliquée, activant rapidement des fonctionnalités intelligentes et améliorant les performances de l'appareil. Ce produit est idéal pour les assistants vocaux hors ligne, la conversion texte-en-parole, le contrôle de la maison intelligente, les robots interactifs, et plus encore.

Caractéristiques

• Inférence hors ligne, 3,2 TOPS à précision INT8
• KWS intégré (mot d'activation), ASR (reconnaissance vocale), LLM (modèle de langage large), TTS (synthèse vocale)
• Traitement parallèle multi-modèles
• Stockage eMMC 32 Go intégré et mémoire LPDDR4 4 Go
• Microphone et haut-parleur intégrés
• Communication série
• Mise à jour du firmware de la carte SD
• Prend en charge le débogage ADB
• LED d'état RVB
• Système Ubuntu intégré
• Prend en charge la fonctionnalité OTG
  

Comprend

• 1 x Module LLM
• 1 x Module LLM Mate
• 2 x fils FPC-8P
  

Applications

• Assistants vocaux hors ligne
• Conversion texte en parole
• Contrôle de la maison intelligente
• Robots interactifs

Caractéristiques