Kit Modulo M5Stack LLM (large language model) (AX630C)

Kit modulo LLM è un kit modulare intelligente focalizzato su applicazioni di inferenza AI offline e di interfaccia di comunicazione dati. Integra i moduli Module LLM e Module 13.2 LLM Mate per soddisfare i requisiti di inferenza AI offline e interazione dati in diversi scenari.

Module LLM è un modulo integrato di inferenza offline per modelli linguistici di grandi dimensioni (LLM) progettato specificamente per dispositivi terminali che richiedono un'interazione efficiente e intelligente. Sia per applicazioni di domotica, assistenti vocali o controllo industriale, Module LLM offre un'esperienza AI fluida e naturale senza dipendere dal cloud, garantendo privacy, sicurezza e stabilità.

Modulo13.2 Modulo LLM Mate fornisce una varietà di funzioni di interfaccia per facilitare l'integrazione e l'espansione del sistema. Realizza l'alimentazione impilata con il Modulo LLM tramite l'interfaccia M5BUS; il suo chip di conversione USB integrato CH340N offre funzionalità di debug USB-seriale, mentre l'interfaccia Type-C è utilizzata per l'output del log USB. Inoltre, l'interfaccia RJ45 funziona con il trasformatore di rete a bordo per estendersi a una porta Ethernet da 100 Mbps e una porta seriale core (supportando applicazioni SBC); l'interfaccia FPC-8P si collega direttamente al Modulo LLM, garantendo una comunicazione seriale stabile; inoltre, è riservata una saldatura HT3.96*9P per l'espansione fai-da-te.

Il modulo Module LLM integra il framework StackFlow insieme alle librerie Arduino/UiFlow, permettendo di implementare l'intelligenza edge con poche righe di codice. Alimentato dal processore avanzato AiXin AX630C SoC e dotato di una NPU ad alta efficienza che eroga 3,2 TOPS con supporto nativo per modelli Transformer, gestisce senza sforzo compiti AI complessi. Equipaggiato con 4GB di memoria LPDDR4 (1GB per applicazioni utente e 3GB dedicati all'accelerazione hardware) e 32GB di storage eMMC, supporta il caricamento parallelo di modelli multipli e inferenze concatenate, garantendo un multitasking fluido. Con un consumo energetico operativo di circa 1,5W, è molto più efficiente dal punto di vista energetico rispetto a prodotti simili, rendendolo ideale per operazioni a lungo termine.

Il modulo LLM è compatibile con più modelli e viene fornito preinstallato con il modello di linguaggio ampio Qwen2.5-0.5B, che include funzioni integrate come KWS (wake word), ASR (riconoscimento vocale), LLM (modello di linguaggio ampio) e TTS (text-to-speech). Supporta inoltre aggiornamenti rapidi basati su apt per pacchetti software e modelli. Installando il plugin openai-api, diventa compatibile con l'API standard OpenAI, supportando chat, completamento di conversazioni, speech-to-text e text-to-speech tra varie modalità applicative. Il repository ufficiale apt offre abbondanti risorse di grandi modelli — inclusi deepseek-r1-distill-qwen-1.5b, InternVL2_5-1B-MPO, Llama-3.2-1B, Qwen2.5-0.5B e Qwen2.5-1.5B — oltre a modelli text-to-speech (whisper-tiny, whisper-base, melotts) e modelli visivi (come yolo11 e altri modelli SOTA). Il repository viene aggiornato continuamente per supportare le applicazioni di modelli più all'avanguardia, soddisfacendo le esigenze di compiti AI complessi.

Module LLM Kit è plug-and-play e, se abbinato all'host M5, offre un'esperienza interattiva AI immediata. Gli utenti possono integrarlo senza problemi nei dispositivi smart esistenti senza configurazioni complicate, abilitando rapidamente funzionalità intelligenti e migliorando le prestazioni del dispositivo. Questo prodotto è ideale per assistenti vocali offline, conversione da testo a voce, controllo della casa intelligente, robot interattivi e altro ancora.

Caratteristiche

• Inferenza offline, 3,2 TOPS a precisione INT8
• KWS integrato (wake word), ASR (riconoscimento vocale), LLM (large language model), TTS (text-to-speech)
• Elaborazione parallela multi-modello
• Memoria eMMC da 32GB integrata e memoria LPDDR4 da 4GB
• Microfono e altoparlante integrati
• Comunicazione seriale
• Aggiornamento firmware scheda SD
• Supporta il debug ADB
• LED di stato RGB
• Sistema Ubuntu integrato
• Supporta la funzionalità OTG
  

Include

• 1 x Modulo LLM
• 1 x Modulo LLM Mate
• 2 x filo FPC-8P
  

Applicazioni

• Assistenti vocali offline
• Conversione da testo a voce
• Controllo della casa intelligente
• Robot interattivi

Specifiche