Kit de Módulo M5Stack LLM (modelo de lenguaje grande) (AX630C)

Module LLM Kit es un kit modular inteligente enfocado en aplicaciones de inferencia de IA sin conexión e interfaz de comunicación de datos. Integra los módulos Module LLM y Module13.2 LLM Mate para satisfacer los requisitos de inferencia de IA sin conexión e interacción de datos en diversos escenarios.

Module LLM es un módulo integrado de inferencia de modelo de lenguaje grande (LLM) offline diseñado específicamente para dispositivos terminales que requieren una interacción eficiente e inteligente. Ya sea para aplicaciones de hogar inteligente, asistentes de voz o control industrial, Module LLM ofrece una experiencia de IA fluida y natural sin depender de la nube, garantizando privacidad, seguridad y estabilidad.

Módulo13.2 Módulo LLM Mate proporciona una variedad de funciones de interfaz para facilitar la integración y expansión del sistema. Logra una fuente de alimentación apilada con el Módulo LLM a través de la interfaz M5BUS; su chip de conversión USB incorporado CH340N ofrece funcionalidad de depuración USB a serie, mientras que la interfaz Type-C se utiliza para la salida de registro USB. Además, la interfaz RJ45 funciona con el transformador de red a bordo para extender a un puerto Ethernet de 100 Mbps y puerto serie principal (compatible con aplicaciones SBC); la interfaz FPC-8P se conecta directamente al Módulo LLM, asegurando una comunicación serie estable; además, se reserva una almohadilla de soldadura HT3.96*9P para expansión DIY.

El módulo Module LLM integra el framework StackFlow junto con las bibliotecas Arduino/UiFlow, permitiendo implementar inteligencia en el borde con solo unas pocas líneas de código. Impulsado por el avanzado procesador AiXin AX630C SoC y equipado con una NPU de alta eficiencia que ofrece 3.2 TOPS con soporte nativo para modelos Transformer, maneja sin esfuerzo tareas complejas de IA. Equipado con 4GB de memoria LPDDR4 (1GB para aplicaciones de usuario y 3GB dedicados a la aceleración de hardware) y 32GB de almacenamiento eMMC, soporta carga paralela de múltiples modelos e inferencia encadenada, asegurando una multitarea fluida. Con un consumo de energía operativo de solo alrededor de 1.5W, es mucho más eficiente energéticamente que productos similares, lo que lo hace ideal para operación a largo plazo.

El módulo LLM es compatible con múltiples modelos y viene preinstalado con el modelo de lenguaje grande Qwen2.5-0.5B, que cuenta con funciones integradas incluyendo KWS (palabra de activación), ASR (reconocimiento de voz), LLM (modelo de lenguaje grande) y TTS (texto a voz). También soporta actualizaciones rápidas de paquetes de software y modelos basadas en apt. Al instalar el plugin openai-api, se vuelve compatible con la API estándar de OpenAI, soportando chat, finalización de conversaciones, voz a texto y texto a voz entre varios modos de aplicación. El repositorio oficial apt ofrece abundantes recursos de modelos grandes—incluyendo deepseek-r1-distill-qwen-1.5b, InternVL2_5-1B-MPO, Llama-3.2-1B, Qwen2.5-0.5B y Qwen2.5-1.5B—además de modelos de texto a voz (whisper-tiny, whisper-base, melotts) y modelos visuales (como yolo11 y otros modelos SOTA). El repositorio se actualiza continuamente para soportar las aplicaciones de modelos más avanzadas, satisfaciendo las demandas de tareas complejas de IA.

Module LLM Kit es plug-and-play, y cuando se combina con el host M5, ofrece una experiencia interactiva de IA instantánea. Los usuarios pueden integrarlo sin problemas en dispositivos inteligentes existentes sin configuraciones complicadas, habilitando rápidamente funciones inteligentes y mejorando el rendimiento del dispositivo. Este producto es ideal para asistentes de voz sin conexión, conversión de texto a voz, control de hogar inteligente, robots interactivos y más.

Características

• Inferencia sin conexión, 3.2 TOPS con precisión INT8
• KWS integrado (palabra de activación), ASR (reconocimiento de voz), LLM (modelo de lenguaje grande), TTS (texto a voz)
• Procesamiento paralelo de múltiples modelos
• Almacenamiento eMMC de 32GB integrado y memoria LPDDR4 de 4GB
• Micrófono y altavoz integrados
• Comunicación serial
• Actualización del firmware de la tarjeta SD
• Soporta la depuración ADB
• LED de estado RGB
• Sistema Ubuntu incorporado
• Soporta funcionalidad OTG
  

Incluye

• 1 x Módulo LLM
• 1 x Módulo LLM Mate
• 2 cables FPC-8P
  

Aplicaciones

• Asistentes de voz sin conexión
• Conversión de texto a voz
• Control de casa inteligente
• Robots interactivos

Presupuesto