Módulo M5Stack LLM (modelo de lenguaje grande) (AX630C)

Module LLM es un módulo de inferencia de modelo de lenguaje grande (LLM) integrado fuera de línea diseñado para dispositivos terminales que requieren una interacción eficiente e inteligente. Ya sea para hogares inteligentes, asistentes de voz o control industrial, Module LLM proporciona una experiencia de IA natural y fluida sin depender de la nube, lo que garantiza privacidad y estabilidad. Integrado con el marco StackFlow  y Arduino/UiFlow bibliotecas, las funciones inteligentes se pueden implementar fácilmente con solo unas pocas líneas de código.

Impulsado por el avanzado procesador SoC AX630C , integra una NPU de alta eficiencia 3.2 TOP con soporte nativo para modelos Transformer, manejando tareas complejas de IA con facilidad. Equipado con memoria LPDDR4 de 4 GB  (1 GB disponible para aplicaciones de usuario, 3 GB dedicados a la aceleración de hardware) y  Almacenamiento eMMC  de 32 GB, admite carga paralela e inferencia secuencial de múltiples modelos, lo que garantiza una multitarea fluida. El chip principal se fabrica mediante el proceso de 12 nm de TSMC, con un consumo de energía en tiempo de ejecución de aproximadamente 1,5 W, lo que lo hace altamente eficiente y adecuado para un funcionamiento a largo plazo.

Cuenta con un micrófono incorporado, un altavoz, una tarjeta de almacenamiento TF, USB OTG y una luz de estado RGB, lo que satisface diversas necesidades de aplicaciones con soporte para interacción de voz y transferencia de datos. El módulo ofrece una expansión flexible: la ranura para tarjeta SD integrada admite actualizaciones de firmware en frío/caliente y la interfaz de comunicación UART  simplifica la conexión y la depuración, lo que garantiza optimización continua y ampliación de la funcionalidad del módulo. El puerto USB admite la conmutación automática maestro-esclavo, lo que sirve como puerto de depuración y permite la conexión a dispositivos USB adicionales, como cámaras. Los usuarios pueden comprar el kit de depuración LLM para agregar un puerto Ethernet de 100 Mbps y un puerto serie del kernel, usándolo como SBC.

El módulo es compatible con múltiples modelos y viene preinstalado con el Qwen2.5-0.5B modelo de lenguaje. Presenta KWS (palabra de activación), ASR (reconocimiento de voz), LLM (modelo de lenguaje grande), y TTS (texto a voz) funcionalidades, con soporte para llamadas independientes o pipeline transferencia automática para un desarrollo conveniente. El soporte futuro incluye los modelos Qwen2.5-1.5B, Llama3.2-1B, e InternVL2-1B, permitiendo actualizaciones de modelos en caliente para mantenerse al día con las tendencias de la comunidad y acomodar diversas tareas complejas de IA. Las capacidades de reconocimiento visual incluyen soporte para CLIP, YoloWorld, y futuras actualizaciones para DepthAnything, SegmentAnything, y otros modelos avanzados para mejorar el reconocimiento y análisis inteligente.

Plug and play con hosts M5, Module LLM ofrece una experiencia de interacción con IA fácil de usar. Los usuarios pueden integrarlo rápidamente en dispositivos inteligentes existentes sin configuraciones complejas, lo que permite una funcionalidad inteligente y mejora la inteligencia del dispositivo. Este producto es adecuado para asistentes de voz sin conexión, conversión de texto a voz, control doméstico inteligente, robots interactivos y más.

Características

• Inferencia fuera de línea, potencia informática de precisión 3.2T@INT8
• KWS integrado (palabra de activación), ASR (reconocimiento de voz), LLM (modelo de lenguaje grande), TTS (generación de texto a voz)
• Procesamiento paralelo multimodelo
• Almacenamiento eMMC de 32 GB integrado y memoria LPDDR4 de 4 GB
• Micrófono y altavoz integrados
• Comunicación serial
• Actualización del firmware de la tarjeta SD
• Admite depuración ADB
• Luz indicadora RGB
• Sistema Ubuntu integrado
• Admite funcionalidad OTG
• Compatible con Arduino/UIFlow

Incluye

• 1x Módulo LLM

Aplicaciones

• Asistentes de voz sin conexión
• Conversión de texto a voz
• Control de casa inteligente
• Robots interactivos

Presupuesto