A medida que la soberanía de los datos y la capacidad de procesamiento se convierten en factores estratégicos para las empresas que adoptan la IA, la demanda de infraestructura de IA privada local está creciendo. En respuesta a esta tendencia, QNAP® Systems, Inc., un innovador líder en soluciones de computación, redes y almacenamiento, presentó hoy QAI-h1290FX, un servidor de almacenamiento Edge AI de próxima generación diseñado para admitir implementaciones privadas de modelos de lenguaje a gran escala (LLM), motores de generación aumentada por recuperación (RAG) y aplicaciones de IA generativa.
Construido sobre un procesador de servidor AMD EPYC™, con soporte para aceleración de GPU NVIDIA® RTX™ y doce ranuras para SSD U.2 NVMe/SATA, el QAI-h1290FX proporciona una infraestructura de IA local de alto rendimiento para organizaciones que exigen inferencia de baja latencia, protección total de datos y control sobre las operaciones, sin depender de cloudu.
Motorizado Sistema operativo QuTS Hero basado en ZFS El QAI-h1290FX de QNAP ofrece integridad de datos de nivel empresarial, instantáneas prácticamente ilimitadas y deduplicación en línea. Admite acceso nativo a la GPU en contenedores mediante Container Station y acceso directo a la GPU para máquinas virtuales mediante Virtualization Station. Los equipos de TI, desarrolladores y grupos de investigación pueden ejecutar de forma eficiente modelos de inferencia, aplicaciones de IA generativa y flujos de datos RAG con control total sobre el rendimiento y la asignación de recursos.
El QAI-h1290FX incluye un conjunto cuidadosamente seleccionado de herramientas de IA preinstaladas, como AnythingLLM, OpenWebUI y Ollama, lo que permite la rápida implementación de flujos de trabajo LLM privados. Se integran gradualmente aplicaciones de IA adicionales, como Stable Diffusion, ComfyUI, n8n y vLLM, para ampliar su funcionalidad. Esto permite a los usuarios crear rápidamente plataformas de IA locales y automatizar flujos de trabajo en un entorno seguro, escalable y totalmente controlado.
“El QAI-h1290FX satisface la creciente demanda de infraestructura de IA local”, dijo Oliver Lam, gerente de producto de QNAP. “Queríamos eliminar las barreras de construir estaciones de trabajo GPU, instalar herramientas y configurar entornos complejos. Con el QAI-h1290FX, los usuarios pueden implementar y ejecutar sus modelos de IA directamente, con control total sobre sus datos y sin dependencia de clouden."
Características principales del QAI-h1290FX
- Almacenamiento totalmente flash: Doce ranuras U.2 NVMe/SATA SSD permiten ultraE/S rápida para la ejecución de modelos de IA de alta frecuencia y la transmisión de datos.
- Procesador AMD EPYC™ 7302P de 16 núcleos: Proporciona 32 hilos de potencia de procesamiento de servidor, ideal para la inferencia de IA, la virtualización y las cargas de trabajo paralelas exigentes.
- Arquitectura preparada para GPU: Admite la tarjeta gráfica para estaciones de trabajo NVIDIA RTX PRO™ 6000 Blackwell (opcional). Max-Q con hasta 96 GB de memoria GPU y compatibilidad con la aceleración CUDA®, TensorRT™ y Transformer Engine: aumenta drásticamente el rendimiento para la inferencia local LLM, la generación de imágenes y las cargas de trabajo de aprendizaje profundo.
- Entorno de IA en contenedores y gestión de recursos de GPU: Compatible con Docker y LXD, con asignación intuitiva de GPU. Los usuarios pueden ejecutar rápidamente herramientas de IA a través del centro de aplicaciones de IA integrado y asignar recursos de GPU sin configuración mediante la línea de comandos.
- Implementación totalmente local sin dependencias cloudu: Ejecutar IA chatCrea tus propios asistentes con IA, motores de búsqueda de documentos o bases de conocimiento de forma totalmente local. Mantén los datos confidenciales en tus instalaciones mientras aceleras los flujos de trabajo de IA.
- Red de alta velocidad y arquitectura escalable: Cuenta con dos puertos Ethernet de 25 GbE y dos puertos Ethernet de 2,5 GbE. Las ranuras PCIe admiten expansión opcional a 100 GbE. Compatible con unidades de expansión JBOD de QNAP para almacenamiento de datos de IA a gran escala.
Descripción general del caso de uso
- Asistentes de IA internos / locales chatsolicitud de ovación
Implemente interfaces de IA conversacional para la recuperación de conocimientos, la formación de empleados y las consultas sobre las políticas de la empresa, todo ello bajo su control total. - Búsqueda empresarial RAG
Utilice una canalización RAG privada para realizar búsquedas rápidas y contextuales en contratos, informes y documentos internos. - Generación de imágenes para equipos creativos
Utilice Stable Diffusion o ComfyUI para flujos de trabajo de diseño basados en IA y generación de contenido visual. - Automatización de TI impulsada por IA
Utilice n8n para automatizar tareas de inferencia, generación de contenido o alertas: integre fácilmente la IA en los procesos empresariales.
Con el QAI-h1290FX, QNAP ofrece una solución práctica y potente para implementar IA generativa en toda la empresa. Ya sea en los departamentos legal, de recursos humanos, creativo o de TI, ayuda a los equipos a trabajar más rápido, cumplir con las normativas y tener control total sobre la estrategia de IA, directamente en el extremo de la red.
Más informaciónmacPuedes encontrar la gama completa de productos QNAP en www.qnap.com.
