Khi chủ quyền dữ liệu và sức mạnh tính toán trở thành những yếu tố chiến lược đối với các doanh nghiệp áp dụng AI, nhu cầu về cơ sở hạ tầng AI riêng tại chỗ đang tăng lên. Đáp ứng xu hướng này, QNAP® Systems, Inc., một nhà tiên phong hàng đầu trong các giải pháp điện toán, mạng và lưu trữ, hôm nay đã giới thiệu QAI-h1290FX, một máy chủ lưu trữ AI biên thế hệ tiếp theo được thiết kế để hỗ trợ triển khai riêng tư các mô hình ngôn ngữ quy mô lớn (LLM), công cụ tạo tăng cường truy xuất (RAG) và các ứng dụng AI tạo sinh.
Được xây dựng trên bộ xử lý máy chủ AMD EPYC™, hỗ trợ tăng tốc GPU NVIDIA® RTX™ và mười hai khe cắm SSD U.2 NVMe/SATA, QAI-h1290FX cung cấp cơ sở hạ tầng AI hiệu năng cao tại chỗ cho các tổ chức yêu cầu độ trễ thấp, bảo vệ dữ liệu toàn diện và kiểm soát hoạt động – mà không cần phụ thuộc vào... cloudu.
Được cấp nguồn Hệ điều hành QuTS hero dựa trên ZFS. Từ QNAP, QAI-h1290FX cung cấp tính toàn vẹn dữ liệu cấp doanh nghiệp, khả năng tạo ảnh chụp nhanh gần như không giới hạn và tính năng chống trùng lặp dữ liệu trực tuyến. Thiết bị hỗ trợ truy cập GPU gốc trong container thông qua Container Station và truyền GPU cho máy ảo thông qua Virtualization Station. Các nhóm CNTT, nhà phát triển và nhóm nghiên cứu có thể chạy hiệu quả các mô hình suy luận, ứng dụng AI tạo sinh và các đường dẫn RAG (luồng dữ liệu) với khả năng kiểm soát hoàn toàn hiệu năng và phân bổ tài nguyên.
QAI-h1290FX đi kèm với một bộ công cụ AI được cài đặt sẵn được lựa chọn kỹ lưỡng, bao gồm AnythingLLM, OpenWebUI và Ollama, cho phép triển khai nhanh chóng các quy trình làm việc LLM riêng tư. Các ứng dụng AI bổ sung như Stable Diffusion, ComfyUI, n8n và vLLM đang được tích hợp dần để mở rộng chức năng. Điều này cho phép người dùng nhanh chóng xây dựng nền tảng AI tại chỗ và tự động hóa các quy trình làm việc trong một môi trường an toàn, có khả năng mở rộng và được kiểm soát hoàn toàn.
“QAI-h1290FX đáp ứng nhu cầu ngày càng tăng về cơ sở hạ tầng AI cục bộ,” Oliver Lam, Giám đốc Sản phẩm tại QNAP cho biết. “Chúng tôi muốn loại bỏ những rào cản trong việc xây dựng máy trạm GPU, cài đặt công cụ và cấu hình môi trường phức tạp. Với QAI-h1290FX, người dùng có thể triển khai và chạy các mô hình AI của họ ngay lập tức – với quyền kiểm soát hoàn toàn dữ liệu và không phụ thuộc vào bất kỳ nguồn lực nào khác. cloudTại."
Các tính năng chính của QAI-h1290FX
- Bộ nhớ hoàn toàn bằng flash: Mười hai khe cắm SSD U.2 NVMe/SATA cho phép ultraTốc độ I/O nhanh cho việc thực thi mô hình AI tần số cao và truyền dữ liệu.
- Bộ xử lý AMD EPYC™ 7302P 16 nhân: Nó cung cấp 32 luồng xử lý máy chủ – lý tưởng cho suy luận AI, ảo hóa và các tác vụ song song đòi hỏi cao.
- Kiến trúc sẵn sàng cho GPU: Hỗ trợ card đồ họa máy trạm NVIDIA RTX PRO™ 6000 Blackwell GPU tùy chọn. Max-Q với bộ nhớ GPU lên đến 96GB và hỗ trợ tăng tốc CUDA®, TensorRT™ và Transformer Engine – giúp tăng hiệu suất đáng kể cho các tác vụ suy luận cục bộ LLM, tạo ảnh và học sâu.
- Quản lý môi trường AI dạng container và tài nguyên GPU: Hỗ trợ Docker và LXD với khả năng phân bổ GPU trực quan. Người dùng có thể nhanh chóng khởi chạy các công cụ AI thông qua trung tâm ứng dụng AI tích hợp và phân bổ tài nguyên GPU mà không cần cấu hình thông qua dòng lệnh.
- Triển khai hoàn toàn cục bộ không phụ thuộc cloudu: Chạy AI chatXây dựng các trợ lý ảo, công cụ tìm kiếm tài liệu hoặc kho tri thức được hỗ trợ bởi AI hoàn toàn trên máy tính cục bộ. Giữ dữ liệu nhạy cảm trong nội bộ doanh nghiệp đồng thời tăng tốc quy trình làm việc của AI.
- Mạng tốc độ cao và kiến trúc có khả năng mở rộng: Thiết bị này có hai cổng 25GbE và hai cổng 2,5GbE. Khe cắm PCIe hỗ trợ mở rộng tùy chọn lên đến 100GbE. Tương thích với các ổ đĩa mở rộng QNAP JBOD để lưu trữ dữ liệu AI quy mô lớn.
Tổng quan về trường hợp sử dụng
- Trợ lý AI nội bộ / cục bộ chatứng dụng ovation
Triển khai giao diện AI đàm thoại để truy xuất kiến thức, đào tạo nhân viên và giải đáp thắc mắc về chính sách công ty – tất cả đều nằm trong tầm kiểm soát hoàn toàn của bạn. - Tìm kiếm doanh nghiệp RAG
Sử dụng quy trình RAG riêng tư để tìm kiếm nhanh chóng và theo ngữ cảnh trong hợp đồng, báo cáo và tài liệu nội bộ. - Tạo hình ảnh cho các nhóm sáng tạo
Hãy sử dụng Stable Diffusion hoặc ComfyUI để có quy trình thiết kế dựa trên trí tuệ nhân tạo và tạo nội dung trực quan. - Tự động hóa CNTT dựa trên trí tuệ nhân tạo
Sử dụng n8n để tự động hóa các tác vụ suy luận, tạo nội dung hoặc cảnh báo – dễ dàng tích hợp AI vào các quy trình kinh doanh.
Với QAI-h1290FX, QNAP cung cấp một giải pháp thiết thực và mạnh mẽ để triển khai trí tuệ nhân tạo tạo sinh (generative AI) trên toàn doanh nghiệp. Cho dù trong bộ phận pháp lý, nhân sự, sáng tạo hay vận hành CNTT, thiết bị này giúp các nhóm làm việc nhanh hơn, tuân thủ các quy định và kiểm soát hoàn toàn chiến lược AI – ngay tại điểm kết nối của mạng.
Thông tin thêmmacBạn có thể tìm thấy toàn bộ dòng sản phẩm QNAP tại đây. www.qnap.com.
