FPT AI Factory

Đơn vị: FPT Smart Cloud

Hạng mục: Sản phẩm/Giải pháp

Giải pháp:

FPT AI Factory

Đơn vị phát triển:

FPT Smart Cloud

Giới thiệu:

FPT AI Factory là nền tảng phát triển Trí tuệ Nhân tạo (AI) toàn diện do Tập đoàn FPT phát triển, đóng vai trò như một nhà máy sản xuất và triển khai các giải pháp AI. Nền tảng tích hợp hạ tầng phần cứng mạnh mẽ với 142.240 lõi xử lý, đạt hiệu năng 46,65 PFlop theo chuẩn Linpack; khung công nghệ hiện đại (như Nvidia Inference Microservices – NIMs); mạng InfiniBand NDR400, cho phép mở rộng năng lực xử lý từ một GPU riêng lẻ lên cụm hàng trăm máy chủ hoạt động song song để huấn luyện, tinh chỉnh và triển khai mô hình AI. Mục tiêu là giúp doanh nghiệp ứng dụng AI dễ dàng, nhanh chóng, linh hoạt, đồng thời tạo ra hệ sinh thái AI "Make in Vietnam" mang dấu ấn riêng của doanh nghiệp.

FPT AI Factory gồm 4 nhóm sản phẩm:

• FPT GPU Cloud cung cấp các dịch vụ điện toán đám mây GPU chuyên biệt với công nghệ tiên tiến, hiệu suất vượt trội và khả năng mở rộng linh hoạt, đáp ứng nhu cầu phát triển và triển khai các mô hình AI phức tạp. Hệ thống quản lý tập trung tích hợp hàng rào bảo mật cho phép kiểm soát hoàn toàn môi trường điện toán và dữ liệu trong suốt quá trình phát triển AI.

• FPT AI Studio là nền tảng dành riêng cho các nhà khoa học và kỹ sư AI, cho phép tinh chỉnh các mô hình AI tiên tiến, bao gồm cả các mô hình ngôn ngữ lớn (LLM) như DeepSeek-R1 hay Llama 3.3, để tự tạo ra các mô hình trí tuệ nhân tạo chuyên biệt theo nhu cầu, dựa trên dữ liệu nội bộ.

• FPT Token Factory là nền tảng dành riêng cho các nhà phát triển ứng dụng. Nền tảng giúp dễ dàng thử nghiệm và tích hợp hơn 20 mô hình AI tiên tiến nhất, để tạo ra các ứng dụng AI thông minh cho doanh nghiệp với chi phí trên mỗi token (cost per token) tối ưu.

• FPT AI Agents là nền tảng cho phép doanh nghiệp nhanh chóng xây dựng và vận hành AI Agents đa ngôn ngữ, sử dụng hệ tri thức doanh nghiệp và các mô hình tùy chỉnh, tối ưu cho từng tác vụ như chăm sóc khách hàng, đào tạo doanh nghiệp, vận hành nội bộ.

FPT AI Factory hiện đang cung cấp 43 dịch vụ “Made by FPT”, phục vụ 18,843 nhà nghiên cứu, nhà khoa học, nhà phát triển AI tại các tổ chức trên toàn cầu với hơn 166 tỷ token mỗi tháng.

FPT AI Factory nằm trong Top 20 nhà cung cấp dịch vụ GPU Cloud trong bảng xếp hạng ClusterMAX™ của SemiAnalysis - một trong những hệ thống đánh giá độc lập và uy tín hàng đầu của ngành; đồng thời được xếp hạng #36 và #38 trong Top 500 siêu máy tính mạnh nhất thế giới, được công bố vào tháng 6 năm 2025.

Điểm mới, đặc biệt

• Hiệu năng vượt trội: Hệ thống trang bị các dòng GPU tiên tiến theo kiến trúc NVIDIA Blackwell và Hopper, bao gồm NVIDIA HGX B300, HGX H200, HGX H100, đáp ứng nhu cầu ngày càng đa dạng và tăng cao về phát triển, huấn luyện và triển khai các mô hình, ứng dụng AI quy mô lớn.

• Quản trị tập trung – giám sát tình trạng theo thời gian thực: Tích hợp các công cụ quản lý mạng và hạ tầng như NVIDIA Unified Fabric Manager (UFM) và NVIDIA NetQ. Các hệ thống này cho phép giám sát trạng thái mạng theo thời gian thực, phát hiện sớm các điểm tắc nghẽn hoặc lỗi, tự động tái định tuyến lưu lượng và hỗ trợ khôi phục nhanh chóng nhằm tối ưu độ sẵn sàng và hiệu suất vận hành. Dashboard quản lý cho phép theo dõi hiệu suất, cảnh báo sớm và ghi log đầy đủ để dễ dàng khắc phục lỗi.

• Nền tảng sử dụng và quản trị tập trung: Các dịch vụ của FPT AI Factory được triển khai trên một nền tảng duy nhất giúp doanh nghiệp chủ động tạo lập, quản lý và sử dụng toàn bộ hệ sinh thái dịch vụ AI Cloud trên quy mô toàn cầu. Hệ thống quản trị và phân cấp linh hoạt cho phép doanh nghiệp kiểm soát tập trung tài nguyên, người dùng và quyền truy cập, đồng thời cho phép phân bổ và quản lý theo tổ chức, nhóm dự án hoặc cá nhân, phù hợp với nhu cầu vận hành ở mọi quy mô.

• Bảo mật thông tin: Đảm bảo tính an toàn về mặt bảo mật thông tin bao gồm các biện pháp bảo mật mạnh mẽ từ các hãng bảo mật tiên tiến để bảo vệ dữ liệu khách hàng và hệ thống khỏi các cuộc tấn công và các hoạt động xâm nhập. Hệ thống đạt các chứng chỉ bảo mật quốc tế bao gồm: PCI DSS v4.0.1 Service Provider Level 1, AICPA SOC 2 Type I, SOC 2 Type II và SOC 3, An toàn thông tin cấp độ 4.

Đội ngũ phát triển:

FPT Smart Cloud