Liquid AI Đang hoạt động

Liquid AI là bộ công cụ AI dành cho triển khai ở biên, với sản phẩm cốt lõi là Liquid Foundation Models (LFMs). Các mô hình có quy mô 350M, 700M, 1.2B và 2.6B tham số, hướng đến việc sử dụng trên điện thoại, máy tính xách tay, ô tô, robot và các thiết bị khác.

Nền tảng đồng thời cung cấp nền tảng dành cho nhà phát triển LEAP và ứng dụng di động Apollo, lần lượt phục vụ việc phát triển, triển khai mô hình và kiểm thử trải nghiệm trên thiết bị di động.

LFMs hỗ trợ các dạng mô hình văn bản, thị giác-ngôn ngữ, âm thanh và các dạng khác, có thể dùng để phát triển ứng dụng đa phương thức. LEAP cung cấp quy trình tải xuống mô hình, tinh chỉnh tùy chỉnh và triển khai trên thiết bị, giúp nhà phát triển chuyển từ lựa chọn mô hình đến vận hành trên thiết bị đầu cuối.

Các mô hình liên quan có thể được lấy trên Hugging Face; tài liệu nền tảng cũng đề cập khả năng kết nối thông qua OpenRouter. Khả năng tương thích thiết bị bao gồm GPU, CPU và NPU; năng lực sử dụng cụ thể phụ thuộc vào tổ hợp mô hình và phần cứng.

Nhà phát triển độc lập và nhà nghiên cứu có thể tải xuống mô hình để thử nghiệm cục bộ, kiểm thử mô hình hoặc phát triển nguyên mẫu ứng dụng ở biên. Apollo phù hợp để trải nghiệm và xác thực các mô hình ngôn ngữ nhỏ trên điện thoại, còn LEAP phù hợp hơn với quy trình cần tinh chỉnh và triển khai.

Doanh nghiệp khởi nghiệp, doanh nghiệp lớn và nhà sản xuất phần cứng có thể sử dụng nền tảng cho các giải pháp trên hệ thống ô tô, thiết bị điện tử tiêu dùng, thiết bị đeo và robot, đồng thời đánh giá quy mô mô hình và phương thức triển khai dựa trên điều kiện thiết bị.

Việc chạy cục bộ cần tài nguyên tính toán, môi trường chạy và công việc tương thích thiết bị phù hợp. Quy mô tham số của mô hình càng lớn thì điều kiện triển khai thường càng phức tạp. Trước khi sử dụng, cần căn cứ vào năng lực GPU, CPU hoặc NPU của thiết bị mục tiêu để xác nhận loại mô hình, nhu cầu bộ nhớ và yêu cầu độ trễ.

Nền tảng cung cấp hình thức sử dụng miễn phí và trả phí, nhưng phương án cụ thể, phạm vi dịch vụ và chi phí cần căn cứ vào thông tin trên trang chính thức. Hiệu quả mô hình cũng thay đổi theo tác vụ, dữ liệu và phương thức tinh chỉnh; không thể chỉ dựa vào quy mô tham số để判断 mô hình có phù hợp với môi trường sản xuất hay không.