Pocket Lab được thiết kế để giảm thiểu sự phụ thuộc vào điện toán đám mây, cải thiện quyền riêng tư và đưa AI tiên tiến đến gần hơn với người dùng.
Cụ thể, Pocket Lab có kích thước 14,2 x 8 x 2,53 (cm) và nặng chỉ 300 gram, song có khả năng triển khai các mô hình ngôn ngữ lớn với tối đa 120 tỷ tham số. Các mô hình này thường yêu cầu phần cứng chuyên dụng nhưng Tiiny AI đã mang khả năng này vào một thiết bị nhỏ gọn.
Sản phẩm được trang bị CPU ARM v9.2 12 nhân mới nhất và hỗ trợ nhiều mô hình mã nguồn mở phổ biến như GPT-OSS, Llama, Qwen, DeepSeek, Mistral và Phi.
Cùng với đó là NPU (bộ xử lý thần kinh) cho hiệu suất lên tới 190 TOPS; RAM 80 GB LPDDR5X-con số khổng lồ cho một thiết bị cầm tay, cho phép chạy lượng tử hóa (quantization) mạnh mẽ.
Để làm được điều không tưởng này, Tiiny AI đã trang bị hai công nghệ lõi độc quyền, gồm: TurboSparse (Công nghệ kích hoạt thưa thớt cấp độ nơ-ron, giúp AI suy nghĩ nhanh hơn) và PowerInfer (Công cụ phân luồng thông minh, chia việc cho CPU và NPU, giúp thiết bị đạt hiệu suất cấp máy chủ nhưng vẫn tiết kiệm điện năng).
Dự kiến, Tiiny AI sẽ mang sản phẩm này đến trình diễn tại triển lãm CES 2026. Dù mức giá vẫn còn là ẩn số, song giới quan sát nhận định nếu giá bán hợp lý, Pocket Lab hoàn toàn có thể tạo ra một cuộc cách mạng về AI cá nhân trong thời gian tới.
Được biết, các siêu máy tính nhỏ khác như Project Digits của Nvidia và DGX Spark hiện có giá lần lượt khoảng 3.000 và 4.000 USD.