Những gì chúng ta gọi là 'cách mạng lưu trữ' đôi khi chỉ là một sự thay đổi nhỏ trong kiến trúc, nhưng ẩn chứa những hệ quả lớn về quyền lực.
Hồi đầu tháng, SanDisk công bố công nghệ High Bandwidth Flash (HBF) – một dạng bộ nhớ flash có băng thông cao, hứa hẹn mang đến 4TB dung lượng cho GPU với chi phí thấp hơn HBM. Trong bối cảnh AI inference bùng nổ, việc giảm chi phí lưu trữ cho mô hình lớn là điều mà bất kỳ kỹ sư nào cũng mơ ước. Nhưng là một người đã chứng kiến sự sụp đổ của những lý tưởng phi tập trung qua các chu kỳ ICO, DeFi Summer, và DAO tan rã, tôi không thể không đặt câu hỏi: Liệu HBF có thực sự mang lại sự dân chủ hóa AI, hay chỉ là một công cụ khác để các tập đoàn công nghệ củng cố quyền lực?
Context: Bối cảnh lưu trữ AI và sự trỗi dậy của HBF
AI training hiện tại phụ thuộc gần như tuyệt đối vào HBM (High Bandwidth Memory) – loại DRAM siêu nhanh do SK Hynix, Samsung và Micron sản xuất. HBM có băng thông lên tới 1 TB/s, nhưng giá thành rất cao, dung lượng tối đa mỗi module chỉ khoảng 24-32GB. Đối với các mô hình ngôn ngữ lớn với hàng trăm tỷ tham số, việc mở rộng bộ nhớ là bài toán đau đầu. Các giải pháp hiện tại như CXL memory pooling hay SSD NVMe đều có độ trễ quá lớn so với yêu cầu của AI inference.
HBF của SanDisk là một cách tiếp cận khác: dùng NAND flash (vốn rẻ hơn DRAM gấp 10-20 lần) nhưng đóng gói theo kiểu HBM, với băng thông đọc có thể tiệm cận HBM. Con số 4TB cho một GPU là một tuyên bố táo bạo, ngụ ý rằng các mô hình AI có thể 'sống' hoàn toàn trong bộ nhớ flash tốc độ cao, không cần load từ đĩa. Điều này đặc biệt hấp dẫn cho inference – nơi mà thời gian phản hồi là quan trọng, nhưng yêu cầu ghi lại không cao.
Tuy nhiên, bài báo gốc từ Crypto Briefing chỉ là một bản tin nông cạn, thiếu các chi tiết kỹ thuật cốt lõi: giao diện chuẩn nào? Băng thông thực tế? Độ trễ? Thời gian sản xuất? Khách hàng đầu tiên? Tôi đã phải dựa vào kinh nghiệm audit của mình với các dự án storage blockchain để suy luận.
Core: Phân tích kỹ thuật và góc nhìn phi tập trung
Điểm mạnh của HBF: Nó có thể thay đổi cuộc chơi cho inference AI. Hãy tưởng tượng một GPU với 4TB bộ nhớ flash, bạn có thể chạy toàn bộ mô hình Llama 3 405B hoặc GPT-4 class mà không cần HBM đắt đỏ. Chi phí giảm mạnh đồng nghĩa với việc nhiều startup hơn có thể triển khai AI inference, thay vì chỉ Big Tech. Điều này nghe có vẻ dân chủ hóa.
Điểm yếu kỹ thuật: NAND flash có endurance thấp (khoảng 10^5 chu kỳ ghi so với DRAM vô hạn) và write bandwidth kém hơn nhiều. HBF chỉ phù hợp với workload đọc-heavy. Nếu bạn dùng nó để training, nó sẽ chết sau vài tuần. Vậy nó chỉ là giải pháp cho inference, không phải training. Điều này có nghĩa là SanDisk không đánh trực diện vào HBM, mà nhắm vào một niche – nơi mà các đối thủ cạnh tranh là SSD PCIe 5.0 hay CXL-attached memory.
Góc nhìn phi tập trung: HBF là một sản phẩm độc quyền của SanDisk, một công ty Mỹ vừa tách khỏi Western Digital. Nó sẽ được tích hợp chặt chẽ với các GPU của NVIDIA (thông qua các giao diện như NVLink-C2C hoặc UCIe). Điều này tạo ra một hệ sinh thái đóng: bạn muốn 4TB bộ nhớ value? Bạn phải mua GPU của NVIDIA và memory của SanDisk. Không có sự lựa chọn nào khác. Đây là một dạng vendor lock-in kinh điển, trái ngược hoàn toàn với tinh thần mở và không cần tin tưởng (trustless) của blockchain.
Trong thế giới phi tập trung, chúng ta muốn các thành phần có thể thay thế lẫn nhau. Một mạng lưới AI inference phi tập trung như Akash Network hay Render Network phải dùng phần cứng commodity, không phải độc quyền. Nếu HBF trở thành tiêu chuẩn, các node nhỏ lẻ không thể cạnh tranh vì họ không có khả năng đầu tư vào phần cứng đặc biệt đó. Điều này dẫn đến sự tập trung hóa nguồn lực tính toán, đi ngược lại lý tưởng của chúng ta.
Contrarian: Kiểm chứng thực dụng và cơ hội ẩn
Nhưng hãy nhìn từ góc khác. HBF có thể là một tín hiệu cho thấy thị trường AI đang chuyển từ training sang inference – nơi mà chi phí là yếu tố quyết định. Các mạng lưới phi tập trung, vốn luôn gặp khó khăn về hiệu năng, có thể tận dụng HBF để cung cấp inference giá rẻ hơn. Ví dụ: Filecoin vốn là storage phi tập trung, nhưng nếu họ có thể kết hợp với các loại memory tương tự HBF, họ có thể chạy inference trên dữ liệu đã lưu trữ. Điều này mở ra một hướng đi mới cho 'compute over data'.
Tuy nhiên, thực tế phũ phàng: cho đến khi HBF được JEDEC chuẩn hóa và có nhiều nhà sản xuất, nó vẫn là độc quyền. Các dự án blockchain AI thường chạy trên GPU tiêu dùng (RTX 3090, 4090) hoặc GPU server cũ. HBF chỉ dành cho các hệ thống cao cấp như GB200 NVL72 – những thứ mà chỉ các công ty như Microsoft, Meta mới mua được. Điều này tạo ra một khoảng cách giàu nghèo mới trong AI.
Là một người từng chứng kiến sự thất bại của DAO Mekong Collective vì lý tưởng hóa cộng đồng, tôi hiểu rằng công nghệ không tự nhiên mang lại sự phi tập trung. Nó phải được thiết kế có chủ đích. HBF được thiết kế để tối ưu hiệu năng và chi phí, không phải để trao quyền cho người dùng. Nếu chúng ta không cẩn thận, nó sẽ trở thành một cái bẫy tập trung hóa mới, tương tự như cách các sequencer Layer2 hiện tại vẫn tập trung dù hứa hẹn decentralized.
Takeaway: Tầm nhìn tiến bộ
Vậy, HBF là cách mạng hay cái bẫy? Câu trả lời phụ thuộc vào chúng ta. Nếu cộng đồng blockchain yêu cầu các tiêu chuẩn mở, nếu các dự án như Filecoin, Akash, Render tận dụng được những tiến bộ về phần cứng mà vẫn duy trì tính phi tập trung, thì HBF có thể là một công cụ. Nhưng nếu chúng ta để các tập đoàn quyết định kiến trúc, thì chúng ta sẽ lại có một thế giới AI tập trung, chỉ khác về hình thức.
Những gì chúng ta gọi là 'cách mạng lưu trữ AI' thực chất là một cuộc chiến giành quyền kiểm soát hạ tầng. Là những người tin vào phi tập trung, chúng ta không thể chỉ ngồi nhìn. Chúng ta cần tham gia vào quá trình chuẩn hóa, xây dựng các lớp trừu tượng hóa phần cứng, và đảm bảo rằng mọi node – dù nhỏ – đều có thể tham gia. Chỉ có như vậy, AI mới thực sự là của tất cả mọi người.