Inkling 2 Small là mô hình ngôn ngữ lớn (LLM) Mixture-of-Experts (MoE) với 594 tỷ tham số tổng, 17 tỷ tham số active, do Thinking Machines Lab (TML) ra mắt ngày 5/11/2026. Theo công bố của hãng, mô hình được huấn luyện chỉ trong 68 giờ trên GPU GB300 với 12 nghìn tỷ token, đạt 31 điểm trên Artificial Analysis Intelligence Index v5.0.1 — tăng 18 điểm so với bản tiền nhiệm. Bài viết này giải thích chi tiết kiến trúc MoE của Inkling 2 Small, vì sao thời gian huấn luyện 68 giờ lại đáng chú ý, so sánh với các mô hình mở khác, và hướng dẫn doanh nghiệp, nhà phát triển dùng thử mô hình trên nền tảng Tinker.
Inkling 2 Small là gì?
Inkling 2 Small là mô hình AI đa phương thức (multimodal) thuộc dòng Inkling của Thinking Machines Lab, công ty AI do Mira Murati — cựu Giám đốc Công nghệ của OpenAI — sáng lập. Theo công bố của hãng ngày 5/11/2026, Inkling 2 Small là mô hình đầu tiên trong dòng Inkling 2, được thiết kế hướng tới khả năng làm việc tự chủ dài hạn (long-horizon autonomous work), lập trình, xử lý thị giác và tri thức chuyên sâu.
Điểm đặc biệt nhất của mô hình nằm ở hai con số tưởng chừng mâu thuẫn: tổng cộng 594 tỷ tham số, nhưng mỗi lần suy luận chỉ kích hoạt 17 tỷ tham số. Đây chính là bản chất của kiến trúc Mixture-of-Experts — mô hình rất lớn nhưng chi phí tính toán cho mỗi token lại tương đương một mô hình nhỏ. Chính vì vậy hãng đặt tên “Small” cho mô hình: “small” ở đây chỉ chi phí suy luận, không phải quy mô tổng thể.
Cùng với việc ra mắt mô hình, Thinking Machines Lab cũng đưa Inkling 2 Small lên Tinker — nền tảng fine-tuning và suy luận của hãng. Người dùng có thể dùng ngay trên Tinker cho cả fine-tuning và suy luận, hoặc chỉ suy luận trên Tinker Playground. Hãng cũng hứa hẹn phát hành trọng số mở theo giấy phép Apache 2.0 vào tuần sau, sau khi quá trình kiểm tra an toàn bên ngoài (external safety evaluation) hoàn tất.
Mixture-of-Experts (MoE) là gì? Cơ chế hoạt động của Inkling 2 Small
Mixture-of-Experts (MoE), hay “hỗn hợp các chuyên gia”, là kiến trúc mạng nơ-ron trong đó mỗi lớp của mô hình chứa nhiều mạng con gọi là “expert” (chuyên gia), và một mạng định tuyến (router/gating network) quyết định token nào sẽ được xử lý bởi expert nào. Thay vì toàn bộ tham số tham gia xử lý mọi token như mô hình dense truyền thống, MoE chỉ kích hoạt một tập con nhỏ các expert cho mỗi token — gọi là sparse activation (kích hoạt thưa).
Kiến trúc cụ thể của Inkling 2 Small
Theo công bố của hãng, Inkling 2 Small là một transformer decoder-only với 48 tầng (layers). Mỗi tầng chứa 384 expert, và mỗi token chỉ đi qua 8 expert trong số đó. Nói cách khác, tại mỗi tầng, router chọn ra 8 trong 384 expert phù hợp nhất với token đang xử lý, và chỉ 8 expert này thực hiện tính toán. Tổng cộng 594 tỷ tham số được phân bổ vào 384 expert này, nhưng tại bất kỳ thời điểm nào, chỉ khoảng 17 tỷ tham số thực sự “làm việc” trên một token.
Cơ chế này mang lại ba lợi ích cốt lõi:
- Mở rộng dung lượng tri thức mà không tăng chi phí suy luận tuyến tính: Mô hình có thể lưu trữ nhiều tri thức và kỹ năng chuyên biệt hơn trong 594 tỷ tham số, nhưng chi phí tính toán mỗi token chỉ tương đương mô hình 17 tỷ tham số active. Đây là lý do MoE trở thành kiến trúc chủ đạo của các mô hình lớn hiện nay.
- Chuyên môn hóa (specialization): Trong quá trình huấn luyện, các expert tự phân hóa: expert này giỏi xử lý mã nguồn, expert khác giỏi toán học, expert khác giỏi ngôn ngữ tự nhiên hay hình ảnh. Router học cách điều phối token tới đúng expert có chuyên môn phù hợp.
- Hiệu quả suy luận và chi phí vận hành: Với cùng một ngân sách tính toán, mô hình MoE cho chất lượng cao hơn mô hình dense tương đương. Điều này đặc biệt quan trọng khi triển khai ở quy mô lớn, vì chi phí suy luận (inference cost) mới là chi phí dài hạn lớn nhất của một hệ thống AI.
Sparse routing hoạt động như thế nào?
Router trong MoE là một mạng nơ-ron nhỏ, thường là một lớp tuyến tính, nhận vector biểu diễn của token và tính điểm số cho từng expert. Với Inkling 2 Small, router chọn 8 expert có điểm cao nhất (top-8 routing) trong 384 expert ở mỗi tầng. Đầu ra của 8 expert được kết hợp theo trọng số điểm số của router để tạo thành đầu ra của tầng đó.
Thách thức lớn nhất của MoE là cân bằng tải (load balancing): nếu router luôn chọn cùng vài expert “ưa thích”, các expert khác không được huấn luyện đầy đủ, gây lãng phí dung lượng. Các mô hình MoE hiện đại giải quyết vấn đề này bằng loss cân bằng tải phụ (auxiliary load-balancing loss) và các kỹ thuật định tuyến cải tiến. Một thách thức khác là chi phí bộ nhớ: toàn bộ 594 tỷ tham số vẫn phải lưu trong VRAM hoặc bộ nhớ hệ thống dù chỉ một phần nhỏ được kích hoạt mỗi lần, nên việc triển khai MoE lớn đòi hỏi hạ tầng suy luận có băng thông bộ nhớ cao.
Active params và total params: đừng nhầm lẫn hai con số
Khi đọc thông số của mô hình MoE, cần phân biệt rõ hai khái niệm: tổng tham số (total parameters) là toàn bộ tham số của mô hình — 594 tỷ trong trường hợp này; tham số active (active parameters) là số tham số thực sự tham gia tính toán cho một token — 17 tỷ. Tham số active quyết định chi phí tính toán và tốc độ suy luận; tổng tham số quyết định dung lượng tri thức tiềm năng của mô hình. Một mô hình MoE 594B/17B có chi phí suy luận gần với mô hình dense 17B, nhưng dung lượng tri thức lớn hơn nhiều lần. Đây là lý do các hãng thường công bố cả hai con số, và người dùng cần đọc cả hai để đánh giá đúng mô hình.
Vì sao huấn luyện trong 68 giờ lại đáng chú ý?
Theo công bố của hãng, Inkling 2 Small được huấn luyện trên 12 nghìn tỷ token (12 trillion tokens) chỉ trong 68 giờ trên GPU GB300 của NVIDIA. Con số 68 giờ gây chú ý vì nó cho thấy tốc độ huấn luyện đã được rút ngắn mạnh mẽ so với mặt bằng chung của ngành, nơi việc huấn luyện một mô hình hàng trăm tỷ tham số thường kéo dài nhiều tuần, thậm chí nhiều tháng.
Cần đặt con số này trong bối cảnh đúng. 68 giờ là thời gian huấn luyện của lần chạy cuối cùng (final training run) theo công bố của hãng, trên cụm GPU GB300 — dòng GPU Blackwell Ultra thế hệ mới của NVIDIA với hiệu năng và băng thông bộ nhớ cao hơn đáng kể so với thế hệ H100 trước đó. Thời gian huấn luyện ngắn không có nghĩa là tổng công sức nghiên cứu ít: trước lần chạy cuối, đội ngũ phải thực hiện nhiều thí nghiệm quy mô nhỏ, điều chỉnh kiến trúc, dữ liệu và siêu tham số. Nhưng dù vậy, việc hoàn thành một lần huấn luyện 12 nghìn tỷ token trong chưa đầy 3 ngày vẫn là một dấu mốc về hiệu quả hạ tầng và kỹ thuật huấn luyện.
Ý nghĩa thực tế của tốc độ huấn luyện nhanh gồm:
- Vòng lặp nghiên cứu nhanh hơn: Khi một lần huấn luyện chỉ mất 68 giờ thay vì nhiều tuần, đội ngũ có thể thử nghiệm nhiều ý tưởng kiến trúc và dữ liệu hơn trong cùng một khoảng thời gian, từ đó cải tiến mô hình nhanh hơn.
- Chi phí huấn luyện thấp hơn: Thời gian thuê cụm GPU là chi phí lớn nhất của huấn luyện mô hình lớn. Rút ngắn thời gian đồng nghĩa với giảm chi phí trực tiếp, giúp các phòng thí nghiệm quy mô vừa có thể cạnh tranh với các “ông lớn”.
- Dữ liệu 12 nghìn tỷ token: Quy mô dữ liệu huấn luyện 12 nghìn tỷ token cho thấy xu hướng “huấn luyện quá mức” (overtraining) — dùng nhiều token hơn mức tối ưu theo các quy luật scaling truyền thống — để đổi lấy mô hình suy luận rẻ hơn về lâu dài. Vì mô hình sẽ được suy luận hàng tỷ lần, việc đầu tư thêm vào huấn luyện để có mô hình nhỏ gọn, hiệu quả là hoàn toàn hợp lý về mặt kinh tế.
Tuy nhiên, người đọc cũng cần lưu ý: thời gian huấn luyện không phải là thước đo duy nhất của chất lượng mô hình. Điều quyết định cuối cùng vẫn là hiệu năng trên các bài kiểm tra chuẩn (benchmark) và trong ứng dụng thực tế, cùng với chi phí suy luận. Và ở khía cạnh này, con số 31 điểm trên Artificial Analysis Intelligence Index là dữ kiện quan trọng tiếp theo cần xem xét.
Hiệu năng: 31 điểm trên Artificial Analysis Intelligence Index
Theo công bố của hãng, Inkling 2 Small đạt 31 điểm trên Artificial Analysis Intelligence Index phiên bản 5.0.1, tăng 18 điểm so với bản tiền nhiệm. Artificial Analysis Intelligence Index là một chỉ số tổng hợp được xây dựng từ nhiều bài kiểm tra chuẩn về lý luận, kiến thức, lập trình và các năng lực khác, nhằm cho ra một con số duy nhất phản ánh “trí tuệ” tổng thể của mô hình.
Mức tăng 18 điểm so với thế hệ trước là một bước nhảy đáng kể, cho thấy dòng Inkling 2 đã cải thiện mạnh về năng lực tổng thể. Tuy nhiên, khi đánh giá bất kỳ con số benchmark nào, cần ghi nhớ ba nguyên tắc:
- Benchmark là chỉ báo, không phải kết luận: Điểm số cao trên các bài kiểm tra chuẩn cho thấy mô hình có năng lực tốt, nhưng hiệu năng thực tế còn phụ thuộc vào dữ liệu, prompt, và đặc thù của từng ứng dụng. Doanh nghiệp nên kiểm tra mô hình trên chính dữ liệu và tác vụ của mình trước khi quyết định triển khai.
- So sánh cần cùng phiên bản chỉ số: Artificial Analysis Intelligence Index v5.0.1 là phiên bản cụ thể; điểm số giữa các phiên bản khác nhau không so sánh trực tiếp được. Khi đối chiếu với mô hình khác, hãy kiểm tra xem cả hai có cùng được đo trên v5.0.1 hay không.
- Kiểm chứng độc lập vẫn đang chờ: Hãng cho biết trọng số mở sẽ được phát hành sau khi kiểm tra an toàn bên ngoài hoàn tất. Khi đó, cộng đồng nghiên cứu có thể tự chạy benchmark và kiểm chứng độc lập các con số hãng công bố — đây là một phần quan trọng của quy trình khoa học mở.
So sánh Inkling 2 Small với các mô hình mở khác
Inkling 2 Small ra mắt trong bối cảnh làn sóng mô hình mở đang bùng nổ, với nhiều mô hình MoE quy mô lớn được công bố trong cùng thời gian. Bảng dưới đây so sánh các thông số đã được công bố của Inkling 2 Small với hai mô hình mở đáng chú ý khác, dựa trên thông tin công khai của các hãng.
| Tiêu chí | Inkling 2 Small (TML) | Kimi K3.1 Pro (Moonshot AI) | DeepSeek (dòng V/R) |
|---|---|---|---|
| Tổng tham số | 594 tỷ | 2.800 tỷ | 671 tỷ (DeepSeek-V3/R1) |
| Tham số active | 17 tỷ | 104 tỷ | 37 tỷ |
| Kiến trúc | MoE, 48 tầng, 384 expert, top-8 | MoE, đa phương thức văn bản + hình ảnh | MoE, DeepSeekMoE |
| Thời gian huấn luyện | 68 giờ (theo công bố của hãng) | Không công bố chi tiết | Không công bố chi tiết |
| Giấy phép | Apache 2.0 (hứa hẹn phát hành tuần sau) | Kimi K3.1 Pro License | MIT / Model License |
| Cửa sổ ngữ cảnh | Chưa công bố chi tiết | 1.048.576 token | 64K–128K token (tùy phiên bản) |
Một vài nhận xét rút ra từ bảng so sánh:
- Inkling 2 Small là mô hình “nhỏ gọn” về chi phí suy luận: Với chỉ 17 tỷ tham số active, chi phí tính toán mỗi token của Inkling 2 Small thấp hơn nhiều so với Kimi K3.1 Pro (104 tỷ active) hay DeepSeek (37 tỷ active). Điều này khiến Inkling 2 Small phù hợp với các ứng dụng cần suy luận nhanh, chi phí thấp và triển khai trên hạ tầng vừa phải.
- Kimi K3.1 Pro vượt trội về quy mô tổng và ngữ cảnh: Với 2.800 tỷ tham số tổng và cửa sổ ngữ cảnh hơn 1 triệu token, Kimi K3.1 Pro hướng tới các tác vụ dài hơi như xử lý tài liệu lớn, agent lập trình dài hạn. Tuy nhiên, quy mô này cũng đồng nghĩa với yêu cầu hạ tầng suy luận cao hơn nhiều.
- Giấy phép là điểm khác biệt quan trọng: Apache 2.0 là giấy phép mã nguồn mở permissive nhất, cho phép sử dụng thương mại gần như không hạn chế. Nếu TML thực hiện đúng cam kết phát hành trọng số Apache 2.0, Inkling 2 Small sẽ là một trong những mô hình lớn nhất từng được mở dưới giấy phép này, tạo lợi thế lớn so với các mô hình dùng giấy phép riêng có điều khoản hạn chế.
- DeepSeek vẫn là chuẩn mực về hiệu quả chi phí: Dòng DeepSeek đã chứng minh MoE có thể đạt hiệu năng hàng đầu với chi phí huấn luyện và suy luận thấp. Inkling 2 Small đi theo cùng triết lý này, nhưng với thời gian huấn luyện 68 giờ, TML đang đặt ra một chuẩn mới về tốc độ huấn luyện.
Điểm chung của cả ba: tất cả đều là MoE, tất cả đều mở trọng số hoặc hứa hẹn mở trọng số, và tất cả đều cho thấy xu hướng của ngành — mô hình lớn, suy luận rẻ, cộng đồng có thể tự kiểm chứng và tùy biến.
Ý nghĩa của việc mở trọng số Apache 2.0
Giấy phép Apache 2.0 là giấy phép mã nguồn mở permissive (cho phép rộng rãi) do Apache Software Foundation ban hành. Khi một mô hình AI được phát hành dưới Apache 2.0, người dùng được quyền sử dụng, sửa đổi, phân phối và dùng cho mục đích thương mại, với điều kiện ghi rõ nguồn gốc và các thay đổi. Khác với các giấy phép mô hình có điều khoản “sử dụng có trách nhiệm” hay giới hạn số người dùng, Apache 2.0 gần như không đặt rào cản nào cho ứng dụng thương mại.
Đối với Inkling 2 Small, việc mở trọng số Apache 2.0 có ý nghĩa lớn trên nhiều phương diện:
- Với nhà phát triển: Có thể tải trọng số về, chạy trên hạ tầng của mình, fine-tune cho dữ liệu chuyên ngành (y tế, pháp lý, tài chính…), và tích hợp vào sản phẩm thương mại mà không phải trả phí bản quyền hay lo lắng về giới hạn sử dụng.
- Với doanh nghiệp: Có thể tự chủ hoàn toàn dữ liệu — mô hình chạy on-premise hoặc trên cloud riêng, dữ liệu không phải gửi ra bên ngoài. Đây là yêu cầu bắt buộc trong nhiều ngành như ngân hàng, y tế, chính phủ.
- Với cộng đồng nghiên cứu: Có thể kiểm chứng độc lập các con số benchmark hãng công bố, nghiên cứu cơ chế hoạt động của mô hình, và xây dựng các phiên bản cải tiến (fine-tune, distillation, quantization) để chia sẻ lại.
- Với hệ sinh thái: Trọng số mở dưới giấy phép permissive thường kéo theo sự bùng nổ của các công cụ, framework và dịch vụ xung quanh — từ các bản quantization chạy trên GPU tiêu dùng tới các dịch vụ suy luận giá rẻ.
Tuy nhiên, hãng cho biết trọng số sẽ chỉ được phát hành sau khi kiểm tra an toàn bên ngoài hoàn tất. Đây là thực hành ngày càng phổ biến: trước khi mở một mô hình mạnh, hãng nhờ các tổ chức độc lập đánh giá rủi ro (khả năng bị lạm dụng cho nội dung độc hại, thông tin sai lệch, hay các hành vi gây hại khác). Việc chờ kiểm tra an toàn xong mới phát hành là tín hiệu tích cực về trách nhiệm của hãng, và người dùng nên theo dõi thông báo chính thức của Thinking Machines Lab trong tuần sau để biết thời điểm phát hành chính xác.
Hướng dẫn dùng thử Inkling 2 Small trên Tinker
Tinker là nền tảng của Thinking Machines Lab, cung cấp cả fine-tuning và suy luận cho các mô hình của hãng. Theo công bố, Inkling 2 Small đã có mặt trên Tinker ngay từ ngày ra mắt, với hai hình thức tiếp cận: Tinker đầy đủ (fine-tuning + suy luận) và Tinker Playground (chỉ suy luận, dùng thử nhanh). Dưới đây là quy trình gợi ý cho doanh nghiệp và nhà phát triển muốn đánh giá mô hình.
Bước 1: Dùng thử nhanh trên Tinker Playground
Truy cập Tinker Playground, chọn mô hình Inkling 2 Small, và thử các prompt thuộc đúng lĩnh vực của bạn. Hãy chuẩn bị trước một bộ câu hỏi kiểm tra (evaluation set) gồm 20–50 tác vụ thực tế: ví dụ, tóm tắt hợp đồng, viết code, phân tích báo cáo tài chính, trả lời câu hỏi khách hàng. Ghi lại chất lượng câu trả lời, tốc độ phản hồi, và so sánh với mô hình bạn đang dùng. Playground phù hợp cho đánh giá nhanh, không cần thiết lập hạ tầng hay viết code.
Bước 2: Đánh giá có hệ thống trên Tinker
Nếu kết quả dùng thử khả quan, hãy chuyển sang Tinker đầy đủ để chạy đánh giá có hệ thống: gọi API với bộ dữ liệu kiểm tra của riêng bạn, đo độ chính xác, thời gian phản hồi và chi phí cho mỗi nghìn token. So sánh trực tiếp với mô hình hiện tại trên cùng một bộ dữ liệu, cùng một cách chấm điểm. Đây là bước quan trọng nhất trước khi quyết định triển khai, vì benchmark công khai không phản ánh đầy đủ hiệu năng trên dữ liệu chuyên ngành của bạn.
Bước 3: Fine-tune cho dữ liệu chuyên ngành
Nếu mô hình nền chưa đủ tốt trên dữ liệu của bạn, Tinker cho phép fine-tune Inkling 2 Small trên dữ liệu riêng. Quy trình gợi ý: chuẩn bị 500–2.000 ví dụ chất lượng cao (cặp prompt – đáp án mong muốn) đúng định dạng tác vụ thực tế; fine-tune với cấu hình mặc định trước, rồi điều chỉnh nếu cần; đánh giá lại trên bộ kiểm tra độc lập (không trùng dữ liệu huấn luyện) để tránh overfitting. Lưu ý: fine-tune MoE lớn vẫn tốn tài nguyên đáng kể, nên hãy bắt đầu với tập dữ liệu nhỏ và đo hiệu quả trước khi mở rộng.
Bước 4: Lên kế hoạch triển khai sau khi trọng số mở
Khi trọng số Apache 2.0 được phát hành, doanh nghiệp có thêm lựa chọn tự triển khai (self-hosting): tải trọng số về, chạy trên hạ tầng riêng bằng các framework suy luận phổ biến như vLLM, SGLang hay TensorRT-LLM. Ưu điểm là tự chủ dữ liệu và kiểm soát chi phí dài hạn; nhược điểm là cần đội ngũ vận hành hạ tầng và chi phí đầu tư ban đầu cho GPU. Với 594 tỷ tham số tổng, cần lưu ý rằng dù chỉ 17 tỷ active, toàn bộ trọng số vẫn phải được lưu trữ — hãy tính toán kỹ dung lượng bộ nhớ và băng thông trước khi quyết định self-hosting.
Checklist đánh giá trước khi áp dụng vào sản phẩm
- Đã kiểm tra mô hình trên dữ liệu thực tế của doanh nghiệp, không chỉ benchmark công khai.
- Đã đo chi phí suy luận thực tế (đồng/1.000 token hoặc đồng/yêu cầu) và so sánh với mô hình hiện tại.
- Đã kiểm tra chất lượng tiếng Việt nếu ứng dụng phục vụ người dùng Việt Nam.
- Đã có phương án kiểm soát đầu ra: lọc nội dung, kiểm tra thực tế (fact-checking) cho các thông tin quan trọng, và cơ chế fallback khi mô hình trả lời sai.
- Đã đọc kỹ điều khoản sử dụng của Tinker và (khi có) giấy phép Apache 2.0 kèm trọng số.
- Đã có kế hoạch theo dõi, cập nhật mô hình khi hãng phát hành phiên bản mới hoặc bản vá an toàn.
Lưu ý về an toàn và kiểm chứng độc lập
Thinking Machines Lab cho biết trọng số mở sẽ được phát hành sau khi kiểm tra an toàn bên ngoài hoàn tất. Đây là điểm người dùng nên theo dõi, vì nó phản ánh cách hãng cân bằng giữa mở và an toàn. Một số lưu ý thực tế:
- Không coi benchmark của hãng là kết luận cuối cùng: Hãy chờ các đánh giá độc lập từ cộng đồng và các tổ chức kiểm tra chuẩn như Artificial Analysis, LMSYS hay các phòng thí nghiệm độc lập sau khi trọng số được mở.
- Kiểm tra hành vi thực tế của mô hình: Trước khi đưa vào sản phẩm phục vụ khách hàng, hãy kiểm tra mô hình trên các tình huống nhạy cảm: nội dung gây hiểu lầm, thông tin sai lệch, yêu cầu trái phép, và dữ liệu cá nhân. Đặt ra các bộ lọc và quy tắc kiểm duyệt phù hợp với chính sách của doanh nghiệp.
- Theo dõi cập nhật an toàn: Các mô hình mở thường nhận được các bản vá, bản fine-tune an toàn bổ sung từ cộng đồng và từ chính hãng. Hãy theo dõi kênh chính thức của Thinking Machines Lab để cập nhật.
- Dữ liệu huấn luyện và thiên lệch: Như mọi LLM, Inkling 2 Small có thể mang thiên lệch từ dữ liệu huấn luyện và có thể tạo ra thông tin không chính xác một cách tự tin (hallucination). Với các ứng dụng quan trọng (y tế, pháp lý, tài chính), luôn cần con người kiểm tra lại kết quả trước khi sử dụng.
Kết luận
Inkling 2 Small là một bước tiến đáng chú ý của Thinking Machines Lab và của cả làn sóng mô hình mở: MoE 594 tỷ tham số với chỉ 17 tỷ tham số active, huấn luyện trong 68 giờ trên GPU GB300 với 12 nghìn tỷ token, đạt 31 điểm trên Artificial Analysis Intelligence Index v5.0.1 theo công bố của hãng. Con số 68 giờ cho thấy tốc độ huấn luyện đang trở thành lợi thế cạnh tranh mới, và cam kết mở trọng số Apache 2.0 — nếu được thực hiện đúng hẹn sau khi kiểm tra an toàn xong — sẽ mang lại cho cộng đồng một mô hình lớn, giấy phép thoáng, có thể dùng thương mại và tự triển khai.
Với doanh nghiệp và nhà phát triển Việt Nam, cách tiếp cận khôn ngoan nhất lúc này là: dùng thử ngay trên Tinker Playground, đánh giá có hệ thống trên dữ liệu của chính mình, và chờ trọng số mở để cân nhắc self-hosting hoặc fine-tune chuyên sâu. Đừng quyết định chỉ dựa trên điểm benchmark; hãy để dữ liệu thực tế của bạn lên tiếng.
Câu hỏi thường gặp (FAQs)
Inkling 2 Small là gì?
Inkling 2 Small là mô hình ngôn ngữ lớn (LLM) đa phương thức do Thinking Machines Lab ra mắt ngày 5/11/2026, thuộc dòng Inkling 2. Mô hình sử dụng kiến trúc Mixture-of-Experts với 594 tỷ tham số tổng và 17 tỷ tham số active, được thiết kế cho làm việc tự chủ dài hạn, lập trình, thị giác và tri thức. Theo công bố của hãng, mô hình được huấn luyện trong 68 giờ trên GPU GB300 với 12 nghìn tỷ token và đạt 31 điểm trên Artificial Analysis Intelligence Index v5.0.1.
Mixture-of-Experts (MoE) khác mô hình dense truyền thống thế nào?
Mixture-of-Experts (MoE) chỉ kích hoạt một tập con các “expert” cho mỗi token, trong khi mô hình dense dùng toàn bộ tham số cho mọi token. Nhờ đó, mô hình MoE có thể rất lớn về tổng tham số (594 tỷ với Inkling 2 Small) nhưng chi phí tính toán mỗi token chỉ tương đương mô hình nhỏ (17 tỷ tham số active). MoE cho phép mở rộng dung lượng tri thức mà không tăng chi phí suy luận tuyến tính, nhưng đòi hỏi nhiều bộ nhớ để lưu toàn bộ trọng số và kỹ thuật định tuyến tốt để cân bằng tải giữa các expert.
Vì sao huấn luyện Inkling 2 Small trong 68 giờ lại đáng chú ý?
Vì việc huấn luyện một mô hình 594 tỷ tham số trên 12 nghìn tỷ token thường kéo dài nhiều tuần hoặc nhiều tháng, nên việc hoàn thành trong 68 giờ trên GPU GB300 cho thấy hiệu quả hạ tầng và kỹ thuật huấn luyện vượt trội của Thinking Machines Lab. Thời gian huấn luyện ngắn giúp vòng lặp nghiên cứu nhanh hơn, chi phí huấn luyện thấp hơn, và cho phép đội ngũ thử nghiệm nhiều ý tưởng hơn trong cùng một khoảng thời gian. Tuy nhiên, thời gian huấn luyện không phải thước đo duy nhất của chất lượng — hiệu năng thực tế vẫn cần được kiểm chứng bằng benchmark độc lập và trên dữ liệu ứng dụng cụ thể.
Inkling 2 Small đạt bao nhiêu điểm benchmark?
Theo công bố của hãng, Inkling 2 Small đạt 31 điểm trên Artificial Analysis Intelligence Index v5.0.1, tăng 18 điểm so với bản tiền nhiệm. Đây là chỉ số tổng hợp từ nhiều bài kiểm tra chuẩn về lý luận, kiến thức và lập trình. Người dùng nên lưu ý rằng đây là con số do hãng công bố và cần chờ kiểm chứng độc lập sau khi trọng số được mở, đồng thời nên tự đánh giá mô hình trên dữ liệu thực tế của mình trước khi triển khai.
Làm thế nào để dùng thử Inkling 2 Small?
Bạn có thể dùng thử Inkling 2 Small ngay trên Tinker Playground của Thinking Machines Lab để suy luận nhanh mà không cần thiết lập hạ tầng, hoặc dùng nền tảng Tinker đầy đủ để vừa suy luận vừa fine-tune. Cách tốt nhất là chuẩn bị một bộ câu hỏi kiểm tra từ tác vụ thực tế của bạn (20–50 ví dụ), thử trên Playground, rồi chạy đánh giá có hệ thống qua API của Tinker để đo độ chính xác, tốc độ và chi phí trước khi quyết định triển khai.
Khi nào trọng số Inkling 2 Small được mở theo Apache 2.0?
Theo công bố của hãng, trọng số Inkling 2 Small sẽ được phát hành theo giấy phép Apache 2.0 vào tuần sau ngày ra mắt (sau 5/11/2026), sau khi quá trình kiểm tra an toàn bên ngoài hoàn tất. Apache 2.0 là giấy phép permissive, cho phép sử dụng thương mại, sửa đổi và phân phối gần như không hạn chế. Người dùng nên theo dõi thông báo chính thức của Thinking Machines Lab để biết thời điểm phát hành chính xác, vì lịch trình có thể thay đổi tùy kết quả kiểm tra an toàn.
Nên chọn Inkling 2 Small hay Kimi K3.1 Pro?
Lựa chọn phụ thuộc vào nhu cầu của bạn. Nên chọn Inkling 2 Small nếu bạn cần chi phí suy luận thấp (chỉ 17 tỷ tham số active), giấy phép Apache 2.0 thoáng cho thương mại, và mô hình gọn nhẹ dễ triển khai. Nên chọn Kimi K3.1 Pro nếu bạn cần cửa sổ ngữ cảnh cực lớn (1.048.576 token) để xử lý tài liệu dài và tác vụ agent dài hơi, và chấp nhận yêu cầu hạ tầng cao hơn với 104 tỷ tham số active. Trong cả hai trường hợp, hãy thử nghiệm cả hai mô hình trên dữ liệu thực tế của bạn trước khi quyết định, vì hiệu năng trên dữ liệu chuyên ngành mới là yếu tố quyết định.
Doanh nghiệp Việt Nam dùng Inkling 2 Small cần lưu ý gì?
Doanh nghiệp Việt Nam cần kiểm tra chất lượng tiếng Việt của mô hình trên dữ liệu thực tế, vì benchmark quốc tế chủ yếu đo bằng tiếng Anh. Cần đo chi phí suy luận thực tế, chuẩn bị cơ chế kiểm soát đầu ra (lọc nội dung, kiểm tra thực tế cho thông tin quan trọng), và có phương án fallback khi mô hình trả lời sai. Khi trọng số Apache 2.0 được mở, doanh nghiệp có thể tự triển khai on-premise để bảo vệ dữ liệu, nhưng cần tính toán kỹ dung lượng bộ nhớ cho 594 tỷ tham số và đội ngũ vận hành hạ tầng GPU.
Để được tư vấn lựa chọn và triển khai giải pháp AI phù hợp với doanh nghiệp của bạn — từ đánh giá mô hình, fine-tune dữ liệu chuyên ngành đến triển khai hệ thống AI an toàn, hiệu quả — hãy liên hệ AIA qua hotline 0939 936 168 để được tư vấn chi tiết.
