Mô hình AI học từ dữ liệu huấn luyện — hàng nghìn tỷ từ, đoạn mã, hình ảnh và đoạn hội thoại được thu thập, làm sạch rồi đưa vào quá trình huấn luyện. Chất lượng của tập dữ liệu này quyết định trực tiếp trí tuệ, độ tin cậy và cả những thiên kiến của mô hình, nhiều hơn bất kỳ tinh chỉnh kiến trúc nào. Bài viết này giải thích dữ liệu huấn luyện AI là gì, mô hình học từ đâu, quy trình xử lý dữ liệu diễn ra ra sao, vì sao bản quyền dữ liệu đang là tâm điểm tranh cãi toàn cầu, và doanh nghiệp Việt Nam nên chuẩn bị dữ liệu của mình như thế nào.
Nếu bạn chỉ có một phút, hãy nhớ ba ý cốt lõi. Thứ nhất, mô hình ngôn ngữ lớn không “học thuộc” internet mà học các quy luật thống kê của ngôn ngữ từ dữ liệu, rồi dùng những quy luật đó để sinh ra văn bản mới. Thứ hai, dữ liệu tốt — đa dạng, chính xác, được cấp phép rõ ràng — tạo ra mô hình tốt; dữ liệu bẩn tạo ra mô hình thiên kiến, ảo giác và rủi ro pháp lý. Thứ ba, cuộc tranh luận về bản quyền chưa có đáp án cuối cùng, và xu hướng dữ liệu tổng hợp cùng dữ liệu cấp phép đang định hình lại toàn bộ cách ngành AI thu thập dữ liệu.
Dữ liệu huấn luyện AI là gì?
Dữ liệu huấn luyện AI là tập hợp các ví dụ mà mô hình học từ đó trong quá trình huấn luyện. Với mô hình ngôn ngữ lớn, dữ liệu chủ yếu là văn bản: trang web, sách, bài báo khoa học, mã nguồn, tài liệu kỹ thuật, đoạn hội thoại và nhiều dạng văn bản khác. Với mô hình tạo ảnh, dữ liệu là các cặp ảnh và chú thích mô tả ảnh đó. Với mô hình âm thanh, dữ liệu là bản ghi âm kèm bản chép lời. Nguyên tắc chung không đổi: mô hình quan sát rất nhiều ví dụ, tự điều chỉnh các tham số bên trong để dự đoán tốt hơn, và khả năng tổng quát hoá của nó xuất phát từ chính những ví dụ đó.
Cần phân biệt ba loại dữ liệu thường bị nhầm lẫn với nhau. Dữ liệu huấn luyện trước (pretraining data) là khối lượng dữ liệu khổng lồ dùng để dạy mô hình kiến thức và kỹ năng ngôn ngữ tổng quát. Dữ liệu tinh chỉnh (fine-tuning data) là tập dữ liệu nhỏ hơn, chuyên biệt hơn, dùng để dạy mô hình một nhiệm vụ hoặc phong cách cụ thể — ví dụ trả lời theo giọng văn của một công ty, hay tóm tắt hợp đồng pháp lý. Dữ liệu đánh giá (evaluation data) là tập dữ liệu riêng biệt, không trùng với dữ liệu huấn luyện, dùng để đo xem mô hình làm tốt đến đâu. Trộn lẫn ba loại này là lỗi phổ biến khiến kết quả đánh giá bị thổi phồng: mô hình “làm bài kiểm tra” mà nó đã nhìn thấy đáp án từ trước.
Một khái niệm quan trọng khác là token. Mô hình ngôn ngữ không đọc văn bản theo từng từ như con người mà theo từng token — đơn vị nhỏ hơn, có thể là một từ, một phần của từ, hay một ký tự. Một đoạn văn tiếng Việt khoảng 750 từ thường tương đương khoảng 1.000 token, vì tiếng Việt và nhiều ngôn ngữ khác ngoài tiếng Anh thường tốn nhiều token hơn cho cùng một nội dung. Khi các công ty công bố mô hình của họ được huấn luyện trên “15 nghìn tỷ token”, con số đó mô tả quy mô dữ liệu tính theo đơn vị mà mô hình thực sự xử lý. Quy mô này quan trọng vì nghiên cứu về luật mở rộng quy mô (scaling laws) cho thấy hiệu năng mô hình cải thiện một cách có thể dự đoán được khi tăng đồng thời quy mô mô hình, lượng dữ liệu và sức mạnh tính toán.
Dữ liệu huấn luyện không chỉ là “nguyên liệu” mà còn là “chương trình học”. Cùng một kiến trúc mô hình, huấn luyện trên dữ liệu khác nhau sẽ cho ra những mô hình có tính cách và năng lực khác nhau. Một mô hình huấn luyện chủ yếu trên mã nguồn sẽ giỏi lập trình nhưng yếu văn chương. Một mô hình huấn luyện trên dữ liệu y khoa sẽ trả lời tốt câu hỏi sức khoẻ nhưng có thể kém về kiến thức pháp luật. Đó là lý do các phòng thí nghiệm AI đầu tư rất nhiều vào việc tuyển chọn dữ liệu: dữ liệu là nơi kiến thức, giá trị và cả thiên kiến của mô hình được hình thành.
Mô hình AI học từ dữ liệu như thế nào?
Cơ chế học của mô hình ngôn ngữ lớn có thể tóm tắt trong một nhiệm vụ tưởng chừng đơn giản: đoán từ tiếp theo. Trong quá trình huấn luyện, mô hình nhận một đoạn văn bản, che đi từ tiếp theo và cố gắng dự đoán từ đó là gì. Ban đầu nó đoán mò. Mỗi lần đoán sai, thuật toán lan truyền ngược (backpropagation) điều chỉnh hàng tỷ tham số bên trong mô hình theo hướng giảm sai số. Lặp lại quá trình này hàng nghìn tỷ lần trên hàng nghìn tỷ token, mô hình dần dần nắm được ngữ pháp, kiến thức thực tế, khả năng suy luận, phong cách viết và thậm chí cả cách lập trình — tất cả chỉ từ nhiệm vụ đoán từ tiếp theo.
Điều đáng ngạc nhiên là không ai lập trình trực tiếp kiến thức vào mô hình. Không có dòng mã nào dạy mô hình rằng “Hà Nội là thủ đô của Việt Nam” hay “động từ phải chia theo thì”. Kiến thức đó xuất hiện vì trong dữ liệu huấn luyện, cụm từ “thủ đô của Việt Nam là Hà Nội” xuất hiện đủ nhiều lần, trong đủ nhiều ngữ cảnh, để mô hình học được mối liên hệ thống kê mạnh mẽ giữa các từ đó. Đây chính là bản chất của học sâu: kiến thức được nén vào các tham số dưới dạng các mẫu thống kê, không phải dưới dạng các sự kiện được ghi rõ ràng như trong cơ sở dữ liệu truyền thống.
Sau giai đoạn huấn luyện trước, mô hình thường trải qua thêm hai giai đoạn dùng dữ liệu khác nhau. Giai đoạn tinh chỉnh có giám sát (supervised fine-tuning, viết tắt là SFT) dùng các cặp câu hỏi — câu trả lời mẫu do con người viết để dạy mô hình cách trả lời theo định dạng mong muốn, ví dụ trả lời ngắn gọn, có cấu trúc, lịch sự. Giai đoạn học tăng cường từ phản hồi của con người (reinforcement learning from human feedback, viết tắt là RLHF) dùng dữ liệu xếp hạng: con người so sánh hai câu trả lời của mô hình và chọn câu tốt hơn, mô hình học cách ưu tiên những câu trả lời được con người đánh giá cao. Cả hai giai đoạn này dùng ít dữ liệu hơn huấn luyện trước rất nhiều, nhưng lại quyết định lớn đến cảm nhận của người dùng về chất lượng mô hình, vì chúng dạy mô hình cách ứng xử, không chỉ dạy kiến thức.
Một điểm cần hiểu rõ là mô hình không lưu trữ dữ liệu huấn luyện nguyên văn trong hầu hết trường hợp. Các tham số của mô hình là những con số đã được điều chỉnh để mã hoá các mẫu thống kê, không phải một bản sao của internet. Tuy nhiên, mô hình vẫn có thể ghi nhớ (memorize) một số đoạn văn bản xuất hiện nhiều lần hoặc rất đặc biệt trong dữ liệu — ví dụ một đoạn mã nguồn phổ biến, một câu trích dẫn nổi tiếng, hay thông tin cá nhân xuất hiện lặp lại. Hiện tượng ghi nhớ này là một trong những lý do vấn đề bản quyền và quyền riêng tư trong dữ liệu huấn luyện trở nên nhạy cảm: trong một số trường hợp hiếm, mô hình có thể tái tạo gần như nguyên văn một đoạn văn bản có bản quyền.
Luật mở rộng quy mô và vai trò của dữ liệu
Nghiên cứu về luật mở rộng quy mô, nổi tiếng nhất là nghiên cứu Chinchilla của DeepMind công bố năm 2022, chỉ ra rằng hiệu năng mô hình phụ thuộc vào sự cân bằng giữa quy mô mô hình và lượng dữ liệu. Trước nghiên cứu này, nhiều phòng thí nghiệm chạy theo việc tăng kích thước mô hình mà không tăng tương xứng lượng dữ liệu, khiến mô hình “thừa tham số, thiếu dữ liệu” và lãng phí tài nguyên tính toán. Chinchilla cho thấy một mô hình nhỏ hơn nhưng huấn luyện trên nhiều dữ liệu hơn có thể vượt qua mô hình lớn hơn huấn luyện ít dữ liệu, với cùng một ngân sách tính toán. Kết luận thực tiễn: dữ liệu không chỉ là nhiên liệu mà còn là giới hạn — khi dữ liệu chất lượng cao cạn kiệt, việc tăng quy mô mô hình mang lại lợi ích giảm dần.
Chính vì vậy, từ năm 2022 trở đi, các công ty AI chuyển trọng tâm từ “mô hình lớn hơn” sang “dữ liệu tốt hơn”: tuyển chọn kỹ hơn, loại bỏ trùng lặp, cân bằng ngôn ngữ và lĩnh vực, bổ sung dữ liệu tổng hợp và dữ liệu cấp phép. Một mô hình huấn luyện trên 15 nghìn tỷ token đã qua lọc kỹ có thể vượt qua mô hình huấn luyện trên 30 nghìn tỷ token thô chưa qua lọc. Câu chuyện của dữ liệu huấn luyện, vì vậy, không chỉ là câu chuyện về số lượng mà là câu chuyện về chiến lược lựa chọn.
Các nguồn dữ liệu huấn luyện chính
Dữ liệu huấn luyện của một mô hình ngôn ngữ lớn hiện đại không đến từ một nguồn duy nhất mà là sự pha trộn của nhiều nguồn, mỗi nguồn đóng góp một thế mạnh riêng. Hiểu rõ các nguồn này giúp bạn đánh giá được điểm mạnh, điểm yếu và rủi ro pháp lý của từng mô hình.
Thu thập từ web công khai (web crawl)
Nguồn lớn nhất, tính theo khối lượng, là dữ liệu thu thập từ web công khai thông qua các chương trình thu thập tự động gọi là web crawler. Các dự án như Common Crawl đã thu thập hàng trăm tỷ trang web từ năm 2007 đến nay và công bố dữ liệu dưới giấy phép mở, trở thành nguyên liệu đầu vào của nhiều mô hình ngôn ngữ. Dữ liệu web mang lại sự đa dạng lớn nhất: đủ mọi chủ đề, phong cách, ngôn ngữ và quan điểm, giúp mô hình học được cách ngôn ngữ được dùng trong đời thực. Nhược điểm cũng rõ ràng: web chứa rất nhiều nội dung chất lượng thấp, tin giả, nội dung trùng lặp, nội dung độc hại và nội dung có bản quyền mà chủ sở hữu không đồng ý cho dùng để huấn luyện AI.
Để xử lý dữ liệu web, các công ty phải lọc rất mạnh: loại bỏ trang spam, trang trùng lặp, nội dung không phải ngôn ngữ tự nhiên như mã theo dõi, và các trang chứa nội dung độc hại. Một số nghiên cứu cho thấy sau khi lọc, chỉ một phần nhỏ dữ liệu web thô được giữ lại. Ngoài ra, ngày càng nhiều chủ sở hữu website dùng tệp robots.txt và các cơ chế từ chối thu thập để chặn crawler của công ty AI, khiến nguồn dữ liệu web công khai ngày càng khó tiếp cận. Đây là một trong những thay đổi lớn nhất của ngành trong hai năm gần đây.
Sách, bài báo khoa học và tài liệu tham khảo
Nguồn thứ hai là sách và tài liệu học thuật: sách đã hết bản quyền, bài báo khoa học mở, luận văn, tài liệu kỹ thuật và bách khoa toàn thư. Các tập dữ liệu nổi tiếng như The Pile hay các bộ sách điện tử công cộng chứa hàng trăm gigabyte văn bản có chất lượng cao hơn hẳn dữ liệu web trung bình, vì chúng đã qua biên tập, kiểm chứng và có cấu trúc rõ ràng. Dữ liệu sách giúp mô hình học được văn phong dài, lập luận chặt chẽ và kiến thức chuyên sâu mà dữ liệu web rời rạc khó mang lại.
Tuy nhiên, chính nguồn này lại là tâm điểm của tranh cãi bản quyền lớn nhất. Nhiều nhà xuất bản và tác giả cho rằng sách của họ bị đưa vào dữ liệu huấn luyện mà không được phép và không được trả tiền, dù sách vẫn còn bản quyền. Một số tập dữ liệu đã phải gỡ bỏ các đầu sách bị khiếu nại. Xu hướng hiện tại là các công ty AI ký thoả thuận cấp phép với nhà xuất bản lớn, trả phí để dùng sách và bài báo một cách hợp pháp, thay vì thu thập tự do như trước đây.
Mã nguồn mở và tài liệu kỹ thuật
Nguồn thứ ba là mã nguồn mở và tài liệu kỹ thuật: hàng tỷ dòng mã từ các kho lưu trữ công khai như GitHub, kèm theo tài liệu, bình luận và lịch sử thay đổi. Dữ liệu mã nguồn là lý do mô hình ngôn ngữ hiện đại có thể viết code, sửa lỗi và giải thích thuật toán. Mã nguồn có ưu điểm là có cấu trúc chặt chẽ, có thể kiểm chứng bằng cách chạy thử, và thường đi kèm giấy phép mở cho phép sử dụng lại. Nhưng mã nguồn cũng chứa mã có lỗi, mã chứa thông tin nhạy cảm như khoá API bị vô tình đẩy lên kho công khai, và mã có giấy phép hạn chế mà người thu thập không kiểm tra kỹ.
Một vấn đề pháp lý riêng của dữ liệu mã nguồn là giấy phép: mã nguồn mở không có nghĩa là “ai muốn dùng sao cũng được”. Mỗi giấy phép, ví dụ MIT, Apache hay GPL, đều có điều kiện riêng về ghi công và chia sẻ lại. Vụ kiện liên quan đến công cụ lập trình GitHub Copilot, bị cáo buộc tái tạo mã nguồn có bản quyền mà không tuân thủ giấy phép, là một trong những vụ kiện tiêu biểu của lĩnh vực này và sẽ được trình bày kỹ hơn trong phần tranh cãi bản quyền.
Dữ liệu bách khoa và dữ liệu có cấu trúc
Nguồn thứ tư là dữ liệu bách khoa và dữ liệu có cấu trúc: Wikipedia, Wikidata, các cơ sở tri thức mở và bộ dữ liệu hỏi đáp đã được biên tập. Wikipedia đặc biệt quan trọng vì nó cung cấp kiến thức thực tế được trình bày rõ ràng, có nguồn tham chiếu và được cập nhật liên tục bởi cộng đồng. Nhiều mô hình dùng Wikipedia làm “xương sống kiến thức” để học sự kiện, định nghĩa và mối quan hệ giữa các khái niệm. Dữ liệu có cấu trúc, như bảng, danh sách và đồ thị tri thức, giúp mô hình học được quan hệ logic giữa các thực thể — ví dụ một thành phố thuộc quốc gia nào, một công ty được thành lập năm nào.
Dữ liệu được cấp phép và dữ liệu đối tác
Nguồn thứ năm là dữ liệu được cấp phép chính thức: các công ty AI ký hợp đồng với nhà xuất bản, hãng tin, nhà cung cấp dữ liệu thị trường và các tổ chức khác để mua quyền sử dụng nội dung của họ. Ví dụ, một công ty AI có thể trả phí cho một hãng tin lớn để dùng kho bài báo của hãng trong huấn luyện, đổi lại hãng tin nhận được doanh thu và quyền kiểm soát cách nội dung được dùng. Nguồn này có chi phí cao nhưng mang lại dữ liệu chất lượng, hợp pháp và có thể truy xuất nguồn gốc rõ ràng. Đây là xu hướng đang tăng nhanh khi áp lực pháp lý về bản quyền gia tăng.
Dữ liệu do người dùng tạo ra và dữ liệu phản hồi
Nguồn thứ sáu là dữ liệu do người dùng tạo ra trong quá trình tương tác với AI: câu hỏi, đoạn hội thoại, phản hồi đánh giá và dữ liệu người dùng tự nguyện đóng góp. Dữ liệu này đặc biệt quý giá cho giai đoạn tinh chỉnh và RLHF, vì nó phản ánh cách người thật thực sự dùng AI và mong đợi điều gì. Tuy nhiên, việc dùng dữ liệu người dùng cũng đặt ra câu hỏi lớn về quyền riêng tư và sự đồng ý: người dùng có biết dữ liệu của họ được dùng để huấn luyện không, họ có thể từ chối không, và dữ liệu nhạy cảm có được loại bỏ trước khi dùng không. Các công ty lớn hiện nay thường cho phép người dùng tắt tính năng dùng dữ liệu của họ để huấn luyện, và công bố chính sách rõ ràng về vấn đề này.
Dữ liệu tổng hợp do chính AI tạo ra
Nguồn thứ bảy, và cũng là xu hướng mới nhất, là dữ liệu tổng hợp: dữ liệu được tạo ra bởi chính một mô hình AI khác, thay vì thu thập từ con người. Ví dụ, một mô hình mạnh có thể tạo ra hàng triệu bài toán toán học kèm lời giải để huấn luyện một mô hình nhỏ hơn, hoặc tạo ra các đoạn hội thoại mẫu cho chatbot. Dữ liệu tổng hợp giúp vượt qua giới hạn của dữ liệu con người, đặc biệt trong các lĩnh vực khan hiếm dữ liệu, và sẽ được phân tích kỹ hơn trong một phần riêng dưới đây.
Bảng dưới đây tóm tắt bảy nguồn dữ liệu, kèm ưu điểm, nhược điểm và rủi ro chính của từng nguồn, để bạn có cái nhìn tổng quan trước khi đi sâu vào quy trình xử lý dữ liệu.
| Nguồn dữ liệu | Ưu điểm chính | Nhược điểm chính | Rủi ro lớn nhất |
|---|---|---|---|
| Web công khai (web crawl) | Khối lượng lớn nhất, đa dạng nhất | Nhiều nội dung chất lượng thấp, trùng lặp | Bản quyền, nội dung độc hại, thông tin sai |
| Sách và bài báo khoa học | Chất lượng cao, đã qua biên tập | Khối lượng hạn chế hơn web | Tranh cãi bản quyền gay gắt nhất |
| Mã nguồn mở | Có cấu trúc, kiểm chứng được bằng cách chạy thử | Có mã lỗi và mã chứa thông tin nhạy cảm | Vi phạm giấy phép mã nguồn |
| Dữ liệu bách khoa, có cấu trúc | Kiến thức thực tế rõ ràng, có nguồn tham chiếu | Phạm vi hẹp hơn web | Lỗi trong dữ liệu cộng đồng |
| Dữ liệu cấp phép, đối tác | Hợp pháp, chất lượng cao, truy xuất được nguồn | Chi phí cao | Phụ thuộc vào đối tác |
| Dữ liệu người dùng, phản hồi | Phản ánh cách dùng thực tế | Khối lượng nhỏ hơn dữ liệu web | Quyền riêng tư, sự đồng ý của người dùng |
| Dữ liệu tổng hợp | Không giới hạn khối lượng, kiểm soát được | Chất lượng phụ thuộc vào mô hình tạo ra nó | Suy thoái mô hình khi tự học từ chính mình |
Quy trình thu thập, lọc và gắn nhãn dữ liệu diễn ra như thế nào?
Dữ liệu thô không thể đưa thẳng vào huấn luyện. Trước khi trở thành dữ liệu huấn luyện, nó phải qua một quy trình xử lý nhiều bước, thường được gọi là đường ống dữ liệu (data pipeline). Dưới đây là sáu bước tiêu chuẩn mà các phòng thí nghiệm AI lớn áp dụng, từ thu thập đến sẵn sàng huấn luyện.
Bước 1: Thu thập và loại bỏ trùng lặp
Bước đầu tiên là thu thập dữ liệu từ các nguồn đã liệt kê ở trên, rồi loại bỏ trùng lặp. Trùng lặp là vấn đề nghiêm trọng hơn nhiều người tưởng: cùng một bài báo có thể xuất hiện trên hàng trăm website khác nhau, cùng một đoạn mã có thể được sao chép qua nhiều kho lưu trữ. Nếu không loại bỏ trùng lặp, mô hình sẽ học thuộc những nội dung lặp lại đó và đánh giá quá cao tầm quan trọng của chúng, đồng thời tăng nguy cơ ghi nhớ nguyên văn nội dung có bản quyền. Các kỹ thuật loại bỏ trùng lặp dùng hàm băm và so sánh tương tự để phát hiện cả trùng lặp chính xác lẫn trùng lặp gần giống, ví dụ hai bài báo chỉ khác nhau vài câu.
Bước 2: Lọc chất lượng và loại bỏ nội dung độc hại
Sau khi loại bỏ trùng lặp, dữ liệu được lọc theo chất lượng. Các bộ lọc tự động đánh giá từng tài liệu dựa trên các tiêu chí như độ dài, tính mạch lạc, tỷ lệ từ có nghĩa, và sự hiện diện của các dấu hiệu chất lượng thấp như quá nhiều ký tự đặc biệt hay câu không hoàn chỉnh. Đồng thời, các bộ lọc nội dung độc hại loại bỏ tài liệu chứa ngôn từ kích động thù ghét, nội dung bạo lực, nội dung khiêu dâm và thông tin cá nhân nhạy cảm như số điện thoại, địa chỉ email hay số chứng minh nhân dân. Bước này quan trọng không chỉ vì chất lượng mô hình mà còn vì an toàn: dữ liệu độc hại trong huấn luyện sẽ khiến mô hình học được hành vi độc hại theo.
Bước 3: Cân bằng và làm giàu dữ liệu
Dữ liệu thô thường mất cân bằng: quá nhiều nội dung tiếng Anh, quá ít nội dung tiếng Việt; quá nhiều văn bản về một chủ đề, quá ít về chủ đề khác; quá nhiều quan điểm của một nhóm người, quá ít của nhóm khác. Bước cân bằng điều chỉnh tỷ lệ các loại dữ liệu để mô hình không bị lệch về một ngôn ngữ, lĩnh vực hay quan điểm nào. Ví dụ, một phòng thí nghiệm muốn mô hình giỏi tiếng Việt sẽ tăng tỷ lệ dữ liệu tiếng Việt trong tập huấn luyện, dù dữ liệu tiếng Việt trên web ít hơn tiếng Anh rất nhiều. Ngoài ra, bước này còn bổ sung dữ liệu ở những lĩnh vực còn thiếu, ví dụ tạo thêm dữ liệu toán học, dữ liệu lập trình hay dữ liệu hội thoại, để mô hình có năng lực cân bằng hơn.
Bước 4: Gắn nhãn và tạo dữ liệu tinh chỉnh
Với dữ liệu dùng cho tinh chỉnh và RLHF, bước gắn nhãn là quan trọng nhất. Con người viết câu trả lời mẫu, xếp hạng các câu trả lời của mô hình, hoặc gắn nhãn phân loại cho từng ví dụ. Công việc này đòi hỏi người gắn nhãn có chuyên môn và tuân thủ hướng dẫn chi tiết: cùng một câu hỏi, hai người gắn nhãn khác nhau phải cho kết quả tương đối giống nhau thì dữ liệu mới đáng tin. Một số công ty thuê hàng nghìn người gắn nhãn trên khắp thế giới, với quy trình kiểm tra chéo và đánh giá chất lượng liên tục. Chất lượng gắn nhãn quyết định trực tiếp chất lượng của giai đoạn tinh chỉnh: nhãn sai dạy mô hình học sai, nhãn thiên kiến dạy mô hình thiên kiến theo.
Bước 5: Chia tách dữ liệu huấn luyện, kiểm tra và đánh giá
Trước khi huấn luyện, dữ liệu được chia thành ba phần: dữ liệu huấn luyện dùng để dạy mô hình, dữ liệu kiểm tra dùng để điều chỉnh trong quá trình huấn luyện, và dữ liệu đánh giá dùng để đo hiệu năng cuối cùng. Ba phần này phải không trùng lặp nhau, nếu không kết quả đánh giá sẽ bị thổi phồng. Một lỗi phổ biến là để dữ liệu đánh giá lẫn vào dữ liệu huấn luyện — mô hình làm bài kiểm tra mà nó đã nhìn thấy đáp án. Các phòng thí nghiệm uy tín áp dụng quy trình khử nhiễm (decontamination) để kiểm tra và loại bỏ mọi đoạn văn trong dữ liệu huấn luyện trùng lặp với dữ liệu đánh giá, dù chỉ trùng lặp một phần.
Bước 6: Đóng gói, phiên bản hoá và lưu trữ
Bước cuối cùng là đóng gói dữ liệu đã xử lý thành định dạng phù hợp cho huấn luyện, ghi lại phiên bản của từng tập dữ liệu, nguồn gốc của từng phần dữ liệu, và các bước xử lý đã áp dụng. Việc phiên bản hoá này rất quan trọng khi cần truy vết: nếu một mô hình có vấn đề, đội kỹ thuật có thể xác định chính xác dữ liệu nào đã gây ra vấn đề và loại bỏ nó trong lần huấn luyện tiếp theo. Đây cũng là yêu cầu của nhiều quy định về AI sắp tới: nhà phát triển phải có khả năng giải trình dữ liệu huấn luyện của mình đến từ đâu và đã qua xử lý như thế nào.
Vì sao chất lượng dữ liệu quyết định chất lượng mô hình?
Có một nguyên tắc cũ trong ngành máy tính: “rác vào, rác ra” (garbage in, garbage out). Với AI, nguyên tắc này càng đúng vì mô hình học mọi thứ từ dữ liệu. Dữ liệu chứa thiên kiến sẽ tạo ra mô hình thiên kiến. Dữ liệu chứa thông tin sai sẽ tạo ra mô hình đưa ra thông tin sai một cách tự tin. Dữ liệu thiếu đa dạng sẽ tạo ra mô hình chỉ hiểu một nhóm người, một ngôn ngữ, một quan điểm. Không có kỹ thuật huấn luyện nào có thể sửa chữa hoàn toàn một tập dữ liệu kém chất lượng, vì mô hình không có nguồn kiến thức nào khác ngoài dữ liệu đó.
Thiên kiến trong dữ liệu là vấn đề được nghiên cứu nhiều nhất. Ví dụ, nếu dữ liệu huấn luyện chứa nhiều văn bản liên kết nghề nghiệp với giới tính một cách khuôn mẫu — bác sĩ thường là nam, y tá thường là nữ — mô hình sẽ học và tái tạo khuôn mẫu đó. Nếu dữ liệu chứa ít nội dung về một nhóm dân tộc, mô hình sẽ hiểu kém về nhóm đó và có thể đưa ra kết quả sai lệch khi làm việc với họ. Các phòng thí nghiệm AI hiện nay đo lường thiên kiến của mô hình trên nhiều bộ kiểm tra chuyên biệt, và cố gắng cân bằng dữ liệu để giảm thiên kiến, nhưng vấn đề này chưa bao giờ được giải quyết triệt để.
Một vấn đề khác là dữ liệu lỗi thời. Mô hình huấn luyện trên dữ liệu cũ sẽ đưa ra thông tin cũ như thể nó vẫn đúng, ví dụ quy định pháp luật đã thay đổi, giá cả đã khác, hay một công ty đã đổi tên. Vì vậy, dữ liệu huấn luyện cần được cập nhật định kỳ, và người dùng cần biết “ngày cắt dữ liệu” (knowledge cutoff) của mô hình mình đang dùng — thời điểm mà dữ liệu huấn luyện của mô hình dừng lại. Khi hỏi về sự kiện sau ngày cắt, mô hình không có kiến thức thật mà chỉ suy đoán, và khả năng bịa đặt tăng cao.
Cuối cùng, chất lượng dữ liệu ảnh hưởng trực tiếp đến hiện tượng ảo giác (hallucination). Khi dữ liệu huấn luyện thiếu thông tin về một chủ đề, mô hình vẫn phải dự đoán và sẽ lấp đầy khoảng trống bằng nội dung nghe có vẻ hợp lý nhưng sai sự thật. Dữ liệu đầy đủ, chính xác và có nguồn rõ ràng giúp mô hình ít bịa đặt hơn, vì nó có cơ sở thống kê vững chắc để dựa vào. Đây là lý do các công ty AI đầu tư mạnh vào tuyển chọn dữ liệu: mỗi điểm phần trăm chất lượng dữ liệu tăng lên có thể mang lại hiệu quả lớn hơn nhiều so với việc tăng quy mô mô hình.
Tranh cãi bản quyền: dữ liệu huấn luyện có hợp pháp không?
Đây là câu hỏi pháp lý lớn nhất của ngành AI hiện nay, và đến nay vẫn chưa có đáp án thống nhất. Hàng loạt vụ kiện đã được đệ trình ở Mỹ và châu Âu, các nhà làm luật đang soạn thảo quy định mới, và kết quả của cuộc tranh luận này sẽ định hình lại cách dữ liệu huấn luyện được thu thập trong nhiều năm tới. Để hiểu tranh cãi, cần nghe cả hai phía.
Lập luận của các công ty AI
Các công ty AI cho rằng việc huấn luyện mô hình trên dữ liệu công khai là sử dụng hợp lý (fair use) theo luật bản quyền Mỹ, tương tự như cách một sinh viên đọc hàng nghìn cuốn sách để học và viết luận văn của riêng mình. Họ lập luận rằng mô hình không sao chép tác phẩm mà học các mẫu chung từ đó, và đầu ra của mô hình thường không giống nguyên văn tác phẩm gốc. Họ cũng cho rằng việc yêu cầu cấp phép cho từng tác phẩm trong hàng tỷ tài liệu huấn luyện là không khả thi về mặt thực tế, và nếu áp dụng, sẽ chỉ các tập đoàn lớn nhất mới đủ khả năng huấn luyện mô hình, làm chết sự cạnh tranh và đổi mới.
Ngoài ra, các công ty AI chỉ ra rằng nhiều nguồn dữ liệu họ dùng đã được công bố dưới giấy phép mở, hoặc đã hết bản quyền, hoặc được thu thập từ nội dung mà tác giả tự đăng công khai trên internet. Họ cũng đã bắt đầu ký thoả thuận cấp phép với các nhà xuất bản lớn và tôn trọng cơ chế từ chối thu thập (opt-out) của chủ sở hữu website, cho thấy ngành đang tự điều chỉnh theo hướng hợp tác thay vì đối đầu.
Lập luận của tác giả và nhà xuất bản
Phía tác giả và nhà xuất bản lập luận ngược lại: việc sao chép hàng triệu tác phẩm có bản quyền để huấn luyện mô hình thương mại, mà không xin phép và không trả tiền, là hành vi vi phạm bản quyền ở quy mô chưa từng có. Họ chỉ ra rằng các mô hình AI có thể tạo ra nội dung cạnh tranh trực tiếp với tác phẩm gốc — ví dụ một mô hình viết văn phong giống hệt một nhà văn cụ thể, hay tạo ra hình ảnh theo đúng phong cách của một hoạ sĩ — làm giảm giá trị thương mại của tác phẩm gốc và tước đi thu nhập của người sáng tạo.
Ngoài ra, phía tác giả cho rằng lập luận “học như sinh viên đọc sách” là không chính xác: sinh viên đọc sách để học và tạo ra tác phẩm của riêng mình với quy mô nhỏ, trong khi công ty AI sao chép hàng tỷ tác phẩm để xây dựng sản phẩm thương mại trị giá hàng tỷ đô la. Họ yêu cầu các công ty AI phải xin phép, trả phí cấp phép, hoặc ít nhất phải công khai danh sách tác phẩm đã dùng và cho phép tác giả từ chối tham gia (opt-out) một cách hiệu quả, chứ không phải bằng các cơ chế kỹ thuật khó thực hiện.
Các vụ kiện tiêu biểu đã công khai
Một số vụ kiện đã trở thành tâm điểm của cuộc tranh luận và được báo chí đưa tin rộng rãi. Dưới đây là những vụ việc tiêu biểu nhất, được trình bày theo thông tin đã công khai tính đến thời điểm bài viết này được soạn thảo. Lưu ý rằng các vụ kiện này vẫn đang trong quá trình xét xử hoặc thương lượng, và kết quả cuối cùng chưa được xác định.
Vụ The New York Times kiện Microsoft và OpenAI. Cuối năm 2023, tờ The New York Times đệ đơn kiện Microsoft và OpenAI, cáo buộc hai công ty sử dụng hàng triệu bài báo của tờ báo để huấn luyện mô hình mà không được phép và không trả tiền. Tờ báo cho rằng mô hình có thể tạo ra nội dung cạnh tranh trực tiếp với bài báo của họ, và yêu cầu bồi thường cùng với việc tiêu huỷ các mô hình đã huấn luyện bằng dữ liệu vi phạm. Vụ kiện này được xem là quan trọng nhất vì nguyên đơn là một tổ chức báo chí lớn với nguồn lực pháp lý mạnh và bằng chứng cụ thể về việc mô hình tái tạo nội dung của họ.
Vụ Getty Images kiện Stability AI. Hãng ảnh Getty Images kiện Stability AI, công ty đứng sau mô hình tạo ảnh Stable Diffusion, với cáo buộc mô hình được huấn luyện trên hàng triệu hình ảnh có bản quyền của Getty mà không được phép. Bằng chứng nổi bật trong vụ này là một số hình ảnh do mô hình tạo ra vẫn chứa watermark của Getty, cho thấy mô hình đã ghi nhớ cả dấu bản quyền trong dữ liệu huấn luyện. Vụ kiện này làm nổi bật vấn đề ghi nhớ dữ liệu huấn luyện và đặt câu hỏi về trách nhiệm của công ty AI khi mô hình tái tạo nội dung có bản quyền.
Vụ Books3 và các tập dữ liệu sách lậu. Một vụ việc gây chấn động khác liên quan đến tập dữ liệu Books3, chứa gần 200.000 cuốn sách được thu thập mà không có sự đồng ý của tác giả, trong đó có nhiều tác phẩm vẫn còn bản quyền. Nhiều tác giả nổi tiếng phát hiện sách của mình nằm trong tập dữ liệu này và lên tiếng phản đối. Sau đó, tập dữ liệu Books3 đã bị gỡ khỏi nguồn công khai. Vụ việc này cho thấy một tập dữ liệu tưởng chừng “mở” vẫn có thể chứa nội dung vi phạm bản quyền, và các phòng thí nghiệm AI cần kiểm tra kỹ nguồn gốc của từng phần dữ liệu, thay vì tin tưởng mù quáng vào nhãn “công khai”.
Vụ kiện liên quan đến GitHub Copilot. Một nhóm lập trình viên kiện GitHub, Microsoft và OpenAI với cáo buộc công cụ lập trình GitHub Copilot tái tạo mã nguồn có bản quyền của họ mà không tuân thủ giấy phép mã nguồn mở, đặc biệt là không ghi công tác giả và không tuân thủ điều khoản chia sẻ lại. Vụ kiện này đặt ra câu hỏi pháp lý mới: khi AI học từ mã nguồn mở và tạo ra mã tương tự, thì mã do AI tạo ra có phải tuân thủ giấy phép của mã gốc hay không. Đây là câu hỏi chưa có tiền lệ rõ ràng và có thể ảnh hưởng lớn đến cách ngành phần mềm dùng AI.
Các tranh chấp chưa ra toà. Ngoài các vụ kiện đã đệ trình, còn nhiều tranh chấp đang được thương lượng mà không ra toà. Nhiều nhà xuất bản, hãng tin và công ty dữ liệu đã gửi yêu cầu gỡ bỏ nội dung của họ khỏi dữ liệu huấn luyện, hoặc đàm phán thoả thuận cấp phép với các công ty AI. Một số công ty AI đã đồng ý trả phí cấp phép cho các hãng tin lớn, tạo ra một mô hình kinh doanh mới: dữ liệu chất lượng cao được mua bán như một loại hàng hoá, thay vì được thu thập tự do. Xu hướng này có thể sẽ trở thành chuẩn mực trong những năm tới.
Phản ứng của ngành
Trước áp lực pháp lý, ngành AI đang thay đổi theo ba hướng. Thứ nhất, các công ty lớn ký thoả thuận cấp phép với nhà xuất bản, hãng tin và nền tảng nội dung, trả phí để dùng dữ liệu hợp pháp. Thứ hai, các công ty xây dựng cơ chế cho phép chủ sở hữu nội dung từ chối tham gia, ví dụ tệp robots.txt mở rộng và các công cụ khai báo quyền sử dụng dữ liệu. Thứ ba, Liên minh châu Âu thông qua Đạo luật AI (AI Act), trong đó yêu cầu các nhà phát triển mô hình lớn công bố tóm tắt dữ liệu huấn luyện và tôn trọng luật bản quyền của EU — một quy định sẽ ảnh hưởng đến mọi công ty muốn hoạt động tại thị trường châu Âu.
Với người dùng và doanh nghiệp Việt Nam, thông điệp thực tiễn là: khi chọn mô hình AI, hãy ưu tiên các nhà cung cấp minh bạch về nguồn dữ liệu và có chính sách cấp phép rõ ràng, vì điều đó giảm rủi ro pháp lý cho chính bạn khi dùng đầu ra của mô hình trong sản phẩm thương mại. Khi tự huấn luyện hoặc fine-tune mô hình, hãy kiểm tra giấy phép của từng nguồn dữ liệu và giữ lại hồ sơ nguồn gốc, để có thể giải trình khi cần thiết.
Xu hướng dữ liệu tổng hợp: khi AI tự tạo dữ liệu để dạy AI
Khi dữ liệu con người chất lượng cao ngày càng khan hiếm và đắt đỏ, ngành AI đang chuyển sang một hướng mới: dùng chính AI để tạo ra dữ liệu huấn luyện cho AI khác. Dữ liệu tổng hợp không còn là giải pháp bổ sung mà đang trở thành một phần trung tâm trong chiến lược dữ liệu của nhiều phòng thí nghiệm lớn.
Dữ liệu tổng hợp được tạo ra như thế nào?
Có ba cách phổ biến để tạo dữ liệu tổng hợp. Cách thứ nhất là dùng một mô hình mạnh làm “thầy” để tạo dữ liệu cho mô hình nhỏ hơn làm “trò”: mô hình thầy viết ra hàng triệu câu hỏi kèm đáp án, bài toán kèm lời giải, hay đoạn hội thoại mẫu, rồi mô hình trò học từ dữ liệu đó. Cách thứ hai là dùng mô hình để biến đổi dữ liệu có sẵn: diễn đạt lại một văn bản theo nhiều phong cách, dịch sang nhiều ngôn ngữ, hay tạo ra các biến thể của một bài toán. Cách thứ ba là dùng mô phỏng và quy tắc: tạo ra dữ liệu từ các hệ thống giả lập, ví dụ mô phỏng vật lý để tạo dữ liệu cho robot, hay tạo dữ liệu bảng tính từ các quy tắc kinh doanh.
Điểm chung của ba cách là dữ liệu tổng hợp có thể được tạo ra với số lượng gần như không giới hạn, theo đúng định dạng và phân bố mà người huấn luyện mong muốn. Nếu bạn cần một triệu bài toán toán học ở một độ khó cụ thể, bạn có thể tạo ra chúng trong vài ngày thay vì thuê người viết trong nhiều tháng. Nếu bạn cần dữ liệu về một tình huống hiếm gặp, ví dụ tai nạn giao thông trong điều kiện thời tiết xấu, bạn có thể mô phỏng nó thay vì chờ nó xảy ra trong đời thực.
Ưu điểm của dữ liệu tổng hợp
Dữ liệu tổng hợp có bốn ưu điểm lớn. Thứ nhất, nó giải quyết vấn đề khan hiếm dữ liệu: với các ngôn ngữ ít người dùng, các lĩnh vực chuyên môn hẹp hay các tình huống hiếm gặp, dữ liệu con người gần như không tồn tại, nhưng dữ liệu tổng hợp có thể được tạo ra theo yêu cầu. Thứ hai, nó tránh được vấn đề bản quyền và quyền riêng tư, vì dữ liệu được tạo mới thay vì sao chép từ tác phẩm có sẵn, dù vẫn còn tranh luận về việc mô hình thầy có thể vô tình tái tạo nội dung có bản quyền trong dữ liệu nó tạo ra. Thứ ba, nó cho phép kiểm soát chất lượng: người huấn luyện có thể lọc, kiểm tra và chỉ giữ lại những ví dụ đúng và hữu ích, thay vì phải chấp nhận cả phần nhiễu của dữ liệu web. Thứ tư, nó rẻ hơn và nhanh hơn nhiều so với việc thuê con người viết và gắn nhãn dữ liệu ở quy mô lớn.
Ví dụ cụ thể: một công ty muốn huấn luyện mô hình hỗ trợ khách hàng cho sản phẩm của mình có thể dùng mô hình mạnh tạo ra hàng nghìn đoạn hội thoại mẫu dựa trên tài liệu sản phẩm thật, rồi dùng dữ liệu đó để huấn luyện mô hình nhỏ hơn chạy trên máy chủ của công ty. Cách làm này vừa nhanh, vừa rẻ, vừa không cần dùng dữ liệu khách hàng thật nhạy cảm.
Rủi ro lớn nhất: mô hình tự học từ chính mình
Rủi ro nghiêm trọng nhất của dữ liệu tổng hợp là hiện tượng suy thoái mô hình (model collapse). Khi một mô hình được huấn luyện trên dữ liệu do chính nó hoặc các mô hình tương tự tạo ra, qua nhiều thế hệ, mô hình sẽ dần mất đi sự đa dạng và độ chính xác, vì các lỗi nhỏ và thiên kiến trong dữ liệu tổng hợp được khuếch đại qua từng vòng lặp. Một nghiên cứu đã chỉ ra rằng mô hình huấn luyện chỉ trên dữ liệu tổng hợp qua nhiều thế hệ sẽ “quên” dần các trường hợp hiếm và tập trung vào các mẫu phổ biến nhất, khiến chất lượng suy giảm rõ rệt.
Ngoài ra, dữ liệu tổng hợp có thể mang theo thiên kiến và lỗi của mô hình tạo ra nó. Nếu mô hình thầy có thiên kiến, dữ liệu nó tạo ra cũng sẽ thiên kiến, và mô hình trò học từ dữ liệu đó sẽ kế thừa thiên kiến đó, thậm chí khuếch đại nó. Vì vậy, dữ liệu tổng hợp cần được kiểm tra chất lượng cẩn thận, và không bao giờ nên thay thế hoàn toàn dữ liệu con người thật.
Cách tiếp cận được nhiều phòng thí nghiệm áp dụng hiện nay là kết hợp: dùng dữ liệu tổng hợp để bổ sung cho dữ liệu con người, chứ không thay thế nó; lọc dữ liệu tổng hợp bằng các bộ kiểm tra tự động và kiểm tra mẫu bằng con người; và luôn giữ một tỷ lệ dữ liệu con người thật đủ lớn trong tập huấn luyện để “neo” mô hình vào thực tế. Khi được dùng đúng cách, dữ liệu tổng hợp là công cụ mạnh mẽ; khi bị lạm dụng, nó trở thành nguồn ô nhiễm cho chính mô hình mà nó được tạo ra để dạy.
Dữ liệu cho doanh nghiệp Việt: dữ liệu nội bộ và dữ liệu tiếng Việt
Với doanh nghiệp Việt Nam, câu chuyện dữ liệu huấn luyện không chỉ là chuyện của các phòng thí nghiệm lớn mà còn là chuyện thực tiễn: làm sao dùng dữ liệu nội bộ của chính mình để AI phục vụ tốt hơn, và làm sao xử lý thách thức đặc thù của tiếng Việt — một ngôn ngữ mà dữ liệu huấn luyện công khai ít hơn tiếng Anh rất nhiều.
Dữ liệu nội bộ: tài sản bị bỏ quên của doanh nghiệp
Hầu hết doanh nghiệp Việt Nam đang ngồi trên một kho dữ liệu nội bộ có giá trị lớn mà chưa khai thác: email chăm sóc khách hàng, hợp đồng, quy trình vận hành, tài liệu đào tạo, lịch sử giao dịch, phản hồi khách hàng và kiến thức của nhân viên kỳ cựu. Dữ liệu này không dùng để huấn luyện lại mô hình từ đầu — điều đó quá tốn kém — mà dùng cho hai việc: làm dữ liệu tinh chỉnh để mô hình hiểu phong cách và quy trình của công ty, và làm cơ sở tri thức cho RAG để mô hình trả lời dựa trên tài liệu thật của công ty thay vì suy đoán.
Trước khi dùng dữ liệu nội bộ, doanh nghiệp cần làm ba việc. Thứ nhất, rà soát và làm sạch: loại bỏ thông tin cá nhân nhạy cảm, dữ liệu lỗi thời và tài liệu mâu thuẫn nhau, vì mô hình sẽ học cả những sai sót đó. Thứ hai, phân loại mức độ nhạy cảm: dữ liệu nào được phép đưa vào hệ thống AI dùng chung, dữ liệu nào chỉ được dùng trong hệ thống nội bộ, dữ liệu nào tuyệt đối không được đưa vào AI. Thứ ba, xây dựng quy trình cập nhật: dữ liệu nội bộ thay đổi liên tục, và hệ thống RAG chỉ hữu ích khi cơ sở tri thức luôn được cập nhật theo tài liệu mới nhất.
Thách thức của dữ liệu tiếng Việt
Tiếng Việt là ngôn ngữ có ít dữ liệu huấn luyện công khai hơn tiếng Anh rất nhiều. Trên web, nội dung tiếng Việt chiếm tỷ lệ nhỏ, và phần lớn là nội dung ngắn, không chính thống, hoặc đã qua nhiều lần sao chép. Dữ liệu tiếng Việt chất lượng cao — sách, báo chí uy tín, tài liệu học thuật, văn bản pháp luật — tồn tại nhưng phân tán và khó thu thập ở quy mô lớn. Hệ quả là mô hình ngôn ngữ thường yếu hơn với tiếng Việt: hiểu sai ngữ cảnh, dùng từ không tự nhiên, và bịa đặt nhiều hơn khi trả lời câu hỏi bằng tiếng Việt, đặc biệt với các chủ đề chuyên môn và các từ ngữ địa phương.
Một thách thức kỹ thuật nữa là token hoá: tiếng Việt có dấu và cấu trúc từ khác tiếng Anh, nên cùng một nội dung, tiếng Việt thường tốn nhiều token hơn, đồng nghĩa chi phí API cao hơn và cửa sổ ngữ cảnh chứa được ít nội dung hơn. Các mô hình đa ngôn ngữ mới đã cải thiện đáng kể nhờ tăng tỷ lệ dữ liệu tiếng Việt trong huấn luyện và cải tiến bộ tách token, nhưng khoảng cách với tiếng Anh vẫn còn. Với doanh nghiệp Việt, điều này có nghĩa là khi đánh giá mô hình, hãy kiểm tra riêng hiệu năng với tiếng Việt bằng dữ liệu thật của mình, thay vì tin vào điểm benchmark chủ yếu bằng tiếng Anh.
Khi nào nên fine-tune, khi nào nên dùng RAG?
Đây là câu hỏi mà hầu hết doanh nghiệp Việt đều gặp khi triển khai AI trên dữ liệu nội bộ, và đáp án ngắn gọn là: dùng RAG khi bạn cần mô hình trả lời dựa trên tài liệu thay đổi thường xuyên và cần trích dẫn nguồn; dùng fine-tune khi bạn cần mô hình làm theo một phong cách, định dạng hoặc quy trình cố định. Trong nhiều trường hợp, kết hợp cả hai cho kết quả tốt nhất: fine-tune để mô hình hiểu cách trả lời, RAG để mô hình có dữ liệu đúng để trả lời. Chi phí của RAG thường thấp hơn và dễ cập nhật hơn fine-tune, vì bạn chỉ cần cập nhật tài liệu trong cơ sở tri thức mà không cần huấn luyện lại mô hình.
Checklist đánh giá dữ liệu trước khi huấn luyện hoặc fine-tune
Trước khi bắt đầu bất kỳ dự án huấn luyện hay fine-tune nào, hãy chạy qua checklist mười điểm dưới đây. Mỗi điểm tương ứng với một loại rủi ro đã được trình bày trong bài, và việc bỏ qua bất kỳ điểm nào cũng có thể khiến dự án gặp vấn đề về sau.
| Tiêu chí kiểm tra | Câu hỏi cần trả lời | Rủi ro nếu bỏ qua |
|---|---|---|
| Nguồn gốc dữ liệu | Dữ liệu đến từ đâu, có giấy phép rõ ràng không? | Vi phạm bản quyền, kiện tụng |
| Tính đại diện | Dữ liệu có đại diện cho người dùng và trường hợp thực tế không? | Thiên kiến, hiệu năng kém với nhóm thiểu số |
| Chất lượng và độ sạch | Dữ liệu đã qua lọc trùng lặp, nội dung độc hại và thông tin sai chưa? | Mô hình học sai, hành vi độc hại |
| Tính thời sự | Dữ liệu có còn đúng ở thời điểm hiện tại không, ngày cắt là khi nào? | Mô hình đưa ra thông tin lỗi thời |
| Quyền riêng tư | Dữ liệu có chứa thông tin cá nhân hay bí mật kinh doanh không? | Rò rỉ dữ liệu, vi phạm quy định bảo vệ dữ liệu |
| Cân bằng ngôn ngữ và lĩnh vực | Tỷ lệ các ngôn ngữ và lĩnh vực có phù hợp với mục tiêu không? | Mô hình yếu với ngôn ngữ hoặc lĩnh vực cần thiết |
| Tách biệt dữ liệu đánh giá | Dữ liệu đánh giá có hoàn toàn tách biệt với dữ liệu huấn luyện không? | Kết quả đánh giá bị thổi phồng |
| Chất lượng gắn nhãn | Người gắn nhãn có chuyên môn không, có kiểm tra chéo không? | Mô hình học theo nhãn sai và thiên kiến |
| Tỷ lệ dữ liệu tổng hợp | Dữ liệu tổng hợp chiếm bao nhiêu phần trăm, đã qua kiểm tra chất lượng chưa? | Suy thoái mô hình, khuếch đại thiên kiến |
| Khả năng truy vết | Có ghi lại phiên bản và nguồn gốc của từng phần dữ liệu không? | Không thể giải trình khi gặp sự cố hoặc kiểm toán |
Checklist này không chỉ áp dụng cho các dự án huấn luyện lớn mà còn hữu ích cho bất kỳ doanh nghiệp nào đang fine-tune mô hình trên dữ liệu nội bộ hay xây dựng hệ thống RAG. Việc trả lời nghiêm túc mười câu hỏi trên trước khi bắt đầu sẽ giúp bạn tránh được phần lớn các vấn đề về chất lượng, pháp lý và bảo mật mà nhiều dự án AI gặp phải.
Điều quan trọng nhất cần nhớ là dữ liệu huấn luyện không phải là một quyết định kỹ thuật đơn thuần mà là một quyết định chiến lược. Dữ liệu bạn chọn sẽ quyết định mô hình của bạn biết gì, tin gì và hành xử ra sao. Đầu tư thời gian vào dữ liệu ngay từ đầu luôn rẻ hơn rất nhiều so với việc sửa chữa một mô hình đã huấn luyện xong trên dữ liệu sai.
Câu hỏi thường gặp (FAQs)
Dữ liệu huấn luyện AI là gì?
Dữ liệu huấn luyện AI là tập hợp các ví dụ mà mô hình học từ đó trong quá trình huấn luyện, bao gồm văn bản, hình ảnh, mã nguồn, âm thanh và nhiều dạng dữ liệu khác. Với mô hình ngôn ngữ lớn, dữ liệu chủ yếu là văn bản từ web, sách, bài báo khoa học, mã nguồn và tài liệu kỹ thuật. Chất lượng của dữ liệu này quyết định trực tiếp trí tuệ, độ tin cậy và thiên kiến của mô hình.
Người dùng cần phân biệt ba loại dữ liệu: dữ liệu huấn luyện trước dùng để dạy kiến thức tổng quát, dữ liệu tinh chỉnh dùng để dạy một nhiệm vụ cụ thể, và dữ liệu đánh giá dùng để đo hiệu năng. Ba loại này phải tách biệt nhau để kết quả đánh giá không bị thổi phồng.
Mô hình AI học từ dữ liệu như thế nào?
Mô hình ngôn ngữ lớn học bằng cách đoán từ tiếp theo: nó nhận một đoạn văn bản, che đi từ tiếp theo và cố gắng dự đoán từ đó là gì, lặp lại quá trình này hàng nghìn tỷ lần. Mỗi lần đoán sai, thuật toán điều chỉnh các tham số bên trong mô hình theo hướng giảm sai số. Dần dần, mô hình nắm được ngữ pháp, kiến thức thực tế, khả năng suy luận và phong cách viết — tất cả chỉ từ nhiệm vụ đoán từ tiếp theo.
Sau huấn luyện trước, mô hình thường trải qua thêm giai đoạn tinh chỉnh có giám sát và học tăng cường từ phản hồi con người, dùng dữ liệu ít hơn nhưng quyết định lớn đến cách mô hình ứng xử với người dùng. Mô hình không lưu trữ dữ liệu nguyên văn trong hầu hết trường hợp, nhưng có thể ghi nhớ một số đoạn văn bản xuất hiện nhiều lần trong dữ liệu.
Dữ liệu huấn luyện AI lấy từ đâu?
Dữ liệu huấn luyện của mô hình ngôn ngữ lớn hiện đại đến từ bảy nguồn chính: web công khai qua web crawl, sách và bài báo khoa học, mã nguồn mở, dữ liệu bách khoa và có cấu trúc, dữ liệu được cấp phép từ đối tác, dữ liệu do người dùng tạo ra, và dữ liệu tổng hợp do chính AI tạo ra. Nguồn lớn nhất theo khối lượng là web công khai, nhưng nguồn chất lượng cao nhất thường là sách, tài liệu học thuật và dữ liệu cấp phép.
Xu hướng hiện tại là các công ty AI giảm dần sự phụ thuộc vào web thu thập tự do và tăng tỷ lệ dữ liệu cấp phép và dữ liệu tổng hợp, vì áp lực pháp lý về bản quyền ngày càng tăng và nhiều chủ sở hữu website đã chặn crawler của công ty AI. Khi đánh giá một mô hình, hãy hỏi nhà cung cấp về nguồn dữ liệu của họ, vì nguồn dữ liệu quyết định cả chất lượng và rủi ro pháp lý của mô hình.
Tranh cãi bản quyền về dữ liệu huấn luyện AI là gì?
Tranh cãi bản quyền xoay quanh câu hỏi: việc công ty AI sao chép hàng triệu tác phẩm có bản quyền để huấn luyện mô hình thương mại có phải là sử dụng hợp lý hay là vi phạm bản quyền. Các công ty AI lập luận rằng mô hình học các mẫu chung chứ không sao chép tác phẩm, tương tự như sinh viên đọc sách để học. Phía tác giả và nhà xuất bản lập luận rằng đây là hành vi sao chép quy mô lớn mà không xin phép và không trả tiền, làm giảm giá trị thương mại của tác phẩm gốc.
Một số vụ kiện tiêu biểu đã công khai gồm vụ The New York Times kiện Microsoft và OpenAI, vụ Getty Images kiện Stability AI, vụ liên quan đến tập dữ liệu sách Books3 và vụ kiện GitHub Copilot về mã nguồn. Đến nay chưa có phán quyết cuối cùng thống nhất, nhưng ngành đang thay đổi theo hướng ký thoả thuận cấp phép và tôn trọng cơ chế từ chối thu thập của chủ sở hữu nội dung.
Dữ liệu tổng hợp là gì và có an toàn không?
Dữ liệu tổng hợp là dữ liệu được tạo ra bởi một mô hình AI khác thay vì thu thập từ con người, ví dụ dùng mô hình mạnh tạo ra hàng triệu bài toán kèm lời giải để huấn luyện mô hình nhỏ hơn. Dữ liệu tổng hợp giúp vượt qua giới hạn khan hiếm dữ liệu, tránh vấn đề bản quyền và quyền riêng tư, và có thể tạo ra theo đúng định dạng mong muốn với số lượng gần như không giới hạn.
Tuy nhiên, dữ liệu tổng hợp cũng có rủi ro lớn nhất là suy thoái mô hình: khi mô hình học từ dữ liệu do chính nó hoặc các mô hình tương tự tạo ra qua nhiều thế hệ, chất lượng sẽ giảm dần vì các lỗi và thiên kiến được khuếch đại. Cách tiếp cận đúng là kết hợp dữ liệu tổng hợp với dữ liệu con người thật, lọc chất lượng cẩn thận, và luôn giữ một tỷ lệ dữ liệu thật đủ lớn để neo mô hình vào thực tế.
Doanh nghiệp Việt Nam nên chuẩn bị dữ liệu như thế nào để dùng AI?
Doanh nghiệp Việt Nam nên bắt đầu từ dữ liệu nội bộ của chính mình: email chăm sóc khách hàng, hợp đồng, quy trình vận hành, tài liệu đào tạo và phản hồi khách hàng. Trước khi dùng, cần làm sạch dữ liệu, loại bỏ thông tin cá nhân nhạy cảm và dữ liệu lỗi thời, phân loại mức độ nhạy cảm, và xây dựng quy trình cập nhật liên tục.
Với tiếng Việt, cần lưu ý rằng mô hình thường yếu hơn với tiếng Việt do ít dữ liệu huấn luyện công khai, nên hãy kiểm tra hiệu năng bằng dữ liệu thật của mình thay vì tin vào điểm benchmark bằng tiếng Anh. Về lựa chọn kỹ thuật, dùng RAG khi cần mô hình trả lời dựa trên tài liệu thay đổi thường xuyên và cần trích dẫn nguồn; dùng fine-tune khi cần mô hình làm theo phong cách hoặc quy trình cố định. Trong nhiều trường hợp, kết hợp cả hai cho kết quả tốt nhất.
Làm sao kiểm tra dữ liệu huấn luyện của một mô hình có đáng tin không?
Hãy chạy qua checklist mười điểm trong bài: kiểm tra nguồn gốc và giấy phép dữ liệu, tính đại diện, chất lượng và độ sạch, tính thời sự, quyền riêng tư, cân bằng ngôn ngữ và lĩnh vực, tách biệt dữ liệu đánh giá, chất lượng gắn nhãn, tỷ lệ dữ liệu tổng hợp, và khả năng truy vết. Một mô hình đáng tin là mô hình mà nhà cung cấp sẵn sàng công bố thông tin về dữ liệu huấn luyện của họ, hoặc ít nhất là tóm tắt về nguồn dữ liệu và quy trình xử lý.
Ngoài ra, hãy kiểm tra hiệu năng thực tế bằng dữ liệu của chính bạn: tạo một bộ kiểm tra nhỏ với dữ liệu thật từ công việc của bạn, thử mô hình trên đó, và so sánh kết quả với kỳ vọng của bạn. Điểm benchmark công bố chỉ mang tính tham khảo; hiệu năng trên dữ liệu thật của bạn mới là thước đo quan trọng nhất.
Nên chọn mô hình huấn luyện trên dữ liệu mở hay dữ liệu độc quyền?
Không có đáp án chung cho mọi trường hợp. Mô hình huấn luyện trên dữ liệu mở thường minh bạch hơn về nguồn dữ liệu, dễ kiểm chứng và dễ tùy chỉnh, nhưng có thể kém hơn về chất lượng dữ liệu và hiệu năng tổng thể. Mô hình huấn luyện trên dữ liệu độc quyền thường có dữ liệu chất lượng cao hơn và hiệu năng tốt hơn, nhưng bạn phải tin tưởng nhà cung cấp về tính hợp pháp và độ tin cậy của dữ liệu đó.
Khi lựa chọn, hãy cân nhắc cả ba yếu tố: chất lượng mô hình trên nhiệm vụ cụ thể của bạn, tính minh bạch và khả năng giải trình của nhà cung cấp, và rủi ro pháp lý khi dùng đầu ra của mô hình trong sản phẩm thương mại. Trong nhiều trường hợp, mô hình tốt nhất không phải là mô hình lớn nhất hay mới nhất, mà là mô hình có dữ liệu huấn luyện phù hợp nhất với nhu cầu của bạn và được nhà cung cấp công khai rõ ràng về nguồn gốc dữ liệu.
