Generative AI with LLMs: khoá học của DeepLearning.AI và AWS dạy bạn đi trọn vòng đời một ứng dụng LLM

Tháng 6/2023, DeepLearning.AI và AWS cùng ra mắt một khoá học thực hành về large language model. Ba năm sau, phần đáng giá nhất của nó không phải một kỹ thuật cụ thể nào mà là một tấm bản đồ: vòng đời của một dự án generative AI, từ lúc chọn use case đến lúc đưa model vào sản phẩm.

Với người muốn làm FDE, tấm bản đồ đó là thứ phải dùng hằng ngày. Ngồi trước khách hàng, bạn phải trả lời nhanh một chuỗi câu hỏi: bài toán này có cần LLM không, dùng model nào, có cần fine-tune không, đo chất lượng ra sao, deploy thế nào.

Khoá Generative AI with Large Language Models được thiết kế quanh đúng chuỗi câu hỏi ấy.

Người dạy đến từ phía triển khai

Nội dung khoá học được xây dựng dưới sự định hướng của Andrew Ng, nhà sáng lập DeepLearning.AI. Người đứng lớp là bốn practitioner của AWS: Antje Barth, Chris Fregly, Shelbee Eigenbrode và Mike Chambers. Trang chính thức giới thiệu họ là những người đang trực tiếp xây và deploy AI cho các use case doanh nghiệp.

Người muốn làm FDE nên để ý chi tiết này. Người dạy làm nghề triển khai thường sẽ dồn trọng tâm vào câu hỏi “làm sao cho chạy được” hơn là “vì sao nó chạy”. AWS gọi đây là khoá Coursera toàn diện đầu tiên về LLM đi vào chi tiết vòng đời điển hình của một dự án generative AI.

Mỗi phần học rèn một kỹ năng FDE

Trang chính thức mô tả khoá học xoay quanh các bước then chốt của vòng đời: thu thập dữ liệu, chọn model, đánh giá hiệu năng và deployment. Đặt đề cương cạnh công việc của một FDE, bạn sẽ thấy mỗi phần khớp với một kỹ năng cụ thể.

Phần học	Nội dung	Kỹ năng FDE được rèn
Tuần 1	Use case của generative AI, vòng đời dự án, pre-training model	Khoanh vùng bài toán, giải thích cho khách LLM làm được gì và không làm được gì
Tuần 2–3	Fine-tuning và đánh giá, reinforcement learning, ứng dụng xây trên LLM	Quyết định khi nào cần tuỳ biến model, đo chất lượng, ghép model vào hệ thống thật

Phần thực hành chạy trong môi trường AWS do đối tác Vocareum host, nên bạn áp dụng kỹ thuật trên hạ tầng cloud thật chứ không chỉ xem video. Lab 2 yêu cầu fine-tune một model generative AI để tóm tắt hội thoại, một dạng bài toán rất gần với yêu cầu thật của doanh nghiệp.

Ba ý đáng mang theo sau khoá học

Ý đầu tiên: nghĩ theo vòng đời trước khi nghĩ đến công cụ. Khách hàng thường đến với một yêu cầu gắn sẵn tên model. Một FDE giỏi kéo cuộc nói chuyện lùi lại bước đầu tiên, tức use case là gì, rồi mới đi tiếp sang dữ liệu và model.

Ý thứ hai: fine-tuning và đánh giá phải đi cùng nhau. Khoá học xếp hai việc này chung một khối nội dung, và đó là bài học đúng: fine-tune mà không đo trước và sau thì bạn không chứng minh được với khách là mình đã cải thiện được gì.

Ý thứ ba: deployment là một bước của vòng đời, không phải phần việc phụ sau khi model đã tốt. Một model xuất sắc nhưng nằm ngoài luồng làm việc của người dùng thì gần như vô dụng, và đây thường là chỗ FDE tạo ra nhiều giá trị nhất.

Năm câu hỏi trong một buổi gặp khách

Thử hình dung một chuỗi bán lẻ mở đầu buổi họp với mong muốn đưa LLM vào bộ phận chăm sóc khách hàng. Yêu cầu còn quá rộng để làm gì. Tấm bản đồ vòng đời cho bạn năm câu hỏi để thu hẹp nó.

Câu đầu tiên thuộc bước use case: ai sẽ dùng kết quả, và hiện họ đang mất thời gian ở đâu? Giả sử câu trả lời là quản lý ca phải đọc hàng trăm đoạn chat mỗi ngày để nắm khiếu nại. Bài toán lúc này đã gọn lại thành tóm tắt hội thoại.

Câu thứ hai về dữ liệu: có bao nhiêu đoạn chat, đã ẩn danh chưa, và có sẵn bản tóm tắt nào do người viết để làm mẫu không? Câu thứ ba về chọn model: giới hạn về độ trễ, chi phí và nơi được phép xử lý dữ liệu là gì? Hai câu này loại bớt phương án trước khi ai đó kịp mở notebook.

Câu thứ tư quyết định có fine-tune hay không: một bản tóm tắt tốt trông thế nào, và ai sẽ chấm nó? Nếu prompt thông thường đã đạt chuẩn khách đặt ra, bạn tiết kiệm được cả một vòng tuỳ biến; nếu chưa, đó là lúc dùng đến kỹ thuật của Lab 2, kèm phép đo trước và sau.

Câu cuối thuộc bước deploy: bản tóm tắt sẽ hiện ở đâu trong công cụ nhân viên đang dùng hằng ngày? Sau năm câu hỏi, bạn rời buổi họp với một bài toán đo được thay vì một mong muốn mơ hồ.

Ai nên học và học theo thứ tự nào

Khoá học nhắm tới data scientist và engineer muốn xây ứng dụng generative AI bằng LLM. Đây là khoá trung cấp: trang chính thức nói bạn cần có kinh nghiệm viết Python, cộng với nền tảng ML cơ bản.

Nếu bạn là backend hay fullstack developer chưa từng động đến ML, đừng nhảy thẳng vào. Hãy củng cố Python và các khái niệm ML cơ bản trước, rồi mới học khoá này, và học xong thì làm ngay một dự án nhỏ của riêng mình. Nếu bạn đã quen ML, có thể đi nhanh qua phần pre-training và dành thời gian cho các lab.

Cũng cần tỉnh táo về thời điểm. Khoá học ra mắt năm 2023, nên hãy coi nó là nền móng về tư duy vòng đời dự án và tự bổ sung tài liệu mới hơn cho những kỹ thuật xuất hiện sau đó.

Biến chứng chỉ thành bằng chứng

Một chứng chỉ thường thuyết phục kém hơn một dự án chạy được. Thứ bạn cần cho người phỏng vấn thấy là khả năng dẫn một bài toán mơ hồ đến một hệ thống hoạt động. Vì thế, đừng để lab nằm yên trong môi trường học.

Hãy lấy ý tưởng của Lab 2, áp lên một bộ dữ liệu hội thoại công khai hoặc dữ liệu đã ẩn danh từ công việc, rồi viết README đi đúng theo vòng đời: use case, dữ liệu, lý do chọn model, cách đánh giá, cách deploy. Trên CV, một dòng mô tả dự án theo trình tự ấy nói được nhiều hơn tên khoá học.

Khi đọc mô tả công việc FDE, để ý những cụm như “end-to-end”, “từ prototype đến production” hay “làm việc trực tiếp với khách hàng”. Đó là lúc tấm bản đồ vòng đời bạn học được ở đây bắt đầu có giá trị.