Q: Bạn có mô hình ML đang chạy tốt trên notebook nhưng khi deploy lên production thì latency P99 lên đến 8 giây. Bạn sẽ debug và tối ưu như thế nào?

Quy trình: (1) Profiling để xác định bottleneck (preprocessing? inference? I/O?), (2) Optimization theo layer (model quantization, pruning, ONNX Runtime), (3) Infrastructure (batching, async inference, caching), (4) Trade-off giữa accuracy và latency. Ứng viên giỏi sẽ hỏi: SLO target là bao nhiêu? Model đang chạy trên CPU hay GPU? Có thể chấp nhận accuracy loss không? Họ nên đề cập TorchScript/ONNX, dynamic batching với Triton, và warm-up requests.

Q: Công ty bạn đang triển khai hệ thống AI sàng lọc hồ sơ xin việc cho một tập đoàn lớn tại Việt Nam. Hệ thống cho thấy độ chính xác 85% nhưng có bias rõ ràng với ứng viên từ một số tỉnh nhất định. Ban lãnh đạo muốn triển khai ngay. Bạn sẽ làm gì?

Phân tích theo: (1) Định lượng và tài liệu hóa bias (fairness metrics: demographic parity, equalized odds), (2) Rủi ro pháp lý tại VN (Bộ luật Lao động điều 8 về phân biệt đối xử), (3) Đề xuất giải pháp kỹ thuật (re-weighting, adversarial debiasing), (4) Quy trình leo thang và ghi nhật ký quyết định. Ứng viên nên thể hiện: không chỉ phản đối mà còn đề xuất lộ trình cụ thể để giải quyết. Tìm sự cân bằng giữa business pressure và trách nhiệm đạo đức. Đề cập human-in-the-loop cho các quyết định ảnh hưởng đến người lao động.

Question 1

Bạn đã từng fine-tune một mô hình LLM lớn với ngân sách GPU hạn chế chưa? Hãy mô tả cách bạn chọn giữa LoRA và QLoRA, và những đánh đổi thực tế bạn phải đối mặt.

Accepted Answer

Trả lời theo STAR: (1) Bối cảnh mô hình và tài nguyên, (2) Lý do chọn kỹ thuật, (3) Cấu hình rank/alpha/target_modules cụ thể, (4) Kết quả đo lường (perplexity, downstream task accuracy). Câu trả lời tốt sẽ đề cập đến: lý do chọn rank r (thường 8-64), ảnh hưởng của quantization 4-bit đến chất lượng gradient, merge adapter sau training, và cách validate trên held-out set tránh catastrophic forgetting.

Question 2

Hãy mô tả MLOps pipeline mà bạn đã xây dựng hoặc vận hành. Bạn xử lý model drift và data drift trong môi trường production như thế nào?

Accepted Answer

Cấu trúc trả lời: (1) Sơ đồ pipeline end-to-end (ingest → train → validate → deploy → monitor), (2) Công cụ cụ thể (MLflow, Kubeflow, Airflow, Vertex AI...), (3) Cơ chế phát hiện drift (PSI, KS-test, CUSUM), (4) Trigger tự động retrain. Tìm kiếm ứng viên nói về: SLO/SLA cho model latency, A/B testing khi deploy mô hình mới, shadow mode deployment, rollback strategy, và cách log predictions để phân tích sau.

Question 3

Accuracy thường là chỉ số gây hiểu lầm nhất trong machine learning. Với bài toán phát hiện gian lận tín dụng tại Việt Nam (tỷ lệ gian lận ~0.3%), bạn sẽ định nghĩa thành công như thế nào?

Accepted Answer

Trả lời nên bao gồm: (1) Phân tích business cost of errors (false positive vs. false negative), (2) Lựa chọn metric phù hợp (Precision-Recall AUC, F-beta với beta > 1), (3) Ngưỡng quyết định dựa trên cost matrix, (4) Giám sát theo thời gian. Ứng viên giỏi sẽ tính toán: nếu false negative (bỏ sót gian lận) tốn 1 triệu VND và false positive (chặn nhầm) tốn 50K VND chi phí xử lý, ngưỡng tối ưu sẽ khác nhau. Họ cũng nên đề cập Expected Cost per Transaction.

Question 4

Trong dự án thực tế tại Việt Nam, khi nào bạn sẽ chọn PyTorch thay vì TensorFlow/Keras và ngược lại? Hãy đưa ra ví dụ cụ thể từ kinh nghiệm của bạn.

Accepted Answer

Phân tích theo 4 chiều: (1) Research vs. production deployment, (2) Team expertise và hiring pool tại VN, (3) Hệ sinh thái (TFLite cho mobile, TF Serving, PyTorch Mobile), (4) Khả năng debug và tốc độ iteration. Câu trả lời tốt thừa nhận rằng ranh giới đang mờ dần (TF2 Eager mode, PyTorch Serve). Điểm cộng nếu đề cập: JAX cho nghiên cứu, ONNX để chuyển đổi giữa framework, và ecosystem HuggingFace chủ yếu dùng PyTorch.

Question 5

Bạn đang xây dựng mô hình dự đoán khả năng trả nợ của khách hàng vay tiêu dùng tại Việt Nam. Bạn có dữ liệu giao dịch ngân hàng 12 tháng, lịch sử CIC, và thông tin nhân khẩu học. Hãy mô tả quy trình feature engineering của bạn.

Accepted Answer

Quy trình gồm: (1) EDA và phân phối từng nguồn dữ liệu, (2) Temporal features từ giao dịch (velocity, recency, regularity), (3) Aggregation windows (7/30/90 ngày), (4) Encoding categorical VN-specific (tỉnh thành, nghề nghiệp), (5) Feature importance và loại bỏ multicollinearity. Ứng viên xuất sắc đề cập: target encoding cho tỉnh thành (tránh high cardinality), feature store để tái sử dụng, xử lý missing values trong CIC (không phải luôn MAR), và tránh data leakage từ target.

Question 6

Ngoài SMOTE, bạn có những chiến lược nào để xử lý dữ liệu mất cân bằng nghiêm trọng (tỷ lệ 1:500)? Hãy thảo luận về khi nào nên dùng resampling và khi nào không.

Accepted Answer

Phân loại chiến lược: (1) Algorithm-level (class_weight, focal loss, cost-sensitive learning), (2) Data-level (undersampling kết hợp với ensemble như EasyEnsemble, ADASYN), (3) Threshold tuning sau training, (4) Anomaly detection approach thay vì classification. Khi không nên dùng resampling: khi dữ liệu minority rất ít (< 100 mẫu), SMOTE có thể tạo noise; với time-series data, oversampling vi phạm temporal order. Focal Loss từ RetinaNet thường hiệu quả hơn.

Question 7

Bạn có mô hình ML đang chạy tốt trên notebook nhưng khi deploy lên production thì latency P99 lên đến 8 giây. Bạn sẽ debug và tối ưu như thế nào?

Accepted Answer

Quy trình: (1) Profiling để xác định bottleneck (preprocessing? inference? I/O?), (2) Optimization theo layer (model quantization, pruning, ONNX Runtime), (3) Infrastructure (batching, async inference, caching), (4) Trade-off giữa accuracy và latency. Ứng viên giỏi sẽ hỏi: SLO target là bao nhiêu? Model đang chạy trên CPU hay GPU? Có thể chấp nhận accuracy loss không? Họ nên đề cập TorchScript/ONNX, dynamic batching với Triton, và warm-up requests.

Question 8

Công ty bạn đang triển khai hệ thống AI sàng lọc hồ sơ xin việc cho một tập đoàn lớn tại Việt Nam. Hệ thống cho thấy độ chính xác 85% nhưng có bias rõ ràng với ứng viên từ một số tỉnh nhất định. Ban lãnh đạo muốn triển khai ngay. Bạn sẽ làm gì?

Accepted Answer

Phân tích theo: (1) Định lượng và tài liệu hóa bias (fairness metrics: demographic parity, equalized odds), (2) Rủi ro pháp lý tại VN (Bộ luật Lao động điều 8 về phân biệt đối xử), (3) Đề xuất giải pháp kỹ thuật (re-weighting, adversarial debiasing), (4) Quy trình leo thang và ghi nhật ký quyết định. Ứng viên nên thể hiện: không chỉ phản đối mà còn đề xuất lộ trình cụ thể để giải quyết. Tìm sự cân bằng giữa business pressure và trách nhiệm đạo đức. Đề cập human-in-the-loop cho các quyết định ảnh hưởng đến người lao động.