Vui lòng bật chia sẻ vị trí để Toppy Ai gợi ý những cơ hội việc làm phù hợp nhất dành riêng cho bạn
100% tin đăng tải trên TopCV được cung cấp chủ động bởi Nhà tuyển dụng.
Tổng quan
Mô tả công việc
Chúng tôi đang tìm kiếm LLMOps Engineer để xây dựng và vận hành hạ tầng triển khai các mô hình ngôn ngữ lớn (LLM) ở quy mô production. Vị trí này đóng vai trò then chốt trong việc đảm bảo các ứng dụng AI/LLM hoạt động ổn định, hiệu quả về chi phí và có khả năng mở rộng.
Triển khai & Vận hành LLM
• Thiết kế, xây dựng pipeline triển khai (deployment) cho các mô hình LLM (open-source như Llama, Qwen, DeepSeek hoặc API như OpenAI, Anthropic, Google).
• Tối ưu inference: quantization (GPTQ, AWQ, GGUF), batching, caching; sử dụng các framework như vLLM, TGI, TensorRT-LLM, llama.cpp.
• Quản lý GPU infrastructure, tối ưu chi phí tính toán và độ trễ (latency).
Pipeline & Tự động hóa
• Xây dựng CI/CD pipeline cho LLM applications (model versioning, A/B testing, canary deployment).
• Triển khai và quản lý các workflow fine-tuning, RAG (Retrieval-Augmented Generation), agent systems.
• Tích hợp vector database (Pinecone, Weaviate, Milvus, Qdrant, pgvector).
Monitoring & Observability
• Xây dựng hệ thống giám sát: latency, throughput, token usage, cost per request.
• Theo dõi chất lượng đầu ra: hallucination, drift detection, prompt regression.
• Thiết lập logging, tracing với các công cụ như LangSmith, Langfuse, Arize, Weights & Biases.
Bảo mật & Tuân thủ
• Thực hiện guardrails, content filtering, PII detection.
• Đảm bảo bảo mật dữ liệu, quản lý API keys, rate limiting.
• Tuân thủ các quy định về dữ liệu (GDPR, chính sách nội bộ công ty).
Cộng tác
• Làm việc chặt chẽ với ML Engineers, Data Scientists, Backend Engineers và Product team.
• Tư vấn lựa chọn mô hình, kiến trúc phù hợp với từng use case.
Yêu cầu ứng viên
• Tối thiểu 2 năm kinh nghiệm DevOps/MLOps/Backend, trong đó có ít nhất 1 năm làm việc với LLM ở production.
• Thành thạo Python; có kinh nghiệm với FastAPI hoặc framework tương đương.
• Kinh nghiệm với Docker, Kubernetes, Helm.
• Hiểu biết sâu về các framework LLM serving: vLLM, TGI, Ollama, hoặc tương đương.
• Kinh nghiệm với cloud (AWS/GCP/Azure), đặc biệt là GPU instances.
• Kinh nghiệm với LangChain, LlamaIndex hoặc framework orchestration tương tự.
• Hiểu biết về RAG, embedding models, vector search.
• Kinh nghiệm fine-tuning LLM (LoRA, QLoRA, full fine-tuning).
• Kinh nghiệm với Triton Inference Server, Ray Serve.
• Kinh nghiệm xây dựng agent systems (function calling, tool use, MCP).
• Đã triển khai hệ thống LLM phục vụ trên 1 triệu requests/ngày.
• Đóng góp open-source trong lĩnh vực ML/LLM.
• Hiểu biết về evaluation framework: RAGAS, DeepEval, MLflow.
• Tư duy hệ thống, khả năng debug và xử lý sự cố tốt.
• Khả năng đọc paper và áp dụng kỹ thuật mới nhanh chóng.
• Tiếng Anh đọc hiểu tài liệu kỹ thuật.
Quyền lợi ứng viên
● Salary + Allowances:
- Range lương: Offer theo gói tổng thu nhập năm theo năng lực
- Review lương định kỳ vào tháng 3 hàng năm
- Giải thưởng nhân viên xuất sắc tháng/năm: 02-10 triệu đồng
- 16 ngày nghỉ 1 năm (12 ngày nghỉ phép theo quy định Luật Lao động + 3 ngày nghỉ dưỡng + Ngày 22/12)
- Đóng BHXH đầy đủ theo quy định, Bảo hiểm sức khỏe và tai nạn cá nhân của MIC (Hạn mức chi trả lên đến 600 triệu/năm)
- Khám sức khỏe định kỳ hàng năm
● Career Growth:
- Được tài trợ 100% đối với các chứng chỉ xếp hạng chuyên môn quốc tế chuyên sâu theo từng vị trí, Khen thưởng với CBNV đạt chứng chỉ chuyên môn quốc tế
- Liên tục đầu tư học liệu mới nhất, cập nhật nhất trên thị trường về lĩnh vực ATTT từ các nhà cung cấp, các học viện/uy tín hàng đầu thế giới
- 100% cán bộ nhân viên được cấp tài khoản Elearning từ Udemy - học thỏa sức mọi lúc mọi nơi
- Miễn phí tham gia các chương trình chia sẻ kiến thức chuyên ngành, các hội thảo chuyên môn từ các diễn giả đầu ngành trong nước và quốc tế
● Working Environment:
- Trang phục thoải mái, tự tin thể hiện cá tính
- Thời gian làm việc linh hoạt (VCSer chọn giờ làm việc giữa 2 khung giờ sau 8h30-18:00 hoặc 9h00-18h30)
- Khu vực riêng dành cho Tập Gym, giải trí (chơi Bi-a, Bóng bàn, Café, Đọc sách…)
- Các CLB: Chạy, Cầu lông, Game, Bi lắc, Bơi, Sách…
- Tham gia các event Công ty: hoạt động Teambuilding hàng quý, Sinh nhật hàng tháng, Year End Party, nghỉ mát, ngày lễ 08/03, 20/10 (các chị em được nghỉ ½ ngày), ngày sinh nhật tập đoàn 01/06, v.v
Địa điểm và thời gian
Địa điểm làm việc
- Hà Nội: Tòa nhà Landmark 72, Phạm Hùng, Phường Từ Liêm (Phường Từ Liêm thuộc quận Nam Từ Liêm cũ)
Thời gian làm việc
- Thứ 2 - Thứ 6 (từ 08:30 đến 18:00)
- Làm việc từ Thứ 2 – Thứ 6 (Flexible time từ 8h30 – 9h00 đến 18h00 – 18h30), được chủ động quản lý thời gian làm việc.
Cách thức ứng tuyển
- Ứng viên nộp hồ sơ trực tuyến bằng cách bấm Ứng tuyển ngay dưới đây.
Hạn ứng tuyển: 18/11/2026
Việc làm liên quan
Thông tin chung
Dưới đây là những dấu hiệu của các tổ chức, cá nhân tuyển dụng không minh bạch:
- Kiểm tra thông tin về công ty, việc làm trước khi ứng tuyển
- Báo cáo tin tuyển dụng với TopCV thông qua nút "Báo cáo tin tuyển dụng" để được hỗ trợ và giúp các ứng viên khác tránh được rủi ro
-
Hoặc liên hệ với TopCV thông qua kênh hỗ trợ ứng viên của TopCV:
Email: hotro@topcv.vn
Hotline: 1900 068 889 | Nhánh 2
Tìm hiểu thêm kinh nghiệm phòng tránh lừa đảo tại đây
Cơ hội tiếp cận việc làm đa ngành nghề với chế độ đãi ngộ hấp dẫn
Trước sự phát triển vượt bậc của nền kinh tế, rất nhiều ngành nghề trở nên khan hiếm nhân lực hoặc thiếu nhân lực giỏi. Vì vậy, hầu hết các trường Đại học đều liên kết với các công ty, doanh nghiệp, cơ quan để tạo cơ hội cho các bạn sinh viên được học tập, rèn luyện bản thân và làm quen với môi trường làm việc từ sớm. Trong danh sách việc làm trên đây, TopCV mang đến cho bạn những cơ hội việc làm tại những môi trường làm việc năng động, chuyên nghiệp.
Vậy tại sao nên tìm việc làm tại TopCV?
Việc làm Chất lượng
- Hàng ngàn tin tuyển dụng chất lượng cao được cập nhật thường xuyên để đáp ứng nhu cầu tìm việc của ứng viên.
- Hệ thống thông minh tự động gợi ý các công việc phù hợp theo CV của bạn.
Công cụ viết CV đẹp Miễn phí
- Nhiều mẫu CV đẹp, phù hợp nhu cầu ứng tuyển các vị trí khác nhau.
- Tương tác trực quan, dễ dàng chỉnh sửa thông tin, tạo CV online nhanh chóng trong vòng 5 phút.
Hỗ trợ Người tìm việc
- Nhà tuyển dụng chủ động tìm kiếm và liên hệ với bạn qua hệ thống kết nối ứng viên thông minh.
- Báo cáo chi tiết Nhà tuyển dụng đã xem CV và gửi offer tới bạn.
Nhanh tay tạo CV và ứng tuyển việc làm Hà Nội, việc làm TP.HCM cùng nhiều cơ hội việc làm tại các tỉnh, thành khác trên TopCV. Hãy truy cập chuyên trang việc làm của TopV để khám phá các việc làm mới cập nhật trên nền tảng.
