Chi tiết công việc LLMOps Engineer tại Viettel Cyber Security
VCS đang tìm kiếm LLMOps Engineer tham gia xây dựng và vận hành hạ tầng AI/LLM quy mô production cho các hệ thống ứng dụng trí tuệ nhân tạo thế hệ mới.
Vị trí này đóng vai trò quan trọng trong việc triển khai, tối ưu và đảm bảo các mô hình ngôn ngữ lớn (LLM) hoạt động ổn định, hiệu quả và có khả năng mở rộng phục vụ các bài toán thực tế.
1. MÔ TẢ CÔNG VIỆC
- Triển khai & vận hành hệ thống LLM:
– Thiết kế, xây dựng pipeline triển khai (deployment) cho các mô hình LLM (open-source như Llama, Qwen, DeepSeek hoặc API như OpenAI, Anthropic, Google).
– Tối ưu inference: quantization (GPTQ, AWQ, GGUF), batching, caching; sử dụng các framework như vLLM, TGI, TensorRT-LLM, llama.cpp.
– Quản lý GPU infrastructure, tối ưu chi phí tính toán và độ trễ (latency).
- Pipeline & Tự động hóa:
– Xây dựng CI/CD cho hệ thống AI/LLM.
– Triển khai workflow fine-tuning, RAG và AI Agent systems.
– Tích hợp và vận hành vector database như Pinecone, Milvus, Qdrant, pgvector.
- Monitoring & Observability:
– Xây dựng hệ thống monitoring cho latency, throughput, token usage và cost.
– Theo dõi chất lượng đầu ra của mô hình: hallucination, drift detection, prompt regression.
– Thiết lập logging/tracing với LangSmith, Langfuse, Arize, W&B,…
- Bảo mật & Tuân thủ
– Xây dựng guardrails, content filtering, PII detection.
– Đảm bảo bảo mật dữ liệu, API keys, rate limiting.
– Tuân thủ các quy định và chính sách dữ liệu của hệ thống.
– Phối hợp phát triển sản phẩm
– Làm việc cùng ML Engineer, Data Scientist, Backend Engineer và Product team.
– Tư vấn lựa chọn mô hình và kiến trúc phù hợp theo từng bài toán.
2. YÊU CẦU VỊ TRÍ
- Từ 2 năm kinh nghiệm DevOps/MLOps/Backend; có kinh nghiệm triển khai LLM production.
- Thành thạo Python và FastAPI (hoặc framework tương đương).
- Có kinh nghiệm Docker, Kubernetes, Helm.
- Hiểu biết tốt về các framework serving như vLLM, TGI, Ollama,…
- Có kinh nghiệm với cloud platform (AWS/GCP/Azure), đặc biệt GPU instances.
- Hiểu biết về RAG, embedding models và vector search.
- Có kinh nghiệm với LangChain, LlamaIndex hoặc framework orchestration tương tự.
- Ưu tiên (nice to have):
– Có kinh nghiệm fine-tuning LLM (LoRA, QLoRA,…).
– Kinh nghiệm với Triton Inference Server, Ray Serve.
– Đã xây dựng AI Agent systems (function calling, tool use, MCP).
– Có kinh nghiệm vận hành hệ thống LLM quy mô lớn.
– Đóng góp open-source trong lĩnh vực AI/LLM là lợi thế.
- Kỹ năng mềm
– Tư duy hệ thống và khả năng xử lý sự cố tốt.
– Chủ động nghiên cứu và cập nhật công nghệ mới.
– Đọc hiểu tài liệu kỹ thuật tiếng Anh tốt.
3. LƯƠNG THƯỞNG VÀ PHÚC LỢI
- Salary + Allowances:
- Range lương: Offer theo gói tổng thu nhập năm
- Review lương định kỳ vào tháng 3 hàng năm
- Giải thưởng nhân viên xuất sắc tháng/năm: 02-10 triệu đồng
- 16 ngày nghỉ 1 năm (12 ngày nghỉ phép theo quy định Luật Lao động + 3 ngày nghỉ dưỡng + Ngày 22/12)
- Đóng BHXH đầy đủ theo quy định, Bảo hiểm sức khỏe và tai nạn cá nhân của Bảo Việt (Hạn mức chi trả lên đến 600 triệu/năm)
- Khám sức khỏe định kỳ hàng năm
- Career Growth:
- Được tài trợ 100% đối với các chứng chỉ xếp hạng chuyên môn quốc tế chuyên sâu theo từng vị trí. Khen thưởng đột xuất với CBNV đạt chứng chỉ chuyên môn quốc tế
- Liên tục đầu tư học liệu mới nhất, cập nhật nhất trên thị trường về lĩnh vực ATTT từ các nhà cung cấp, các học viện/uy tín hàng đầu thế giới
- 100% cán bộ nhân viên được cấp tài khoản Elearning từ Udemy - học thỏa sức mọi lúc mọi nơi
- Miễn phí tham gia các chương trình chia sẻ kiến thức chuyên ngành, các hội thảo chuyên môn từ các diễn giả đầu ngành trong nước và quốc tế
- Working Environment:
- Trang phục thoải mái
- Thời gian làm việc linh hoạt (VCSer chọn giờ làm việc giữa 2 khung giờ sau 8h30-18:00 hoặc 9h00-18h30)
- Khu vực riêng dành cho Tập Gym, giải trí (chơi Bi-a, Pes, Bóng bàn, Café, Đọc sách…)
- Các CLB: Chạy, Cầu lông, Game, Bi lắc, Bơi, Sách…
- Tham gia các event Công ty: hoạt động Teambuilding hàng quý, Sinh nhật hàng tháng, Year End Party, nghỉ mát, ngày lễ 08/03, 20/10 (các chị em được nghỉ ½ ngày), ngày sinh nhật tập đoàn 01/06, v.v
4. THỜI GIAN LÀM VIỆC
- Từ Thứ 2- Thứ 6: 8h30-18:00 hoặc 9h00-18h30
5. ĐỊA CHỈ LÀM VIỆC
- Văn phòng Hà Nội: Tầng 41, Tòa Keangnam Landmark 72, Đ. Phạm Hùng, Q. Nam Từ Liêm, Hà Nội
