LLMOps Engineer
Kategori: Data & AI
Menjalankan sisi operasional aplikasi LLM, menangani deployment, evaluasi, monitoring, dan biaya model di produksi.
Sehari-hari
Membangun pipeline untuk men-deploy dan memversi prompt dan model, menyiapkan eval dan monitoring, mengelola biaya dan latensi inferensi, serta mengotomasi rollout.
Skill inti
- serving LLM
- evaluasi
- observability
- versioning prompt
- penyetelan biaya/latensi
- pipeline