Deskripsi pekerjaan AI/ML Engineer (Edge Inference Specialist) (Freelance & WFH) HaoHao Mandarin
Kami mencari AI/ML Engineer (Edge Inference Specialist) yang memiliki pengalaman mendalam dalam pengembangan Core IP (Intellectual Property) untuk implementasi kecerdasan buatan pada perangkat edge (Edge AI). Kandidat akan bertanggung jawab mengembangkan, mengoptimalkan, dan memelihara inference engine berperforma tinggi menggunakan TensorRT, ONNX Runtime, dan teknologi Embedded Machine Learning pada berbagai platform seperti NVIDIA Jetson, ARM, x86, FPGA, dan SoC berbasis AI.
Posisi ini membutuhkan pemahaman kuat mengenai optimisasi model, kompilasi graph, quantization, memory management, low-latency inference, serta integrasi AI ke dalam sistem embedded yang memiliki keterbatasan resource.
Tanggung Jawab Utama
1. Pengembangan Core AI Inference Engine
* Mendesain dan mengembangkan library Core IP untuk Edge AI deployment.
* Mengoptimalkan pipeline inference untuk menghasilkan latency rendah dan throughput tinggi.
* Mengembangkan reusable AI modules yang dapat digunakan pada berbagai produk perusahaan.
* Membangun framework deployment AI yang scalable dan portable.
2. Model Optimization
* Melakukan konversi model dari:
* PyTorch
* TensorFlow
* Keras
* JAX
menjadi format:
* ONNX
* TensorRT Engine
* TFLite
* OpenVINO
* Melakukan:
* FP32 → FP16 optimization
* INT8 Quantization
* Dynamic Shape Optimization
* Kernel Fusion
* Graph Optimization
* Operator Fusion
3. Embedded Machine Learning
Mengembangkan AI pada platform:
* NVIDIA Jetson
* ARM Cortex
* Embedded Linux
* RTOS
* Edge TPU
* NPU Accelerator
* AI SoC
serta melakukan optimisasi terhadap:
* CPU utilization
* GPU utilization
* Memory footprint
* Power consumption
* Thermal performance
4. TensorRT Development
* Membuat custom TensorRT Plugin.
* Mengembangkan CUDA kernel untuk custom operator.
* Mengoptimalkan execution graph TensorRT.
* Melakukan profiling menggunakan:
* Nsight Systems
* Nsight Compute
* TensorRT Profiler
5. ONNX Runtime Development
* Mengembangkan custom ONNX Operator.
* Mengimplementasikan Execution Provider.
* Mengoptimalkan ONNX Graph.
* Melakukan debugging incompatibility antar framework AI.
6. AI Performance Engineering
Melakukan benchmarking terhadap:
* Inference latency
* Throughput
* FPS
* Memory bandwidth
* GPU occupancy
* CPU utilization
serta membuat rekomendasi optimisasi berbasis data.
7. Software Development
Mengembangkan software menggunakan:
* C++
* Python
* CUDA
* C
* Bash
dengan menerapkan:
* Modular architecture
* Clean Code
* Design Pattern
* High Performance Computing (HPC)
8. CI/CD dan Automation
Mengembangkan pipeline otomatis untuk:
* Model conversion
* Regression testing
* Performance benchmarking
* Continuous Integration
* Continuous Deployment
menggunakan:
* Docker
* GitLab CI
* Jenkins
* GitHub Actions
Kualifikasi
Pendidikan
* S1/S2 Teknik Informatika, Ilmu Komputer, Teknik Elektro, Artificial Intelligence, atau bidang terkait.
* Pengalaman minimal 5 tahun sebagai AI Engineer, ML Engineer, atau Edge AI Developer.
Kompetensi Teknis
Wajib
AI Framework:
* PyTorch
* TensorFlow
* ONNX Runtime
* TensorRT
Programming:
* C++
* Python
* CUDA
* C
Embedded System:
* Embedded Linux
* ARM Architecture
* Cross Compilation
* Device Driver dasar
GPU Programming:
* CUDA Programming
* CUDA Streams
* CUDA Graph
* Shared Memory Optimization
Model Optimization:
* Quantization
* Pruning
* Knowledge Distillation
* Operator Fusion
* Kernel Fusion
Performance Profiling:
* Nsight Systems
* Nsight Compute
* perf
* gprof
* Valgrind
Kompetensi Tambahan:
* Triton Inference Server
* OpenVINO
* TVM
* Apache TVM
* MLIR
* XLA Compiler
* LLVM
* Vulkan Compute
* OpenCL
* FPGA AI Acceleration
* ROS2
* GStreamer
* DeepStream SDK
* CUDA Graph API
Soft Skills:
* Analytical thinking yang kuat
* Problem solving berbasis data
* Mampu bekerja pada lingkungan high-performance engineering
* Komunikasi teknis yang baik dengan tim lintas fungsi
* Mampu melakukan code review dan technical mentoring
* Memiliki mindset ownership terhadap kualitas dan performa produk
Kandidat ideal adalah seorang AI Core IP Developer yang tidak hanya memahami machine learning dari sisi algoritma, tetapi juga mampu membangun high-performance inference engine pada perangkat edge dengan keterbatasan sumber daya. Ia memiliki pengalaman mengoptimalkan model hingga tingkat kernel, memahami arsitektur GPU/CPU, serta mampu menghasilkan solusi AI yang efisien, scalable, dan siap digunakan pada lingkungan produksi untuk aplikasi seperti computer vision, autonomous systems, IoT, robotics, smart surveillance, dan industrial AI.
