Applied ML Engineer – Edge Devices

Wilayah: Amerika Serikat. Sumber lowongan: Jobicy. Lamar melalui halaman sumber.

Ringkasan Perusahaan

Deepgram adalah platform terkemuka yang mendukung ekonomi Voice AI senilai satu triliun dolar yang sedang berkembang, menyediakan API real-time untuk speech-to-text (STT), text-to-speech (TTS), dan membangun agen suara skala produksi (production-grade) dalam skala besar. Lebih dari 200.000 developer dan 1.300+ organisasi membangun penawaran suara yang ditenagai oleh Deepgram (‘Powered by Deepgram’), termasuk Twilio, Cloudflare, Sierra, Decagon, Vapi, Daily, Cresta, Granola, dan Jack in the Box. Model fondasi berbasis suara Deepgram diakses melalui cloud API atau sebagai software self-hosted dan on-premises, dengan akurasi yang tak tertandingi, latensi rendah, dan efisiensi biaya. Didukung oleh pendanaan Seri C baru-baru ini yang dipimpin oleh investor global terkemuka dan mitra strategis, Deepgram telah memproses audio selama lebih dari 50.000 tahun dan mentranskripsikan lebih dari 1 triliun kata. Tidak ada organisasi di dunia yang memahami suara lebih baik daripada Deepgram.

Irama Operasional Perusahaan

Di Deepgram, kami mengharapkan pola pikir yang mengutamakan AI (AI-first)—penggunaan dan kenyamanan terhadap AI bukanlah opsional, melainkan inti dari cara kami beroperasi, berinovasi, dan mengukur kinerja.

Setiap anggota tim yang bekerja di Deepgram diharapkan untuk secara aktif menggunakan dan bereksperimen dengan AI tools tingkat lanjut, bahkan membangun AI Anda sendiri ke dalam pekerjaan sehari-hari Anda. Kami mengukur seberapa efektif AI diterapkan untuk memberikan hasil, dan penggunaan kapabilitas AI terbaru yang konsisten serta kreatif adalah kunci kesuksesan di sini. Kandidat harus merasa nyaman mengadopsi model dan mode baru dengan cepat, mengintegrasikan AI ke dalam alur kerja (workflow) mereka, dan terus mendobrak batas dari apa yang dapat dilakukan oleh teknologi ini.

Selain itu, kami bergerak secepat kecepatan AI. Perubahan terjadi dengan cepat, dan Anda dapat mengharapkan pekerjaan sehari-hari Anda berkembang dengan cepat pula. Ini mungkin bukan peran yang tepat jika Anda tidak antusias untuk bereksperimen, beradaptasi, berpikir cepat, dan terus belajar, atau jika Anda mencari sesuatu yang sangat preskriptif dengan jam kerja 9-ke-5 tradisional.

Tentang peran ini

Model wicara (speech model) Deepgram adalah salah satu yang tercepat dan terakurat di dunia, dan saat ini kami menjalankannya dalam skala besar pada GPU NVIDIA. Pelanggan kami semakin membutuhkan model yang sama pada hardware yang tidak kita kendalikan: akselerator non-NVIDIA, edge server, dan platform embedded dengan inference runtime, set operator, dan batasannya sendiri. Memasukkan model Deepgram ke platform tersebut, dengan sedikit mungkin perubahan pada model dan tanpa perubahan pada paradigma hardware, adalah tugasnya.

Sebagai Applied ML Engineer di tim Partner Platform Engineering, Anda berada satu lapisan di atas perangkat keras (metal). Anda mengambil model Deepgram yang ada saat ini dan mengadaptasinya agar berjalan dengan benar dan efisien dalam kernel dan paradigma runtime yang ada pada platform target: menukar atau mengubah bentuk operator, menyesuaikan parameter arsitektur, memilih skema kuantisasi dan presisi, serta memvalidasi akurasi dan latensi pada perangkat nyata. Jika kernel standar saja tidak cukup, Anda bekerja sama dengan Embedded AI Engineers kami, yang menulis kernel kustom, dan menyesuaikan model dengan apa yang mereka bangun. Anda juga bertanggung jawab atas proses deployment yang membuat model yang diadaptasi tersebut dapat dikirim ke target edge secara berulang.

Ini bukan peran riset dan bukan peran cloud-serving. Ini adalah applied ML untuk deployment edge. Peran ini sangat cocok untuk senior engineer yang telah mendistribusikan model ke hardware non-GPU atau edge dan ingin melakukannya di berbagai platform, atau staff-level engineer yang ingin menentukan bagaimana Deepgram melakukan porting model wicara ke hardware baru. Kami akan menyesuaikan levelnya dengan pengalaman Anda.

Yang akan Anda lakukan

• Melakukan porting model wicara Deepgram ke platform non-NVIDIA dan edge, mengadaptasi struktur dan parameter model agar dapat berjalan dalam set operator, runtime, dan kernel yang ada pada target dengan modifikasi minimal.

• Bertanggung jawab atas keputusan model di sisi serving untuk target edge: pilihan kuantisasi dan presisi, substitusi operator, penulisan ulang grafik (graph rewrites), dan penyesuaian arsitektur yang mencocokkan model dengan batasan perangkat sambil tetap menjaga akurasi dan latensi.

• Memvalidasi setiap port pada hardware nyata: membangun benchmark akurasi, latensi, throughput, dan memori per platform, serta mendeteksi regresi sebelum pelanggan menemukannya.

• Membangun jalur deployment untuk target edge: pengemasan model (model packaging), pipeline konversi, manajemen versi (versioning), dan pengiriman otomatis sehingga pengiriman model ke perangkat baru dapat dilakukan secara berulang, bukan kustom.

• Bekerja sama dengan Embedded AI Engineers ketika kernel standar tidak cukup: menentukan apa yang dibutuhkan model, kemudian mengadaptasi model untuk menggunakan kernel kustom yang mereka sediakan.

• Bermitra dengan vendor platform dan silikon pada runtime dan toolchain mereka, serta mengubah format model dan konvensi operator yang mereka harapkan menjadi deployment Deepgram yang berfungsi.

• Memberikan umpan balik batasan edge kepada tim Research dan Impeller agar model masa depan lebih mudah di-porting, tanpa harus mengambil alih pekerjaan riset atau produksi inti sendiri.