Embedded AI Engineer, On-Device Models

Wilayah: Amerika Serikat. Sumber lowongan: Jobicy. Lamar melalui halaman sumber.

Company Overview

Deepgram adalah platform terdepan yang menopang ekonomi Voice AI senilai triliunan dolar, menyediakan API real-time untuk speech-to-text (STT), text-to-speech (TTS), dan membangun agen suara berskala produksi. Lebih dari 200.000 developer dan 1.300+ organisasi membangun penawaran suara yang didukung oleh Deepgram ('Powered by Deepgram'), termasuk Twilio, Cloudflare, Sierra, Decagon, Vapi, Daily, Cresta, Granola, dan Jack in the Box. Model dasar native-suara Deepgram dapat diakses melalui cloud API atau sebagai perangkat lunak self-hosted dan on-premises, dengan akurasi yang tak tertandingi, latensi rendah, dan efisiensi biaya. Didukung oleh pendanaan Seri C baru-baru ini yang dipimpin oleh investor global terkemuka dan mitra strategis, Deepgram telah memproses lebih dari 50.000 tahun audio dan mentranskripsikan lebih dari 1 triliun kata. Tidak ada organisasi di dunia yang memahami suara lebih baik daripada Deepgram.

Company Operating Rhythm

Di Deepgram, kami mengharapkan pola pikir yang mengutamakan AI (AI-first)—penggunaan dan kenyamanan terhadap AI bukanlah opsional, melainkan inti dari cara kami beroperasi, berinovasi, dan mengukur performa.

Setiap anggota tim yang bekerja di Deepgram diharapkan untuk secara aktif menggunakan dan bereksperimen dengan alat AI canggih, bahkan membangun AI Anda sendiri ke dalam pekerjaan sehari-hari. Kami mengukur seberapa efektif AI diterapkan untuk memberikan hasil, dan penggunaan yang konsisten serta kreatif dari kapabilitas AI terbaru adalah kunci kesuksesan di sini. Kandidat harus merasa nyaman mengadopsi model dan mode baru dengan cepat, mengintegrasikan AI ke dalam alur kerja mereka, dan terus mendorong batas dari apa yang dapat dilakukan oleh teknologi ini.

Selain itu, kami bergerak secepat kecepatan AI. Perubahan terjadi dengan cepat, dan Anda dapat mengharapkan pekerjaan sehari-hari Anda berkembang sama cepatnya. Ini mungkin bukan peran yang tepat jika Anda tidak antusias untuk bereksperimen, beradaptasi, berpikir cepat, dan terus belajar, atau jika Anda mencari sesuatu yang sangat preskriptif dengan jam kerja 9-ke-5 yang tradisional.

About the Role

Model ucapan Deepgram adalah salah satu yang tercepat dan terakurat di dunia, dan kami memiliki sistem yang mendalam untuk menjalankannya pada GPU NVIDIA. Pelanggan kami membutuhkannya di segala hal lainnya: akselerator non-NVIDIA, SoC embedded, prosesor aplikasi seluler, DSP dan NPU, serta perangkat khusus dengan batasan memori, komputasi, termal, dan daya yang ketat. Ketika kernel standar dan runtime dari platform target tidak dapat menjalankan model Deepgram dengan cukup baik, seseorang harus masuk ke level yang lebih mendalam di bawahnya. Itulah peran ini.

Sebagai seorang Embedded AI Engineer di tim Partner Platform Engineering, Anda bekerja pada lapisan terendah dari edge stack kami. Anda menulis dan mengoptimalkan kernel kustom serta operator untuk perangkat keras tertentu, memadatkan model ke dalam unit eksekusi khusus perangkat, dan melakukan kuantisasi sisi target serta penyetelan tingkat assembly yang tidak dapat dilakukan oleh toolchain standar. Anda menyerahkan apa yang Anda bangun kepada Applied ML Engineers, yang menyesuaikan model Deepgram dengan kernel Anda. Pekerjaan andalah yang membuat platform perangkat keras baru dapat layak digunakan oleh Deepgram.

Peran ini sangat cocok bagi seorang senior embedded engineer yang telah menghabiskan kariernya dekat dengan perangkat keras (close to the metal) dan ingin menerapkannya pada speech AI, atau staff-level engineer yang ingin menentukan bagaimana model Deepgram masuk ke silikon baru. Kami akan menyesuaikan level dengan pengalaman Anda.

What You'll Do

• Menulis dan mengoptimalkan kernel kustom serta operator (C, C++, Rust, dan platform assembly atau intrinsics) untuk akselerator non-NVIDIA, SoC embedded, DSP, dan NPU di mana kumpulan operator standar dari vendor tidak mencukupi untuk model Deepgram.

• Bertanggung jawab atas optimasi sisi target: memadatkan model ke unit eksekusi perangkat melalui kuantisasi, penggabungan operator (operator fusion), tata letak memori (memory layout), dan kompilasi spesifik arsitektur untuk memenuhi batasan latensi, memori, daya, dan termal.

• Terintegrasi dengan toolchain NPU/DSP vendor dan runtime edge inference, serta memperluasnya dengan operator kustom ketika grafik tidak terpetakan dengan bersih.

• Menghirimkan kernel dan komponen runtime sebagai blok bangunan yang dapat digunakan kembali yang dapat ditargetkan oleh Applied ML Engineers saat mengadaptasi model, dengan antarmuka yang jelas dan batasan yang didokumentasikan.

• Membangun kode runtime yang krusial untuk performa di lingkungan embedded, termasuk target embedded Linux, bare-metal, dan RTOS.

• Menetapkan benchmarking dan validasi per-platform untuk latensi, akurasi, daya, penggunaan memori, dan utilisasi, serta mendeteksi regresi sebelum dirilis.

• Bermitra dengan vendor silikon dan platform pada integrasi SDK dan penyetelan performa tingkat rendah untuk chipset baru dan platform referensi.

• Memberikan masukan batasan perangkat keras kembali ke tim Applied ML dan Research agar desain model lebih mudah diterapkan pada target yang memiliki keterbatasan.

You'll Love This Role If You

• Menemukan kepuasan mendalam dalam menjalankan model besar pada perangkat keras yang tidak pernah dimaksudkan untuk menjalankannya, namun tetap mencapai target akurasi dan latensi.

• Mengandalkan profiler dan manual ISA sebelum mencari chip yang lebih besar.