homescontents

Deci mendapatkan $25 juta untuk teknologi yang membuat model AI lebih efisien – gerakanpintar.com

Deci, perusahaan rintisan dengan 50 karyawan yang mengembangkan platform untuk membangun dan mengoptimalkan sistem yang didukung AI, hari ini mengumumkan bahwa mereka telah menyelesaikan putaran pembiayaan Seri B senilai $25 juta yang dipimpin oleh Insight Partners dengan partisipasi dari Square Peg, Emerge, Jibe Ventures, Fort Ross Ventures dan ICON yang membawa total pendapatan perusahaan menjadi $55,1 juta. Dana tersebut akan digunakan untuk ekspansi keputusan‘s go-to-market serta mendukung upaya R&D perusahaan, menurut salah satu pendiri dan CEO Yonatan Geifman.

Perusahaan menghadapi beberapa rintangan dalam membuat model AI yang menganalisis teks, audio, dan gambar untuk diterapkan di seluruh aplikasi dan layanan mereka. Biayanya sangat besar — ​​melatih satu model pada perangkat keras komersial dapat menghabiskan biaya puluhan ribu dolar, jika tidak lebih. Sementara generasi chip yang lebih baru dan akselerator AI yang dirancang khusus telah membantu mengurangi beban, membuat model dari awal masih bukanlah hal yang mudah.

Geifman mengusulkan pencarian arsitektur saraf (NAS) sebagai solusi. NAS, rangkaian teknik yang sangat diandalkan Deci, dapat membantu menemukan model optimal berbiaya rendah secara otomatis untuk masalah tertentu. Deci tidak unik dalam hal ini — layanan Google Vertex AI memanfaatkan NAS untuk mengoptimalkan kinerja model pada tugas spesifik yang ditentukan pelanggan. Tetapi Geifman berpendapat bahwa platform Deci menawarkan akses ke kemampuan NAS dengan biaya lebih rendah.

Pada 2019, Geifman ikut mendirikan Deci bersama Ran El-Yaniv dan pengusaha Jonathan Elial. Geifman dan El-Yaniv bertemu di departemen ilmu komputer Technion, di mana Geifman adalah Ph.D. kandidat dan El-Yaniv seorang profesor.

“Deciteknologi eksklusif [can generate] model klasifikasi gambar baru yang … memberikan peningkatan lebih dari 2x dalam runtime, ditambah dengan peningkatan akurasi, dibandingkan dengan model paling kuat yang tersedia untuk umum, ”kata Geifman kepada gerakanpintar.com dalam email. “Ini berarti bahwa aplikasi AI yang sebelumnya hanya dapat digunakan pada GPU yang besar dan mahal sekarang dapat digunakan pada CPU.”

keputusan

Kredit Gambar: keputusan

Itu adalah klaim yang tinggi. Tetapi Deci mendapat dukungan dari Intel, yang Maret lalu mengumumkan kolaborasi bisnis dan teknologi strategis dengan startup untuk mengoptimalkan pembelajaran mesin pada prosesor Intel. Kemitraan ini mengarah pada penciptaan model yang mempercepat kinerja tugas menjawab pertanyaan pada CPU Intel dan model klasifikasi gambar untuk prosesor Cascade Lake yang “secara signifikan mengurangi overhead komputasi,” klaim Geifman.

Geifman sebelumnya mengatakan kepada gerakanpintar.com bahwa salah satu pelanggan Deci, penyedia konferensi video, menggunakan platform untuk meluncurkan fitur yang mengaburkan latar belakang pada perangkat pengguna. Yang lain telah memanfaatkan Deci untuk membangun model yang lebih baik untuk komputasi internal mereka sendiri, bahkan ketika mereka secara teoritis memiliki GPU dan daya komputasi untuk menjalankan apa pun.

keputusan diciptakan untuk memberdayakan pengembang dan menghilangkan hambatan terkait produksi di seluruh siklus hidup AI,” kata Geifman. “Dampak bisnis dari kemampuan ini diterjemahkan menjadi … mempersingkat waktu produksi dan kemampuan untuk membuka kasus penggunaan AI baru dan menangani segmen pasar baru pada perangkat dengan sumber daya terbatas.”

Geifman juga mencatat bahwa model terkompresi dapat membantu perusahaan menghemat biaya komputasi inferensi — yaitu, biaya untuk benar-benar melayani model setelah diterapkan. Sebagian karena popularitas model hosting di cloud, lebih dari sepertiga bisnis secara teratur mengalami kelebihan anggaran cloud hingga 40%, menurut jajak pendapat oleh vendor perangkat lunak observability Pepperdata.

Sementara Geifman menegaskan bahwa bisnis Deci terus berkembang, startup menghadapi tantangan, termasuk keterbatasan teknis NAS. (NAS, yang sulit dievaluasi, bisa mahal dan memakan waktu.) Selain itu, Deci juga bersaing dengan sejumlah perusahaan yang mengembangkan cara untuk membuat model lebih efisien, seperti OctoML, Neural Magic, dan OmniML.

Bulan-bulan mendatang akan menjadi ujian ketahanan Deci terhadap angin sakal.

“Meskipun kami tidak dapat mengungkapkan valuasinya, kami dapat mengatakan itu meningkat secara signifikan jika dibandingkan dengan putaran sebelumnya. Karena pertumbuhan bisnis Deci dan peluang ekspansi produk ke domain tambahan seperti pemrosesan bahasa alami, antara lain, investor kami yang ada memutuskan untuk menggandakan untuk mendukung pertumbuhan itu, ”kata Geifman. “Kami belum melihat dampak yang besar [from recent economic developments]. Fokus kami sebagian besar pada perusahaan, sementara perlambatan terutama mempengaruhi perusahaan pasar menengah dan startup.”

Managing Director Insight Partners Lonne Jaffe, anggota dewan di Deci, menambahkan dalam email dengan gerakanpintar.com: “Teknologi Deci yang kuat memungkinkan Anda memasukkan model AI, data, dan perangkat keras target — apakah perangkat keras itu ada di edge atau di cloud — dan memandu Anda dalam menemukan model alternatif yang akan menghasilkan akurasi prediksi serupa dengan efisiensi yang ditingkatkan secara besar-besaran … [It’s a value add because] hmemiliki infrastruktur yang lebih efisien untuk sistem AI dapat membuat produk AI berbeda secara kualitatif dan lebih baik, tidak hanya lebih murah dan lebih cepat untuk dijalankan.”

By Sudiati

Related Post