Software Hardware

Recursive Rilis Flint, Model AI Coding Terbuka yang Bisa Dijalankan Secara Lokal

Perusahaan kecerdasan buatan Recursive memperkenalkan Flint pada 21 Oktober 2026 sebagai model AI coding terbuka yang dirancang untuk membantu pengembang menulis, memperbaiki, dan menguji kode secara lokal. Model ini menggunakan arsitektur Mixture-of-Experts dengan 39,8 miliar parameter, tetapi hanya mengaktifkan sekitar 2,5 miliar parameter untuk setiap token yang diproses. Pendekatan tersebut memungkinkan penggunaan komputasi yang lebih efisien dibandingkan model padat berukuran serupa. Dengan dukungan perangkat Apple Silicon dan GPU NVIDIA, Flint menawarkan alternatif bagi developer yang mengutamakan kecepatan, privasi, serta kontrol terhadap lingkungan pengembangan. Kehadirannya turut memperluas pilihan TEKNOLOGI AI coding yang dapat dijalankan tanpa selalu bergantung pada layanan cloud.

Mengenal Recursive Flint sebagai Model AI Coding Terbuka

Recursive menghadirkan Flint sebagai model bahasa khusus untuk pekerjaan pemrograman. Tidak seperti asisten AI yang dirancang terutama untuk komunikasi sehari-hari, Flint ditujukan untuk menangani pekerjaan rekayasa perangkat lunak. Penggunaan model ini meliputi analisis basis kode, penanganan kesalahan program, implementasi fitur, dan pembuatan test case. Melalui kemampuan tersebut, pengembang dapat memanfaatkan AI sebagai pendamping kerja. Namun demikian, hasil model tetap membutuhkan pemeriksaan manusia. Pendekatan tersebut membantu mengurangi kemungkinan kesalahan.

Salah satu daya tarik Flint adalah kemampuan mengunduh dan menjalankan model secara mandiri. Pengembang mendapatkan akses terhadap Flint dengan lisensi Apache 2.0 yang memungkinkan integrasi dalam proyek yang sesuai ketentuan lisensi. Berkat akses terhadap bobot model, model dapat dioperasikan melalui infrastruktur lokal. Kemampuan tersebut menarik bagi pengembang yang menangani kode sensitif. Meskipun model dapat dijalankan secara lokal, penggunaan Flint tetap memerlukan perangkat keras yang sesuai. Sebagai hal yang perlu diperhatikan, konfigurasi alat bantu eksternal juga harus diperiksa. Dengan demikian, manfaat AI lokal dapat diperoleh secara lebih optimal.

Spesifikasi Flint dengan Arsitektur Mixture-of-Experts

Flint menggunakan Mixture-of-Experts atau MoE yang memungkinkan penggunaan sebagian parameter saat inferensi. Dalam konfigurasi lengkapnya, Flint memiliki sekitar 39,8 miliar parameter. Namun, hanya sekitar 2,5 miliar parameter yang aktif untuk setiap token. Karakteristik arsitektur ini memungkinkan pemrosesan lebih ringan dibandingkan model padat tertentu. Pada arsitektur model padat, beban inferensi melibatkan bagian model yang lebih luas. Sebaliknya, pemrosesan diarahkan menuju bagian jaringan yang diperlukan. Melalui rancangan tersebut, model berpotensi menghasilkan respons lebih cepat.

Di luar pengelolaan parameter, Flint mendukung kapasitas konteks hingga 262.144 token. Ruang pemrosesan informasi tersebut memungkinkan model menerima kode dan instruksi panjang. Untuk menggambarkan manfaatnya, pengembang dapat memasukkan beberapa file terkait. Namun demikian, panjang konteks tidak menjamin ketepatan pemahaman. Untuk menjaga efektivitas, tugas sebaiknya dipecah menjadi bagian yang jelas. Untuk mengurangi kesalahan, konteks perlu disesuaikan dengan masalah yang sedang dikerjakan. Pendekatan tersebut membuat proses analisis lebih terarah.

Performa Inferensi Lokal Recursive Flint di Berbagai Perangkat

Tim pengembang Flint menyiapkan berbagai konfigurasi inferensi agar Flint mampu berjalan pada GPU NVIDIA yang kompatibel. Dalam evaluasi performa perusahaan, Flint mampu menghasilkan lebih dari 125 token per detik pada MacBook Pro tertentu. Sementara itu, performa pemrosesan mencapai lebih dari 150 token setiap detik pada konfigurasi perangkat yang sesuai. Hasil pengujian tersebut menunjukkan potensi respons yang cepat. Namun demikian, hasil dapat berubah menurut jumlah token konteks. Oleh sebab itu, pengguna perlu menguji konfigurasi sendiri.

Dalam menyediakan pilihan implementasi, Flint memiliki beberapa format bobot model. Varian utama yang disediakan adalah BF16 yang digunakan sebagai checkpoint dasar. Untuk mengurangi kebutuhan memori, model dapat digunakan melalui format bobot berpresisi rendah seperti NVFP4 dan GGUF. Varian bobot yang lebih kecil bertujuan mengurangi penggunaan memori. Namun perlu diperhatikan, penggunaan RAM dan VRAM dapat meningkat saat konteks panjang. Sebelum melakukan instalasi, pengguna perlu memeriksa kapasitas memori. Melalui pemilihan versi yang tepat, proses inferensi dapat berjalan lebih efisien.

Panduan Menggunakan Flint melalui Ollama dan Runtime AI

Salah satu cara praktis untuk mengoperasikan model AI Flint adalah memanfaatkan Ollama. Perangkat lunak Ollama dikenal sebagai alat untuk menjalankan model bahasa pada perangkat. Setelah Ollama dipasang, pengguna dapat membuka terminal. Penggunaan sintaks ollama run flint mengaktifkan model setelah proses pengunduhan yang diperlukan. Apabila proses inisialisasi berhasil, pengguna dapat memberikan instruksi pemrograman. Walaupun langkah dasarnya sederhana, interaksi terminal biasa tidak selalu menyediakan akses langsung ke seluruh repository.

Untuk lingkungan pengembangan yang berbeda, Flint memiliki integrasi dengan berbagai perangkat lunak AI. Pilihan tersebut mencakup vLLM, LM Studio, dan perangkat lunak inferensi lainnya. Untuk pengguna perangkat Apple, Recursive mengembangkan mesin inferensi lokal bernama rec. Sistem pemrosesan lokal tersebut memanfaatkan optimalisasi bagi prosesor Apple yang kompatibel. Untuk penggunaan yang melibatkan banyak tindakan, model mendukung penggunaan melalui sistem agen seperti OpenHands. Berkat penggunaan perangkat lunak pendamping, model dapat diberikan kemampuan membaca file dan menjalankan tools. Walaupun integrasi tersebut bermanfaat, pengembang perlu membatasi kewenangan agen sesuai kebutuhan. Langkah keamanan ini membantu mengurangi risiko eksekusi perintah berbahaya.

Benchmark Recursive Flint dalam Tugas Agentic Coding

Model tersebut dikembangkan untuk membantu aktivitas rekayasa perangkat lunak yang kompleks. Untuk menggambarkan penggunaannya, programmer bisa menggunakan Flint untuk menelusuri kesalahan. Model kemudian membaca file terkait dan menyarankan perubahan sebelum solusi dievaluasi menggunakan proses validasi. Untuk pekerjaan pengembangan lainnya, Flint dapat membantu menambahkan fitur serta membuat unit test. Penggunaan model dalam beberapa tahapan berpotensi mengurangi pekerjaan berulang. Meskipun AI mampu menghasilkan kode, solusi tidak boleh langsung dianggap benar. Langkah tersebut diperlukan untuk sistem dengan data sensitif.

Dalam pengujian performa model, Recursive mempublikasikan hasil beberapa benchmark. Untuk benchmark tugas terminal, Flint mencapai tingkat keberhasilan 54,9 persen. Dalam pengujian perbaikan perangkat lunak, hasil SWE-bench Pro v2 mencapai 89,7 persen, sedangkan pengujian SWE-bench Verified menghasilkan 74,2 persen. Angka evaluasi tersebut perlu dibaca sebagai hasil yang dipublikasikan perusahaan. Dalam menilai performa sebenarnya, metodologi pengujian harus diperiksa. Dalam penggunaan sehari-hari, kemampuan pada proyek tertentu dapat berbeda. Berdasarkan keterbatasan evaluasi, benchmark sebaiknya dijadikan salah satu acuan.

Prospek Flint untuk Teknologi Pemrograman Berbasis Kecerdasan Buatan

Kehadiran model AI coding Flint memperluas pilihan perangkat lunak bagi developer. Berkat desain model MoE yang efisien, Flint dirancang memberikan inferensi cepat. Dukungan konteks panjang serta integrasi dengan berbagai runtime lokal memberikan fleksibilitas dalam penggunaan. Selain itu, lisensi Apache 2.0 mendukung penggunaan sesuai ketentuan lisensi. Meski kemampuan model terus berkembang, kode yang dihasilkan harus melalui pengujian. Seiring kemajuan TEKNOLOGI pemrograman, model lokal seperti Flint menawarkan alternatif terhadap layanan cloud. Bagaimana pandangan Anda, apakah AI coding lokal dapat menggantikan sebagian kebutuhan layanan cloud? Bagikan pandangan Anda tentang masa depan model pemrograman terbuka.

Related Articles

Back to top button