Proyek Sumber Terbuka SD Times Minggu Ini: Aviary
Proyek Sumber Terbuka SD Times Minggu Ini: Aviary
[ad_1]
Kandang burung membantu pengembang memilih Model Bahasa Besar (LLM) terbaik untuk kebutuhan aplikasi khusus mereka. Setelah dipilih, alat sumber terbuka juga dapat digunakan untuk mengintegrasikannya ke dalam aplikasi.
“Tujuan kami adalah untuk memastikan bahwa setiap pengembang dapat mengintegrasikan AI ke dalam produk mereka dan untuk memfasilitasi pengembangan, penskalaan, dan produksi aplikasi AI tanpa membuat atau mengelola infrastruktur. Dengan proyek Aviary, kami memberi pengembang alat untuk memanfaatkan LLM di aplikasi,” kata Robert Nishihara, salah satu pendiri dan CEO Anyscale, perusahaan yang menciptakan alat tersebut. “Kecerdasan buatan berkembang begitu cepat sehingga banyak perusahaan menemukan bahwa pilihan infrastruktur mereka mencegah mereka memanfaatkan fitur LLM terbaru. Mereka membutuhkan akses ke platform yang memungkinkan mereka memanfaatkan seluruh ekosistem LLM sumber terbuka dengan cara yang dapat diskalakan, efisien, dan menguntungkan.
Pengembang yang menggunakan Aviary dapat mengirimkan petunjuk pengujian ke banyak LLM sumber terbuka yang berbeda, seperti CarperAI, Dolly 2.0, Llame, Vicuna, StabilityAI, dan LightGPT Amazon sehingga mereka dapat menemukan yang sesuai dengan kebutuhan mereka.
Itu dibangun di atas salah satu penawaran open source Anyscale lainnya, Ray Serve, yang digunakan untuk melayani dan menskalakan aplikasi AI. Ini menyediakan fitur seperti toleransi kesalahan, penerapan template dinamis, dan pengelompokan permintaan.
Itu juga dapat memberikan pengoptimalan biaya dinamis karena secara cerdas mempartisi model di antara GPU.
Aviary juga memberi pengembang kerangka kerja terpadu untuk menerapkan LLM yang telah dirancang untuk digunakan dengan banyak LLM di lingkungan.
Proyek ini berisi pustaka, alat, contoh, dokumentasi, dan kode contoh untuk memberikan semua yang dibutuhkan pengembang untuk memulai Aviary dengan cepat.
[ad_2]