Arbo.web.id -OpenAI telah meluncurkan Application Programming Interface (API) untuk ChatGPT, memudahkan pihak ketiga atau bisnis mana pun untuk membangun teknologi ChatGPT ke dalam aplikasi, situs web, produk, dan layanan mereka.
API chatbot didukung oleh turbo GPT-3.5, model yang sama digunakan untuk produk web ChatGPT. Pengembang dapat dengan mudah berinteraksi dengannya melalui titik akhir sederhana dan menggunakannya untuk tugas apa pun yang dapat dilakukan ChatGPT, dari dalam situs web atau aplikasi mereka.
Model ini berjalan pada infrastruktur komputasi Microsoft Azure yang terhubung ke titik akhir pengguna. Ini dapat membuatnya bekerja secara independen dari beban server di situs web ChatGPT, menawarkan bisnis jalur khusus untuk pemrosesan AI.
Namun, inti dari API ChatGPT adalah biayanya. Chatbot bertenaga AI biasanya membutuhkan pusat data untuk berjalan, memaksa penyedia menghabiskan banyak uang untuk perangkat keras dan listrik untuk melayani jutaan pengguna.
Namun melalui pengoptimalan perangkat lunak, OpenAI berhasil mengurangi biaya menjalankan ChatGPT hingga 90 persen.
Secara khusus, OpenAI berencana untuk menagih pengguna API $0,002 untuk setiap 1.000 token, atau 750 kata, yang dihasilkan oleh ChatGPT.
Biayanya 10 kali lebih murah daripada akses API perusahaan ke model bahasa besar Davinci GPT-3.5 sebelumnya, yang juga dapat mendukung layanan chatbot.
Menurut OpenAI, versi API ini mungkin yang paling ekonomis untuk pengembang yang mengharapkan permintaan lebih dari 450 juta token per hari, dan dapat disetujui melalui kontak langsung dengan perusahaan.
Selain itu, data yang diproses melalui API tidak digunakan untuk pelatihan model atau peningkatan lain pada layanannya kecuali jika organisasi memilihnya.
OpenAI juga telah menangguhkan kebijakan peninjauan pra-peluncuran yang mengharuskan pengembang menandai apa yang mereka gunakan dalam model sebelum dapat diintegrasikan ke dalam aplikasi mereka.
“Data yang dikirimkan ke API OpenAI tidak digunakan untuk pelatihan, dan kami memiliki kebijakan retensi baru selama 30 hari dan terbuka untuk lebih sedikit berdasarkan kasus per kasus,” cuit CEO OpenAI Sam Altman, seperti dikutip ITPro, Jumat 3 Maret.
“Kami juga telah menghapus ulasan pra-peluncuran kami dan membuat ketentuan layanan dan kebijakan penggunaan kami lebih ramah pengembang.”
Model terbaru, gpt-3.5-turbo-0301, akan didukung hingga Juni dan rilis stabil baru gpt-3.5-turbo diharapkan April mendatang. Pengembang akan diberikan opsi untuk mengadopsi template stabil atau template yang disesuaikan sesuai kebutuhan mereka.
