Di ajang konferensi developer perdananya, OpenAI DevDay, OpenAI memperkenalkan GPT-4 Turbo yang diklaim lebih bertenaga tapi lebih murah daripada GPT-4.
OpenAI menyediakan dua versi GPT-4 Turbo, yaitu versi yang hanya bisa menganalisis teks dan versi yang memahami konteks berupa teks maupun gambar. Versi teks dikabarkan akan langsung tersedia sebagai preview, melalui API. OpenAI menjanjikan keduanya segera tersedia dalam hitungan minggu.
Harga Lebih Murah
Dikutip dari TechCrunch, model AI yang berbasis teks akan dibanderol OpenAI pada harga US$0,01 (sekitar Rp157) per 1000 input token (sekitar 750 kata) dan US$0,03 (sekitar Rp470) per 1000 output token.
Sebagai informasi, token merupakan potongan-potongan teks mentah, misalnya kata “fantastis” dibagi menjadi tiga token: “fan”, “tas”, dan “tis”. Sedangkan Input token adalah token yang diumpankan ke model AI, dan output token merupakan token yang dihasilkan model AI berdasarkan input token.
Untuk GPT-4 Turbo dengan kemampuan memroses gambar, harganya akan bergantung pada ukuran gambar. Misalnya, untuk gambar berukuran 1080×1080 piksel, pengguna harus membayar US$0.00765 atau sekitar Rp120.
“Kami mengoptimalkan kinerja sehingga kami dapat menawarkan GPT-4 Turbo dengan harga input token 3x lebih murah dan harga output token 2x lebih murah dibandingkan GPT-4,” tulis OpenAI dalam postingan blog, seperti dikutip dari TechCrunch.
Lebih Up-to-date, Context Window Lebih Besar
Apa kelebihan GPT-4 Turbo? Model AI ini menawarkan beberapa peningkatan. Salah satunya adalah basis pengetahuan yang lebih up to date ketimbang GPT-4. Batas pengetahuan GPT-4 Turbo adalah sampa dengan April 2023. Sementara GPT-4 dilatih dengan data web sampai dengan September 2021. Dengan begitu, pertanyaan seputar hal-hal yang baru terjadi akan dijawab dengan lebih akurat.
Kelebihan lain adalah GPT-4 Turbo memiliki context window yang lebih besar. Singkatnya, context window merupakan jumlah token yang dapat diterima sebagai input oleh model AI ketika memberikan respons. Misalnya, GPT-3 mempunyai context window sebesar 2K (2000) dan GPT-4 sebesar 32K. Model dengan context window yang kecil cenderung “melupakan” konten percakapan terkini, sehingga membuat percakapan keluar dari topik.
GPT-4 Turbo menawarkan context window 128K atau 128.000 token, atau empat kali lipat ukuran context window GPT-4. Bahkan OpenAI mengeklaim, ini adalah context window terbesar untuk model-model AI komersil yang ada di pasar saat ini. Angka tersebut melampaui context window Claude 2 dari Anthropic yang mendukung sampai 100.000 token.
Dengan context window sebesar 128.000 token, dalam sekali jalan, GPT-4 Turbo dapat menerima input sekitar 100.000 kata atau 300 halaman.