OpenAI Kenalkan GPT-4o mini, Model AI Lebih Kecil dan Murah

PORTAL BONTANG – OpenAI pada hari Kamis, 18 Juli 2024 memperkenalkan GPT-4o mini, model AI kecil terbaru mereka.

Perusahaan ini mengatakan GPT-4o mini, yang lebih murah dan lebih cepat daripada model AI mutakhir OpenAI saat ini, sedang dirilis untuk pengembang, serta melalui web ChatGPT dan aplikasi seluler untuk konsumen, mulai hari ini.

Pengguna perusahaan akan mendapatkan akses minggu depan, dilansir Portalbontang.com dari Tech Crunch, Jumat 19 Juli 2024.

Baca Juga: Waspada Penyakit Musim Hujan di Kalimantan Timur, Dinkes Kaltim Ingatkan Pola 3M Plus

Perusahaan mengatakan GPT-4o mini mengungguli model AI kecil terkemuka di industri dalam tugas penalaran yang melibatkan teks dan visi.

Seiring dengan meningkatnya model AI kecil, mereka menjadi lebih populer untuk pengembang karena kecepatan dan efisiensi biaya dibandingkan dengan model yang lebih besar, seperti GPT-4 Omni atau Claude 3.5 Sonnet.

Mereka adalah pilihan yang berguna untuk tugas volume tinggi dan sederhana yang mungkin diminta pengembang secara berulang kali pada model AI untuk dilakukan.

GPT-4o mini akan menggantikan GPT-3.5 Turbo sebagai model terkecil yang ditawarkan OpenAI.

Baca Juga: Mantan Wartawan yang Jadi Politisi, Bupati Ponorogo Sugiri Sancoko Siap Gandeng Promedia Gelar Pelatihan Jurnalisme Berkualitas

Perusahaan mengklaim model AI terbarunya ini mencetak skor 82% pada MMLU, benchmark untuk mengukur penalaran, dibandingkan dengan 79% untuk Gemini 1.5 Flash dan 75% untuk Claude 3 Haiku, menurut data dari Artificial Analysis.

Pada MGSM, yang mengukur penalaran matematika, GPT-4o mini mencetak skor 87%, dibandingkan dengan 78% untuk Flash dan 72% untuk Haiku.

Lebih lanjut, OpenAI mengatakan GPT-4o mini secara signifikan lebih terjangkau untuk dijalankan daripada model perbatasan sebelumnya, dan lebih dari 60% lebih murah daripada GPT-3.5 Turbo.

Baca Juga: Bunda Indah Amperawati Siap Membangun Lumajang dengan Konsep Kepemimpinan yang Manusiawi dan Mengayomi

Saat ini, GPT-4o mini mendukung teks dan visi di API, dan OpenAI mengatakan model tersebut akan mendukung kemampuan video dan audio di masa mendatang.

“Agar seluruh penjuru dunia diberdayakan oleh AI, kita perlu membuat model jauh lebih terjangkau,” kata kepala Product API OpenAI, Olivier Godement, dalam wawancara dengan TechCrunch.

“Saya pikir GPT-4o mini adalah langkah maju yang sangat besar ke arah itu.”

Untuk pengembang yang membangun di API OpenAI, GPT-4o mini dihargai 15 sen per juta token input dan 60 sen per juta token output.

Baca Juga: Politisi Santri Siap Bangun Jember, Gus Fawait: Perlu Ada Lompatan yang Jelas!

Model ini memiliki jendela konteks 128.000 token, kira-kira sepanjang buku, dan pemutusan pengetahuan Oktober 2023.

OpenAI tidak akan mengungkapkan secara pasti seberapa besar GPT-4o mini, tetapi mengatakan itu kira-kira berada di tier yang sama dengan model AI kecil lainnya, seperti Llama 3 8b, Claude Haiku, dan Gemini 1.5 Flash.

Namun, perusahaan mengklaim GPT-4o mini lebih cepat, lebih hemat biaya, dan lebih pintar daripada model kecil terkemuka di industri, berdasarkan pengujian pra-peluncuran di arena chatbot LMSYS.org. Tes independen awal tampaknya mengkonfirmasi ini.

“Relatif terhadap model yang sebanding, GPT-4o mini sangat cepat, dengan kecepatan output median 202 token per detik,” kata George Cameron, Co-Founder di Artificial Analysis, dalam email ke TechCrunch.

Baca Juga: PBNU Akhirnya Minta Maaf Atas Kunjungan 5 Nahdliyin ke Israel

“Ini lebih dari 2X lebih cepat daripada GPT-4o dan GPT-3.5 Turbo dan merupakan penawaran yang menarik untuk kasus penggunaan yang bergantung pada kecepatan termasuk banyak aplikasi konsumen dan pendekatan agen untuk menggunakan LLM.”

Secara terpisah, OpenAI mengumumkan alat baru untuk pelanggan perusahaan pada hari Kamis.

Dalam sebuah posting blog, OpenAI mengumumkan Enterprise Compliance API untuk membantu bisnis di industri yang sangat diatur seperti keuangan, perawatan kesehatan, layanan hukum, dan pemerintah memenuhi persyaratan pencatatan dan audit.

Baca Juga: Presiden Jokowi Sebut IKN Baru 15 Persen saat Upacara 17 Agustus 2024

Perusahaan mengatakan alat ini akan memungkinkan admin untuk mengaudit dan mengambil tindakan pada data ChatGPT Enterprise mereka.

API akan menyediakan catatan interaksi bercap waktu, termasuk percakapan, file yang diunggah, pengguna ruang kerja, dan lainnya.

OpenAI juga memberi admin kontrol yang lebih terperinci untuk GPT ruang kerja, versi kustom ChatGPT yang dibuat untuk kasus penggunaan bisnis tertentu.

Sebelumnya, admin hanya dapat sepenuhnya mengizinkan atau memblokir tindakan GPT yang dibuat di ruang kerja mereka, tetapi sekarang, pemilik ruang kerja dapat membuat daftar domain yang disetujui tempat GPT dapat berinteraksi. ***