Havedev
AI Tidak Selalu Butuh Model Terbesar, AI Butuh Biaya yang Masuk Akal
Microsoft dilaporkan mulai lebih banyak memakai model AI internalnya sendiri untuk sebagian respons di produk seperti Word dan Excel. Sebelumnya, banyak bagian dari Microsoft 365 Copilot dikenal banyak bergantung pada model dari OpenAI dan Anthropic.
Langkah ini bukan berarti Microsoft meninggalkan model pihak ketiga. Namun arahnya cukup jelas: untuk sebagian pekerjaan, Microsoft mulai memilih model yang lebih bisa dikendalikan sendiri, terutama dari sisi biaya dan penggunaan skala besar.
Di saat biaya AI terus naik, keputusan seperti ini masuk akal. Perusahaan besar yang memakai AI untuk jutaan interaksi tidak bisa hanya bertanya model mana yang paling pintar. Mereka juga harus bertanya model mana yang cukup baik, cukup cepat, cukup aman, dan cukup murah untuk dipakai berkali-kali.
The Core Update
Microsoft dilaporkan memakai model MAI buatan sendiri untuk menangani sebagian prompt pengguna di Word dan Excel. Model internal ini menjadi bagian dari strategi yang lebih luas setelah Microsoft memperkenalkan beberapa model MAI baru, termasuk model untuk coding agent dan text-to-image.
Di permukaan, berita ini terlihat seperti persaingan antar penyedia model AI. Microsoft punya hubungan besar dengan OpenAI, tetapi tetap membangun model sendiri. OpenAI dan Anthropic masih penting, tetapi tidak selalu menjadi pilihan default untuk semua tugas.
Namun inti beritanya lebih sederhana: biaya AI mulai menjadi masalah operasional, bukan hanya masalah teknologi.
Ketika AI dipakai oleh sedikit orang untuk eksperimen, biaya token mungkin masih terasa seperti biaya inovasi. Tetapi ketika AI masuk ke produk harian seperti email, dokumen, spreadsheet, customer support, analisis data, dan workflow internal, biayanya berubah menjadi biaya produksi.
Di titik itu, perusahaan mulai berhitung lebih keras.
Pertanyaannya bukan lagi hanya:
- model mana yang paling canggih?
- model mana yang paling banyak dibicarakan?
- model mana yang paling kuat untuk demo?
Pertanyaannya menjadi:
- tugas mana yang benar-benar butuh model besar?
- tugas mana yang cukup memakai model kecil?
- prompt mana yang terlalu mahal untuk nilai bisnisnya?
- fitur mana yang harus dibatasi agar biaya tetap sehat?
- data mana yang lebih aman diproses dengan model internal?
Microsoft bukan satu-satunya yang bergerak ke arah ini. Beberapa perusahaan besar lain juga dilaporkan mulai menekan penggunaan AI yang terlalu mahal, terutama untuk pekerjaan kecil yang tidak selalu membutuhkan model paling kuat.
Ini tanda bahwa fase AI sedang berubah. Dari fase mencoba semua hal menjadi fase memilih hal yang layak dijalankan terus-menerus.
The Reality Check
Ada asumsi yang sering muncul di bisnis: kalau sudah memakai AI terbaik, hasilnya pasti lebih baik.
Kadang benar. Untuk pekerjaan yang rumit, sensitif, atau bernilai tinggi, model yang lebih kuat bisa memberi perbedaan besar. Misalnya analisis dokumen hukum, debugging sistem kompleks, strategi bisnis, riset teknis, atau keputusan yang berdampak besar pada pelanggan.
Tetapi tidak semua pekerjaan membutuhkan model paling mahal.
Banyak kebutuhan AI di bisnis sebenarnya cukup sederhana:
- merapikan draft email
- membuat ringkasan meeting
- mengelompokkan pesan pelanggan
- membuat balasan awal
- mengekstrak data dari form
- memberi label lead
- menyusun ulang laporan
- membuat template follow-up
Untuk pekerjaan seperti ini, model yang lebih kecil atau lebih murah sering cukup. Yang lebih penting justru alurnya jelas, datanya rapi, batasannya tegas, dan hasilnya mudah diperiksa.
Masalah muncul ketika bisnis memakai AI seperti memakai listrik tanpa meteran. Semua hal dikirim ke model besar. Semua prompt dianggap sama penting. Semua tim bebas mencoba. Semua automation berjalan tanpa evaluasi biaya.
Awalnya terasa produktif. Lama-lama tagihan naik, tetapi manfaatnya tidak selalu terlihat.
Di sinilah banyak bisnis perlu lebih jujur. AI bukan hanya fitur pintar. AI adalah biaya berulang.
Setiap prompt punya biaya. Setiap file yang dianalisis punya biaya. Setiap agent yang berjalan otomatis punya biaya. Setiap workflow yang memanggil model berkali-kali punya biaya yang bisa membesar diam-diam.
Untuk perusahaan sebesar Microsoft, biaya ini terlihat dalam skala global. Untuk bisnis yang lebih kecil, masalahnya tetap sama walau angkanya berbeda.
Jika AI dipakai tanpa struktur, bisnis bisa membayar mahal untuk pekerjaan yang sebenarnya bisa diselesaikan dengan aturan sederhana, template, search biasa, validasi form, atau automation tanpa AI.
AI seharusnya dipakai ketika ada ketidakpastian, variasi bahasa, kebutuhan analisis, atau konteks yang sulit dibuat dengan aturan kaku. Jika masalahnya hanya memindahkan data dari form ke spreadsheet, belum tentu AI perlu ikut campur.
The Havedev Way
Dari sudut pandang Havedev, pelajaran dari langkah Microsoft bukan sekadar perusahaan besar mulai membuat model sendiri. Pelajarannya adalah AI harus dipetakan berdasarkan nilai kerja, bukan berdasarkan hype model.
Untuk bisnis, pendekatan yang lebih sehat dimulai dari pertanyaan sederhana: pekerjaan mana yang pantas dibantu AI?
Bukan semua pekerjaan. Bukan semua chat. Bukan semua dokumen. Pilih bagian yang memang punya nilai.
Biasanya AI mulai masuk akal untuk alur seperti:
- lead masuk dengan konteks yang beragam
- pesan pelanggan perlu diklasifikasi cepat
- tim butuh ringkasan dari banyak percakapan
- dokumen perlu dibaca dan diambil poin pentingnya
- sales perlu bantuan membuat follow-up yang relevan
- support perlu draft jawaban awal yang konsisten
- owner perlu melihat pola dari data operasional
Setelah itu, baru tentukan tingkat AI yang dibutuhkan.
Tidak semua harus memakai model paling mahal. Untuk beberapa alur, cukup pakai automation biasa. Untuk beberapa alur lain, cukup pakai model ringan. Untuk pekerjaan yang lebih berat, baru gunakan model besar dengan kontrol yang jelas.
Prinsipnya sederhana: gunakan AI mahal hanya untuk pekerjaan yang memang mahal kalau salah atau lambat.
Jika lead bernilai tinggi, bantuan AI untuk membaca kebutuhan dan menyarankan follow-up mungkin masuk akal. Jika hanya membuat sapaan standar, template biasa mungkin cukup.
Jika support berisi keluhan kompleks, AI bisa membantu merangkum konteks sebelum ditangani manusia. Jika hanya pertanyaan jam operasional, FAQ dan bot sederhana sudah cukup.
Jika dokumen punya banyak variasi, AI berguna. Jika formatnya selalu sama, parser biasa bisa lebih murah dan lebih stabil.
Bisnis juga perlu mencatat penggunaan AI seperti mencatat biaya operasional lain. Minimal tahu:
- fitur mana yang paling sering memakai AI
- pekerjaan mana yang paling banyak memakan biaya
- hasil AI mana yang benar-benar dipakai tim
- automation mana yang berjalan tetapi jarang memberi nilai
- bagian mana yang bisa diganti aturan sederhana
Tanpa pengukuran ini, AI mudah berubah menjadi biaya yang terlihat modern tetapi sulit dipertanggungjawabkan.
Ada hal lain yang tidak kalah penting: data dan keamanan.
Ketika perusahaan mulai mencari model yang lebih murah, termasuk dari vendor berbeda atau negara berbeda, biaya bukan satu-satunya pertimbangan. Data pelanggan, dokumen internal, strategi bisnis, dan informasi finansial tidak boleh sembarangan dikirim ke sistem yang belum jelas risikonya.
Model lebih murah bisa menarik. Tetapi jika risiko datanya lebih besar, penghematannya bisa semu.
Karena itu, strategi AI bisnis sebaiknya tidak dimulai dari pertanyaan “model apa yang paling murah?” tetapi dari pertanyaan “data apa yang boleh diproses, untuk pekerjaan apa, dengan kontrol apa?”
Bagi banyak bisnis, langkah terbaik bukan langsung membangun model sendiri seperti Microsoft. Itu terlalu jauh dan tidak perlu. Langkah yang lebih realistis adalah membuat arsitektur penggunaan AI yang lebih sadar biaya.
Mulai dari satu alur kerja. Misalnya lead dari website atau WhatsApp.
Tentukan:
- data apa yang masuk
- status awal lead apa
- bagian mana yang perlu AI
- bagian mana yang cukup automation biasa
- siapa yang memeriksa hasil AI
- kapan AI boleh mengirim respons
- kapan harus diteruskan ke manusia
- bagaimana biaya dan hasilnya dipantau
Dengan cara ini, AI tidak menjadi dekorasi teknologi. AI menjadi bagian dari sistem kerja yang bisa diukur.
Microsoft sedang menunjukkan bahwa bahkan perusahaan paling besar pun harus berhitung ulang soal biaya AI. Maka bisnis lain juga tidak perlu merasa tertinggal kalau belum memakai model paling kuat untuk semua hal.
Yang lebih penting adalah memakai AI di tempat yang tepat.
AI yang baik bukan selalu AI yang paling besar. AI yang baik adalah AI yang membantu pekerjaan bergerak lebih cepat, lebih jelas, lebih aman, dan tetap masuk akal biayanya.
Sebelum menambah fitur AI baru, cek satu hal sederhana: apakah pekerjaan itu benar-benar membutuhkan AI, atau hanya membutuhkan alur yang lebih rapi?
Kalau jawabannya belum jelas, mulai dari sana.
Dapatkan Audit Teknis Gratis untuk meninjau peluang automation dan AI di bisnis Anda, termasuk bagian mana yang layak memakai AI dan bagian mana yang cukup diperbaiki dengan alur kerja yang lebih sederhana.
Sumber referensi berita: TechCrunch