Havedev
Valuasi Etched Naik Cepat, Tetapi Cerita Besarnya Ada di Biaya Inference
Etched baru saja mengumumkan pendanaan tambahan sebesar $700 juta dengan valuasi $21 miliar. Putaran ini dipimpin oleh Jane Street setelah perusahaan investasi tersebut menguji dan membeli hardware AI Etched untuk datacenter mereka sendiri.
Angka ini terlihat sangat besar, bahkan untuk standar AI. Pada Desember, Etched masih bernilai sekitar $5 miliar. Pada Juli, valuasinya naik menjadi $10,3 miliar. Dalam waktu sekitar satu bulan, valuasinya kembali melonjak menjadi $21 miliar.
Di permukaan, ini mudah dibaca sebagai cerita startup AI yang sedang panas. Investor besar masuk. Valuasi naik cepat. Nama-nama besar seperti Kleiner Perkins, Sequoia, Andreessen Horowitz, Peter Thiel, Tiger Global, Bain Capital Ventures, dan Blackstone ikut berada di daftar investor.
Tetapi cerita yang lebih penting bukan hanya soal angka valuasi.
Cerita besarnya adalah pasar mulai melihat inference sebagai masalah infrastruktur yang sangat mahal, sangat teknis, dan sangat menentukan.
The Core Update
Etched menjual teknologi AI-nya sebagai sistem penuh yang mereka sebut frontier inference clusters. Nvidia punya istilah yang mirip untuk sistem lengkapnya: AI factories.
Fokus Etched bukan hanya membuat chip yang lebih cepat secara umum. Mereka mencoba memecah masalah inference menjadi dua bagian utama: prefill dan decode.
Prefill adalah tahap ketika sistem memahami prompt, termasuk konteks yang diberikan pengguna. Tahap ini berat secara komputasi. Decode adalah tahap ketika sistem menghasilkan token jawaban satu per satu. Tahap ini berat pada memori.
Menurut Etched, mereka membuat chip prefill baru yang bekerja pada voltase rendah. Tujuannya adalah memasukkan lebih banyak transistor tanpa menghasilkan panas berlebihan seperti chip AI kelas atas lain. Dengan begitu, sistem bisa memproses lebih banyak token dengan lebih cepat.
Untuk decode, Etched membuat pendekatan memori dan interconnect baru yang mereka sebut cluster-scale memory. Ide dasarnya adalah banyak chip bisa terhubung dan memakai pool memori bersama dengan latensi rendah.
Janji akhirnya sederhana: inference lebih cepat dan biaya lebih rendah.
Poin ini penting karena banyak pembahasan AI selama ini terlalu berat di model. Model siapa yang paling pintar. Model siapa yang paling besar. Model siapa yang paling cepat menjawab benchmark.
Padahal untuk bisnis, pertanyaan akhirnya sering lebih praktis: berapa biaya untuk menjalankan jawaban itu jutaan kali per hari?
The Reality Check
Kenaikan valuasi Etched memang mengesankan. Tetapi valuasi bukan bukti bahwa masalah sudah selesai.
Hardware AI adalah permainan yang berbeda dari software biasa. Membuat demo yang kuat tidak sama dengan mengirim sistem dalam skala besar. Menguji chip di satu pelanggan besar tidak sama dengan membuktikan reliabilitas, supply chain, support, integrasi datacenter, dan biaya operasional jangka panjang.
Di sini, sikap yang lebih sehat bukan sinis, tetapi tidak mudah terbawa euforia.
Etched juga masih membawa bayangan dari narasi awalnya. Dulu perusahaan ini dikenal dengan ide membuat chip yang seolah dioptimalkan untuk model tertentu. Sekarang Etched menegaskan bahwa sistemnya bisa menjalankan model frontier apa pun.
Perubahan ini masuk akal secara bisnis. Dunia model terlalu cepat berubah. Perusahaan besar tidak ingin membeli infrastruktur mahal yang terkunci pada satu model atau satu pendekatan yang bisa usang dalam beberapa bulan.
Namun perubahan narasi seperti ini juga menunjukkan satu hal: pasar AI belum selesai menentukan bentuk infrastrukturnya.
Hari ini, bottleneck bisa ada di compute. Besok di memori. Lusa di jaringan antar-chip. Setelah itu di biaya listrik, cooling, deployment, atau utilisasi cluster.
Karena itu, kabar Etched sebaiknya tidak dibaca hanya sebagai berita tentang satu startup yang naik cepat. Ini adalah sinyal bahwa lapisan inference mulai menjadi tempat persaingan utama.
Training membuat model lahir. Inference membuat model dipakai.
Jika inference terlalu mahal, produk AI sulit diskalakan. Jika latency terlalu tinggi, pengalaman pengguna turun. Jika kapasitas terbatas, fitur AI hanya menjadi demo bagus yang mahal dipakai setiap hari.
The Havedev Way
Dari sudut pandang Havedev, berita seperti ini penting bukan karena semua bisnis perlu memikirkan chip AI.
Sebagian besar bisnis tidak perlu membeli cluster sendiri, tidak perlu menghitung arsitektur memori, dan tidak perlu ikut membaca setiap klaim vendor hardware.
Tetapi bisnis perlu memahami arah besarnya: biaya menjalankan AI akan menjadi bagian dari desain produk, bukan catatan kecil di belakang.
Banyak perusahaan mulai memasukkan AI ke website, CRM, support, sales, reporting, dan internal operation. Pada tahap awal, pertanyaannya sering hanya: bisa atau tidak?
Chatbot bisa menjawab pelanggan. Ringkasan meeting bisa dibuat otomatis. Lead bisa diklasifikasi. Dokumen bisa dibaca. Follow-up bisa disarankan.
Setelah dipakai lebih sering, pertanyaannya berubah: apakah ini cukup cepat, cukup murah, cukup akurat, dan cukup mudah dikontrol?
Di titik itu, inference menjadi masalah bisnis.
Bukan dalam arti setiap owner harus memahami prefill dan decode. Tetapi owner perlu tahu bahwa setiap fitur AI punya biaya per penggunaan, latency, batas konteks, risiko output, dan kebutuhan monitoring.
Untuk bisnis, pendekatan yang sehat adalah mulai dari alur kerja yang jelas terlebih dahulu.
Jangan menambahkan AI hanya karena teknologi sedang naik. Pilih proses yang memang punya beban berulang, volume cukup besar, dan nilai bisnis yang jelas. Misalnya triase support, ringkasan percakapan sales, pencarian dokumen internal, follow-up lead, atau klasifikasi inquiry dari website.
Setelah itu, ukur hal yang sederhana:
- berapa banyak waktu yang dihemat?
- berapa biaya per proses?
- apakah hasilnya dipakai tim?
- apakah ada human review untuk keputusan penting?
- apakah data sensitif aman?
- apakah sistem tetap berguna saat volume naik?
Berita Etched mengingatkan bahwa AI bukan hanya soal kecerdasan model. AI juga soal pipa kerja di belakangnya: chip, memori, latency, biaya, dan kapasitas.
Untuk bisnis, pelajarannya lebih dekat dari yang terlihat.
Sebelum membangun fitur AI, pastikan prosesnya memang layak diautomasi. Sebelum mengejar model paling baru, pastikan masalahnya jelas. Sebelum mengukur kecanggihan, ukur dampaknya pada pekerjaan harian.
Valuasi Etched boleh naik sangat cepat. Tetapi keputusan teknologi di bisnis tetap sebaiknya berjalan lebih tenang.
AI yang baik bukan hanya yang mampu menjawab. AI yang baik adalah yang bisa dipakai berulang, dengan biaya masuk akal, dalam alur kerja yang jelas.
Dapatkan Audit Teknis Gratis untuk meninjau peluang AI, automation, dan infrastruktur digital yang paling masuk akal untuk bisnis Anda sebelum menambah sistem baru.
Sumber referensi berita: TechCrunch