← Kembali ke Blog

Havedev

Valuasi Etched Naik Cepat, Tetapi Cerita Besarnya Ada di Inference

Valuasi Etched Naik Cepat, Tetapi Cerita Besarnya Ada di Inference

Etched baru saja mengumumkan pendanaan $700 juta dengan valuasi $21 miliar. Putaran ini dipimpin Jane Street setelah firma tersebut menguji dan membeli hardware AI dari Etched.

Angka ini terlihat sangat cepat, bahkan untuk standar industri AI. Pada Desember, Etched masih bernilai $5 miliar. Pada Juli, perusahaan ini menggalang Series C $300 juta dengan valuasi $10,3 miliar. Sekarang, hanya sekitar satu bulan kemudian, valuasinya naik lagi menjadi $21 miliar.

Di permukaan, ini mudah dibaca sebagai cerita klasik AI: startup chip, investor besar, valuasi naik, dan pasar makin panas.

Tetapi ada cerita yang lebih penting di baliknya: beban AI mulai bergeser dari sekadar melatih model ke menjalankan model secara cepat, murah, dan konsisten untuk pengguna nyata.

The Core Update

Etched tidak hanya menjual chip sebagai komponen terpisah. Perusahaan ini menawarkan sistem penuh yang mereka sebut “frontier inference clusters”. Nvidia memakai istilah “AI factories” untuk pendekatan sistem penuh seperti ini.

Fokus Etched ada pada inference, yaitu proses komputasi setelah pengguna mengirim prompt dan sistem mulai menghasilkan jawaban.

Menurut Co-founder dan COO Etched, Robert Wachen, inference terdiri dari dua tahap utama: prefill dan decode.

Pada tahap prefill, sistem harus memahami prompt, termasuk konteks yang diberikan. Ini adalah tahap yang berat secara matematis dan komputasi. Pada tahap decode, sistem mulai menghasilkan token output, yaitu jawaban yang akhirnya dibaca pengguna. Tahap ini lebih berat di sisi memori.

Etched mengklaim telah merancang dua komponen baru dari awal untuk mempercepat dua tahap tersebut.

Pertama, chip prefill yang dapat bekerja pada voltase rendah. Pendekatan ini memungkinkan Etched memasukkan lebih banyak transistor tanpa masalah panas yang biasanya muncul pada chip AI kelas atas. Hasil yang dijanjikan adalah pemrosesan token yang lebih cepat.

Kedua, sistem memori dan interconnect baru untuk tahap decode yang disebut cluster-scale memory. Ide utamanya adalah banyak chip dapat terhubung dan memakai pool memori bersama dengan latensi rendah.

Jika klaim ini terbukti di skala produksi, dampaknya bukan hanya performa lebih tinggi. Biaya menjalankan model juga bisa turun.

Ini alasan investor terlihat sangat agresif. Jane Street bahkan menyatakan bahwa mereka sudah menguji chip Etched, puas dengan hasil awalnya, dan sudah memiliki rack Etched di datacenter mereka sendiri.

The Reality Check

Kenaikan valuasi Etched memang mengesankan. Tetapi bisnis sebaiknya tidak hanya membaca berita ini sebagai tanda bahwa semua perusahaan AI hardware otomatis akan menang.

AI infrastructure adalah pasar besar, tetapi juga pasar yang sangat keras. Membuat chip cepat berbeda dengan membuat sistem yang stabil, tersedia, bisa diproduksi massal, dan dipercaya pelanggan enterprise.

Etched juga masih membawa persepsi lama. Pada awalnya, perusahaan ini dikenal dengan gagasan chip yang seolah-olah dibuat khusus untuk satu model frontier tertentu. Kini Etched menegaskan bahwa sistemnya dapat menjalankan berbagai frontier model, bukan hanya satu model tertentu.

Perubahan ini penting.

Jika sebuah chip hanya cocok untuk satu model, risikonya besar. Model AI berubah cepat. Arsitektur berubah. Kebutuhan pelanggan berubah. Bisnis tidak ingin membeli infrastruktur mahal yang terlalu cepat terkunci pada satu arah teknologi.

Karena itu, cerita Etched bukan hanya soal chip yang cepat. Cerita yang lebih penting adalah apakah sistemnya cukup fleksibel untuk dunia AI yang masih berubah.

Ada juga pelajaran lain: bottleneck AI tidak selalu berada di tempat yang paling populer dibicarakan.

Selama beberapa tahun terakhir, banyak perhatian tertuju pada training model besar. Tetapi saat produk AI mulai dipakai banyak orang, masalah baru muncul: bagaimana menjawab jutaan prompt dengan cepat, murah, dan stabil.

Training membuat model menjadi pintar. Inference membuat model menjadi produk.

Untuk bisnis, perbedaan ini penting. Banyak perusahaan tidak perlu melatih model dari nol. Yang mereka butuhkan adalah AI yang bisa membantu proses nyata: menjawab pelanggan, merangkum dokumen, membaca tiket support, membuat draft proposal, atau membantu tim internal mengambil keputusan.

Masalahnya bukan hanya apakah modelnya canggih. Masalahnya adalah apakah AI tersebut bisa dipakai setiap hari tanpa biaya yang meledak dan tanpa latency yang mengganggu pengalaman pengguna.

The Havedev Way

Dari sudut pandang Havedev, berita Etched menunjukkan satu pola yang makin jelas: nilai AI tidak berhenti di model. Nilai AI muncul ketika model bisa dijalankan dalam workflow nyata dengan biaya, kecepatan, dan konteks yang masuk akal.

Banyak bisnis masih melihat AI dari sisi yang terlalu sempit. Pertanyaannya sering berhenti di “pakai model apa?” atau “bisa pakai ChatGPT untuk apa?”

Pertanyaan itu tidak salah, tetapi belum cukup.

Pertanyaan yang lebih sehat adalah:

  • pekerjaan mana yang paling sering mengulang pola yang sama?
  • data apa yang sudah tersedia untuk memberi konteks?
  • respons seperti apa yang perlu cepat?
  • bagian mana yang butuh manusia tetap memutuskan?
  • biaya per penggunaan masih masuk akal atau tidak?
  • hasil AI perlu masuk ke sistem mana setelah selesai?

Jika pertanyaan ini belum dijawab, AI mudah berubah menjadi eksperimen yang terlihat menarik tetapi sulit dipakai rutin.

Etched sedang bermain di lapisan infrastruktur yang sangat dalam. Tidak semua bisnis perlu memikirkan chip, cluster, atau interconnect. Tetapi semua bisnis perlu memahami arah besarnya: AI yang berguna akan semakin dinilai dari kemampuannya masuk ke proses kerja nyata.

Untuk bisnis kecil dan menengah, pelajarannya sederhana. Jangan mulai dari hype. Mulai dari alur kerja.

Jika support pelanggan lambat, cari bagian mana yang bisa dibantu AI. Jika sales sering kehilangan konteks lead, rapikan data awal dan follow-up. Jika tim banyak menyalin informasi antar tool, otomatisasi bagian yang berulang. Jika laporan selalu terlambat, susun status dan data yang bisa dibaca sistem.

AI tidak harus dimulai dari infrastruktur mahal. Tetapi AI harus dimulai dari masalah yang jelas.

Berita Etched menunjukkan bahwa pasar sedang membayar mahal untuk inference yang lebih cepat dan efisien. Itu masuk akal, karena semakin banyak AI dipakai, semakin besar kebutuhan menjalankannya dengan biaya yang sehat.

Namun bagi bisnis, kesimpulannya bukan “segera beli semua tool AI terbaru”.

Kesimpulannya lebih sederhana: lihat proses kerja yang paling dekat dengan pelanggan, pendapatan, atau beban operasional. Lalu tanyakan apakah AI bisa membuat proses itu lebih cepat, lebih jelas, atau lebih konsisten.

Kalau jawabannya belum jelas, jangan mulai dari tool.

Mulai dari workflow.

Dapatkan Audit Teknis Gratis untuk meninjau peluang AI, automation, dan integrasi sistem yang paling masuk akal untuk proses bisnis Anda.


Sumber referensi berita: TechCrunch

Lanjut Baca