Biaya inferensi dan operasi Crypto AI Agent

Penyebut yang dipakai adalah satu tugas yang diterima

Hitungan biaya paling sering gugur di tempat yang sama: penyebutnya. Harga per seribu token adalah harga satu panggilan model, sedangkan yang dijual ke pelanggan adalah satu tugas yang selesai dan diterima. Di antara keduanya ada perencanaan, pencarian, beberapa model, panggilan alat, approval manusia, dan percobaan ulang.

Karena itu penyebut yang dipakai di sepanjang berkas ini adalah satu tugas yang lolos kriteria penerimaan. Memakai seluruh percobaan sebagai penyebut menghasilkan efek yang menyesatkan: ketika tingkat kegagalan naik, jumlah percobaan ikut naik, dan biaya per percobaan justru terlihat turun.

Lima hal berikut harus sudah terkunci sebelum angka pertama ditulis, karena mengubahnya di tengah jalan membuat seluruh baris sesudahnya tidak sebanding:

• di mana satu tugas dianggap mulai dan di mana ia dianggap berakhir;
• kriteria penerimaan dalam bentuk tertulis, bukan penilaian kasus per kasus;
• periode kalender yang dipakai untuk semua angka;
• jumlah tugas yang dimulai pada periode itu;
• jumlah tugas yang akhirnya diterima.

Buku besar biaya: sembilan pos yang menentukan angka akhir

Setelah penyebutnya tetap, pekerjaan berikutnya adalah mengumpulkan pembilangnya. Pos yang hilang dari hitungan biasanya bukan pos yang kecil — ia hanya tidak datang dalam bentuk tagihan model, sehingga tidak ada yang mengingatkan bahwa ia ada.

Pos yang belum terukur tetap berada di daftar dengan status belum terukur, bukan dihapus. Biaya tetap dialokasikan dengan satu aturan yang sama di seluruh periode; aturan yang diganti di tengah jalan menghasilkan perbaikan margin yang asalnya hanya dari metode, bukan dari operasi.

Tarif harus bertanggal, pemakaian harus nyata

Tarif adalah data yang kedaluwarsa, dan itu yang membuatnya mudah dipakai salah. Harga yang berlaku hari ini tidak bisa dipakai untuk menyebut biaya aktual periode lama tanpa penyesuaian yang dinyatakan terbuka.

Cara menagih juga tidak seragam. Model berbeda menagih input, output, cache baca, cache tulis, batch, dan reasoning token dengan tarif yang tidak sama, sementara GPU milik sendiri menagih kapasitas, bukan token. Menjumlahkan keduanya dalam satu baris menghasilkan angka yang tidak menjawab pertanyaan apa pun.

Yang membuat satu baris biaya dapat diperiksa ulang orang lain adalah empat hal yang disimpan bersama angkanya: model ID atau item tagihan, sumber data pemakaian, mata uang beserta tanggal tarifnya, dan rumus yang mengalikan keduanya. Nilai yang benar-benar tidak tersedia ditulis sebagai rentang dengan asumsi terburuknya, bukan dibulatkan menjadi satu angka yang terlihat rapi.

Biaya on-chain dibebankan ke tugas yang memicunya

Tindakan on-chain punya sifat yang tidak dimiliki biaya model: ia tetap dibayar walaupun gagal. Transaksi yang reverted sudah membakar gas, dan gas itu milik tugas yang memicunya, bukan milik pos infrastruktur umum yang tidak pernah ditelusuri lagi.

Karena itu angka yang dipakai adalah angka aktual dari receipt, bukan estimasi gas sebelum pengiriman, dan kurs aset diambil pada waktu transaksi dengan metode kurs yang ikut disimpan. Satu baris biaya on-chain yang lengkap memuat:

1. hash transaksi beserta ID tugas yang memicunya;
2. gas used dan effective gas price dari receipt;
3. status akhir: berhasil atau reverted;
4. biaya simulasi dan percobaan yang tidak pernah terkirim;
5. biaya bridge, relayer, dan operasi signer yang menyertainya.

Estimasi masih boleh dipakai ketika receipt tidak tersedia, dengan satu syarat: barisnya ditandai estimasi dan tidak dijumlahkan ke dalam baris yang berisi angka aktual.

Titik rapuh hanya muncul lewat skenario

Satu angka biaya rata-rata menyembunyikan justru hal yang paling ingin diketahui: pada kondisi apa ekonominya berhenti bekerja. Yang memperlihatkan itu bukan presisi hitungan, melainkan beberapa skenario yang dihitung dengan rumus yang sama.

• harga pemasok naik, baik model maupun infrastruktur;
• tingkat kegagalan dan jumlah percobaan ulang naik;
• proporsi tugas yang menuntut intervensi manusia naik;
• kredit, hibah, atau subsidi berhenti;
• beban melonjak sehingga kapasitas cadangan dibeli pada harga on-demand;
• acceptance turun karena kriteria penerimaan diperketat.

Yang dicari dari rangkaian ini adalah parameter yang berubah sedikit tetapi membuat margin berbalik tanda. Parameter semacam itu ditulis di depan beserta nilai ambangnya, karena di situlah perhatian pembaca sebenarnya diperlukan.

Satu bulan terbaik bukan hasil. Bila memang baru satu periode yang pernah dihitung, yang dilaporkan adalah satu periode itu beserta keterangan bahwa belum ada pembandingnya.

Pendapatan diletakkan pada periode yang sama

Biaya penuh baru punya arti kalau ada pendapatan di seberangnya, untuk tugas, kelompok pelanggan, dan periode yang sama. Dua angka yang diambil dari dua periode berbeda tidak menghasilkan margin, hanya selisih.

Yang dihitung sebagai pendapatan produk adalah pembayaran pelanggan atas layanan, setelah refund, platform fee, dan biaya pembayaran. Penjualan token, hibah, investasi, dan kenaikan nilai aset treasury boleh ditampilkan, tetapi pada barisnya sendiri — sumber uangnya berbeda dan masa berlakunya berbeda.

Kontribusi per unit dilaporkan sebelum biaya tetap, lalu biaya tetap ditampilkan utuh. Keduanya menjawab dua pertanyaan yang berbeda, dan menggabungkannya membuat kedua jawaban itu hilang. Cara menyusun titik impas dari kedua angka ini dibahas terpisah di apakah pendapatan AI Agent menutup biaya komputasi.

Yang perlu dipublikasikan agar hitungan dapat diulang

Satu hitungan biaya baru punya bobot kalau orang lain dapat menghitungnya ulang dan mendapat hasil yang mirip. Daftar berikut adalah isi minimum yang memungkinkan hal itu; identitas pelanggan boleh disamarkan tanpa mengurangi nilainya.

Definisi dan periode

batas satu tugas, kriteria penerimaan, dan periode kalender yang dipakai

Sampel dan distribusi

jumlah tugas dimulai dan diterima, serta P50 dan P95 pemakaian, bukan hanya rata-rata

Kegagalan dan manusia

tingkat gagal, jumlah percobaan ulang, dan proporsi tugas yang menuntut intervensi manusia

Tarif dan sumbernya

daftar model dan alat, item tagihan, mata uang, dan tanggal tarif

Klasifikasi pendapatan

apa yang masuk pendapatan produk dan apa yang berdiri di baris lain

Kamus data dan rumus

nama setiap kolom, versi rumus, dan tabel agregat yang bisa dihitung ulang

Klaim penghematan dalam bentuk persentase yang tidak disertai salah satu dari enam baris di atas tetap berstatus klaim tim, bukan angka yang sudah diperiksa.

Lembar hitung ulang

Bagian ini memindahkan berkas di atas ke dalam bentuk yang bisa dikerjakan ulang orang lain. Susunannya mengikuti urutan hitungan, bukan urutan temuan, dan tidak satu barisnya menghasilkan rekomendasi.

Dua kekeliruan muncul paling sering saat lembar ini dikerjakan. Pertama, biaya diambil dari skenario terbaik sementara pendapatan juga diambil dari skenario terbaik — campuran itu tidak pernah terjadi bersamaan di kenyataan. Kedua, satu perubahan aturan alokasi dicatat sebagai perbaikan margin, padahal angka operasionalnya tidak bergerak sama sekali.

Hitungan ini juga punya tanggal kedaluwarsa. Begitu tarif, daftar model, atau tingkat kegagalan berubah, yang dihitung ulang adalah baris yang tersentuh perubahan itu dan tanggal tarifnya diperbarui — bukan seluruh tabel disusun ulang dari awal.

Pertanyaan umum