Men-deploy agent pada workflow nyata

Sekarang Anda punya potongannya: model, loop, tools, grounding, dan guardrails. Deployment adalah menyambungkannya ke channel nyata dan sistem nyata, lalu mengeraskannya. Berikut bentuk agent yang bekerja di produksi.

Arsitekturnya

Session dan state

Tiap pelanggan butuh session: sebuah thread yang menyimpan pesan terbaru mereka supaya agent punya kontinuitas, dikunci oleh nomor telepon atau chat id mereka. Tentukan berapa banyak riwayat yang disimpan di konteks (giliran terbaru plus ringkasan singkat yang lama adalah default bagus) dan di mana menyimpan sisanya. Ini sisi praktis dari lesson memori.

Webhook: cara pesan masuk

Channel seperti WhatsApp (lewat provider) memanggil sebuah URL di server Anda setiap kali pelanggan mengirim pesan. Webhook itu adalah titik masuk: ia menerima pesan, memuat session, menjalankan loop agent, mengirim balasan kembali lewat provider, dan mencatat apa yang terjadi. Semua yang dilakukan agent dimulai dari satu webhook masuk.

Prototype ke produksi

• Catat tiap langkah: prompt, pemanggilan tool, hasilnya. Saat ada yang salah Anda akan butuh trace-nya.
• Mulai dengan manusia di loop: agent membuat draft, seseorang menyetujui, sampai skor eval pantas dipercaya.
• Rilis ke irisan sempit dulu: satu channel, satu use case, volume nyata tapi terbatas.
• Pantau metrik: resolution rate, handoff rate, biaya per percakapan, dan kegagalannya.
• Punya tombol mati dan rollback. Anda akan mengubah prompt; pastikan bisa membatalkannya.

Bangun versi terkecil yang menyentuh satu workflow nyata, biarkan manusia menyetujui dulu, ukur, dan perluas hanya setelah angkanya stabil. Disiplin itu, bukan prompt yang pintar, yang memisahkan agent yang bertahan kontak dengan pelanggan nyata dari demo yang tidak.