AI & Otomasi

Penyedia Model AI Dibobol, Transkrip Obrolan Pelanggan Ikut Bocor: Uji Tuntas Vendor AI

13 November 2026 · 5 menit baca · Tim Etzal Group

Pada 12 November 2026 TechCrunch melaporkan bahwa Fireworks AI, platform yang menyediakan akses ke model AI terbuka, mengonfirmasi serangan siber yang membuka data sebagian pelanggannya. Salah satu pelanggan itu, Notion, menyatakan transkrip obrolan pengguna fitur AI-nya ikut dicuri, berdampak pada sekitar 1% pelanggan Notion.

Pelajarannya bagi perusahaan menengah tidak terletak pada nama kedua perusahaan itu. Aplikasi yang Anda pakai atau bangun kemungkinan besar meneruskan data ke penyedia model yang tidak pernah Anda pilih sendiri, dan penyedia itu punya pemasoknya sendiri.

Apa yang dilaporkan

Menurut laporan TechCrunch:

  • Penyerang membobol penyedia cloud yang dipakai Fireworks untuk mencapai sistem pengembangan Fireworks. Nama penyedia cloud itu tidak disebut.
  • Menurut penasihat keamanan terbaru Fireworks, penyerang mengambil informasi penagihan pelanggan dan sebagian dataset.
  • Fireworks menyatakan memiliki puluhan ribu pelanggan di seluruh dunia, termasuk Harvey dan Cursor. Sumber menyebut keduanya hanya sebagai pelanggan, bukan sebagai pihak yang terdampak.
  • Notion menyatakan pelanggaran berdampak pada sekitar 1% pelanggannya. Pada 3 November Notion memutus sistemnya dari Fireworks dan menghapus data yang tersimpan di sana.
  • Yang dicuri dari Notion adalah transkrip obrolan pelanggan Notion AI yang memakai fitur "Insights", mencakup "any input to or output from the model that was written to the chat". Notion menyebut sebagian besar data itu tidak dapat dikaitkan ke pelanggan tertentu.
  • Fireworks meyakini peretasnya bermotif finansial dan ingin menjual token LLM hasil akses tidak sah.
  • Ini insiden kedua Fireworks dalam dua bulan, setelah insiden pada Oktober 2026.

Insiden ini masih berkembang dan angkanya bisa berubah. Sebelum mengutipnya dalam dokumen internal, periksa pengumuman resmi terbaru dari perusahaan yang bersangkutan.

Rantai yang tidak terlihat

Susun ulang kejadiannya sebagai rantai: pengguna mengetik di aplikasi, aplikasi meneruskan teks ke penyedia model, penyedia model berjalan di atas penyedia cloud. Pembobolan terjadi di mata rantai paling ujung, dan yang bocor adalah isi obrolan di mata rantai paling awal.

Pengguna akhir hanya punya kontrak dengan aplikasi. Mereka tidak memilih penyedia model, apalagi penyedia cloud di belakangnya. Itulah inti persoalan keamanan vendor AI: risikonya berada dua atau tiga lapis di bawah kontrak yang Anda tanda tangani.

Perhatikan juga apa yang dicuri. Transkrip obrolan berisi apa pun yang diketik pengguna: potongan kontrak, angka penjualan, keluhan pelanggan. Tidak ada yang mengklasifikasikan teks itu sebelum dikirim.

Posisi Anda dalam rantai

Ada dua posisi, dan banyak perusahaan menempati keduanya.

Anda memakai aplikasi yang punya fitur AI. Anda perlu tahu ke mana vendor meneruskan data Anda.

Anda membangun fitur AI untuk pelanggan atau karyawan. Anda adalah pihak yang memilih penyedia model, dan pelanggan Anda akan bertanya hal yang sama kepada Anda.

Peta pemasok AI dalam satu lembar

Buat tabel dengan satu baris per aplikasi yang memakai AI. Kolomnya:

  1. Aplikasi dan fitur AI yang aktif.
  2. Penyedia model di belakangnya. Cari di daftar subprosesor vendor, atau tanyakan.
  3. Data apa yang dikirim: hanya pertanyaan pengguna, atau juga dokumen dan konteks.
  4. Apa yang disimpan penyedia model, dan berapa lama.
  5. Apakah data dipakai untuk melatih model.
  6. Siapa yang memberi tahu Anda bila ada insiden, dan seberapa cepat.
  7. Cara mematikan fitur itu, dan siapa yang berwenang.

Kolom keempat adalah yang paling menentukan. Data yang tidak disimpan tidak bisa dicuri dari penyimpanan. Tanyakan apakah log permintaan bisa dimatikan atau diperpendek, dan apakah itu memerlukan paket tertentu.

Kolom ketujuh sering kosong. Notion memutus sambungan dan menghapus data pada 3 November. Tanyakan pada diri sendiri: bila penyedia model Anda dibobol malam ini, berapa lama Anda butuh untuk memutus sambungan, dan apakah aplikasi tetap berjalan tanpa fitur AI-nya?

Klausul yang layak diminta

Di sini hukum Indonesia memberi pegangan. Menurut ringkasan RSM Indonesia atas PP 33/2026, yang berlaku 16 Januari 2027, prosesor memerlukan persetujuan tertulis pengendali sebelum memakai subprosesor, dan prosesor wajib melaporkan kegagalan pelindungan data ke pengendali pada kesempatan pertama. Keterangan ini kami ambil dari ringkasan konsultan, bukan dari teks resmi peraturannya.

Terjemahannya ke kontrak dengan vendor aplikasi:

  • Daftar subprosesor bernama, termasuk penyedia model, dan kewajiban memberi tahu sebelum daftar itu berubah.
  • Batas waktu pemberitahuan insiden yang dinyatakan dalam jam, termasuk insiden di subprosesor.
  • Batas retensi untuk masukan dan keluaran model, serta larangan memakainya untuk pelatihan tanpa persetujuan.
  • Hak meminta penghapusan dan bukti pelaksanaannya.
  • Hak mematikan fitur AI tanpa kehilangan fungsi inti aplikasi.

Untungnya jelas. Ruginya juga ada: vendor besar jarang mau mengubah kontrak standar untuk pelanggan menengah. Bila klausul tidak bisa dinegosiasikan, pakai pengaturan yang tersedia, yaitu mematikan fitur untuk kelompok pengguna tertentu, dan catat keputusan itu.

Kewajiban hukum tiap perusahaan berbeda. Konfirmasikan kasus Anda dengan konsultan hukum atau otoritas pelindungan data.

Bila Anda yang membangun

  • Kirim sesedikit mungkin. Hapus atau samarkan data pribadi sebelum teks sampai ke penyedia model bila tugasnya tidak memerlukannya.
  • Pilih pengaturan retensi terpendek yang ditawarkan penyedia, dan simpan buktinya.
  • Simpan kunci API di tempat yang bisa diputar dalam hitungan menit. Motif yang disebut Fireworks, menjual token hasil akses tidak sah, menunjukkan akses ke model itu sendiri punya nilai jual.
  • Rancang agar penyedia model bisa diganti. Ketergantungan pada satu penyedia yang mengalami dua insiden dalam dua bulan adalah risiko operasi, bukan hanya risiko keamanan.
  • Tulis lebih dulu pesan untuk pelanggan bila insiden terjadi. Menulisnya saat tenang jauh lebih mudah.

Pekan ini

  1. Daftar aplikasi dengan fitur AI yang aktif di perusahaan. Mulai dari alat catatan, CRM dan layanan pelanggan.
  2. Untuk tiga yang datanya paling sensitif, isi tujuh kolom di atas.
  3. Kirim satu email ke tiap vendor: siapa penyedia model Anda, dan apa kebijakan retensinya?
  4. Beri tahu karyawan apa yang tidak boleh ditempel ke obrolan AI mana pun.

Bila Anda sedang membangun fitur AI dan ingin rantai pemasoknya ditinjau, tim konsultasi AI Etzal Group dapat membantu.

Sumber

Pertanyaan yang sering diajukan

Apa yang terjadi pada Fireworks AI?

Menurut TechCrunch 12 November 2026, Fireworks AI mengonfirmasi serangan siber. Penyerang membobol penyedia cloud-nya untuk mencapai sistem pengembangan, lalu mengambil informasi penagihan pelanggan dan sebagian dataset.

Mengapa pelanggan Notion ikut terdampak?

Fitur AI Notion memakai Fireworks. Notion menyatakan transkrip obrolan pengguna fitur Insights ikut dicuri, berdampak pada sekitar 1% pelanggannya.

Apa yang perlu ditanyakan ke vendor aplikasi yang punya fitur AI?

Siapa penyedia model di belakangnya, data apa yang disimpan di sana dan berapa lama, serta seberapa cepat Anda diberi tahu bila terjadi insiden.

Penulis

Tim Etzal Group

Tim Etzal Group, membantu bisnis berkembang dengan teknologi. Hubungi kami.

Layanan terkait

Chatbot WhatsApp AI

Kami bangun, latih, dan jalankan AI agent WhatsApp yang menjawab pelanggan 24/7, mengkualifikasi lead, dan follow-up.