AI (Artificial Intelligence) dapat membantu perusahaan menjawab pertanyaan customer dengan cepat. Namun, jawaban yang terdengar meyakinkan belum tentu benar. Informasi yang sudah tidak berlaku, pertanyaan yang kurang dipahami, atau data yang belum lengkap dapat membuat sistem memberikan penjelasan keliru.
Kesalahan seperti ini memiliki dampak nyata. Customer mungkin mengikuti instruksi pembayaran yang salah, salah memahami manfaat layanan, atau mengira permintaannya sudah diproses. Ketika hal tersebut terjadi, perusahaan perlu mengetahui siapa yang menangani koreksi, bagaimana customer diberi penjelasan, dan langkah apa yang mencegah kesalahan serupa.
Pertanyaan tersebut berada di inti responsible AI. Prinsip accountability, atau akuntabilitas, memastikan penggunaan AI memiliki penanggung jawab yang jelas. Sistem dapat menghasilkan jawaban, tetapi perusahaan tetap perlu mengawasi kualitasnya dan menangani dampak ketika jawaban tersebut salah.
Apa Arti Accountability dalam Layanan Berbasis AI?
Accountability berarti perusahaan dapat menjelaskan bagaimana sebuah jawaban diberikan, siapa yang bertanggung jawab atas prosesnya, dan bagaimana kesalahan diperbaiki. Tanggung jawab ini perlu ditetapkan sejak sebelum sistem digunakan untuk melayani customer.
Sebuah chatbot, misalnya, mungkin mengambil jawaban dari panduan produk yang belum diperbarui. Kesalahannya terlihat pada respons chatbot, tetapi penyebabnya bisa berada pada proses pembaruan konten. Pada situasi lain, panduan sudah benar, sementara sistem justru menafsirkan pertanyaan customer secara keliru. Kedua masalah tersebut membutuhkan perbaikan yang berbeda.
KPSG menempatkan akuntabilitas, transparansi, keamanan, dan pengawasan manusia sebagai prinsip penggunaan AI dalam layanan customer. Penerapannya memerlukan proses operasional yang jelas, mulai dari penetapan kewenangan hingga pemeriksaan hasil setelah sistem digunakan.
1. Tetapkan Penanggung Jawab untuk Setiap Tahap Layanan
Tanggung jawab atas jawaban AI tidak sebaiknya dibebankan hanya kepada agent yang menerima keluhan. Perusahaan perlu mengetahui siapa yang mengelola informasi, mengawasi performa sistem, memutuskan tindak lanjut, dan berkomunikasi dengan customer.
Cara menerapkannya. Tentukan pemilik untuk setiap bagian proses. Tim produk atau operasional memvalidasi informasi layanan. Tim teknologi menangani perilaku dan integrasi sistem. Supervisor layanan memantau interaksi serta mengarahkan koreksi. Tim kepatuhan dan keamanan informasi dilibatkan ketika kesalahan menyangkut data sensitif atau keputusan yang berdampak besar.
Dampaknya terhadap penanganan. Laporan kesalahan dapat langsung diteruskan kepada pihak yang berwenang. Agent tidak perlu menebak siapa yang harus dihubungi saat customer menerima informasi yang keliru.
Pembagian peran juga perlu mencakup sistem yang disediakan pihak ketiga. Perusahaan pengguna tetap membutuhkan proses untuk melaporkan insiden, meminta pemeriksaan teknis, dan memastikan perbaikan diterapkan pada layanan yang digunakan customer.
2. Batasi Jenis Jawaban yang Boleh Diberikan AI
Semakin besar dampak sebuah jawaban terhadap customer, semakin ketat pemeriksaan yang dibutuhkan. Penjelasan mengenai jam operasional memiliki tingkat risiko yang berbeda dari informasi terkait tagihan, kelayakan layanan, atau status klaim.
Menurut survei Gartner yang dipublikasikan pada Agustus 2026, 87% dari 3.566 pelanggan B2B dan B2C yang disurvei menilai akses kepada agent manusia sebagai hal penting ketika perusahaan menggunakan Generative AI dalam customer service.
Cara menerapkannya. Kelompokkan topik menurut risikonya. Pertanyaan umum dapat dijawab berdasarkan materi yang telah disetujui. Pertanyaan yang membutuhkan data pribadi harus melewati verifikasi. Permintaan yang memerlukan penilaian khusus atau keputusan bernilai tinggi perlu diarahkan kepada manusia yang berwenang.
Langkah praktis. Siapkan respons ketika sistem tidak memiliki informasi yang cukup. Kalimat yang mengakui perlunya pemeriksaan lanjutan lebih membantu daripada jawaban yang terdengar pasti tetapi tidak memiliki dasar. Customer juga harus memiliki jalur yang jelas untuk menghubungi agent.
Batas kewenangan perlu diperiksa setiap kali perusahaan menambah fungsi AI. Sistem yang semula hanya menjawab pertanyaan umum memerlukan pengawasan berbeda ketika mulai mengakses data akun atau menjalankan tindakan atas nama customer.
3. Buat Kesalahan Mudah Ditemukan dan Dilaporkan
Perusahaan tidak dapat memperbaiki jawaban salah yang tidak pernah tercatat. Pemantauan perlu dilakukan melalui pemeriksaan interaksi, laporan agent, serta masukan langsung dari customer.
Cara menerapkannya. Sediakan pilihan bagi agent untuk menandai respons yang tidak akurat, tidak lengkap, atau tidak sesuai konteks. Catat pula keluhan customer yang menyebut informasi berbeda antara chatbot, website, dan agent. Pemeriksaan berkala terhadap percakapan dapat membantu menemukan kesalahan yang belum dilaporkan.
Informasi yang perlu dicatat meliputi pertanyaan customer, jawaban AI, waktu interaksi, sumber informasi yang digunakan, dan tindakan lanjutan yang terjadi. Akses terhadap catatan harus dibatasi sesuai kebutuhan pemeriksaan agar data customer tetap terlindungi.
Jumlah keluhan saja tidak cukup untuk mengukur kualitas. Satu jawaban salah yang berkaitan dengan pembayaran dapat membutuhkan perhatian lebih cepat daripada beberapa kesalahan penulisan pada pertanyaan umum. Prioritas penanganan perlu mengikuti dampaknya terhadap customer.
Diskusikan penerapan responsible AI dalam layanan customer bersama tim KPSG untuk membantu menyusun pengawasan dan proses eskalasi yang sesuai dengan operasional perusahaan Anda.
4. Koreksi Jawaban dan Dampaknya kepada Customer
Saat kesalahan terkonfirmasi, langkah pertama adalah mencegah jawaban yang sama terus diberikan. Tim terkait dapat menonaktifkan materi yang keliru, membatasi topik tertentu, atau mengalihkan pertanyaan kepada agent sampai informasi yang benar tersedia.
Cara menangani customer. Periksa apa yang sebelumnya disampaikan, pastikan informasi penggantinya sudah tervalidasi, lalu jelaskan koreksi dengan bahasa yang langsung. Jika customer telah mengambil tindakan berdasarkan jawaban salah, agent perlu membantu menentukan langkah pemulihan sesuai kebijakan perusahaan.
Pemberitahuan sebaiknya menjelaskan bagian mana yang keliru dan informasi mana yang berlaku. Customer tidak perlu menerima uraian teknis yang panjang untuk memahami apa yang harus dilakukan berikutnya. Saat pemeriksaan masih berlangsung, sampaikan status penanganan serta perkiraan waktu pembaruan yang dapat dipenuhi.
Kasus yang menyangkut uang, akses layanan, atau data pribadi membutuhkan eskalasi sesuai tingkat dampaknya. Pengawasan manusia memastikan keputusan pemulihan tidak semata-mata mengikuti respons otomatis.
5. Telusuri Penyebab sebelum Mengaktifkan Kembali Jawaban
Mengganti satu kalimat pada knowledge base belum tentu menyelesaikan masalah. Tim perlu mengetahui apakah kesalahan berasal dari konten, cara sistem mencari sumber, instruksi yang diberikan kepada AI, atau data yang belum tersinkronisasi.
Cara menerapkannya. Bandingkan jawaban yang diterima customer dengan sumber informasi yang seharusnya digunakan. Periksa versi konten pada saat interaksi terjadi dan uji beberapa variasi pertanyaan serupa. Hasil pemeriksaan membantu menentukan apakah perbaikan perlu dilakukan pada materi, pengaturan sistem, atau prosedur eskalasi.
Sebelum digunakan kembali, uji respons pada pertanyaan yang sebelumnya memicu kesalahan. Sertakan variasi bahasa yang lazim dipakai customer. Pemeriksaan ini penting karena customer jarang bertanya dengan susunan kalimat yang persis sama seperti panduan internal.
Dokumentasikan keputusan perbaikan dan pihak yang menyetujuinya. Catatan tersebut memudahkan tim menjelaskan tindakan yang diambil serta mengevaluasi apakah perbaikannya berhasil.
6. Ukur Apakah Kesalahan Benar-Benar Berkurang
Responsible AI memerlukan pemantauan setelah perbaikan diterapkan. Kinerja sistem dapat berubah ketika produk, kebijakan, data, atau pola pertanyaan customer berubah.
Indikator yang dapat dipantau mencakup jumlah jawaban yang perlu dikoreksi, waktu dari laporan hingga penyelesaian, pengulangan kesalahan yang sama, tingkat eskalasi ke agent, serta keluhan setelah customer menerima jawaban AI. Tim juga perlu melihat apakah koreksi telah menjangkau seluruh customer yang terdampak.
Hasil pemantauan menjadi bahan untuk memperbarui materi layanan dan melatih tim operasional. Jika kesalahan berulang pada satu topik, perusahaan mungkin perlu mempersempit kewenangan AI sampai sumber informasi dan proses pemeriksaannya lebih siap.
Kesimpulan
Accountability saat AI salah menjawab customer berarti perusahaan memiliki cara yang jelas untuk menemukan kesalahan, memperbaiki informasi, membantu customer terdampak, dan mencegah pengulangannya. Tanggung jawab tersebut melibatkan pemilik konten, tim teknologi, operasional layanan, serta pihak yang mengawasi risiko.
Penerapan responsible AI menjadi lebih nyata ketika prinsip tersebut diterjemahkan menjadi batas kewenangan, jalur eskalasi, pencatatan interaksi, dan pemeriksaan berkala. Customer tetap dapat menikmati layanan yang cepat sekaligus memperoleh bantuan manusia saat sebuah jawaban perlu ditinjau.
Hubungi KPSG untuk membahas pengelolaan layanan berbasis AI yang transparan dan dapat dipertanggungjawabkan.
Butuh solusi untuk membantu bisnis menghadirkan layanan pelanggan yang lebih responsif, efisien, dan konsisten? Hubungi kami disini. Dengarkan insight dan obrolan menarik seputar industri, teknologi, dan customer experience di sini.
Pertanyaan yang Sering Diajukan
Siapa yang bertanggung jawab jika AI salah menjawab customer?
Perusahaan yang menggunakan AI dalam layanannya perlu memiliki penanggung jawab yang jelas. Penanganannya dapat melibatkan tim operasional, pemilik informasi, teknologi, serta pihak lain sesuai dampak kesalahan.
Apa tindakan pertama saat jawaban AI terbukti salah?
Hentikan penyebaran jawaban yang keliru, periksa informasi yang benar, lalu tentukan customer yang perlu menerima koreksi atau bantuan lanjutan.
Apakah semua jawaban AI perlu diperiksa agent sebelum dikirim?
Kebutuhan pemeriksaan bergantung pada tingkat risiko. Jawaban umum dapat mengikuti materi yang telah divalidasi, sedangkan kasus sensitif dan keputusan berdampak besar membutuhkan pengawasan manusia yang lebih ketat.
Mengapa riwayat jawaban AI perlu dicatat?
Catatan membantu tim menelusuri sumber kesalahan, mengetahui siapa yang terdampak, memeriksa tindakan koreksi, dan mencegah masalah yang sama terulang.
Bagaimana perusahaan mengetahui perbaikannya berhasil?
Pantau apakah kesalahan serupa muncul kembali, berapa lama koreksi dilakukan, serta apakah customer masih mengajukan keluhan atau perlu menghubungi layanan berulang kali.
