DAFTAR ISI

Responsible AI: Cara Menjaga Privasi dan Keamanan Data Customer

oleh editor-melon

20 November 2026

Responsible AI
DAFTAR ISI

Penggunaan AI (Artificial Intelligence) dalam layanan customer dapat melibatkan riwayat percakapan, informasi akun, hingga dokumen pendukung. Setiap data tersebut perlu dikelola berdasarkan tujuan penggunaan dan kewenangan yang jelas. Penerapan responsible AI membantu perusahaan memasukkan pertimbangan privasi dan keamanan sejak perancangan layanan.

Kepercayaan customer menjadi salah satu alasan penting untuk memperhatikan pengolahan data. Survei PwC pada 2025, yang melibatkan 5.511 konsumen di Amerika Serikat, menemukan bahwa 93% konsumen yang disurvei menyatakan akan kehilangan kepercayaan pada brand apabila data mereka ditangani secara tidak tepat.

Bagi perusahaan, temuan tersebut menjadi pengingat untuk meninjau bagaimana data dikumpulkan, digunakan, disimpan, dan dibagikan dalam layanan berbasis AI. Perlindungan perlu mencakup sistem, proses operasional, serta orang yang terlibat dalam pengelolaannya.

Apa Hubungan Responsible AI dengan Perlindungan Data?

Responsible AI adalah pendekatan pengembangan dan penggunaan AI yang memperhatikan transparansi, keadilan, privasi, keamanan, akuntabilitas, serta pengawasan manusia. Penerapannya membantu perusahaan menetapkan batas penggunaan teknologi dan tanggung jawab atas hasilnya.

Privasi berkaitan dengan tujuan serta batas pemrosesan data pribadi. Keamanan data berkaitan dengan perlindungan dari akses dan pengungkapan tanpa kewenangan, perubahan yang tidak sah, serta kerusakan atau kehilangan data.

Keduanya perlu berjalan bersama. Perusahaan perlu memastikan data digunakan untuk kebutuhan yang tepat sekaligus menerapkan pengamanan yang sesuai. Pengaturan tersebut perlu mencakup data yang masuk ke sistem, informasi yang diambil dari sumber internal, dan jawaban yang diterima customer.

Cara Menerapkan Responsible AI untuk Menjaga Data Customer

Perlindungan data dapat diterjemahkan menjadi langkah operasional yang dapat diperiksa dan dievaluasi. Enam strategi berikut membantu perusahaan menghubungkan prinsip responsible AI dengan penggunaan sehari-hari.

1. Petakan Penggunaan AI dan Batasi Data yang Diproses

Mulailah dengan mendata sistem AI yang digunakan, termasuk fitur AI dalam software pihak ketiga. Catat tujuan setiap sistem, jenis data yang diproses, sumber informasi, lokasi penyimpanan, dan pihak yang menerima data.

Pemetaan tersebut membantu tim menilai apakah seluruh informasi yang dikirim memang dibutuhkan. Sistem yang membantu memeriksa status pesanan, misalnya, dapat dirancang untuk mengambil nomor referensi dan status yang relevan tanpa menyertakan seluruh riwayat transaksi customer.

Langkah praktis: Susun daftar kebutuhan data untuk setiap layanan. Pisahkan informasi yang wajib tersedia, informasi tambahan yang memiliki alasan penggunaan, serta data yang tidak perlu diproses.

Terapkan pula aturan tentang data yang boleh dimasukkan oleh karyawan. Tim sebaiknya menggunakan alat yang telah disetujui perusahaan ketika menangani informasi customer.

2. Terapkan Hak Akses Sesuai Kebutuhan Layanan

Hak akses perlu mengikuti peran pengguna dan tujuan sistem AI. Chatbot untuk pertanyaan umum dapat menggunakan informasi layanan yang bersifat publik. Akses ke dokumen akun memerlukan pemeriksaan identitas dan kewenangan yang sesuai.

Sebagai ilustrasi, customer yang meminta salinan polis perlu melalui proses verifikasi sebelum dokumen diberikan. Sistem hanya boleh mengambil dokumen yang memang dapat diakses customer tersebut.

Pembatasan perlu diterapkan pada sistem sumber data dan proses pengambilan informasi. Instruksi dalam percakapan saja tidak cukup untuk mengatur siapa yang berhak membaca suatu dokumen.

Langkah praktis: Tinjau hak akses customer, agent, administrator, dan sistem AI secara terpisah. Perbarui izin ketika tugas berubah atau akses tidak lagi diperlukan. Agent yang menangani eskalasi juga perlu mengikuti pembatasan yang sama.

3. Lindungi Data pada Seluruh Proses dan Integrasi

Perjalanan data dapat melibatkan aplikasi layanan, penyimpanan internal, penyedia model, dan sistem pelaporan. Setiap perpindahan perlu diperiksa untuk memahami informasi yang dikirim serta kontrol yang melindunginya.

Evaluasi enkripsi saat data dikirim dan disimpan, pengelolaan akses, serta mekanisme penyamaran informasi sensitif. Jika identitas lengkap tidak diperlukan, tim dapat menghapus atau menyamarkan bagian tersebut sebelum data diproses. Hasilnya tetap perlu ditinjau untuk memastikan konteks lain tidak mengungkap identitas customer.

Hal yang perlu diperhatikan: Periksa ketentuan penyedia teknologi mengenai penyimpanan data, penggunaan data untuk pelatihan model, pihak lain yang terlibat, dan penghapusan data.

Tetapkan juga masa simpan sesuai tujuan, kebutuhan operasional, dan ketentuan yang berlaku. Aturan ini perlu mencakup percakapan, lampiran, ringkasan otomatis, serta catatan aktivitas sistem.

4. Jelaskan Penggunaan Data kepada Customer

Transparansi membantu customer memahami hubungan antara informasi yang mereka berikan dan layanan yang diterima. Pemberitahuan perlu menggunakan bahasa yang jelas serta mudah ditemukan pada channel terkait.

Jelaskan kapan AI digunakan, tujuan pemrosesan informasi, dan cara menghubungi tim untuk pertanyaan tentang data. Informasi tersebut perlu sesuai dengan proses yang benar-benar berlangsung.

Jika perusahaan meminta persetujuan untuk penggunaan tertentu, jelaskan tujuan dan cakupannya secara spesifik. Penggunaan untuk menangani permintaan layanan perlu dibedakan dari penggunaan tambahan, seperti pengembangan model.

Langkah praktis: Tinjau kesesuaian pemberitahuan privasi dengan konfigurasi sistem. Sediakan channel untuk pertanyaan, koreksi informasi, dan permintaan terkait data, lalu tetapkan tim yang menanganinya. Permintaan tersebut perlu diproses sesuai ketentuan yang berlaku.

5. Uji Risiko Kebocoran Sebelum dan Setelah Implementasi

Pengujian perlu memeriksa apakah sistem menghormati batas akses dalam berbagai situasi. Tim dapat menyiapkan skenario ketika pengguna meminta dokumen di luar kewenangannya atau mencoba memperoleh percakapan customer lain.

Hasil pengujian perlu menunjukkan bagaimana sistem membatasi akses dan mengarahkan kebutuhan bantuan. Pemeriksaan juga perlu mencakup ringkasan percakapan, lampiran, dan tampilan agent agar data sensitif tidak muncul pada bagian yang tidak semestinya.

Cara menerapkannya: Utamakan data uji fiktif yang tidak memuat identitas customer nyata. Catat skenario, hasil yang diharapkan, temuan, serta perbaikannya.

Ulangi pengujian setelah perubahan penting pada model, sumber data, hak akses, atau integrasi. Perubahan fitur dapat memperluas informasi yang diproses, sehingga kontrol yang sebelumnya memadai perlu dievaluasi kembali.

6. Siapkan Monitoring, Penanggung Jawab, dan Respons Insiden

Setiap layanan berbasis AI perlu memiliki penanggung jawab yang jelas. Tim operasional, teknologi, keamanan informasi, dan fungsi terkait perlu memahami kewenangan masing-masing ketika muncul dugaan masalah data.

Tentukan siapa yang memeriksa laporan, membatasi akses sementara, mengevaluasi dampak, dan menyetujui pemulihan layanan. Persiapkan pula proses komunikasi kepada pihak terdampak sesuai hasil penilaian dan ketentuan yang berlaku.

Indikator yang dapat dipantau meliputi percobaan akses di luar kewenangan, temuan data sensitif dalam jawaban, laporan customer, serta waktu penyelesaian perbaikan.

Catatan aktivitas membantu penelusuran, tetapi isinya juga perlu dibatasi dan dilindungi. Tim perlu menentukan informasi yang dicatat, pihak yang dapat membacanya, serta masa penyimpanannya.

Pengawasan manusia perlu disertai pelatihan. Agent sebaiknya memahami cara memverifikasi customer, menangani permintaan data, dan melakukan eskalasi tanpa memindahkan informasi ke alat yang belum disetujui.

Perkuat Perlindungan Data melalui Responsible AI Bersama KPSG

Penerapan responsible AI membutuhkan kesesuaian antara kebijakan, kontrol teknis, dan tindakan sehari-hari. Pemetaan data, pembatasan akses, transparansi, serta evaluasi berkelanjutan membantu perusahaan menjaga penggunaan AI tetap terarah.

Pendekatan responsible AI di KPSG mencakup perlindungan data, keamanan sejak tahap desain, kontrol akses, auditabilitas, pengawasan manusia, dan akuntabilitas. Prinsip tersebut menjadi bagian dari pendekatan pengembangan serta pengelolaan layanan berbasis AI.

Siap membawa operasional bisnis Anda menjadi lebih efisien, scalable, dan siap menghadapi kebutuhan customer yang terus berkembang? Hubungi kami di sini. Temukan lebih banyak insight profesional dan tren industri terbaru di LinkedIn kami.

Pertanyaan yang Sering Diajukan

Apa perbedaan privasi dan keamanan data dalam responsible AI?

Privasi berfokus pada tujuan dan batas penggunaan data pribadi. Keamanan berfokus pada perlindungan dari akses tanpa kewenangan, pengungkapan, perubahan yang tidak sah, serta kerusakan atau kehilangan data. Keduanya perlu diterapkan bersama dalam layanan berbasis AI.

Apakah data customer yang dikirim ke AI selalu digunakan untuk melatih model?

Penggunaannya bergantung pada penyedia, layanan, konfigurasi, dan perjanjian yang berlaku. Perusahaan perlu memeriksa ketentuan penyimpanan serta penggunaan data sebelum mengintegrasikan informasi customer.

Siapa yang bertanggung jawab atas perlindungan data dalam layanan AI?

Perusahaan perlu menetapkan penanggung jawab layanan dan pembagian tugas lintas fungsi. Tim teknologi, keamanan informasi, operasional, serta fungsi privasi atau kepatuhan perlu berkoordinasi sesuai perannya.

Wawasan lainnya

Robocall
banner
banner-headset-center