Semakin luas penggunaan AI (Artificial Intelligence) di perusahaan, semakin penting pula memiliki kebijakan Responsible AI yang jelas.
Tanpa kerangka yang terstruktur, setiap tim dapat menggunakan AI dengan standar berbeda. Kondisi ini berpotensi menimbulkan risiko terkait keamanan data, akurasi, bias, transparansi, hingga pertanggungjawaban ketika sistem menghasilkan keputusan yang tidak sesuai.
Kebijakan Responsible AI tidak cukup hanya berisi prinsip. Perusahaan juga perlu menetapkan siapa yang bertanggung jawab, bagaimana risiko dinilai, tindakan apa yang diperbolehkan, dan bagaimana sistem dipantau setelah digunakan.
Berikut lima langkah yang dapat menjadi dasar penyusunannya.
Mengapa Kebijakan Formal Diperlukan
Sebagian perusahaan menganggap kebijakan tertulis belum diperlukan selama penggunaan AI masih terbatas. Anggapan tersebut berisiko, sebab adopsi AI umumnya berlangsung jauh lebih cepat dibanding perkiraan.
Sistem AI kerap masuk melalui jalur yang tidak terpantau. Tim marketing berlangganan software analitik berbasis AI, tim customer service menerapkan chatbot, sementara tim operasional menggunakan alat otomatisasi. Masing-masing berjalan tanpa standar yang seragam.
Ketiadaan kebijakan menimbulkan beberapa konsekuensi. Tanggung jawab menjadi kabur ketika sistem menghasilkan keputusan yang merugikan customer. Perusahaan pun kesulitan menjawab pertanyaan regulator mengenai bagaimana sistem AI diawasi. Risiko yang terakumulasi diam-diam akhirnya muncul pada saat yang paling tidak diinginkan.
Kebijakan responsible AI menjawab persoalan tersebut melalui penetapan standar yang berlaku menyeluruh, sehingga setiap keputusan memiliki acuan yang jelas.
Langkah 1: Inventarisasi Seluruh Sistem AI
Penyusunan kebijakan tidak dapat dimulai tanpa pemahaman terhadap apa yang sebenarnya perlu diatur.
Petakan seluruh sistem yang beroperasi. Kumpulkan daftar sistem AI yang digunakan di seluruh divisi, mencakup yang dikembangkan internal, dibeli dari pihak ketiga, maupun yang tertanam dalam software yang sudah digunakan.
Identifikasi tingkat dampaknya. Kelompokkan setiap sistem berdasarkan dampaknya terhadap customer maupun karyawan. Sistem yang memengaruhi keputusan finansial, akses layanan, maupun penilaian individu memerlukan pengawasan paling ketat.
Catat data yang digunakan. Dokumentasikan jenis data yang diproses masing-masing sistem, terutama yang melibatkan informasi pribadi maupun data sensitif lainnya.
Tetapkan penanggung jawab awal. Identifikasi siapa yang saat ini mengelola setiap sistem, meski struktur formalnya belum terbentuk.
Hasil inventarisasi ini menjadi fondasi bagi seluruh langkah berikutnya, sebab kebijakan yang disusun tanpa mengetahui cakupan sebenarnya berpotensi tidak relevan.
Langkah 2: Tetapkan Prinsip yang Spesifik
Prinsip menjadi landasan nilai, namun efektivitasnya bergantung pada seberapa konkret rumusannya.
Hindari rumusan yang terlalu umum. Pernyataan seperti komitmen terhadap keadilan tidak memberi panduan operasional. Rumusan yang lebih baik menjelaskan apa yang dimaksud keadilan dalam konteks perusahaan serta bagaimana mengukurnya.
Susun prinsip yang dapat diuji. Setiap prinsip sebaiknya disertai indikator yang memungkinkan verifikasi. Prinsip transparansi, misalnya, dapat diterjemahkan menjadi kewajiban mengungkapkan penggunaan AI pada setiap interaksi customer.
Sesuaikan dengan konteks industri. Institusi keuangan memiliki tuntutan berbeda dibanding perusahaan ritel. Prinsip yang disusun perlu mencerminkan regulasi serta risiko spesifik yang dihadapi.
Tetapkan prioritas ketika prinsip berbenturan. Situasi tertentu menghadapkan prinsip yang saling bertentangan, misalnya antara personalisasi mendalam dengan perlindungan privasi. Kebijakan perlu menjelaskan mana yang diutamakan.
Langkah 3: Bentuk Struktur Tata Kelola
Kebijakan tanpa struktur yang menjalankannya hanya menjadi dokumen tanpa dampak.
Tunjuk penanggung jawab tertinggi. Tetapkan satu pihak pada tingkat kepemimpinan yang bertanggung jawab atas keseluruhan tata kelola AI perusahaan.
Bentuk komite lintas fungsi. Libatkan perwakilan dari tim teknologi, legal, kepatuhan, keamanan informasi, operasional, serta customer experience. Perspektif yang beragam mencegah kebijakan menjadi terlalu teknis maupun terlalu normatif.
Tetapkan kewenangan yang jelas. Jelaskan siapa berwenang menyetujui penerapan sistem AI baru, siapa yang dapat menghentikan operasional sistem bermasalah, serta bagaimana proses eskalasi berlangsung.
Susun mekanisme peninjauan berkala. Tentukan frekuensi pertemuan komite serta agenda yang wajib dibahas, mencakup evaluasi sistem berjalan maupun kajian terhadap rencana penerapan baru.
Membutuhkan pendampingan dalam menyusun tata kelola AI di perusahaan Anda? Hubungi tim KPSG untuk mendiskusikan penerapan responsible AI melalui solusi CXaaS kami. Konsultasi tanpa biaya. [Jadwalkan Konsultasi Gratis]
Langkah 4: Susun Prosedur Operasional
Prinsip perlu diterjemahkan menjadi langkah konkret yang dapat diikuti tim sehari-hari.
Prosedur evaluasi sebelum penerapan. Susun daftar periksa yang wajib dipenuhi sebelum sistem AI baru diterapkan, mencakup penilaian risiko, kajian kualitas data, serta verifikasi kepatuhan regulasi.
Prosedur pengungkapan kepada customer. Tetapkan standar bagaimana serta kapan penggunaan AI diungkapkan, termasuk contoh kalimat yang dapat digunakan pada berbagai channel.
Prosedur penanganan keputusan bermasalah. Jelaskan langkah yang harus diambil ketika sistem menghasilkan keputusan keliru, mencakup mekanisme koreksi, komunikasi kepada customer terdampak, serta pelaporan internal.
Prosedur pengujian bias. Tetapkan metode serta frekuensi pengujian untuk memastikan sistem tidak menghasilkan keputusan yang merugikan kelompok tertentu.
Prosedur pencatatan. Wajibkan pencatatan atas setiap keputusan penting yang dihasilkan sistem AI, lengkap dengan data yang menjadi dasarnya, untuk keperluan audit maupun investigasi.
Langkah 5: Terapkan Pemantauan Berkelanjutan
Kebijakan yang disusun sekali lalu ditinggalkan kehilangan relevansinya seiring perubahan teknologi maupun regulasi.
Tetapkan indikator pemantauan. Tentukan metrik yang mencerminkan kepatuhan terhadap kebijakan, mencakup tingkat akurasi sistem, frekuensi eskalasi ke manusia, serta jumlah keluhan terkait keputusan otomatis.
Lakukan audit berkala. Jadwalkan peninjauan menyeluruh terhadap seluruh sistem AI, minimal setiap tahun maupun lebih sering untuk sistem berdampak tinggi.
Perbarui kebijakan sesuai perkembangan. Regulasi mengenai AI terus berkembang, begitu pula kapabilitas teknologinya. Kebijakan perlu ditinjau agar tetap relevan dengan kondisi terkini.
Kumpulkan umpan balik dari lapangan. Tim yang menjalankan kebijakan sehari-hari kerap menemukan celah yang tidak terlihat pada tahap penyusunan. Masukan mereka menjadi bahan penyempurnaan yang berharga.
Selenggarakan pelatihan berkala. Kebijakan hanya efektif apabila dipahami seluruh pihak terkait. Pelatihan rutin memastikan pemahaman tetap terjaga meski terjadi pergantian personel.
Kesalahan Umum dalam Penyusunan Kebijakan
Beberapa kekeliruan berikut kerap membuat kebijakan tidak berjalan sebagaimana diharapkan.
Menyusun kebijakan secara terpisah dari tim operasional. Kebijakan yang dirumuskan hanya oleh tim legal maupun teknologi berpotensi tidak praktis diterapkan pada operasional harian.
Menyalin kerangka dari perusahaan lain tanpa penyesuaian. Setiap organisasi memiliki karakteristik risiko yang berbeda, sehingga kerangka yang berhasil di tempat lain belum tentu relevan.
Membuat kebijakan yang terlalu kaku. Aturan yang tidak memberi ruang penyesuaian justru mendorong tim mencari jalan pintas di luar prosedur resmi.
Mengabaikan sistem AI dari pihak ketiga. Sistem yang disediakan vendor tetap menjadi tanggung jawab perusahaan pengguna, sehingga perlu tercakup dalam kebijakan.
Tidak menyediakan sumber daya untuk penerapan. Kebijakan menuntut waktu serta tenaga untuk dijalankan. Ketiadaan alokasi sumber daya membuat penerapannya terhenti pada tahap dokumen.
Kesimpulan
Penyusunan kebijakan responsible AI menuntut pendekatan yang sistematis, dimulai dari inventarisasi sistem yang beroperasi, penetapan prinsip yang spesifik, pembentukan struktur tata kelola, penyusunan prosedur operasional, hingga penerapan pemantauan berkelanjutan.
Kebijakan yang efektif memiliki ciri yang jelas, yaitu spesifik, dapat diuji, disusun secara lintas fungsi, serta disertai sumber daya yang memadai untuk menjalankannya. Dokumen yang berhenti pada pernyataan nilai tanpa panduan operasional tidak memberikan perlindungan nyata bagi perusahaan maupun customer.
KPSG, dengan pengalaman lebih dari 35 tahun di bidang contact center dan customer experience, menerapkan prinsip responsible AI dalam solusi CXaaS-nya. Kami membantu perusahaan memastikan setiap penerapan teknologi disertai tata kelola yang memadai, sehingga inovasi berjalan seiring dengan tanggung jawab.
Siap membawa operasional bisnis Anda menjadi lebih efisien, scalable, dan siap menghadapi kebutuhan customer yang terus berkembang? Hubungi kami di sini. Temukan lebih banyak insight profesional dan tren industri terbaru di sini.
FAQ (Pertanyaan yang Sering Diajukan)
Apa isi utama kebijakan responsible AI?
Kebijakan responsible AI umumnya memuat prinsip yang dianut perusahaan, struktur tata kelola beserta kewenangannya, prosedur operasional untuk berbagai situasi, serta mekanisme pemantauan dan audit berkala.
Siapa yang sebaiknya menyusun kebijakan ini?
Penyusunan sebaiknya melibatkan tim lintas fungsi mencakup teknologi, legal, kepatuhan, keamanan informasi, operasional, serta customer experience, agar kebijakan bersifat praktis sekaligus komprehensif.
Apakah perusahaan kecil juga memerlukan kebijakan formal?
Diperlukan, meski cakupannya dapat lebih sederhana. Perusahaan yang menggunakan sistem AI berdampak pada customer tetap menanggung tanggung jawab yang sama, terlepas dari skala bisnisnya.
Seberapa sering kebijakan perlu ditinjau?
Peninjauan menyeluruh sebaiknya dilakukan minimal setahun sekali, maupun lebih cepat apabila terjadi perubahan regulasi, penerapan sistem baru berdampak tinggi, maupun insiden yang memerlukan evaluasi.
Apakah sistem AI dari vendor perlu tercakup dalam kebijakan?
Perlu. Tanggung jawab atas dampak sistem tetap berada pada perusahaan pengguna, sehingga sistem pihak ketiga wajib memenuhi standar yang sama seperti sistem yang dikembangkan internal.
