JAKARTA – Kecerdasan buatan atau artificial intelligence (AI) terus berkembang dan mulai digunakan untuk mendukung berbagai kebutuhan, termasuk dalam bidang keamanan siber. Kemampuan AI dalam mengolah data berukuran besar dan mempercepat pekerjaan membuat teknologi ini semakin dibutuhkan. Namun, penerapannya tetap harus disertai pengawasan manusia agar hasil yang diberikan dapat diperiksa dan dipertanggungjawabkan.
Pentingnya pengawasan menjadi salah satu poin yang dibahas dalam diskusi mengenai AI dan keamanan siber. Para panelis menilai keluaran AI tidak semestinya langsung dianggap sebagai hasil akhir. Potensi kesalahan seperti false positive maupun false negative tetap ada sehingga diperlukan proses verifikasi sebelum informasi tersebut digunakan.
Salah satu panelis menekankan bahwa setiap keluaran AI harus dapat diperiksa kembali. “Hasil tersebut harus dapat diverifikasi. Kuncinya adalah hasil keluaran yang dapat diverifikasi,” ujarnya.
Selain verifikasi, aspek traceability atau keterlacakan juga menjadi bagian penting. Setiap hasil yang dihasilkan AI idealnya dapat ditelusuri berdasarkan data, logika, serta asumsi yang digunakan. Mekanisme tersebut membantu tenaga profesional melakukan pemeriksaan apabila ditemukan hasil yang tidak sesuai.
“Jadi, verifikasi dan validasi sangat penting untuk semua pekerjaan yang dihasilkan oleh AI sebagai luaran (output),” katanya.
Dari sisi pengembangan ekosistem, Deputi Bidang Kreativitas Digital dan Teknologi Kementerian Ekonomi Kreatif Muhammad Neil El Himam menilai kesiapan Indonesia tidak cukup hanya melalui pembangunan infrastruktur dan teknologi. Penguatan sumber daya manusia juga diperlukan agar perkembangan AI dapat berjalan secara berkelanjutan.
“Kita perlu membangun tidak hanya kapabilitas inti dari para talenta melalui pemograman, bahasa pemrograman, pengembangan LLM contohnya, tetapi kita juga perlu memastikan bahwa dari segi ekosistem, etika juga,” ujar Neil.
Menurut Neil, perkembangan AI sekaligus membuka peluang bagi startup lokal untuk mengembangkan produk yang mampu memenuhi kebutuhan nasional dan memiliki daya saing di pasar global.
Sementara itu, Yosua N. Santoso dari SeaBank menjelaskan bahwa AI dapat dimanfaatkan untuk membantu pengolahan data, mendeteksi anomali, serta mengotomatisasi sejumlah proses keamanan di sektor perbankan. Meski demikian, hasil rekomendasi AI tetap membutuhkan pemeriksaan manusia sebelum diterapkan.
Yosua juga mengingatkan agar keberhasilan penerapan AI tidak hanya diukur berdasarkan intensitas penggunaannya. “Metrik hasil harus dikaitkan dengan metrik bisnis asli yang spesifik,” ujarnya.
Persoalan tata kelola turut menjadi perhatian Henry Tan dari CREST. Menurutnya, transparansi diperlukan agar pengguna memahami model AI yang diterapkan, tujuan penggunaannya, serta data yang diproses.
“Jadi, kita perlu menyatakan model AI jenis apa yang kita gunakan, lalu apa tujuan penggunaannya, dan jenis data apa yang dikonsumsi, ditransfer, dan sebagainya,” katanya.
Henry menilai perkembangan AI juga tidak berarti manusia akan kehilangan seluruh perannya. “Masa depan terletak pada keahlian manusia yang diperkuat oleh AI. Jadi AI tidak akan mengambil alih pekerjaan kita,” ujarnya.
Neil menambahkan bahwa masyarakat perlu beradaptasi dengan perkembangan AI yang semakin cepat. “AI tidak bisa dihindari. AI akan datang, AI sudah ada di sini, suka atau tidak suka Anda harus menghadapinya,” katanya.
Yosua pun melihat kemampuan menggunakan AI secara tepat akan menjadi salah satu keunggulan baru di dunia kerja. “Anda tidak akan digantikan oleh AI, tetapi kita akan digantikan oleh orang yang dapat menggunakan AI dengan lebih baik,” ujarnya.
Sejalan dengan perkembangan tersebut, PT Qudo Buana Nawakara turut menghadirkan sejumlah solusi teknologi yang mengintegrasikan AI untuk mendukung kebutuhan masyarakat dan institusi. Pengembangan produk tersebut juga memperhatikan aspek keamanan data sebagai bagian dari upaya mendorong pemanfaatan teknologi secara aman dan bertanggung jawab.
Salah satunya MediaHub, layanan agregator resmi yang menyediakan konten foto, audiovisual, dan audio bagi masyarakat serta kalangan jurnalis. Platform tersebut dirancang untuk membantu kebutuhan informasi dan pemberitaan dengan akses konten yang cepat dan terverifikasi.
Produk lainnya, Multipool, merupakan platform berbasis web yang memanfaatkan otomasi dan AI untuk mengumpulkan, menganalisis, serta menyajikan data dari media sosial dan berbagai platform daring. Sistem ini membantu pengguna melihat dinamika percakapan publik secara real-time melalui pengolahan data yang komprehensif.
Sementara itu, Silancar atau Sistem Interaksi Lalu Lintas Aman, Nyaman, Cepat, Adaptif dan Responsive dikembangkan untuk mendukung petugas command center dan aparat kepolisian. Aplikasi tersebut menyediakan pemantauan kendaraan secara real-time, pelacakan lokasi melalui peta digital, serta identifikasi perilaku berkendara berisiko untuk mendukung keselamatan di jalan.
Kehadiran MediaHub, Multipool, dan Silancar menunjukkan penerapan teknologi AI dapat diarahkan pada kebutuhan yang konkret. Melalui berbagai solusi tersebut, PT Qudo Buana Nawakara turut mengambil bagian dalam pengembangan ekosistem digital dan AI nasional yang aman, mandiri, serta adaptif menuju Indonesia Emas 2045.