Indonesia Dorong UNESCO Susun Pedoman AI untuk Anak: Apa yang Sedang Dibahas?

AI makin dekat dengan aktivitas anak

AI sekarang bisa membantu anak belajar, menjawab pertanyaan, bahkan menjadi teman ngobrol lewat chatbot. Tapi ketika teknologi makin dekat dengan anak-anak, muncul pertanyaan penting: bagaimana memastikan AI membantu mereka tanpa mengorbankan privasi, kemampuan berpikir mandiri, dan kesejahteraan mereka?

Isu ini sedang dibahas di UNESCO. Dalam Sidang ke-225 Dewan Eksekutif UNESCO di Paris, Indonesia mendukung inisiatif untuk menyusun panduan penggunaan teknologi digital dan AI bagi anak-anak serta generasi muda. Pembahasannya masih berlangsung; belum ada pedoman baru yang berlaku.

Foto: Brad Flickinger melalui Wikimedia Commons, digunakan tanpa perubahan di bawah lisensi CC BY 2.0.

Dua hal yang sedang dibahas

Inisiatif pertama berfokus pada penggunaan perangkat digital seperti ponsel dan tablet dalam pendidikan. Usulan Pakistan yang didukung Indonesia meminta kajian tentang kaitannya dengan kemampuan membaca, menulis, perhatian, berpikir kritis, dan perkembangan kognitif anak.

Inisiatif kedua membahas perlindungan anak di lingkungan digital berbasis AI. Cakupannya lebih luas dari chatbot: termasuk media sosial, algoritma, gim digital, ruang virtual, dan AI companion—layanan AI yang dirancang sebagai teman virtual.

UNESCO menyoroti sejumlah risiko yang perlu dikaji, seperti ketergantungan pada AI, manipulasi informasi, diskriminasi algoritmik, serta dampak pada kesejahteraan dan kemampuan berpikir mandiri. Risiko-risiko ini bukan berarti pasti terjadi pada setiap anak. Justru, salah satu tujuan pembahasannya adalah mendorong penilaian yang lebih menyeluruh dan berbasis bukti. (Metro TV)

Bukan sekadar melarang atau membebaskan

Indonesia mengingatkan bahwa satu aturan belum tentu cocok untuk semua wilayah. Di tempat dengan akses pendidikan terbatas, perangkat digital bisa menjadi jembatan untuk belajar. Di konteks lain, penggunaan yang berlebihan bisa mengganggu kegiatan belajar.

Karena itu, keputusan tentang penggunaan teknologi perlu mempertimbangkan usia anak, tujuan pemakaian, kondisi pendidikan, budaya, dan akses internet. UNESCO juga menekankan bahwa teknologi sebaiknya mendukung interaksi manusia dalam pendidikan, bukan menggantikannya. Laporan Metro TV menyebut hasil penelitian mengenai dampak perangkat digital juga belum sepenuhnya konsisten.

Apa artinya bagi developer AI?

Pembahasan ini relevan sejak tahap merancang produk. Kalau sebuah aplikasi AI mungkin digunakan anak, pertimbangkan sejak awal bagaimana produk itu menangani data pribadi, memberi batasan yang sesuai usia, dan menghindari pola interaksi yang mendorong penggunaan berlebihan.

Ini bukan daftar aturan baru dari UNESCO, melainkan hal-hal yang layak dipikirkan saat membangun produk untuk pengguna muda. Produk AI yang aman untuk anak bukan cuma soal menyaring jawaban yang tidak pantas. Desainnya juga perlu memberi anak kendali yang sesuai, menjelaskan batas kemampuan AI, dan melibatkan orang dewasa ketika situasinya memang membutuhkan pendampingan.

Pedomannya belum final

Instrumen perlindungan anak di lingkungan digital berbasis AI yang dibahas UNESCO masih berupa usulan. Menurut laporan Metro TV, rekomendasi tersebut direncanakan untuk dipertimbangkan dalam Konferensi Umum UNESCO pada November 2027.

Jadi, kabar ini belum berarti ada larangan baru bagi anak untuk memakai AI. Yang sedang dicari adalah cara agar manfaat teknologi bisa digunakan dengan perlindungan yang memadai—dan kebijakannya disusun berdasarkan kondisi nyata, bukan rasa takut atau asumsi semata.

Gambar sampul: Guillaume Bonzoms / Wikimedia Commons, CC0 1.0.