RELUNG.ID – Sebuah studi terbaru dari organisasi nirlaba Common Sense Media menyoroti potensi risiko penggunaan fitur kecerdasan buatan (AI) milik Google bagi anak-anak.
Dalam laporannya, organisasi tersebut menyimpulkan bahwa fitur AI Google dapat menimbulkan “risiko yang tidak dapat diterima” bagi pengguna usia muda.
Laporan itu menyebutkan bahwa salah satu faktor yang membuat temuan ini menjadi perhatian adalah luasnya penggunaan layanan Google di lingkungan pendidikan.
Chromebook, yang banyak digunakan sebagai perangkat belajar di sekolah, membuat fitur AI Google mudah diakses oleh siswa, baik melalui perangkat pribadi maupun perangkat yang disediakan sekolah.
“Yang membedakan AI Google dari layanan AI lainnya adalah keberadaannya yang hampir ada di mana-mana pada perangkat pribadi dan perangkat yang dikeluarkan sekolah untuk anak-anak,” tulis Common Sense Media dalam laporannya.
Salah satu sorotan utama penelitian tersebut adalah kemampuan AI Mode Google yang dinilai dapat menyelesaikan pekerjaan rumah siswa secara langsung.
Menurut laporan itu, fitur tersebut tidak hanya memberikan jawaban atas tugas sekolah, tetapi juga menghasilkan respons yang berbeda pada setiap percobaan, sehingga akurasinya dinilai tidak konsisten.
Dalam beberapa kasus, jawaban yang diberikan benar, sementara pada kesempatan lain justru keliru.
Selain persoalan akademik, laporan itu juga mengangkat kekhawatiran terkait respons AI terhadap situasi yang melibatkan kesehatan mental. Common Sense Media menyatakan bahwa AI Mode dinilai gagal memberikan bantuan yang memadai kepada anak-anak yang sedang mengalami krisis.
Organisasi tersebut mengklaim AI Google tidak selalu mampu mengenali tanda-tanda keinginan bunuh diri, bahkan dalam beberapa kasus disebut memperkuat indikasi psikosis dan mania.
Laporan itu juga menyoroti respons AI yang dinilai dapat memvalidasi gangguan makan, termasuk perilaku muntah paksa, serta memberikan tanggapan yang dianggap merayakan penggunaan ganja.
AI Mode sendiri merupakan antarmuka berbasis chatbot yang hanya muncul ketika pengguna secara aktif memilih tombol “AI Mode”.
Sementara itu, Google juga memiliki fitur AI Overview, yang secara otomatis menampilkan ringkasan hasil pencarian berbasis AI.
Menurut Common Sense Media, kedua fitur tersebut saat ini tidak dapat dinonaktifkan oleh pengguna.
Dalam evaluasinya, Common Sense Media menguji AI Google berdasarkan delapan prinsip keselamatan AI yang telah ditetapkan organisasi tersebut.
Hasilnya, Google disebut hanya memenuhi satu dari delapan prinsip, sementara tujuh prinsip lainnya dinilai belum terpenuhi. (LWM)
