RELUNG.ID – OpenAI berupaya meningkatkan keamanan teknologi kecerdasan mereka.
Kali ini, mereka merekrut Zico Kolter menjadi dewan keamanan.
Mengingat, Kolter merupakan profesor dan direktur departemen pembelajaran mesin di Universitas Carnegie Mellon.
Dipilihnya Kolter ini dikarenakan memang sebagian besar pekerjaannya berfokus pada keselamatan AI. Dia bergabung dengan komite keselamatan yang dibentuk sejak Mei lalu.
Dimana, komite ini bertugas untuk keselamatan dan keamanan semua proyek OpenAI.
Diantaranya, Chatbot OpenAI yang memiliki kemampuan genAI seperti terlibat dalam percakapan seperti manusia dan membuat gambar berdasarkan perintah teks telah menimbulkan masalah keamanan seiring dengan semakin kuatnya model AI.
Sebelum direkrut OpenAI, Kolter merupaakn kepala ilmuwan data di C3.ai, dan saat ini menjabat sebagai kepala ahli di Bosch dan kepala penasihat teknis di Gray Swan, sebuah perusahaan rintisan yang mengkhususkan diri dalam keselamatan dan keamanan AI.
Pada 2023, Kolter berkontribusi dalam pengembangan metode untuk menilai keamanan model bahasa besar secara otomatis, menunjukkan potensi untuk melewati perlindungan model yang ada.
Microsoft telah melepaskan kursi pengamat dewannya di OpenAI pada Juli lalu, dalam sebuah langkah yang bertujuan meredakan kekhawatiran regulator antimonopoli AS dan Inggris tentang sejauh mana kendalinya atas perusahaan rintisan tersebut di tengah meningkatnya adopsi genAI. (YIP)
