Perusahaan teknologi OpenAI resmi menunjuk Zico Kolter, profesor dan direktur departemen machine learning di Carnegie Mellon University, ke dalam dewan direksinya.
Hal itu diungkapkan OpenAI pada Kamis (08/08/2024), sebagaimana dikutip dari Reuters.
OpenAi sendiri merupakan startup AI yang mengembangkan ChatGPT dan mendapat dukungan investasi dari Microsoft.
Seperti diketahui, dewan direksi OpenAI telah mengalami beberapa perubahan di tengah meningkatnya kekhawatiran atas keamanan AI generatif karena semakin banyak bisnis yang terburu-buru mengadopsi teknologi yang sedang booming ini.
Kolter, yang karyanya sebagian besar berfokus pada keamanan AI, juga akan bergabung dengan komite keselamatan dan keamanan OpenAI, bersama CEO Sam Altman dan direktur Bret Taylor, Adam D'Angelo, Paul Nakasone, dan Nicole Seligman.
Komite keselamatan, yang dibentuk pada bulan Mei lalu, bertugas membuat rekomendasi tentang keputusan keselamatan dan keamanan untuk semua proyek OpenAI.
Chatbot OpenAI dengan kemampuan genAI yang dapat melakukan percakapan seperti manusia dan membuat gambar berdasarkan petunjuk teks telah menimbulkan masalah keamanan karena model AI menjadi kuat.
Kolter, yang sebelumnya menjabat sebagai kepala ilmuwan data di C3.ai, saat ini menjabat sebagai kepala ahli di Bosch dan kepala penasihat teknis di Gray Swan - sebuah startup yang mengkhususkan diri pada keselamatan dan keamanan AI.
Pada tahun 2023, Kolter berkontribusi dalam mengembangkan metode untuk menilai keamanan model bahasa besar (LLMs) secara otomatis, yang menunjukkan potensi untuk mem-bypass perlindungan model yang ada, menurut postingan blog OpenAI.
Baca Juga: OpenAI ChatGPT Bakal Bangkrut dalam 12 Bulan? Ini Penyebabnya