 |
| Sumber:https://www.technologyreview.com/ |
Tim Superalignment yang dipimpin oleh kepala ilmuwan OpenAI Ilya Sutskever telah
menemukan cara untuk memandu perilaku model AI seiring dengan bertambahnya
kecerdasan mereka.
Open AI dengan janji untuk membangun kecerdasan buatan yang bermanfaat bagi seluruh umat manusia, menjadi jauh lebih pintar daripada penciptanya, ChatGPT. Perusahaan membentuk kelompok riset baru yang berupaya mengatasi AI supersmart di masa depan.
Sutskever,
salah satu pendiri OpenAI dan salah satu pemimpin tim Superalignment, telah
memimpin sebagian besar pekerjaan teknis terpenting perusahaan dan merupakan
salah satu tokoh Artificial intellegence (AI) terkemuka yang semakin khawatir tentang cara mengendalikan
AI yang semakin canggih. Pertanyaan tentang bagaimana mengendalikan teknologi
AI di masa depan mendapat perhatian baru tahun ini, sebagian besar berkat
ChatGPT.
Meskipun
OpenAI menggembar-gemborkan langkah pertama menuju pengendalian AI yang lebih
maju, perusahaan juga mencoba meminta bantuan dari luar. Perusahaan telah mengumumkan
bahwa mereka akan menawarkan hibah sebesar $10 juta dalam kemitraan dengan EricSchmidt, investor berpengaruh dan mantan CEO Google, kepada peneliti luar yang
menghasilkan kemajuan lebih lanjut dalam topik-topik termasuk pengawasan lemah
hingga kuat, interpretasi model tingkat lanjut., dan memperkuat model terhadap
permintaan yang dirancang untuk mendobrak batasannya. OpenAI juga akan
mengadakan konferensi tahun depan tentang superalignment.
Ilya
Sutskever adalah seorang ilmuwan komputer dan peneliti kecerdasan buatan. Ilya
Sutskever dikenal sebagai salah satu pendiri dan kepala riset OpenAI, sebuah
laboratorium riset kecerdasan buatan yang berfokus pada pengembangan teknologi
kecerdasan buatan yang aman dan bermanfaat.
Sutskever
telah membuat kontribusi besar dalam bidang deep learning dan pengolahan bahasa
alami. Dia telah terlibat dalam pengembangan model-model deep learning yang
kuat dan telah menjadi tokoh penting dalam komunitas kecerdasan buatan.
Sutskever
merupakan ilmuwan kecerdasan buatan Israel-Kanada, yang lahir di Soviet Rusia
tetapi dibesarkan di Yerusalem sejak usia lima tahun. Dia kemudian pindah ke
Kanada untuk belajar di Universitas Toronto bersama Geoffrey Hinton, pionir AI
yang mengungkapkan ketakutannya terhadap teknologi yang dia bantu ciptakan awal
tahun ini.
Sutskever
belajar meraih PhD di bawah bimbingan Geoffrey Hinton, pelopor jaringan saraf
dalam yang meninggalkan Google pada bulan Mei tahun ini untuk memperingatkan
tentang kecepatan di mana AI kini tampaknya mendekati tingkat manusia dalam
beberapa tugas.
Ilya
Sutskever, berkati hatinya. Sampai saat ini, Sutskever dikenal sebagai peneliti
kecerdasan buatan yang brilian. Dia adalah siswa bintang yang membantu Geoffrey
Hinton, salah satu “bapak AI”, memulai apa yang disebut revolusi deep learning.
Pada tahun 2015, setelah sempat bekerja sebentar di Google, Sutskever ikut
mendirikan OpenAI dan akhirnya menjadi ilmuwan utamanya; begitu pentingnya dia
bagi kesuksesan perusahaan sehingga Elon Musk mendapat pujian karena
merekrutnya.
Ketika Hinton
berbagi penghargaan Turing dengan Yann LeCun dan Yoshua Bengio untuk pekerjaan
mereka di jaringan saraf. Namun ketika Sutskever bergabung dengannya pada awal
tahun 2000an, sebagian besar peneliti AI percaya bahwa jaringan saraf adalah
jalan buntu. Hinton adalah pengecualian. Dia sudah melatih model-model kecil
yang dapat menghasilkan rangkaian teks pendek satu karakter dalam satu waktu,
kata Sutskever: “Ini adalah awal dari AI generatif saat itu juga. Itu sangat
keren—hanya saja tidak terlalu bagus.”
Sutskever
terpesona dengan otak: bagaimana otak belajar dan bagaimana proses tersebut
dapat diciptakan kembali, atau setidaknya ditiru, dalam mesin. Seperti Hinton,
dia melihat potensi jaringan saraf dan teknik coba-coba yang digunakan Hinton
untuk melatihnya, yang disebut pembelajaran mendalam. “Ini terus menjadi lebih
baik dan lebih baik lagi,” kata Sutskever.
Pada
tahun 2012 Sutskever, Hinton, dan mahasiswa pascasarjana Hinton lainnya, Alex
Krizhevsky, membangun jaringan saraf bernama AlexNet yang mereka latih untuk
mengidentifikasi objek dalam foto jauh lebih baik daripada perangkat lunak lain
mana pun pada saat itu. Itu adalah momen Big Bang pembelajaran mendalam.
Langkah
perubahan dalam komputasi datang dari jenis chip baru yang disebut unit
pemrosesan grafis (GPU), buatan Nvidia. GPU dirancang secepat kilat dalam
menampilkan visual video-game yang bergerak cepat ke layar. Namun penghitungan
yang dilakukan GPU dengan baik—mengalikan sejumlah besar angka—kebetulan
terlihat sangat mirip dengan penghitungan yang diperlukan untuk melatih
jaringan saraf.
Nvidia
sekarang menjadi perusahaan bernilai triliunan dolar. Pada saat itu mereka
sangat putus asa untuk menemukan aplikasi untuk perangkat keras barunya. “Saat
Anda menemukan teknologi baru, Anda harus menerima ide-ide gila,” kata CEO
Nvidia Jensen Huang. “Pikiran saya selalu mencari sesuatu yang unik, dan
gagasan bahwa jaringan saraf akan mengubah ilmu komputer—itu adalah gagasan
yang sangat unik.”
Huang
mengatakan bahwa Nvidia mengirimkan beberapa GPU kepada tim Toronto untuk
dicoba saat mereka mengerjakan AlexNet. Namun mereka menginginkan versi
terbaru, sebuah chip bernama GTX 580 yang dengan cepat terjual habis di
toko-toko. Menurut Huang, Sutskever berkendara melintasi perbatasan dari
Toronto ke New York untuk membeli beberapa. “Orang-orang mengantri di sudut
jalan,” kata Huang. “Saya tidak tahu bagaimana dia melakukannya—saya yakin Anda
hanya diperbolehkan membeli masing-masing satu; kami memiliki kebijakan yang
sangat ketat untuk satu GPU per gamer—tetapi tampaknya dia mengisi banyak
bagasi dengan GPU tersebut. Bagasi yang penuh dengan GTX 580 mengubah dunia.”
Itu
cerita yang hebat—mungkin saja tidak benar. Sutskever menegaskan dia membeli
GPU pertama tersebut secara online. Namun pembuatan mitos seperti itu adalah
hal yang lumrah dalam bisnis yang ramai ini. Sutskever sendiri lebih rendah
hati: “Saya pikir, jika saya bisa membuat sedikit kemajuan nyata, saya akan
menganggapnya sukses,” ujarnya. “Dampaknya di dunia nyata terasa sangat jauh
karena komputer masih sangat kecil pada saat itu.”
Setelah
kesuksesan AlexNet, Google datang mengetuk pintu. Ia mengakuisisi perusahaan
spin-off Hinton, DNNresearch, dan mempekerjakan Sutskever. Di Google Sutskever
menunjukkan bahwa kekuatan pengenalan pola pembelajaran mendalam dapat
diterapkan pada rangkaian data , seperti kata dan kalimat, serta gambar. “Ilya
selalu tertarik dengan bahasa,” kata mantan rekan Sutskever, Jeff Dean, yang
kini menjadi kepala ilmuwan Google: “Kami telah melakukan diskusi hebat selama
bertahun-tahun. Ilya memiliki intuisi yang kuat tentang ke mana arah segala
sesuatunya.”
Namun
Sutskever tidak bertahan lama di Google. Pada tahun 2014, ia direkrut untuk
menjadi salah satu pendiri OpenAI. Didukung oleh $1 miliar (dari Altman, Elon
Musk, Peter Thiel, Microsoft, Y Combinator, dan lainnya) ditambah sejumlah
besar kesombongan Silicon Valley, perusahaan baru ini sejak awal mulai
mengarahkan perhatiannya pada pengembangan AGI, sebuah prospek yang hanya
dianggap serius oleh sedikit orang. pada saat itu.
“Dengan Sutskever di dalamnya, otak di belakang dolar, kesombongan itu bisa dimengerti. Hingga saat itu, dia terus berkembang dan semakin memanfaatkan jaringan saraf. Reputasinya mendahuluinya, membuatnya menjadi sasaran besar” Dalton Caldwell, direktur pelaksana investasi di Y Combinator.
“Saya
ingat Sam Altman menyebut Ilya sebagai salah satu peneliti paling dihormati di
dunia,” kata Caldwell. “Dia mengira Ilya akan mampu menarik banyak talenta AI
terbaik. Dia bahkan menyebutkan bahwa Yoshua Bengio, salah satu pakar AI
terkemuka di dunia, percaya bahwa tidak mungkin menemukan kandidat yang lebih
baik daripada Ilya untuk menjadi ilmuwan utama OpenAI."
Namun
pada awalnya OpenAI gagal. “Ada suatu periode ketika kami memulai OpenAI ketika
saya tidak yakin bagaimana kemajuannya akan berlanjut,” kata Sutskever. “Tetapi
saya mempunyai satu keyakinan yang sangat jelas, yaitu: seseorang tidak
menentang pembelajaran mendalam. Entah bagaimana, setiap kali Anda menemui
hambatan, dalam waktu enam bulan atau satu tahun, para peneliti akan menemukan
jalan keluarnya.” Sutskever
OpenAI
mengumpulkan 100 juta pengguna dalam waktu kurang dari dua bulan, banyak dari
mereka terpesona oleh mainan baru yang menakjubkan ini. Aaron Levie, CEO
perusahaan penyimpanan Box, menyimpulkan suasana tersebut seminggu setelah
peluncuran dengan men-tweet: “ChatGPT adalah salah satu momen langka dalam
teknologi di mana Anda melihat sekilas bagaimana segala sesuatunya akan berbeda
di masa depan.”
Tim
Superalignment Open AI
Open AI
terus melakukan terobosan ilmiah dan teknis untuk mengarahkan dan mengendalikan
sistem AI yang jauh lebih pintar. Untuk mengatasi masalah tersebut, open AI membentuk
tim baru yang disebut sebagai Tim Superlighment, yang dipimpin oleh Ilya
Sutskever dan Jan Leike.
Superintelligence
akan menjadi teknologi paling berdampak yang pernah ditemukan umat manusia, dan
dapat membantu kita memecahkan banyak masalah paling penting di dunia. Namun
kekuatan superintelligence yang sangat besar juga bisa sangat berbahaya, dan dapat
menyebabkan melemahnya umat manusia atau bahkan kepunahan manusia.
Sasaran
Open AI adalah membangun peneliti penyelarasan otomatis yang kira-kira setara
dengan tingkat manusia. Sehingga perusahaan dapat menggunakan komputasi dalam
jumlah besar untuk meningkatkan upaya kami, dan menyelaraskan superintelligence
secara berulang.
Pada
akhirnya yang menjadi sasaran mereka adalah memecahkan tantangan teknis inti
penyelarasan superintelligence dalam empat tahun. Ilya Sutskever (salah satu
pendiri dan Kepala Ilmuwan OpenAI) telah menjadikan hal ini sebagai fokus
penelitian utamanya, dan akan memimpin tim bersama Jan Leike (Kepala
Alignment).
