Politisi dan kapitalis memiliki tradisi Jumat sore membuang banyak berita untuk menyembunyikan berita buruk di antara mereka. Jadi agak aneh bahwa Elon Musk, pendiri Tesla, produsen kendaraan listrik, dan Sam Altman, presiden inkubator teknologi terkenal Y Combinator, meluncurkan perusahaan bertema AI baru mereka pada akhir konferensi AI selama seminggu di Montreal Desember lalu.
Ada alasan untuk pengenalan OpenAI di jam-jam selarut itu. Bukan karena tidak ada yang menonton. Karena semua orang sedang menonton. Ketika beberapa perusahaan paling kuat di Silicon Valley merasakan angin bertiup, mereka mulai menawarkan sejumlah besar uang kepada bakat AI OpenAI yang baru dibesarkan untuk menjaga para jenius ini tetap di rumah. Pada menit terakhir, proposal - beberapa dibuat di konferensi itu sendiri - tumbuh begitu besar sehingga Musk dan Altman harus menunda pengumuman startup baru. “Jumlahnya mencapai ambang kegilaan,” kata Wojciech Zaremba, seorang ilmuwan yang bergabung dengan OpenAI setelah magang di Google dan Facebook dan termasuk di antara mereka yang menerima tawaran besar pada pukul 23:00.
Berapa dolar batas kegilaan? Dua tahun lalu, ketika pasar untuk teknologi pembelajaran mesin terbaru mulai memanas, VP Riset Microsoft Peter Lee mengatakan bahwa biaya peneliti AI top telah melebihi biaya gelandang teratas di National Football League - dan itu dalam keadaan normal, bukan ketika wirausahawan terbesar Silicon Valley sedang mencoba mencari bakat terbaik. Zaremba mengatakan bahwa ketika OpenAI berkumpul, ia ditawarkan dua hingga tiga kali lipat dari nilai pasarnya.
OpenAI tidak memenuhi saran ini. Tapi dia menawarkan sesuatu yang berbeda: kemampuan untuk melakukan penelitian yang berfokus secara eksklusif pada masa depan, bukan produk dan keuntungan kuartalan, dan pada akhirnya membagi sebagian besar - jika tidak semua - penelitian di antara siapa pun yang menginginkannya. Itu benar: Musk, Altman, dan perusahaan bersiap untuk memberikan apa yang bisa menjadi teknologi paling transformatif di abad ke-21 dan memberikannya secara gratis.
Zaremba mengatakan proposal yang berada di ambang kegilaan sebenarnya membuat dia mundur - meskipun perusahaan sangat menghormati Google dan Facebook. Dia merasa bahwa uang itu disalurkan untuk mencegah pembuatan OpenAI, yang semakin memperkuat komitmennya untuk memulai dengan murah hati. “Saya menyadari,” kata Zaremba, “bahwa OpenAI adalah tempat terbaik untuk saya.”
Apakah Anda merasakan ironi di inti cerita ini? Sementara perusahaan teknologi terbesar di dunia berusaha mempertahankan peneliti mereka sekeras tim NFL berusaha mempertahankan quarterback bintang mereka, para peneliti itu sendiri hanya ingin berbagi wawasan mereka. Dalam dunia penelitian AI yang canggih, orang-orang terpandai tidak hanya didorong oleh siklus produk atau keuntungan berikutnya, atau sama sekali tidak terobsesi dengan mereka. Mereka ingin membuat AI lebih baik, dan tidak mungkin membuat AI lebih baik jika Anda menyimpan perkembangan terbaru untuk diri Anda sendiri.
OpenAI baru-baru ini merilis perangkat lunak AI batch pertama, sebuah toolkit untuk membangun sistem kecerdasan buatan berdasarkan teknologi yang disebut pembelajaran penguatan, salah satu teknologi utama yang mengarah pada pembuatan AlphaGo, AI Google yang mengejutkan dunia dengan kemampuannya. pergi permainan. Dengan seperangkat alat ini, Anda dapat membangun sistem yang akan membuka robot generasi baru, memainkan game Atari, dan ya, mengalahkan juara dunia di Go.
Video promosi:
Tapi mainan hanyalah permulaan. OpenAI adalah misi miliaran dolar untuk mendorong AI sejauh mungkin. Dalam cara perusahaan berkumpul dan apa rencananya, Anda dapat melihat gelombang inovasi baru berikutnya. Kami belum tahu apakah OpenAI akan menjadi pendorong utama perubahan ini. Namun kekuatan di balik penciptaan startup yang agak tidak biasa ini menunjukkan bahwa generasi AI berikutnya tidak hanya akan mengubah teknologinya, tetapi juga cara kerjanya.
Kecerdasan buatan ada dimana-mana
Silicon Valley memiliki hasrat untuk melebih-lebihkan. Pernyataan yang terdengar berani harus selalu disambut dengan sebutir garam. Namun di bidang kecerdasan buatan, perubahan memang sedang terjadi. Di dalam perusahaan seperti Google dan Facebook, teknologi pembelajaran mendalam sudah membantu layanan Internet untuk mengidentifikasi wajah dalam foto, mengenali perintah suara di ponsel cerdas, dan menanggapi pencarian di Internet. Dan teknologi yang sama ini bisa menyelesaikan banyak masalah lain di masa depan. Ini dapat membantu mesin belajar memahami bahasa alami - yang biasa kita gunakan untuk berbicara dan menulis sebagai manusia. Ini dapat membantu mengembangkan generasi baru robot, memungkinkan automata tidak hanya melakukan tugas mereka, tetapi juga belajar dengan cepat. Dan beberapa percaya bahwa ini pada akhirnya akan memberi mesin sesuatu seperti akal sehat - kemampuan untuk berpikir benar-benar seperti manusia.
Dan seiring dengan janji seperti itu, lahirlah kecemasan yang mendalam. Musk dan Altman prihatin jika manusia dapat menciptakan AI yang melakukan hal-hal hebat, mereka dapat membangun AI yang melakukan hal-hal buruk. Mereka tidak sendirian dalam ketakutan mereka. Meskipun ini mungkin tampak berlawanan dengan intuisi, Musk dan Altman juga percaya bahwa cara terbaik untuk memerangi AI yang berbahaya bukanlah dengan membatasi akses ke kecerdasan buatan, tetapi memperluasnya. Aspirasi inilah yang mengarah ke tim idealis muda dan cerdas.
OpenAI muncul pada suatu malam musim panas lalu di sebuah kamar pribadi di Rosewood Hotel di Silicon Valley, sebuah hotel kota kelas atas yang secara harfiah berada di pusat dunia kapitalis ventura. Elon Musk makan siang dengan Ilya Sutskever, yang saat itu berada di Google Brain, sebuah perusahaan yang mengembangkan jaringan saraf dalam - sistem kecerdasan buatan yang dapat belajar melakukan tugas dengan menganalisis data digital dalam jumlah besar, termasuk mengenali foto dan menulis email, belajar dari korespondensi. Suckever adalah salah satu pengembang utama proyek tersebut.
Ilya Sutskever
Sam Altman, yang Y Combinatornya membantu membentuk perusahaan seperti Airbnb, Dropbox, dan Coinbase, menjadi perantara pertemuan tersebut, mempertemukan beberapa peneliti AI dan pembangun perusahaan muda namun berpengalaman Greg Brockman, sebelumnya Chief Technology Officer di start-up Stripe, perusahaan lain Y Kombinator. Itu adalah kelompok eklektik. Namun setiap orang memiliki tujuan: untuk membuat laboratorium AI jenis baru yang dapat bekerja di luar kendali tidak hanya Google, tetapi semua orang. “Hal terbaik yang bisa saya bayangkan sebagai tantangan,” kata Brockman, “adalah menggerakkan umat manusia untuk menciptakan AI sejati di sepanjang jalur yang aman.”
Musk ada di sana karena persahabatannya yang lama dengan Altman - dan karena AI sangat penting untuk masa depan berbagai usahanya, dan masa depan secara keseluruhan. Tesla membutuhkan AI jika ingin membuat mobil self-driving. SpaceX, perusahaan Musk lainnya, membutuhkan AI untuk membawa orang ke luar angkasa dan membuat mereka tetap aman dan sehat di sana. Tapi Musk juga salah satu yang pertama (dan paling keras) yang memperingatkan bahwa suatu hari umat manusia bisa kehilangan kendali atas sistem yang cukup kuat untuk belajar sendiri.
Ada masalah: banyak orang yang cukup terampil untuk menyelesaikan semua masalah ini telah bekerja di Google (serta Microsoft, Facebook, Baidu, dan Twitter). Dan tidak seorang pun pada jamuan makan malam itu yang benar-benar yakin bahwa para peneliti ini dapat terpikat untuk memulai bisnis baru, meskipun Musk dan Altman berada di belakangnya. Dan setidaknya satu pemain kunci siap meninggalkan kapal. "Saya mengerti risikonya," kata Suckever, "tapi saya juga tahu akan menarik untuk dicoba."
Putuskan lingkarannya
Didorong oleh percakapan dengan Musk, Altman, dan lainnya di Rosewood, Brockman segera memutuskan untuk membangun laboratorium yang mereka semua pikirkan. Dengan komitmen yang kuat pada proyek tersebut, dia membawa masuk Yoshua Bengio, seorang ilmuwan dari Universitas Montreal dan salah satu pendiri gerakan pembelajaran mendalam. Dua perintis industri lainnya - Jeff Hinton dan Jan Lecun - masing-masing bekerja di Google dan Facebook, tetapi Bengio bercita-cita untuk hidup di dunia akademis, di suatu tempat di luar jangkauan tentakel industri. Dia membuat sketsa daftar peneliti terbaik di lapangan dan selama beberapa minggu berikutnya Brockman menghubungi semua orang yang dia bisa, termasuk beberapa orang lain.
Banyak dari peneliti ini menyambut baik gagasan tersebut, tetapi waspada terhadap kemungkinan lompatan semacam itu. Dalam upaya untuk memutus lingkaran, Brockman memilih sepuluh penjelajah yang paling ingin dilihatnya dan mengundang mereka untuk menghabiskan hari Sabtu dengan anggur, makanan ringan, dan percakapan di gudang anggur Napa Valley. Bagi Brockman, bahkan perjalanan ke Napa menjadi katalisator untuk proyek tersebut. “Ini adalah cara yang diremehkan untuk menyatukan orang, terutama pada saat Anda tidak punya tempat untuk terburu-buru untuk mencapai tujuan Anda,” katanya. "Kamu perlu pergi ke sana, tapi kamu juga perlu bicara." Dan ketika mereka mendapatkan anggur, suasana itu tetap ada. Seperti yang dikatakan Suckever, "anggur adalah nomor dua dalam percakapan."
Greg Brockman
Di penghujung hari, Brockman mengundang kesepuluh peneliti untuk bergabung dengan lab dan memberi mereka waktu tiga minggu untuk berpikir. Di akhir masa tugas, sembilan orang memegang komando. Dan mereka tetap di dalamnya, meskipun ada tawaran besar dari raksasa Silicon Valley. “Saya mendapat tawaran yang sangat menarik untuk tinggal, jadi keputusan itu tidak mudah,” kata Sutskever tentang Google, mantan perusahaannya. "Akhirnya, saya memutuskan untuk pergi ke OpenAI, sebagian karena kelompok orang yang sangat kuat dan, tentu saja, sebagian besar karena misi mereka."
Gerakan pembelajaran mendalam dimulai di dunia akademis. Baru-baru ini perusahaan seperti Google, Microsoft, dan Facebook memutuskan untuk menangani area ini, karena kemajuan dalam kekuatan komputasi yang brutal telah membuat jaringan saraf yang dalam ini menjadi kenyataan, bukan hanya kemungkinan teoretis. Orang-orang seperti Hinton dan LeCune telah meninggalkan dunia akademis di Google dan Facebook karena sumber daya yang besar di perusahaan-perusahaan ini. Tetapi tetap terkait erat dalam kolaborasi dengan ahli teori lain di bidangnya. Namun, seperti yang dijelaskan LeCun, penelitian pembelajaran mendalam membutuhkan aliran ide yang bebas. "Ketika Anda melakukan penelitian secara rahasia," katanya, "Anda mundur."
Akibatnya, perusahaan besar sekarang memiliki banyak penelitian AI mereka. Ini adalah kartu truf utama, terutama bagi Google, yang telah lama merahasiakan teknologi kerajaan online-nya. Belum lama berselang, Google membuka kode sumber untuk mesin perangkat lunak yang menjalankan jaringan sarafnya. Tapi banyak yang tetap terkunci dalam perlombaan ini untuk masa depan. Brockman, Altman, dan Musk berusaha untuk mendorong gagasan keterbukaan lebih jauh dengan mengatakan mereka tidak ingin satu atau dua perusahaan besar mengontrol masa depan kecerdasan buatan.
Batasan keterbukaan
Semuanya terdengar bagus. Tetapi untuk semua idealisme OpenAI, peneliti mungkin menemukan diri mereka dalam kondisi yang sama yang memaksa mereka untuk bekerja pada pekerjaan lama. Keterbukaan ada batasnya. Dan visi jangka panjang AI bukanlah satu-satunya minat dalam game ini. OpenAI tidak melakukan pekerjaan amal. Perusahaan Musk akan mendapat banyak keuntungan dari pekerjaan startup, dan begitu juga dengan Y Combinator Altman. “Pasti ada beberapa poin yang bersaing,” kata Lecun. - Ini adalah organisasi nirlaba, tetapi memiliki hubungan dekat dengan Y Combinator. Dan orang akan dibayar untuk bekerja di industri ini."
Lab tersebut tidak membayar gaji astronomis yang sama dengan yang diberikan Google dan Facebook kepada para peneliti AI, kata Brockman. Tapi dia juga mengatakan lab "ingin membayar mereka dengan baik," dan menawarkan kompensasi dalam bentuk opsi saham, pertama di Y Combinator dan kemudian mungkin di SpaceX (yang, tidak seperti Tesla, adalah perusahaan swasta).
Meskipun demikian, Brockman menegaskan bahwa OpenAI tidak memberikan perlakuan khusus terhadap perusahaan terkait. OpenAI adalah inisiatif penelitian, bukan perusahaan konsultan. Namun idealisme OpenAI memiliki keterbatasan. Perusahaan tidak boleh membuka kode untuk semua yang diproduksinya, meskipun tujuan akhirnya tetap mendistribusikan sebagian besar, apakah itu makalah ilmiah atau layanan Internet. “Pembukaan belum tentu merupakan pilihan terbaik. Anda perlu mengembangkan ide, melihat ke mana arahnya, dan kemudian mempublikasikannya, kata Brockman. - Kami akan memproduksi banyak kode sumber terbuka. Tapi kami juga akan memiliki banyak hal yang belum siap untuk dirilis."
Suzkever juga menambahkan bahwa OpenAI dapat mematenkan beberapa karyanya. “Kami tidak akan mematenkan apa pun dalam waktu dekat,” kata Brockman. "Tapi kami siap mengubah taktik dalam jangka panjang, jika kami pikir itu akan lebih baik bagi dunia." Misalnya, OpenAI dapat melakukan paten proaktif untuk mencegah orang lain mendapatkan paten.
Beberapa orang mungkin melihat paten sebagai motif untuk mendapatkan keuntungan. Tapi itulah inti dari paten.
Masalah superintelligence
Ketika Musk dan Altman mempresentasikan OpenAI, mereka juga menguraikan proyek tersebut sebagai cara untuk menetralkan ancaman superintelligence yang jahat. Tentu saja, superintelligence seperti itu dapat dihasilkan dari kerja OpenAI, tetapi mereka bersikeras bahwa setiap ancaman akan dikurangi dengan membuat teknologi tersedia untuk semua orang. "Kami pikir kemungkinan besar banyak AI dapat menghentikan aktor jahat secara acak," kata Altman.
Tetapi tidak semua orang di bidang ini percaya pada hasil seperti itu. Nick Bostrom, seorang filsuf Oxford yang, seperti Musk, memperingatkan tentang bahaya AI, menunjukkan bahwa jika Anda membagikan penelitian Anda tanpa batasan, "aktor jahat" dapat menangkap mereka sebelum semua orang yakin bahwa mereka aman. "Jika Anda memiliki tombol yang membuat dunia ini menyebalkan," kata Bostrom, "Anda mungkin tidak ingin memberi semua orang akses ke sana." Sebaliknya, jika OpenAI memutuskan untuk menahan penelitian untuk mencegah orang jahat mengaksesnya, Bostrom bertanya: apa bedanya dengan Google atau Facebook?
Dia mengatakan ya, status nirlaba OpenAI mungkin atau mungkin tidak mengubah banyak hal. Kekuatan sebenarnya dari proyek ini, katanya, adalah dapat diverifikasi oleh Google dan Facebook. “Ini akan bisa mengurangi kemungkinan superintelligence akan dimonopoli. Ini akan dapat menghapus salah satu kemungkinan alasan mengapa beberapa individu atau kelompok akan memiliki akses ke AI yang lebih baik daripada orang lain."
Dalam karyanya baru-baru ini, filsuf menjelaskan bahwa efek utama dari inisiatif seperti OpenAI - sebuah inisiatif untuk secara bebas membagikan apa yang telah dilakukan - adalah untuk mempercepat kemajuan kecerdasan buatan, setidaknya dalam jangka pendek. Dan itu dapat mempercepat kemajuan dalam jangka panjang, asalkan tingkat transparansi yang lebih tinggi dipertahankan daripada optimal secara komersial.
"Mungkin investor R&D yang bermotivasi filantropis dapat secara serius mempercepat kemajuan dengan menerapkan kebijakan sains terbuka," katanya.
Bagaimana Xerox PARC
Pada awal Januari, sembilan peneliti Brockman berkumpul di apartemennya di San Francisco. Proyek ini sangat baru sehingga mereka bahkan tidak memiliki papan tulis. (Bayangkan.) Mereka membeli beberapa pada hari yang sama dan mulai bekerja.
Brockman mengatakan OpenAI akan mulai dengan mengeksplorasi pembelajaran penguatan, cara berbasis mesin untuk mempelajari masalah dengan mengulanginya berulang kali, melacak metode mana yang menghasilkan hasil terbaik. Tantangan besar lainnya adalah apa yang disebut "pembelajaran tanpa pengawasan" - penciptaan mesin yang benar-benar dapat belajar sendiri tanpa bantuan manusia. Saat ini, pembelajaran mendalam bergantung pada data yang diberi label dengan cermat. Jika Anda ingin mengajari jaringan saraf untuk mengenali foto kucing, Anda perlu memberinya sejumlah contoh - dan contoh ini harus diberi label sebagai foto dengan kucing. Pelatihan semacam itu dilakukan dengan bantuan orang-orang. Tetapi seperti banyak ilmuwan lainnya, OpenAI berencana membangun jaringan saraf yang dapat belajar tanpa pemilihan data yang cermat.
“Jika Anda memiliki metodologi pengajaran yang sangat bagus tanpa guru, mesin dapat belajar dari semua pengetahuan di Internet - seperti manusia, hanya melihat-lihat - atau dengan membaca buku,” kata Brockman.
Dia melihat OpenAI sebagai inkarnasi modern dari Xerox PARC, sebuah laboratorium penelitian teknologi yang ada pada tahun 1970-an. Sama seperti penelitian terbuka dan gratis PARC telah memunculkan segalanya mulai dari antarmuka pengguna grafis dan pencetakan laser hingga pemrograman berorientasi objek, Brockman dan timnya ingin menyelami apa yang dulunya fiksi ilmiah. PARC dimiliki oleh Xerox, tetapi ditangani oleh banyak perusahaan lain, termasuk Apple, karena orang-orang seperti Steve Jobs menyambut baik penelitiannya. Brockman ingin semua orang menyambut penelitian OpenAI.
Dengan harapan dapat mendorong dinamika ini, Brockman dan perusahaan merekrut beberapa peneliti terkenal lainnya, termasuk Ian Goodfellow, ilmuwan peneliti senior lainnya di tim Google Brain. Brockman mengatakan PARC pada dasarnya mengumpulkan sekelompok orang pintar dan memutuskan untuk melihat apa yang terjadi. "Anda membutuhkan visi bersama tanpa kendali pusat."
Kurangnya kendali sangat penting untuk cita-cita. Jika Anda membawa cukup banyak orang ke dalam tujuan kolektif, hasil akhirnya akan memenangkan apa pun yang Anda masak secara diam-diam. Tetapi jika AI menjadi sekuat yang dijanjikan, persamaannya akan berubah. Kami membutuhkan jaminan bahwa AI yang baru ditemukan akan mematuhi cita-cita egaliter yang sama yang mengarah pada penciptaannya. Musk, Altman, dan Brockman percaya pada orang, di kerumunan. Dan jika mereka ternyata benar, suatu hari kerumunan ini tidak akan sepenuhnya manusia.
ILYA KHEL
