Suatu malam di bulan Agustus 2010, seorang warga London berusia 34 tahun bernama Demis Hassabis naik ke panggung di sebuah ruang konferensi di San Francisco Bay Area. Menaiki podium dengan gaya berjalan pura-pura seorang pria yang mencoba mengendalikan sarafnya, dia mengatupkan bibirnya dengan senyuman singkat dan berkata: "Baiklah, hari ini saya ingin berbicara tentang pendekatan yang berbeda untuk penciptaan …". Dia berhenti, seolah menyadari betapa kerasnya dia menyatakan ambisinya. Dan dia mengatakannya: "AGI".
AGI adalah singkatan dari General Artificial Intelligence, sebuah program komputer hipotetis yang dapat melakukan tugas intelektual sebaik manusia, atau bahkan lebih baik. AGI akan dapat melakukan tugas tertentu, seperti mengenali orang dalam foto atau menerjemahkan bahasa, yang saat ini mampu melakukan banyak kecerdasan buatan terpisah di telepon dan komputer kita. Mereka akan dapat bercakap-cakap, bermain catur, dan berbicara bahasa Prancis pada saat yang bersamaan. Mereka akan dapat memahami buku fisika, menulis novel, mengembangkan strategi investasi, dan mempertahankan percakapan santai dengan orang asing. Mereka akan memantau reaksi nuklir, mengelola jaringan listrik dan lalu lintas, dan dengan mudah berhasil dalam segala hal. AGI akan membuat AI tercanggih saat ini terlihat seperti kalkulator saku.
Satu-satunya kecerdasan yang saat ini mampu melakukan semua tugas ini adalah milik manusia. Tetapi pikiran manusia dibatasi oleh ukuran tengkorak yang menampung otak. Kekuatannya dibatasi oleh sejumlah kecil energi yang dapat disediakan oleh tubuh. Karena AGI akan berjalan di komputer, AGI tidak akan mengalami keterbatasan ini. Kecerdasannya hanya akan dibatasi oleh jumlah prosesor yang tersedia. AGI dapat memulai dengan memantau reaksi nuklir. Tapi tak lama kemudian dia akan menemukan sumber energi baru, mencerna lebih banyak pekerjaan fisika per detik daripada yang bisa dilakukan seseorang dalam seribu tahun. Kecerdasan tingkat manusia, yang didukung oleh kecepatan dan skalabilitas komputer, akan menyelamatkan kita dari masalah. Hassabis mengatakan kepada surat kabar Inggris Observer bahwa dia mengharapkan AGI untuk mengatasi, di antara disiplin ilmu lainnya, masalah seperti “kanker,perubahan iklim, energi, genomik, ekonomi makro dan sistem keuangan."
Konferensi di mana Hassabis berbicara disebut Singularity Summit. Singularitas - bagian pertama dari nama - mengacu pada konsekuensi yang paling mungkin timbul dari munculnya AGI, menurut ahli futurologi. Karena AGI akan memproses informasi dengan kecepatan tinggi, AGI akan menjadi sangat cerdas dengan sangat cepat. Siklus peningkatan diri yang cepat akan menyebabkan ledakan kecerdasan mesin, membuat orang mengendus debu silikon. Karena masa depan ini hanya didasarkan pada asumsi yang belum diverifikasi, hampir secara religius diasumsikan bahwa Singularitas akan berubah menjadi utopia atau neraka.
Dilihat dari judul pidatonya, peserta konferensi lebih percaya pada hasil pertama: “Pikiran dan bagaimana membangunnya”, “AI melawan penuaan”, “Mengganti tubuh kita”, “Memodifikasi batas antara hidup dan mati”. Pidato Hassabis, di sisi lain, tampak membosankan: "Pendekatan ilmu saraf sistemik untuk menciptakan AGI."
Hassabis mondar-mandir di antara podium dan layar, berbicara dengan derai. Dia mengenakan jumper merah anggur dan kemeja berkancing putih seperti anak sekolah. Perawakannya yang kecil sepertinya hanya menekankan kecerdasannya. Hingga saat ini, Hassabis menjelaskan, para ilmuwan telah melakukan pendekatan terhadap AGI dari dua sisi. Salah satu pendekatan, yang dikenal sebagai AI simbolik, mencoba mendeskripsikan dan memprogram semua aturan yang diperlukan untuk sistem yang dapat berpikir seperti manusia. Pendekatan ini populer pada 1980-an dan 1990-an, tetapi tidak membuahkan hasil yang diinginkan. Hassabis percaya bahwa arsitektur mental otak terlalu halus untuk dijelaskan dengan cara ini.
Pendekatan lain telah mempertemukan para ilmuwan yang mencoba mereplikasi jaringan fisik otak secara digital. Itu masuk akal. Bagaimanapun, otak adalah tempat tidur kecerdasan manusia. Tetapi para peneliti itu juga berada di jalur yang salah, kata Hassabis. Tugas mereka mirip dengan membuat peta semua bintang di alam semesta. Lebih dalam lagi, mereka berfokus pada tingkat fungsi otak yang salah. Rasanya seperti mencoba mencari tahu bagaimana Microsoft Excel bekerja dengan meretas komputer dan mempelajari bagaimana transistor berinteraksi.
Sebaliknya, Hassabis menawarkan jalan tengah: AGI harus menarik inspirasi dari cara-cara luas di mana otak memproses informasi, daripada dari sistem fisik atau aturan khusus yang diterapkan dalam situasi tertentu. Dengan kata lain, dia harus fokus untuk memahami perangkat lunak otak, bukan perangkat kerasnya. Teknik baru, seperti pencitraan resonansi magnetik fungsional (fMRI), yang memungkinkan wawasan ke dalam otak saat bekerja, mengisyaratkan bahwa pemahaman seperti itu mungkin dilakukan. Studi terbaru, kata Hassabis, menunjukkan bahwa otak belajar dengan mengulang pengalamannya selama tidur untuk mengungkapkan prinsip-prinsip umum. Peneliti AI harus meniru sistem seperti itu.
Video promosi:
Di pojok kanan bawah slide pembuka, logo berbentuk pusaran biru bulat memamerkan. Dua kata di sebelahnya dicetak di bawah ini: DeepMind. Ini adalah pertama kalinya perusahaan disebutkan secara terbuka. Hassabis menghabiskan lebih dari satu tahun mencoba mendapatkan undangan ke Singularity Summit. Ceramah itu adalah sampulnya. Faktanya, dia membutuhkan satu menit dengan Peter Thiel, miliarder Silicon Valley yang mendanai konferensi tersebut. Hassabis menginginkan investasi Thiel.
Hassabis tidak pernah berbicara tentang mengapa dia membutuhkan dukungan Thiel. Tapi Thiel lebih percaya pada AGI daripada Hassabis. Berbicara di Singularity Summit tahun 2009, Thiel mengatakan ketakutan terbesarnya terhadap masa depan bukanlah pemberontakan robot. Dia lebih khawatir bahwa Singularity tidak akan segera hadir. Dunia membutuhkan teknologi baru untuk mencegah kemerosotan ekonomi.
DeepMind akhirnya mengumpulkan £ 2 juta, dimana Thiel 1,4 juta. Saat Google membeli perusahaan itu pada Januari 2014 seharga $ 600 juta, Thiel dan investor awal lainnya memperoleh laba atas investasi 5.000%.
Bagi banyak pendiri, ini akan menjadi akhir yang membahagiakan. Seseorang dapat beristirahat, mundur selangkah, menghabiskan waktu sendirian dengan uang. Bagi Hassabis, akuisisi Google hanyalah salah satu langkah dalam usahanya mencari AGI. Dia menghabiskan sebagian besar tahun 2013 untuk menegosiasikan persyaratan kesepakatan. DeepMind harus beroperasi secara terpisah dari pemiliknya. Dia perlu mendapatkan manfaat memiliki Google, seperti akses ke arus kas dan daya komputasi, tanpa kehilangan kendali.
Hassabis mengira DeepMind bisa menjadi hibrida, dengan mesin startup, otak dari universitas terbesar, dan kantong dalam dari salah satu perusahaan paling berharga di dunia. Setiap bahan telah disiapkan untuk mempercepat kedatangan AGI dan menghilangkan penyebab penderitaan manusia.
Hu dari Tuan Hassabis
Demis Hassabis lahir di London Utara pada tahun 1976 dari keluarga Siprus Yunani dan Tionghoa kelahiran Singapura. Dia adalah anak tertua dari tiga bersaudara. Ibunya bekerja di department store Inggris John Lewis, dan ayahnya mengelola toko mainan. Hassabis sendiri belajar catur pada usia empat tahun, mengamati ayah dan pamannya bermain. Dalam beberapa minggu dia sudah memukuli orang dewasa. Pada usia 13 tahun, ia menjadi pemain catur terbaik kedua di dunia seusianya. Pada usia delapan tahun dia belajar membuat program di komputer sederhana.
Hassabis menerima pendidikan tingginya pada tahun 1992, dua tahun lebih cepat dari jadwal. Mendapat pekerjaan sebagai programmer video game di Bullfrog Productions. Hassabis menulis Taman Hiburan, di mana pemain membuat dan mengelola taman hiburan virtual. Gim ini sukses besar dan terjual 15 juta kopi, menciptakan seluruh genre gim simulasi di mana tujuannya bukan untuk mengalahkan musuh, tetapi untuk mengoptimalkan fungsi sistem kompleks yang besar, seperti bisnis atau kota.
Selain membuat game, Demis juga memainkannya dengan baik. Sebagai seorang remaja, ia berlari di antara lantai dalam kompetisi permainan papan, saat berkompetisi dalam duel catur, scrabble, poker, dan backgammon. Pada tahun 1995, saat belajar ilmu komputer di Universitas Cambridge, Hassabis berkompetisi di turnamen pelajar pergi. Go adalah permainan papan strategi kuno yang jauh lebih sulit daripada catur. Penguasaan harus membutuhkan intuisi yang diperoleh selama bertahun-tahun pengalaman. Tidak ada yang tahu jika Hassabis pernah memainkan Go sebelumnya.
Pertama, Hassabis memenangkan turnamen pemula. Dia kemudian mengalahkan pemenang dari para pemain berpengalaman, meskipun dengan sebuah cacat. Charles Matthews, go master Cambridge yang menjadi tuan rumah turnamen, ingat keterkejutannya dihancurkan oleh seorang pemula berusia 19 tahun. Matthews mengambil alih Hassabis.
Kecerdasan dan ambisi Hassabis selalu terbukti dalam permainan. Game, pada gilirannya, menghidupkan kembali hasratnya pada kecerdasan. Ketika dia melihat perkembangannya dalam catur, dia bertanya-tanya apakah komputer dapat diprogram untuk belajar dengan cara yang sama seperti dia mendapatkan pengalaman. Game menawarkan lingkungan belajar yang tidak tertandingi oleh dunia nyata. Mereka ketat dan tertutup. Karena permainan terpisah dari dunia nyata, permainan dapat dipraktekkan tanpa gangguan dan dipelajari secara efektif. Game mempercepat waktu: pemain membuat sindikat kejahatan dalam beberapa hari dan bertarung di Somme selama beberapa menit.
Pada musim panas 1997, Hassabis melakukan perjalanan ke Jepang. Pada bulan Mei tahun itu, komputer IBM Deep Blue mengalahkan Garry Kasparov, juara catur dunia. Untuk pertama kalinya, komputer mengalahkan seorang grandmaster. Pertandingan tersebut menarik perhatian dunia dan meningkatkan keprihatinan tentang kekuatan yang berkembang dan potensi ancaman komputer. Ketika Hassabis bertemu Masahiko Futszuvera, seorang master permainan papan Jepang, dia berbicara tentang rencana yang akan menggabungkan minatnya dalam permainan strategi dan kecerdasan buatan: suatu hari dia akan mengembangkan program komputer untuk mengalahkan pemain go terhebat.
Hassabis mendekati karirnya secara metodis. "Pada usia 20 tahun, Hassabis percaya bahwa hal-hal tertentu harus ada sebelum kecerdasan buatan dapat mencapai tingkat yang diperlukan," kata Matthews. "Dia punya rencana."
Pada tahun 1998, ia mendirikan studio gimnya sendiri bernama Elixir. Hassabis berfokus pada satu permainan yang sangat ambisius, Republic: The Revolution, simulasi politik yang kompleks. Beberapa tahun sebelumnya, saat masih bersekolah, Hassabis telah memberi tahu temannya Mustafa Suleiman bahwa dunia membutuhkan simulasi yang megah untuk memodelkan dinamika yang kompleks dan memecahkan masalah sosial yang paling kompleks. Sekarang dia mencoba melakukannya di dalam game.
Lebih sulit untuk mengkodekan aspirasinya dari yang diharapkan. Elixir akhirnya merilis versi permainan yang dipreteli untuk mendapatkan ulasan hangat. Permainan lain gagal. Pada April 2005, Hassabis menutup Elixir. Matthews percaya bahwa Hassabis mendirikan perusahaan hanya untuk mendapatkan pengalaman manajemen. Hassabis sekarang hanya kekurangan satu bidang keahlian yang penting sebelum dia dapat memulai pencariannya untuk menemukan AGI. Dia harus memahami otak manusia.
Pada tahun 2005, Hassabis menerima gelar PhD di bidang ilmu saraf dari University College London. Dia menerbitkan studi yang sangat berpengaruh tentang ingatan dan imajinasi. Satu studi, yang telah dikutip lebih dari 1.000 kali, menunjukkan bahwa penderita amnesia juga merasa sulit untuk membayangkan pengalaman baru, yang menunjukkan hubungan antara menghafal dan pencitraan mental. Hassabis membangun pemahaman tentang otak yang dibutuhkan untuk menguasai AGI. Sebagian besar karyanya bermuara pada satu pertanyaan: Bagaimana otak manusia menerima dan mempertahankan konsep dan pengetahuan?
Hassabis secara resmi mendirikan DeepMind pada 15 November 2010. Pernyataan misi perusahaan sama seperti sekarang: "selesaikan kecerdasan" dan gunakan itu untuk menyelesaikan yang lainnya. Seperti yang dikatakan Hassabis pada Singularity Summit, ini berarti menerjemahkan pemahaman kita tentang bagaimana otak melakukan tugas menjadi perangkat lunak yang dapat menggunakan metode yang sama untuk mengajar.
Hassabis sama sekali tidak mengklaim bahwa sains telah sepenuhnya memahami pikiran manusia. Rencana penerapan AGI tidak mungkin dipelajari dari ratusan studi ilmu saraf. Namun dia yakin bahwa sangat mungkin untuk mulai mengerjakan AGI dengan cara yang menarik baginya. Namun, mungkin juga kepercayaan dirinya mengalahkan kenyataan. Kita masih sangat sedikit mengetahui secara pasti tentang bagaimana sebenarnya otak berfungsi. Pada 2018, tim peneliti Australia mempertanyakan temuan Hassabis sendiri. Tentu saja, ini hanya satu dokumen, tetapi ini menunjukkan bahwa sains di balik karya DeepMind masih jauh dari terbukti.
Suleiman dan Shane Legg, seorang Selandia Baru yang terobsesi dengan AGI yang juga ditemui Hassabis di universitas, bergabung sebagai salah satu pendiri. Reputasi perusahaan berkembang pesat. Hassabis berkembang pesat. "Ini menarik seperti magnet," kata Ben Faulkner, mantan eksekutif Deep Mind. Banyak rekrutan datang dari Eropa. Mungkin pencapaian terbesar DeepMind adalah secara aktif merekrut orang-orang berbakat sejak awal dan mempertahankan yang paling cerdas dan terbaik dari mereka.
Salah satu teknik pembelajaran mesin yang menjadi fokus perusahaan tumbuh dari hasrat ganda Hassabis untuk game dan ilmu saraf: pembelajaran penguatan. Program semacam itu dirancang untuk mengumpulkan informasi tentang lingkungan dan kemudian mempelajarinya, mereproduksi pengalamannya berulang kali - seperti yang dijelaskan Hassabis tentang aktivitas otak saat tidur dalam ceramahnya di Singularity Summit.
Pembelajaran penguatan dimulai dengan papan tulis yang bersih. Program diperlihatkan sebuah lingkungan virtual yang tidak diketahui apa-apa kecuali aturannya, seperti simulator catur atau permainan video. Program berisi setidaknya satu komponen yang dikenal sebagai jaringan saraf. Ini terdiri dari lapisan struktur komputasi yang menyaring informasi untuk mengidentifikasi fitur atau strategi tertentu. Setiap lapisan menjelajahi lingkungan pada tingkat abstraksinya sendiri. Pada awalnya jaringan ini memiliki sedikit keberhasilan, tetapi kesalahannya - dan ini penting - juga dikodekan di dalamnya. Secara bertahap, mereka menjadi lebih pintar dan lebih pintar, bereksperimen dengan berbagai strategi dan menerima hadiah jika mereka berhasil. Jika program memindahkan bidak catur dan, akibatnya, kalah, ia tidak akan membuat kesalahan seperti itu lagi. Sebagian besar keajaiban kecerdasan buatan terletak pada kecepatan pengulangan tugas ini.
Pekerjaan DeepMind mencapai puncaknya pada tahun 2016 ketika tim mengembangkan program kecerdasan buatan yang menggunakan pembelajaran penguatan bersama dengan metode bermain go lainnya. Program, yang disebut AlphaGo, mengangkat alis setelah mengalahkan juara dunia dalam pertandingan lima pertandingan di Seoul pada 2016. Kemenangan mesin yang disaksikan 280 juta orang itu terjadi sepuluh tahun lebih awal dari perkiraan mesin. Tahun berikutnya, versi peningkatan dari AlphaGo mengalahkan juara Chinese Go.
Seperti Deep Blue pada tahun 1997, AlphaGo mengubah persepsi pencapaian manusia. Juara manusia, pikiran brilian planet ini, tidak lagi berdiri di puncak piramida intelektual. Hampir 20 tahun setelah Hassabis mengumumkan ambisinya kepada Fuzuvere, dia memenuhinya. Hassabis mengatakan bahwa pertandingan ini membuatnya menangis. Dia berterima kasih kepada Matthews.
DeepBlue menang berkat kekuatan kasar dan kecepatan komputasi, tetapi gaya AlphaGo terasa artistik, hampir seperti manusia. Keanggunan dan kecanggihannya, daya komputasi yang superior, seolah menunjukkan bahwa DeepMind unggul dalam persaingan dalam menciptakan program yang dapat menyembuhkan penyakit dan mengelola kota.
DeepMind dan kecerdasan buatan
Hassabis selalu mengatakan bahwa DeepMind akan mengubah dunia menjadi lebih baik. Namun belum ada kepastian tentang AGI. Jika dia pernah muncul, kita tidak tahu apakah itu akan menjadi lebih baik atau lebih buruk, apakah dia akan tunduk pada kendali manusia. Jika ya, siapa yang akan memegang kendali?
Sejak awal, Hassabis mencoba mempertahankan kemerdekaan DeepMind. Dia selalu bersikeras bahwa DeepMind tetap di London. Ketika Google membeli perusahaan tersebut pada tahun 2014, masalah kontrol menjadi lebih mendesak. Hassabis tidak perlu menjual DeepMind ke Google. Dengan cukup uang tunai di tangan, dia membuat sketsa model bisnis di mana perusahaan akan mengembangkan game untuk mendanai penelitian. Mereka menjanjikan banyak uang di Google, tetapi dia tidak ingin mentransfer perusahaan yang dia besarkan. Sebagai bagian dari kesepakatan tersebut, DeepMind membuat perjanjian yang akan mencegah Google secara sepihak mengambil kendali atas kekayaan intelektual perusahaan. Pada tahun menjelang akuisisi, sumber mengatakan kedua belah pihak menandatangani perjanjian - Perjanjian Etika dan Keselamatan. Perjanjian ini dirancang oleh pengacara senior di London.
Perjanjian tersebut mengalihkan kendali teknologi inti AGI DeepMind, jika ada, ke Dewan Pengatur Etika. Menurut sumber yang sama, Dewan Etik sama sekali bukan merupakan konsesi kosmetik dari Google, melainkan memberikan dukungan hukum yang kuat kepada DeepMind untuk mempertahankan kendali atas teknologinya yang paling berharga dan berpotensi paling berbahaya. Nama-nama komisaris belum dirilis, tetapi sumber lain yang dekat dengan DeepMind dan Google mengatakan bahwa ketiga pendiri DeepMind ada di dewan. Perusahaan sendiri tidak mengungkapkan apapun.
Hassabis dapat menentukan nasib DeepMind dengan cara lain. Salah satunya adalah pengabdian. Karyawan, mantan dan saat ini, mengatakan program penelitian Hassabis adalah salah satu kekuatan terbesar DeepMind. Programnya, yang menawarkan pekerjaan menarik dan penting tanpa tekanan dari akademisi, telah menarik ratusan pakar paling berbakat di dunia. DeepMind memiliki kantor cabang di Paris dan Albert. Banyak karyawan merasa lebih terhubung dengan Hassabis dan misinya daripada dengan perusahaan induknya, yang hanya menginginkan penghasilan. Selama Hassabis mempertahankan loyalitas pribadinya, dia memiliki kekuasaan yang besar atas pemegang saham tunggalnya. Lebih baik membiarkan bakat bekerja untuk DeepMind dari jarak jauh daripada berakhir di Facebook atau Apple.
DeepMind memiliki sumber daya pengungkit lain, meskipun membutuhkan pengisian ulang yang konstan: halo yang menguntungkan. Perusahaan telah berhasil dalam hal ini. AlphaGo adalah iklan yang bagus. Sejak akuisisi Google, perusahaan tersebut telah berulang kali menghasilkan keajaiban yang telah menarik perhatian dunia. Salah satu contoh perangkat lunak dapat mendeteksi pola pemindaian mata yang merupakan indikator degenerasi makula. Program lain belajar bermain catur dari awal, menggunakan arsitektur yang mirip dengan AlphaGo, dan menjadi pemain terhebat sepanjang masa hanya setelah sembilan jam bermain dengan dirinya sendiri. Pada Desember 2018, AlphaFold terbukti lebih akurat dibandingkan pesaing dalam memprediksi struktur tiga dimensi protein dari daftar senyawa yang berpotensi dapat mengobati penyakit seperti Parkinson dan Alzheimer.
DeepMind sangat bangga dengan algoritme yang telah dikembangkannya yang menghitung solusi pendinginan paling efisien untuk pusat data Google, yang berisi sekitar 2,5 juta server komputer. Pada 2016, DeepMind mengatakan telah memotong tagihan listrik Google hingga 40%. Tetapi beberapa orang dalam mengatakan bahwa sombong ini berlebihan. Google telah menggunakan algoritme untuk mengoptimalkan pusat datanya jauh sebelum DeepMind hadir. Diyakini bahwa DeepMind melebih-lebihkan manfaatnya untuk mendapatkan nilai di mata Alphabet. Perusahaan induk Google, Alphabet, membayar DeepMind untuk layanan serupa. Pada 2017, yang terakhir mengeluarkan faktur ke Alphabet sebesar £ 54 juta. Angka-angka ini pucat dibandingkan dengan overhead DeepMind. Pada tahun yang sama, dia menghabiskan £ 200 juta untuk staf. Umumnya,pada 2017, DeepMind kehilangan 282 juta pound.
Itu satu sen untuk raksasa kaya. Tetapi anak perusahaan Alphabet lainnya menarik perhatian Ruth Porat, CFO pelit Alphabet. Google Fiber, sebuah upaya untuk membangun penyedia layanan Internet, ditunda setelah jelas bahwa investasi tersebut membutuhkan waktu puluhan tahun untuk melunasi. Peneliti AI juga bertanya-tanya apakah DeepMind akan gagal.
Pengungkapan progresif kemajuan DeepMind dalam AI adalah bagian dari strategi yang secara bertahap membangun reputasi perusahaan. Ini sangat berharga pada saat Google dituduh melanggar privasi pengguna dan menyebarkan berita palsu. DeepMind juga cukup beruntung memiliki pendukung di level tertinggi: Larry Page, salah satu dari dua pendiri Google, sekarang menjadi CEO Alphabet. Paige sangat dekat dengan Hassabis. Ayah Page, Karl, mempelajari jaringan saraf pada 1960-an. Di awal karirnya, Page mengatakan bahwa dia menciptakan Google hanya untuk mendirikan perusahaan AI.
Pengendalian pers DeepMind tidak sejalan dengan semangat akademis yang merasuki perusahaan. Beberapa sarjana mengeluh bahwa mereka sulit untuk mempublikasikan pekerjaan mereka: mereka harus melewati lapisan persetujuan internal bahkan sebelum mereka dapat mengirimkan makalah ke konferensi atau jurnal. DeepMind percaya perlu untuk melanjutkan dengan hati-hati agar tidak menakut-nakuti publik dengan prospek AGI. Namun tuduhan yang terlalu kasar dapat merusak suasana akademik dan melemahkan loyalitas karyawan.
Lima tahun setelah akuisisi Google, pertanyaan tentang siapa yang mengontrol DeepMind menjadi kritis. Para pendiri dan karyawan awal perusahaan mendekati ambang batas ketika mereka dapat pergi dengan kompensasi finansial yang mereka terima dari pembelian perusahaan (saham Hassabis mungkin bernilai sekitar 100 juta pound). Tetapi sumber yang dekat dengan perusahaan menunjukkan bahwa Alphabet telah menunda pembayaran kepada para pendiri selama beberapa tahun. Mengingat fokusnya yang tak kenal lelah, Hassabis tidak mungkin melompat dari kapal. Dia tertarik pada uang hanya sejauh itu membantunya dalam mendekati tujuan seluruh hidupnya. Tetapi beberapa rekan saya pergi. Tiga insinyur AI telah meninggalkan perusahaan sejak awal 2019. Ben Laurie, salah satu insinyur keamanan paling terkemuka di dunia, kembali ke Google. Ini tentu tidak banyakTetapi DeepMind menawarkan misi yang luar biasa dan gaji yang layak sehingga tidak ada yang harus pergi.
Sejauh ini, Google tidak terlalu mengganggu DeepMind. Tetapi satu perkembangan baru-baru ini telah menimbulkan kekhawatiran tentang berapa lama perusahaan akan dapat mempertahankan kemandiriannya.
DeepMind, Medicine dan Artificial Intelligence
DeepMind selalu berencana menggunakan AI untuk meningkatkan perawatan kesehatan. Pada Februari 2016, divisi baru DeepMind Health dibentuk, dipimpin oleh Mustafa Suleiman, salah satu pendiri perusahaan. Suleiman, yang ibunya adalah seorang perawat, berharap bisa membuat program bernama Streams yang akan mengingatkan para dokter ketika kesehatan pasien sedang memburuk. DeepMind akan diberi imbalan berdasarkan metrik. Karena pekerjaan ini membutuhkan akses ke informasi rahasia pasien, Suleiman membentuk Panel Peninjau Independen (IRP) yang merekrut ahli kesehatan dan teknologi Inggris yang baik. DeepMind cukup bijaksana untuk berhati-hati. Selanjutnya, Komisaris Informasi Inggris menemukan bahwa salah satu mitra rumah sakit telah melanggar undang-undang dalam memproses data pasien. Namun, hingga akhir 2017, Suleiman telah menandatangani kesepakatan dengan empat rumah sakit besar.
Pada 8 November 2018, Google mengumumkan pembuatan divisi kesehatannya sendiri - Google Health. Lima hari kemudian, diumumkan bahwa DeepMind Health akan bergabung dengan upaya perusahaan induk. DeepMind belum diperingatkan. Menurut informasi yang diperoleh dari permintaan FOI, dia hanya memberi tahu rumah sakit mitra tentang perubahan tersebut tiga hari sebelumnya. DeepMind menolak untuk mengungkapkan ketika diskusi tentang merger dimulai, tetapi mengatakan waktu singkat antara pemberitahuan dan pengumuman publik adalah untuk kepentingan transparansi. Pada 2016, Suleiman menulis bahwa "data pasien tidak akan pernah dikaitkan dengan akun, produk, atau layanan Google." Janjinya sepertinya telah dilanggar.
Aneksasi Google membuat marah karyawan DeepMind Health. Lebih banyak karyawan berencana untuk meninggalkan perusahaan setelah proses pengambilalihan selesai, menurut orang yang dekat dengan tim perawatan kesehatan.
Episode ini menunjukkan bahwa bagian periferal pekerjaan DeepMind rentan terhadap Google. DeepMind menyatakan bahwa "kami semua setuju bahwa masuk akal untuk menggabungkan upaya ini dalam satu upaya kolaboratif dengan peningkatan sumber daya." Ini menimbulkan pertanyaan apakah Google akan menerapkan logika yang sama untuk pekerjaan DeepMind di AGI.
Dalam skala besar, DeepMind telah membuat langkah besar. Dia telah membuat perangkat lunak yang dapat belajar melakukan tugas di tingkat manusia super. Hassabis sering mengacu pada Breakout, video game untuk konsol Atari. Pemain mengontrol kelelawar, yang dapat bergerak secara horizontal dan dengan bantuannya memantulkan bola, mengarahkannya ke balok di atasnya, yang hancur saat bertabrakan. Pemain menang saat semua blok dihancurkan. Kalah jika bola jatuh melewati platform. Tanpa instruksi manusia, DeepMind tidak hanya belajar bermain, tetapi juga melempar bola ke ruang angkasa di belakang balok untuk memanfaatkan pantulan. Ini mendemonstrasikan kekuatan pembelajaran penguatan dan kekuatan supernatural dari program komputer DeepMind.
Demonstrasinya tentu mengesankan. Tapi Hassabis diam tentang sesuatu. Jika platform virtual dinaikkan sedikit lebih tinggi, program akan membuat kesalahan. Keterampilan yang diperoleh DeepMind sangat terbatas sehingga tidak dapat menanggapi bahkan perubahan kecil di lingkungan yang dapat dengan mudah diatasi oleh manusia. Tapi ada banyak seluk-beluk di dunia ini. Untuk kecerdasan diagnostik, tidak ada dua organ tubuh yang sama. Untuk kecerdasan mekanik, dua motor serupa tidak akan pernah sama dalam penyetelan. Oleh karena itu, merilis program ke alam liar itu sulit.
Yang kedua, yang jarang dibicarakan DeepMind, adalah bahwa kesuksesan dalam lingkungan virtual bergantung pada memiliki fungsi penghargaan: sinyal yang memungkinkan perangkat lunak mengukur kemajuannya. Program ini mempelajari bahwa memantul dari dinding belakang meningkatkan nilainya. Sebagian besar pekerjaan DeepMind dengan AlphaGo adalah membuat fungsi penghargaan yang kompatibel dengan game yang begitu kompleks. Sayangnya, dunia nyata tidak menawarkan hadiah sederhana. Kemajuan jarang diukur dalam poin individu. Otak manusia menerima sinyal tentang keberhasilan tugas tepat dalam proses pelaksanaannya, dan bukan setelahnya.
DeepMind telah menemukan cara untuk menyiasatinya dengan menggunakan kekuatan pemrosesan dalam jumlah besar. AlphaGo telah bermain game selama ribuan tahun waktu manusia untuk mempelajari sesuatu. Banyak filsuf AI mencurigai solusi ini tidak dapat diterima untuk tugas yang menawarkan penghargaan yang lebih lemah. DeepMind mengakui ambiguitas tersebut. Dia baru-baru ini menggunakan StarCraft 2, sebuah permainan strategi komputer. Keputusan yang dibuat di awal permainan memiliki konsekuensi yang muncul kemudian, yang merupakan karakteristik dari umpan balik yang berliku-liku dan terlambat dari masalah nyata. Pada bulan Januari, perangkat lunak DeepMind mengalahkan beberapa pemain terbaik di dunia, dan itu cukup mengesankan meskipun ada pembatasan yang ketat. Program juga mulai mengeksplorasi fungsi reward dengan mengikuti tanggapan masyarakat. Tetapi memasukkan instruksi manusia dalam satu lingkaran menciptakan risiko kehilangan skala dan kecepatan.
Baik peneliti saat ini maupun sebelumnya di DeepMind dan Google, dengan syarat anonim, telah menyatakan keraguan bahwa DeepMind akan dapat mencapai AGI menggunakan metode tersebut. Bagi mereka, keinginan untuk mencapai kinerja tinggi dalam lingkungan simulasi menyulitkan pemecahan masalah fungsi penghargaan. Namun pendekatan ini adalah inti dari DeepMind. Ada persaingan internal dalam perusahaan di mana program dari tim yang bersaing bersaing untuk mendapatkan supremasi.
Hassabis selalu memandang hidup sebagai permainan. Sebagian besar karirnya dicurahkan untuk membuatnya, sebagian besar waktu luangnya dihabiskan untuk bermain. Di DeepMind, dia menggunakannya untuk mengembangkan kecerdasan buatan yang kuat. Seperti perangkat lunaknya, Hassabis belajar dari pengalamannya sendiri. Mengejar AGI pada akhirnya dapat mengarah pada jalan buntu, menciptakan teknologi medis yang berguna di sepanjang jalan dan mengalahkan pemain terbaik dalam keahlian mereka. Tapi itu juga bisa membuat AGI tepat di depan hidung Google, tapi di luar kendalinya. Dan jika dia berhasil melakukannya, Demis Hassabis akan memenangkan pertandingan yang paling sulit.
Ilya Khel
