Perusahaan Inggris Cambridge Analytica membantu Donald Trump memenangkan pemilihan presiden AS menggunakan teknologi Big Data dan iklan online yang dipersonalisasi. Sebelumnya, perusahaan yang sama bekerja dengan pendukung Brexit di Inggris, dan sekarang telah menandatangani kontrak dengan Front Nasional Prancis. Benarkah hasil pemungutan suara yang tidak terduga di berbagai negara bukanlah kegagalan sosiologi, tetapi kemenangan untuk jenis sosiologi baru? Teman bicara Radio Liberty Michal Kosinski, yang penelitiannya secara tidak langsung terkait dengan aktivitas Cambridge Analytica, percaya bahwa ini berlebihan, tetapi teknologi Big Data dan penurunan privasi menjanjikan perubahan global dunia.
Kembali pada akhir September, di tengah-tengah pemilihan, berbicara di New York City di Concordia Summit, acara tahunan untuk politisi dan pengusaha berpengaruh dari seluruh dunia, pendiri Cambridge Analytica Alexander Nix berbicara tentang bagaimana teknologi baru telah meningkatkan efektivitas kampanye nominasi Partai Republik Trump, Ted Cruz., pada awal balapan, kandidat yang hampir tidak dikenal. Nix berbicara tentang bagaimana, misalnya, orang dengan temperamen berbeda harus menyampaikan pendapat kandidat tentang undang-undang tentang distribusi senjata gratis dengan cara yang berbeda: orang-orang yang ketakutan dengan tingkat neurotisme tinggi dapat menganggap senjata sebagai sumber keamanan, dan orang ekstrovert konservatif yang kaya dapat ditunjukkan gambar perburuan bebek.
Belakangan, Cambridge Analytica membantu Trump sendiri, dan, menurut Nyx, dengan hadiah yang relatif sederhana, secara total, sekitar $ 15 juta. Dengan menganalisis data yang ditinggalkan semua pengguna Internet di jaringan, spesialis perusahaan berhasil menemukan koneksi dan pola yang tidak jelas (misalnya, bahwa orang yang lebih memilih mobil buatan Amerika adalah pemilih Trump) dan menggunakannya untuk menargetkan iklan di Internet, untuk mempersonalisasi pesan. keluar dari markas kandidat Partai Republik. Penduduk daerah Little Haiti di Miami diperlihatkan informasi tentang penolakan Hillary Clinton untuk berpartisipasi dalam bantuan gempa bumi di Haiti, Afrika-Amerika - sebuah video di mana Clinton membandingkan pria kulit hitam dengan predator. Relawan Trump menerima profil rinci penghuni rumah,dimana mereka akan melakukan kampanye langsung.
Sulit untuk mengatakan seberapa besar pengaruh kerja Cambridge Analytica terhadap hasil pemilu AS, tetapi kampanye ini bukan satu-satunya contoh pemenang adalah mereka yang menyewa perusahaan tersebut. Misalnya, pada tahun 2015, pendukung radikal Brexit Nigel Farage mulai menggunakan Cambridge Analytica. Edisi Swiss Das Magasin, yang baru-baru ini menerbitkan penyelidikan atas aktivitas Cambridge Analytica (Anda dapat membacanya dalam bahasa Rusia di sini), mengatakan bahwa perusahaan tersebut kini telah menerima kontrak dengan Front Nasional Prancis, sebagai tambahan, beberapa kekuatan politik di Swiss, Jerman dan mungkin Italia.
Salah satu pahlawan publikasi Das Magasin adalah Michal Kosinski, seorang peneliti asal Polandia, mantan Wakil Direktur Pusat Psikometri di Universitas Cambridge, dan saat ini menjadi asisten profesor di Universitas Stanford di AS. Selama beberapa tahun, Kosinski dan rekannya di Cambridge telah mengembangkan sistem yang, berdasarkan aktivitas pengguna di jejaring sosial, mengumpulkan profil psikologis terperinci dari seseorang. Sistem ini tidak hanya mampu mendeskripsikan ciri-ciri karakter, tetapi juga mampu memprediksi antara lain jenis kelamin, orientasi seksual, warna kulit, bahkan preferensi politik pengguna.
Wartawan Swiss mengatakan bahwa pada awal 2014, Kosinski didekati oleh seorang kolega, Alexander Kogan, yang mengundang para peneliti muda untuk menerapkan model yang dibuatnya untuk menganalisis beberapa juta profil warga Amerika atas permintaan perusahaan tertentu. Karena kemudian menjadi jelas, perusahaan ini dikaitkan dengan Cambridge Analytica. Kosinski menolak untuk bekerja sama, tetapi metode yang digunakan Cambridge Analytica selama referendum di Inggris dan pemilihan presiden AS setidaknya sangat mirip dengan model yang ditemukan oleh Michal Kosinski.
Radio Liberty menelepon Kosinski di California dan menanyakan apa yang sebenarnya bisa dikatakan tentang seseorang di "jejak digital" -nya, seberapa besar kepercayaan pernyataan keras Cambridge Analytica, apakah perang untuk privasi hilang dan apakah kecerdasan buatan lebih berbahaya daripada Donald Trump.
- Apa itu psikometri? Apa yang Anda lakukan sebagai peneliti?
Video promosi:
“Psikometri itu sendiri adalah ilmu kuno, menurut saya usianya sudah dua atau tiga ribu tahun. Intinya, ini adalah ilmu pengukuran psikologis, berupaya menetapkan seakurat mungkin berbagai aspek psikologis, kepribadian, kemampuan intelektual, kebahagiaan, kecenderungan depresi, dan sebagainya. Secara tradisional, pengukuran seperti itu dilakukan dengan menggunakan kuesioner, tes psikologi, tetapi baru-baru ini, saya dan beberapa psikometris lain menyadari bahwa pengukuran tersebut dapat dilakukan dengan menilai jejak digital seseorang - dan kemudian tidak ada pertanyaan yang dapat ditanyakan, tidak diperlukan kuesioner dan tes. Dan ini adalah momen revolusioner. Pentingnya cerita Cambridge Analytica, yang ditulis Das Magasin, sebenarnya tidak karena perusahaan tersebut membantu Trump dalam pemilihan umum. Ini adalah perusahaan komersial, mereka memiliki teknologi, mereka ingin menghasilkan uang, semuanya jelas di sini. Yang penting adalahbahwa jika sebelumnya Anda ingin menyusun profil psikologis seseorang, Anda harus meminta orang tersebut untuk mengisi kuesioner, mengikuti tes - dan subjek memahami dengan baik bahwa saat ini, pada saat ini, seseorang sedang mengukur karakteristik psikologisnya. Dan sekarang Anda dapat melakukan hal yang sama, tetapi orang tersebut tidak menyadari bahwa fitur paling intimnya sedang dievaluasi dan diukur sekarang oleh seseorang. Lihat saja jejak digital: posting media sosial, suka, riwayat penelusuran web, riwayat pencarian. Berdasarkan data ini, potret psikologis yang sangat akurat dapat disusun. Di satu sisi, sepertinya sesuatu yang menakutkan, di sisi lain, ini bisa sangat berguna. Misalnya, beberapa platform Internet mungkin menyarankan pekerjaan yang paling sesuai dengan karakter dan kemampuan Anda, atau merekomendasikan sebuah film,yang pasti akan Anda sukai. Ini normal. Tetapi ketika Anda membuka halaman Facebook Anda dan melihat iklan di sana yang secara pribadi ditargetkan, ditargetkan kepada Anda berdasarkan profil psikologis Anda yang terperinci, yang disusun tanpa sepengetahuan dan persetujuan Anda, ini tidak lagi normal.
- Jadi, secara pribadi, dapatkah Anda membuat profil psikologis lengkap saya, hanya dengan mengetahui nama saya, berdasarkan jejak kaki yang saya tinggalkan di Internet?
“Saya seorang ilmuwan dan saya tidak akan melakukannya. Jika Anda secara sukarela membantu penelitian saya dan memberikan data Anda, saya akan dengan senang hati memasukkannya ke dalam database saya, membuatnya anonim dan berjanji tidak akan pernah menjual atau mentransfernya kepada siapa pun. Tetapi banyak perusahaan, tentu saja, terus-menerus mengumpulkan informasi tentang Anda tanpa bertanya dan menggunakannya, misalnya, untuk iklan bertarget.
- Informasi ini, tentu saja, tidak disimpan di satu tempat - satu perusahaan mengetahui data geolokasi saya, yang lain - transaksi keuangan, yang ketiga - suka di Facebook. Bisakah semua ini disatukan?
- Yah, pertama-tama, ini biasanya tidak perlu. Biasanya, satu hal yang cukup untuk membuat profil yang akurat - minat Anda di Facebook, misalnya, atau riwayat penelusuran Anda dari browser. Kedua, perusahaan yang mengumpulkan informasi tentang Anda biasanya saling menukarnya atau hanya menjualnya di pasar data umum. Ada proyek seperti Acxiom yang menggabungkan semuanya dan menjualnya ke perusahaan seperti Cambridge Analytica. Anda bisa datang dan berkata - Saya butuh data tentang 10 juta orang Amerika dari wilayah ini dan itu, dan mereka dengan senang hati akan menjual data ini. Ketiga, untuk menjalankan kampanye dengan penargetan pribadi, sama sekali tidak perlu memiliki data pengguna individu. Anda dapat menggunakan apa yang disebut penargetan perilaku. Misalnya, Anda tidak dapat meminta Facebook untuk menampilkan iklan tertentu kepada semua orang,rentan terhadap jenis perilaku tertentu. Tetapi Anda mungkin memiliki model yang mengaitkan jenis perilaku ini dengan semacam profil psikologis, dan Anda bahkan dapat membangun model ini dengan cukup jujur - Anda membayar sejumlah kecil biaya kepada beberapa puluh ribu orang untuk mengisi kuesioner. Dan ketika modelnya dibangun, Anda bertanya: bagaimana cara menemukan ekstrovert emosional? Model menjawab - tidak masalah, ini adalah mereka yang menyukai sepuluh buku ini dan itu, ini dan itu sepuluh film dan ini dan itu sepuluh musisi. Sekarang Anda buka Facebook lagi dengan iklan Anda, hanya Anda tidak perlu lagi meminta untuk menunjukkannya kepada ekstrovert emosional, yang tidak akan dilakukan Facebook. Sebaliknya, Anda meminta untuk menampilkan iklan kepada mereka yang memiliki kumpulan suka tertentu. Alhasil, ternyata Anda tidak memiliki data pribadi apapun,tetapi Anda menjalankan periklanan bertarget pribadi.
- Apakah ada perusahaan yang berupaya menyusun profil psikologis seluruh umat manusia, setidaknya setiap orang yang meninggalkan jejak digital?
- Hampir tidak ada orang yang berpikir dalam kategori global seperti itu, tetapi sampai batas tertentu Facebook, Google, Microsoft, Visa, Mastercard, Acxiom yang sama terlibat dalam hal ini. Dan semua data ini diperdagangkan secara luas di pasar.
- Yaitu, di suatu tempat di pasar, misalnya, profil psikologis saya juga dijual, dan sangat akurat. Anda mengatakan dalam komentar untuk Das Magazin bahwa hanya sedikit suka di Facebook sudah cukup bagi sistem untuk mengenali Anda lebih baik daripada teman terdekat Anda. Benarkah begitu?
- Ya, ada penelitian menarik tentang ini. Sepuluh suka (minat) sudah cukup bagi sistem untuk lebih mengenali kepribadian Anda daripada rekan kerja, dan dengan 230-240 suka, komputer akan tahu lebih banyak tentang Anda daripada pasangan Anda.
“Tapi apa sebenarnya yang dimaksud dengan mengetahui lebih banyak?
“Artinya, jika Anda meminta komputer untuk mengisi kuesioner psikologis untuk Anda, kesalahannya akan lebih sedikit daripada istri Anda.
- Ini adalah jawaban atas pertanyaan seperti "Apakah kamu takut gelap"?
- Ya, pertanyaan khas kuesioner psikologis. Jadi sungguh, di suatu tempat di pasar Anda dapat membeli informasi yang sangat akurat tentang kepribadian Anda, termasuk bias politik Anda, religiusitas Anda, orientasi seksual Anda, IQ Anda. Anda secara kasar dapat memahami apa yang diketahui tentang Anda berdasarkan minat Anda di Facebook menggunakan situs Applymagicsauce.com, tetapi ini, tentu saja, masih jauh dari gambaran yang lengkap.
- Mari beralih ke cerita dengan Cambridge Analytica. Katakan padaku, kamu benar-benar tidak ada hubungannya dengan perusahaan ini?
- Tidak, dan tidak pernah. Saya mendengar tentang keberadaannya dari pers.
- Alexander Kogan, yang, menurut Das Magazin, menawarkan teknologi profil psikologis Cambridge Analytica, adalah kolega Anda?
- Ya, dia adalah kolega saya, atau lebih tepatnya, dia adalah asisten profesor di departemen psikologi di Universitas Cambridge pada saat saya menjadi mahasiswa pascasarjana di sana. Tapi jalan kami menyimpang sejak lama, dia mendirikan sebuah perusahaan kecil dan, sejauh yang saya mengerti dari pers, menjual data Cambridge Analytica, dan saya bertahan di dunia akademis.
- Dapatkah kami berasumsi bahwa Cambridge Analytica menggunakan model yang telah Anda kembangkan?
- Saya akan mengatakan bahwa mereka menggunakan model yang serupa, tetapi, Anda lihat, untuk mengembangkan model seperti itu, Anda tidak memerlukan ilmu pengetahuan yang mendalam, tidak ada keajaiban di dalamnya. Siapa pun dengan keterampilan pemrograman dasar, sejumlah uang, dan komputer yang terhubung ke internet dapat melakukan ini - sebenarnya, itulah yang membuat masalah menjadi begitu besar. Metode statistik paling standar digunakan di sini, tidak ada yang istimewa. Ide utama dari publikasi saya adalah mudah, hanya penting untuk mengubah fokus: kuesioner dan tes tidak lagi diperlukan untuk psikometri, cukup untuk memiliki jejak digital seseorang. Dan ini memberikan keuntungan yang sangat besar, Anda bisa meningkatkan pemasaran, perencanaan karir, metode pendampingan psikologis, dan masih banyak lagi. Tapi teknologi yang sama bisa digunakan untuk melawan manusia. Saya yakin Alexander Kogan mengetahui penelitian saya dan,meskipun saya hanya bisa menilai ini dari laporan para jurnalis, dia melakukan persis seperti yang saya sarankan dan menjual hasilnya ke Cambridge Analytica. Saya telah mengatakan berkali-kali dan dengan jelas menunjukkan dalam artikel saya bahwa saya tidak ingin menginspirasi siapa pun untuk melakukan aktivitas semacam ini, terlebih lagi, saya yakin bahwa orang-orang telah terlibat dalam profil psikologis digital jauh sebelum saya, mereka tidak membicarakannya seaktif Cambridge Analytica. Saya hanya menyerukan pengembangan kebijakan dan prosedur yang akan menentukan etika penggunaan teknologi ini.bahwa orang-orang telah melakukan profil psikologis digital jauh sebelum saya, mereka hanya tidak membicarakannya seaktif Cambridge Analytica. Saya hanya menyerukan pengembangan kebijakan dan prosedur yang akan menentukan etika penggunaan teknologi ini.bahwa orang-orang telah melakukan profil psikologis digital jauh sebelum saya, mereka hanya tidak membicarakannya seaktif Cambridge Analytica. Saya hanya menyerukan pengembangan kebijakan dan prosedur yang akan menentukan etika penggunaan teknologi ini.
- Apakah menurut Anda Cambridge Analytica benar-benar dapat mempengaruhi hasil pemilihan presiden Amerika secara signifikan?
- Jujur, saya tidak tahu. Jelas bahwa Cambridge Analytica tertarik untuk mengumandangkan kesuksesannya sekeras mungkin, tetapi pada akhirnya hasil pemilu ditentukan bukan oleh metode Big Data, tetapi oleh kandidat, dan, terlebih lagi, seperti yang sekarang terlihat sangat jelas, para pemilih yang tidak pergi ke tempat pemungutan suara. Mungkin aktivitas Cambridge Analytica adalah yang terakhir yang menentukan hasil akhir, tetapi kemungkinan besar, Alexander Nix sendiri tidak tahu pasti. Di sisi lain, kita harus sadar bahwa ada teknologi, dan hampir tidak mungkin untuk mempertahankannya. Anda dapat berhenti menggunakan Facebook, tetapi Anda akan tetap menulis email. Putuskan untuk menggunakan surat merpati - Anda tidak dapat melakukannya tanpa kartu kredit. Mungkin negara dapat mengeluarkan undang-undang yang membatasi praktik semacam itu,tapi itu mungkin juga tidak berhasil. Omong-omong, saya tidak tahu pasti, tetapi saya mendengar bahwa apa yang dilakukan Cambridge Analytica untuk Trump bertentangan dengan hukum Amerika saat ini, dan oleh karena itu mereka melakukan analisis langsung terhadap data di Inggris. Anda tahu, saya seorang ilmuwan, saya ahli psikometri, saya bukan ahli dalam politik, demokrasi, dan kebebasan, tetapi saya pikir kita harus menerima kenyataan bahwa tidak akan ada privasi yang tersisa. Daripada terlibat dalam pertempuran lain untuk privasi, perlu disadari bahwa perang telah hilang, dan lebih baik memperhatikan fakta bahwa dunia menjadi lingkungan yang menguntungkan bagi orang yang dirampas privasi. Anda tahu, saya seorang ilmuwan, saya ahli psikometri, saya bukan ahli dalam politik, demokrasi dan kebebasan, tetapi bagi saya tampaknya kita harus menerima kenyataan bahwa tidak akan ada privasi yang tersisa. Daripada terlibat dalam pertempuran lain untuk privasi, perlu disadari bahwa perang telah hilang, dan lebih baik memperhatikan fakta bahwa dunia menjadi lingkungan yang menguntungkan bagi seseorang yang tidak memiliki privasi. Anda tahu, saya seorang ilmuwan, saya terlibat dalam psikometri, saya bukan ahli dalam politik, demokrasi, dan kebebasan, tetapi menurut saya kita harus menerima fakta bahwa tidak akan ada privasi yang tersisa. Daripada terlibat dalam pertempuran lain untuk privasi, perlu disadari bahwa perang telah hilang, dan lebih baik memperhatikan fakta bahwa dunia menjadi lingkungan yang menguntungkan bagi orang yang dirampas privasi.
- Penasaran sejauh mana membangun profil psikologis, menggunakan penargetan pribadi dapat memengaruhi dunia nyata.
- Dari sudut pandang ilmiah, sulit untuk memperdebatkan hal ini, karena sulit untuk membuat eksperimen. Artinya, jika Anda menjual beberapa jenis shower gel, Anda dapat membandingkan jumlah kliknya, tetapi sangat sulit untuk mengevaluasi, misalnya, efektivitas metode Big Data dalam kampanye politik, yang lebih seperti promosi merek daripada kampanye penjualan. Kami melakukan beberapa eksperimen, bukan dengan politisi, karena menurut saya ini tidak etis, tetapi dengan produk konsumen tertentu, dan ternyata penargetan pribadi, yaitu, menggunakan pesan iklan individu berdasarkan profil psikologis, menggandakan efektivitas iklan. Dan ini adalah hasil yang luar biasa, biasanya perjuangannya adalah meningkatkan efisiensi sekitar tiga persen, dan bahkan ini menghemat ratusan juta dolar bagi perusahaan. Dan kemudian dua kali!
- Aneh kalau Anda belum menjadi miliarder.
- Saya sudah memiliki hidup yang indah. Ngomong-ngomong, ada banyak karya psikologis yang membuktikan bahwa kebahagiaan itu tidak membutuhkan banyak uang, nah, kamu butuh, tentunya, cukup untuk liburan. Faktanya, semuanya mungkin tidak sesederhana yang terlihat bagi saya sebagai seorang ilmuwan, saya hanya siap untuk membicarakan hal-hal ini secara terbuka, sementara yang lain mengerjakan proyek nyata tanpa memberi tahu siapa pun.
- Bagi saya, ide psikologis profiling berdasarkan jejak digital terlihat wajar, saya yakin sudah banyak orang yang menggunakannya dalam periklanan. Dunia kita mungkin sudah banyak berubah, hanya saja kita belum menyadarinya.
- Mungkin, dan saya menyambut baik perubahan ini. Kami memiliki penemuan dan lebih buruk daripada Big Data, kami mengatasi energi nuklir - entah bagaimana kami dapat mengatasinya, meskipun, mungkin, bukan tanpa pengorbanan. Seperti yang saya katakan, bagi saya tampaknya perang untuk privasi telah hilang, kita hidup di dunia pasca-privasi, yang berarti investasi berharga untuk memastikan bahwa setiap orang memiliki hak dan peluang yang sama, sehingga tidak ada yang mau menyembunyikan apa pun. Semoga toleransi yang lebih bisa menyelesaikan masalah kurangnya privasi.
- Tetapi masalahnya bukan hanya bahwa orang lain akan mempelajari semua rahasia seseorang dan mulai memperlakukannya secara berbeda, tetapi juga bahwa alat yang ampuh untuk manipulasi telah muncul.
- Dengan ini, menurut saya, pendidikan harus mengatasi. Sangat mudah untuk memanipulasi mereka yang tahu sedikit, yang membaca sedikit, yang sedikit bepergian. Orang seperti itu dapat diberi tahu bahwa tidak ada perang di Suriah, dan memang semua warga Suriah adalah penjahat berdarah, dan dia akan dengan mudah mempercayainya.
- Menurut saya, orang terpelajar juga bisa dimanipulasi, dengan bantuan kesombongan dan seks, misalnya.
Menurutku tidak. Jadi, Anda mungkin cukup mengenal istri Anda, apakah ini memudahkan Anda untuk memanipulasinya?
- Saya tidak tahu, saya mungkin tidak memiliki tujuan seperti itu, tetapi pasti akan ada banyak orang yang tertarik untuk memanipulasi saya seefisien mungkin sehingga saya pergi dan memilih, misalnya, untuk Putin.
- Tentu saja, akan ada, dan ini terjadi sepanjang waktu, semua iklan, semua pemasaran adalah manipulasi semacam ini, dan saya tidak melihat apa yang bisa kita lakukan. Namun sulit untuk memanipulasi orang yang berpendidikan, berpikiran terbuka dan bahagia. Dan sudah terlambat untuk melepaskan Facebook, email, kartu kredit, dan itu sangat bodoh. Facebook adalah hal yang luar biasa, jadi saya telah berbicara banyak dalam hidup saya tentang risiko menggunakannya, tetapi saya menggunakannya sendiri, dan dengan senang hati, dan saya bahkan akan membayarnya jika harus.
- Ngomong-ngomong, Anda ditawari pekerjaan di Facebook?
- Ya itu benar. Saya baik-baik saja dengan pekerjaan saya di universitas, tetapi sebenarnya, untuk peneliti perilaku yang ingin mengubah kehidupan orang-orang menjadi lebih baik, berkarir di perusahaan seperti Facebook atau Google adalah cara yang bagus untuk pergi. Saya datang dengan model dan mempelajarinya, dan jika saya bekerja di Facebook, saya benar-benar dapat menggunakannya untuk mengubah kehidupan jutaan orang, dan sama sekali tidak perlu menjual sesuatu kepada mereka.
- Menakutkan bahwa Anda dapat mengubah hidup jutaan orang dengan beberapa klik.
- Memang, untuk mempengaruhi jutaan orang, Anda dulunya adalah seorang diktator otoriter, tetapi sekarang Anda dapat menjadi insinyur yang bekerja untuk beberapa perusahaan Internet. Tapi ini tidak menakutkan. Semua algoritme ini - penelusuran Google, sistem rekomendasi, dan sebagainya - didasarkan pada matematika paling dasar, tetapi ini berlaku untuk data dalam jumlah besar. Dan pada akhirnya, tidak ada yang mengerti bagaimana pada dasarnya semua itu bekerja, bahkan para pengembang itu sendiri. Di sini, di Rusia, ada beberapa undang-undang yang dianggap semua orang buruk, tetapi ini adalah undang-undang yang jelas bisa diperbaiki. Dan algoritma komputer belajar sendiri dan menjadi begitu kompleks sehingga jika mereka bekerja entah bagaimana salah, tidak jelas apa dan di mana untuk memperbaikinya.
- Apakah kita begitu jauh dari saat beberapa orang di luar kendali, yang tidak dapat diakses oleh sistem pemahaman kita akan mengatur perang nuklir?
- Tahukah Anda, sejauh ini Donald Trump memiliki lebih banyak peluang dan peluang untuk menghancurkan umat manusia daripada Big Data, tetapi di masa depan … Lihat, ada merpati dan semut, apakah menurut Anda mereka tahu bahwa dunia diatur oleh manusia? Apakah mereka menebak bahwa Donald Trump dapat menekan tombol merah? Tentu saja tidak. Perlu diingat hal ini, karena ketika kecerdasan buatan mulai menguasai dunia, kita mungkin tidak menyadarinya dengan cara yang sama. Bagaimanapun, kita tidak dapat lagi memahami dan menganalisis volume data yang kita hasilkan sendiri - dan kita harus mempercayai komputer. Anda mungkin bertanya kepada mesin: dapatkah Anda memprediksi sesuatu berdasarkan data ini? Dia akan menjawab: ya, tentu saja. Anda bertanya: bagaimana Anda melakukannya? Dia akan berkata: Maaf, tetapi Anda tidak akan mengerti. Dan semua ini sudah menjadi kenyataan. Anda tahu bahwa pengadilan Amerika menggunakan sistem komputer,memutuskan pembebasan bersyarat untuk tahanan? Komputer memutuskan apakah akan memberi Anda kredit atau tidak. Komputer mendaratkan pesawat, yang bagus, karena orang dapat dengan mudah menimbulkan masalah. Kehidupan 800 penumpang Boeing 787 ada di tangan komputer, bukan manusia, dan inilah kenyataan saat ini.
