Awal tahun ini, 116 tokoh teknologi menandatangani surat terbuka yang meminta PBB untuk melarang "sistem senjata otonom yang mematikan." Mereka percaya bahwa hal itu dapat menyebabkan konflik bersenjata dengan proporsi yang belum pernah terjadi sebelumnya. The Independent mencatat bahwa "untuk pertama kalinya, para ahli AI dan perusahaan robotika telah membuat keputusan bersama tentang masalah ini."
Namun tidak semua pengamat begitu khawatir. Andrew Ng, yang hingga saat ini bekerja sebagai kepala ilmuwan di Baidu, sampai pada kesimpulan bahwa mengkhawatirkan robot pembunuh seperti mengkhawatirkan kepadatan di Mars, dan kita akan punya cukup waktu untuk menyadari hal ini.
Pada tahun-tahun awal abad ke-21, hanya sedikit topik yang menimbulkan lebih banyak minat atau perdebatan lebih sengit daripada kecerdasan buatan, bahkan dimulai dengan pemahaman istilah yang sangat mendalam. Maret ini, seorang pengamat mencatat bahwa "definisi AI sebanyak jumlah ilmuwan yang mengembangkan teknologi ini." Robbie Whiting, pendiri perusahaan konsultan Junior, mengklaim bahwa "AI bukan hanya kata kunci - itu akan mengubah dunia."
Meskipun ada yang berlebihan, AI sudah membangun kembali seluruh industri seperti transportasi, keuangan, dan perawatan kesehatan. CTO Facebook percaya AI "dapat memecahkan masalah dalam skala planet." Elon Musk, sementara itu, berpendapat bahwa "AI menimbulkan risiko mendasar bagi keberadaan peradaban manusia." Kebanyakan teknologi tidak berguna atau berbahaya - yang penting adalah siapa yang menggunakannya dan mengapa.
Sedikit yang tidak setuju bahwa AI berkembang jauh lebih cepat daripada yang kami coba untuk memahami sifat kompleksnya, berbagai dimensi, dan implikasi luasnya bagi keamanan nasional. Dalam laporan baru-baru ini oleh Gregory Allen dan Thaniel Chan, mahasiswa pascasarjana di Universitas Harvard, ada seruan agar pemerintah membuat sesuatu seperti perusahaan RAND untuk AI.
Peneliti RAND, pada gilirannya, mengikuti kata-kata tim Harvard.
Mereka mengusulkan untuk mempertimbangkan empat area di mana dampak AI dapat menjadi signifikan, tetapi tidak pasti.
Video promosi:
Tempat Kerja
Kai Fu Lee, ketua SinovationVentures, percaya bahwa AI "ditujukan untuk PHK skala besar," sambil memusatkan kekayaan di tangan perusahaan yang mengembangkan atau mengadopsi AI. Yang lain percaya ketakutan serupa hadir dengan munculnya semua teknologi yang mengubah dunia, sampai ke mesin cetak di abad ke-15.
The Economist meyakinkan pembaca bahwa "AI menciptakan permintaan akan pekerjaan," dan semakin banyak orang di seluruh dunia yang "menyediakan layanan digital di Internet." Perusahaan dan negara mana yang akan berkembang di era AI? Segmen apa yang akan hilang, berubah, dibuat? Bagaimana sifat pekerjaan berubah?
Perang
Para pendukung drone tempur berpendapat bahwa senjata semacam itu dapat mencapai target dengan akurasi yang jauh lebih tinggi daripada manusia; dan semakin besar peran yang mereka mainkan di medan perang, semakin jarang teknisi akan menggunakannya untuk menyakiti.
Tetapi bagaimana jika senjata semacam itu menjadi mandiri dan bekerja secara mandiri, tanpa campur tangan manusia? Akankah menghapus orang-orang dari daftar personel militer akan menyebabkan perlombaan senjata yang lebih parah dan tak terhentikan?
Sebuah surat terbuka, yang diterbitkan selama Konferensi Kolaborasi Internasional 2015 tentang Kecerdasan Buatan, memperingatkan bahwa senjata otonom "tidak memerlukan bahan mentah yang mahal atau sulit ditemukan, sehingga senjata tersebut akan tersedia di mana-mana dan murah untuk semua kekuatan militer yang signifikan untuk diproduksi secara massal." Akankah era senjata otomatis lebih damai atau lebih agresif?
Peneliti RAND menyerukan kerangka kerja analitis dan upaya internasional tentang penggunaan drone tempur jarak jauh dalam melawan terorisme dan pembunuhan yang ditargetkan.
Membuat keputusan
Politisi terus-menerus dihadapkan pada berbagai pilihan dan motif - masih banyak lagi di masa media sosial dibandingkan dua puluh tahun yang lalu. Kelebihan informasi seperti itu tidak memungkinkan untuk mengatasi situasi selama krisis, apalagi berbagai krisis.
Baru-baru ini, ada proposal untuk meneruskan "semua keputusan yang dibuat oleh presiden melalui komputer - bukan untuk membuat pilihan akhir, tetapi untuk membantu pemimpin dalam pribadi seseorang."
Tetapi sementara AI sebagian besar tidak berdosa saat ini, penelitian RAND menyoroti risiko bias algoritmik dalam memfilter berita, memengaruhi peradilan pidana, dan bahkan memberikan manfaat jaminan sosial dan mengeluarkan visa. Keputusan apa yang harus diambil untuk AI? Apa yang harus tetap ada di tangan seseorang? Di tangan sekelompok orang?
Penciptaan
Dunia terbiasa dengan AI yang dapat melakukan prestasi komputasi yang menarik dan mengalahkan manusia dalam permainan papan populer (lebih dari 20 tahun telah berlalu sejak superkomputer IBMDeepBlue yang terkenal mengalahkan grandmaster catur Garry Kasparov). Bagaimana dia akan terus maju dalam ruang kreatif orang?
Peneliti kecerdasan buatan Jesse Engel percaya dia akan "mengubah proses kreatif … dengan alat pintar yang menyediakan cara baru untuk berekspresi." Yang lainnya tidak terlalu optimis. Jurnalis Adrienne Lafrance mencatat bahwa AI sudah bisa "menggoda", "menulis novel", dan "memalsukan lukisan terkenal dengan akurasi yang luar biasa." Apa artinya menjadi kreatif? Apalagi apa artinya menjadi manusia?
Diskusi AI sering kali menjadi ekstrem, apakah itu janji utopia yang bebas dari penderitaan manusia, atau bahaya distopia di mana robot memperbudak pencipta manusia mereka. Analisis yang lebih seimbang dan ketat diperlukan untuk membantu membentuk kebijakan guna memitigasi risiko dan memaksimalkan manfaat. Langkah-langkah tertentu perlu diambil untuk mengatasi ketakutan bahwa AI akan bermanfaat bagi negara dan masyarakat.
Bagaimana AI dapat mempengaruhi kepentingan nasional suatu negara? Jenis AI apa, jika ada, yang dapat dianggap sebagai teknologi strategis berdasarkan kriteria pemerintah? Di mana kekuatan pasar seharusnya bermain, dan di mana politik? Meskipun sebagian besar AI tetap menjadi domain fiksi ilmiah, masalah ini menjadi semakin penting.
Ilya Khel
