Bab dari buku yang diterbitkan oleh Museum Politeknik
Manusia dan robot - di mana batas antara mereka dan bahaya apa yang ditimbulkan oleh kedekatan kita? Berdasarkan pengalaman pribadi, berbagai wawancara dan data dari penelitian terbaru, ilmuwan yang paling dihormati di bidangnya, David Mindell, menawarkan pandangan di balik layar pada aplikasi robotika yang paling inovatif. Indicaror. Ru menerbitkan satu bab dari bukunya Rise of the Machines Is Cancelled! Mitos tentang robotisasi”.
Dioperasikan oleh manusia - jarak jauh - otonom
Jauh di malam hari, jauh di atas Samudra Atlantik di ruang terbuka yang luas antara Brasil dan Afrika, sebuah pesawat penumpang terjadwal terjebak dalam cuaca buruk. Es yang membeku menyumbat tabung kecil di hidung pesawat, yang menentukan kecepatannya dan mengirimkan data ke komputer yang mengendalikan pesawat. Komputer dapat terus terbang tanpa informasi ini, tetapi program yang tertanam di dalamnya tidak menyediakan penyelarasan seperti itu. Sistem fly-by-wire otomatis menyerah dan dimatikan, mengalihkan kendali kepada orang-orang - pilot yang duduk di kokpit kapal: Pierre-Cedric Bonin yang berusia 32 tahun dan David Robert yang berusia 37 tahun. Bonin dan Robert, keduanya santai dan sedikit lelah, terkejut ketika mereka tiba-tiba menemukan bahwa mereka harus secara manual menerbangkan pesawat besar di ketinggian dalam kondisi cuaca buruk, dan bahkan pada malam hari. Dan dalam kondisi yang lebih menguntungkan, itu akan menjadi tugas sulit yang tidak dihadapi pilot belakangan ini. Komandan kru, Marc Dubois yang berusia 58 tahun, tidak sedang menerbangkan pesawat pada saat itu, tetapi sedang beristirahat di kabin. Pilot harus menghabiskan waktu yang berharga untuk memanggilnya ke kokpit. Terlepas dari kenyataan bahwa pada saat komputer dimatikan, pesawat berada pada ketinggian dalam penerbangan horizontal lurus, pilot mengalami kesulitan untuk memahami parameter udara yang sedikit. Salah satu dari mereka menarik pegangan kendali ke arah dirinya, yang lain mendorongnya ke depan. Pesawat tersebut melanjutkan penerbangan lurus selama sekitar satu menit, dan kemudian mulai jatuh. Pilot harus menghabiskan waktu yang berharga untuk memanggilnya ke kokpit. Terlepas dari kenyataan bahwa pada saat komputer dimatikan, pesawat berada pada ketinggian dalam penerbangan horizontal lurus, pilot mengalami kesulitan untuk memahami parameter udara yang sedikit. Salah satu dari mereka menarik pegangan kendali ke arah dirinya, yang lain mendorongnya ke depan. Pesawat tersebut melanjutkan penerbangan lurus selama sekitar satu menit, dan kemudian mulai jatuh. Pilot harus menghabiskan waktu yang berharga untuk memanggilnya ke kokpit. Terlepas dari kenyataan bahwa pada saat komputer dimatikan, pesawat berada pada level lurus dalam penerbangan, tidak mudah bagi pilot untuk memahami parameter udara yang sedikit. Salah satu dari mereka menarik pegangan kendali ke arah dirinya, yang lain mendorongnya ke depan. Pesawat tersebut melanjutkan penerbangan lurus selama sekitar satu menit, dan kemudian mulai jatuh.dan kemudian mulai jatuh.dan kemudian mulai jatuh.
Pada tanggal 1 Juni 2009, Air France Flight 447 terbang ke laut, menewaskan lebih dari 200 penumpang dan awak. Dia menghilang ke dalam ombak hampir tanpa jejak. Dalam sistem maskapai internasional yang saling berhubungan di seluruh dunia, tidak dapat dibayangkan bahwa pesawat akan menghilang begitu saja. Pekerjaan pencarian terkoordinasi berskala besar telah diatur. Beberapa hari kemudian, jejak pesawat ditemukan di dasar laut. Namun demikian, untuk menemukan bagian utama dari rongsokan pesawat dan kotak hitam, yang karenanya dimungkinkan untuk menentukan penyebab tragedi tersebut, perlu dilakukan pencarian di wilayah yang luas di dasar laut, yang maju perlahan tanpa harapan. Lebih dari dua tahun kemudian, pada kedalaman 3,2 km, hampir di titik di mana pesawat tersebut jatuh ke permukaan laut,kendaraan bawah air otonom yang disebut Remus 6000 meluncur diam-diam melalui kegelapan di bawah tekanan luar biasa dari kolom air. Bergerak sedikit lebih cepat dari pejalan kaki, robot yang berbentuk seperti torpedo ini menjaga ketinggian tetap sekitar 60 m di atas dasar. Dalam posisi ini, pemindai akustiknya menerima gambar paling jelas. Sinyal akustik berjalan sekitar 800 m ke segala arah, robot mengumpulkan gigabyte informasi melalui sinyal yang dikembalikan.robot itu mengumpulkan gigabyte informasi melalui sinyal yang dikembalikan.robot itu mengumpulkan gigabyte informasi melalui sinyal yang dikembalikan.
Permukaannya bergunung-gunung, jadi dasar laut naik tajam. Terlepas dari kecerdasan buatannya, robot terkadang menghantam permukaan, paling sering tanpa konsekuensi apa pun. Tiga dari robot ini bekerja secara harmonis bersama-sama: sementara dua dari mereka mencari di bawah air, yang ketiga berada di atas kapal di permukaan. "Pemberhentian" semacam itu memakan waktu tiga jam, di mana orang-orang yang melayani robot menulis ulang informasi, mengisi ulang baterainya, dan menetapkan rencana pencarian baru. Di kapal, tim yang terdiri dari dua belas insinyur dari Woods Hole Oceanographic Research Institute, dipimpin oleh Mike Purcell, yang memelopori desain dan pengembangan kendaraan pencari, bekerja dalam shift dua belas jam. Mereka dimuat seperti tim mekanik Formula 1 mana pun.
Ketika perangkat naik ke permukaan, para insinyur membutuhkan waktu sekitar 45 menit untuk mengunduh informasi yang telah dikumpulkannya ke dalam komputer, kemudian setengah jam lagi untuk memprosesnya sehingga dapat dilihat dengan cepat di monitor. Penyelidik Prancis dan Jerman serta perwakilan Air France mengintip dari balik bahu mereka. Tindakan mereka tampak diperhitungkan dan bijaksana, tetapi ketegangan menggantung di udara: taruhannya terlalu tinggi baik dalam hal kebanggaan nasional Prancis, maupun dalam hal reputasi pabrikan pesawat Airbus, dan dalam hal keselamatan semua perjalanan udara.
Video promosi:
Beberapa ekspedisi sebelumnya tidak berhasil. Di Prancis, Brasil, dan di seluruh dunia, keluarga para korban sedang menunggu kabar. Menguraikan informasi dari pemindai akustik memerlukan analisis cermat yang tidak dapat dipercaya sepenuhnya ke komputer. Purcell dan para insinyurnya mengandalkan pengalaman bertahun-tahun yang terkumpul. Di monitor mereka, mereka mempelajari dasar berbatu kilometer demi kilometer. Pekerjaan rutin ini berlangsung selama lima hari, sampai monotonnya terputus: akumulasi puing-puing muncul di layar, dan kemudian para ilmuwan tiba di daerah bencana - mereka menerima sinyal kuat dari objek buatan di gurun lautan. Setidaknya begitu mereka beranggapan, tapi masih belum bisa mengatakan dengan pasti. Para insinyur memprogram ulang kendaraan tersebut sehingga mereka kembali ke daerah bencana dan bergerak maju mundur melaluinya. Kali ini, robot harus berada cukup dekat agar kamera dapat mengambil foto pada ketinggian sekitar 9 m di atas dasar dalam cahaya lampu samping. Ketika kendaraan membawa gambar ke permukaan, para insinyur dan penyelidik melihat area bencana dan mendapat jawaban: mereka menemukan puing-puing pesawat yang menjadi kuburan bagi ratusan orang. Segera, tim lain kembali ke lokasi tragedi itu dengan jenis robot yang berbeda - kendaraan bawah air yang dikendalikan dari jarak jauh. Segera, tim lain kembali ke lokasi tragedi itu dengan jenis robot yang berbeda - kendaraan bawah air yang dikendalikan dari jarak jauh. Segera, tim lain kembali ke lokasi tragedi itu dengan jenis robot yang berbeda - kendaraan bawah air yang dikendalikan dari jarak jauh.
Itu adalah perangkat tugas berat yang dirancang khusus untuk bekerja di kedalaman. Itu terhubung ke kapal menggunakan kabel. Menggunakan peta yang dihasilkan dari pencarian yang berhasil, ROV menemukan kotak hitam - perekam suara dan perekam data pesawat - dan mengangkatnya ke permukaan. Catatan menit-menit terakhir pilot yang ditakdirkan diambil dari kedalaman laut, dan sekarang penyelidik dapat menciptakan kembali keadaan fatal yang menyebabkan kebingungan di atas pesawat otomatis tersebut. Kemudian kendaraan bawah air memulai misi yang menyedihkan - untuk mengambil sisa-sisa orang mati.
Jatuhnya Air France Flight 447 dan operasi untuk menemukan tautan bangkai kapal otomatisasi dan robotika modern di dua lingkungan ekstrem: di tepi stratosfer dan di kedalaman laut. Pesawat jatuh ke laut akibat kesalahan interaksi manusia dengan sistem otomatis. Kemudian fragmennya ditemukan oleh orang-orang menggunakan robot yang dikendalikan dari jarak jauh dan otonom.
Meskipun kata "otomatis" dan "otonom" (dalam arti yang paling umum) menyiratkan bahwa sistem seperti itu beroperasi secara independen, dalam kedua kasus kegagalan atau keberhasilan bukan karena mesin dan orang yang bertindak secara terpisah, tetapi karena tindakan gabungan mesin. dan orang-orang. Pilot manusia memperjuangkan kehidupan pesawat yang diotomatiskan untuk keamanan dan keandalan yang lebih baik; banyak kapal, satelit, dan pelampung apung yang saling berhubungan membantu menemukan lokasi kecelakaan; insinyur memproses informasi yang diterima dari robot dan menindaklanjutinya.
Kendaraan otomatis dan otonom terus-menerus dikembalikan ke penciptanya - manusia - untuk mendapatkan informasi, energi, dan arahan. Tragedi Air France Flight 447 memperjelas bahwa dengan terus-menerus beradaptasi dan memodifikasi lingkungan kita, kita mengubah diri kita sendiri. Bagaimana pilot bisa begitu kecanduan komputer sehingga mereka menjatuhkan pesawat yang berfungsi sempurna di laut? Apa peran manusia dalam berbagai bidang seperti transportasi dan transportasi, penelitian dan kegiatan militer, ketika semakin banyak tugas yang tampaknya paling penting dilakukan oleh mesin? Sudut pandang ekstrim adalah bahwa manusia hampir "tidak digunakan lagi", bahwa robot "secara harfiah membutuhkan satu pembaruan perangkat lunak" untuk menjadi sepenuhnya otonom, seperti yang baru-baru ini ditulis oleh Scienti fi c American. Pandangan ini memberitahu kitabahwa robot semakin maju - kita semakin sering bertemu mereka di lingkungan yang akrab. Kekhawatiran tentang kemampuan kecerdasan buatan yang tidak diketahui dan dipertanyakan muncul dari keyakinan bahwa kita berada di titik puncak "kecerdasan super". Dunia kita berada di ambang perubahan, pada kenyataannya, itu sudah berubah di bawah pengaruh robot dan otomatisasi.
Tiba-tiba, proyek baru muncul, mewujudkan impian lama akan mesin pintar yang membantu kami memenuhi tugas profesional kami, memfasilitasi kerja fisik, dan tugas rutin dalam kehidupan sehari-hari. Robot yang ada dan bekerja di dekat manusia pada tingkat fisik, kognitif, dan emosional menjadi topik penelitian yang semakin luas dan menjanjikan. Otonomi - impian bahwa robot suatu hari akan berperilaku sebagai entitas yang sepenuhnya independen - tetap menjadi sumber inspirasi, inovasi, dan ketakutan. Kegembiraan disebabkan oleh tingkat keparahan eksperimen; Bentuk persis dari teknologi ini masih jauh dari lengkap, dan bahkan kurang pasti adalah implikasi sosial, psikologis dan kognitifnya.
Bagaimana robot kita akan mengubah kita? Dalam gambar dan rupa apa kita akan membuatnya? Apa yang akan tersisa dari bidang aktivitas tradisional kita - ilmuwan, pengacara, dokter, tentara, manajer dan bahkan pengemudi dan petugas kebersihan - ketika tugas-tugas ini akan dilakukan oleh mesin? Bagaimana kita akan hidup dan bekerja? Kita tidak perlu berspekulasi: sebagian besar, masa depan ini telah tiba hari ini, jika tidak dalam kehidupan sehari-hari, maka dalam kondisi ekstrim, di mana kita telah menggunakan robot dan otomatisasi selama beberapa dekade. Manusia tidak bisa eksis sendirian di lapisan atas atmosfer, di kedalaman samudra, di luar angkasa. Karena kebutuhan untuk mengirim orang ke kondisi berbahaya ini, robotika dan otomasi dibuat dan diterapkan di area ini lebih awal daripada di area aktivitas lain yang lebih akrab bagi kita.
Dalam lingkungan yang ekstrim, hubungan antara manusia dan robot diuji kekuatannya. Perkembangan paling inovatif muncul di lingkungan seperti itu. Di sini para insinyur memiliki kebebasan paling luas untuk bereksperimen. Terlepas dari isolasi fisik, di sinilah efek kognitif dan sosial dari berbagai perangkat pertama kali mulai terwujud. Dengan nyawa manusia, peralatan mahal, dan misi kritis yang dipertaruhkan, otonomi harus selalu dibatasi oleh pertimbangan keselamatan dan keandalan. Dalam kondisi seperti itu, kesia-siaan dan urusan kehidupan sehari-hari untuk sementara surut ke latar belakang, dan kami menemukan, terpisah dari fragmen kegelapan di sekitarnya, kiasan hantu kehidupan manusia di dunia teknologi. Proses sosial dan teknologi di kokpit pesawat atau di dalam kendaraan laut dalam tidak berbeda secara fundamental dari proses serupa di pabrik, di kantor, atau di dalam mobil. Namun dalam kondisi ekstrim, mereka muncul lebih eksplisit dan oleh karena itu lebih mudah untuk dipahami.
Setiap penerbangan sebuah pesawat adalah sebuah cerita, sama seperti setiap ekspedisi oseanografi, penerbangan luar angkasa atau operasi militer. Melalui cerita orang dan mesin tertentu ini, kami dapat mengumpulkan data tentang dinamika halus. Dalam kondisi ekstrim, kami mendapatkan gambaran tentang masa depan kami yang dekat, ketika teknologi tersebut dapat diperkenalkan di area aktivitas manusia seperti transportasi jalan, perawatan kesehatan, pendidikan, dll. Perangkat yang dikendalikan oleh seseorang dari jarak jauh atau secara mandiri membuka kemungkinan interaksi baru secara kualitatif antara manusia dan mesin, bentuk baru kehadiran dan pengalaman baru, sementara pada saat yang sama menarik perhatian kita pada bahaya, aspek etika, dan konsekuensi yang tidak diinginkan dari hidup di sekitar mesin pintar. Kami melihat masa depan di mana kehadiran dan pengetahuan manusia akan menjadi lebih penting,dari sebelumnya, tetapi dengan cara yang tidak biasa dan asing. Dan mobil-mobil ini luar biasa.
Saya bukan satu-satunya orang yang mengagumi pesawat, pesawat luar angkasa, dan kapal selam sepanjang hidup saya. Faktanya, para pahlawan dari cerita yang akan saya ceritakan di bawah ini tidak hanya dipandu oleh pencarian manfaat praktis - mereka juga didorong oleh hasrat akan teknologi baru. Bukan kebetulan bahwa cerita seperti itu sering digambarkan dalam karya fiksi ilmiah tentang manusia dan mesin. Kisah-kisah manusia dan mesin yang berinteraksi pada batas kemungkinan mereka sangat menawan, mengejutkan, dan membangkitkan harapan akan siapa kita bisa menjadi. Antusiasme ini terkadang tercermin dalam kepercayaan yang naif terhadap perspektif teknologi. Tetapi secara bertahap, minat seperti itu membawa kita ke pertanyaan filosofis dan humanistik utama:siapa kita? Bagaimana kita terhubung dengan pekerjaan kita dan satu sama lain? Bagaimana kreasi kami memperluas pengalaman kami? Bagaimana kita bisa hidup di dunia yang terus berubah ini? Pertanyaan-pertanyaan ini muncul dengan sendirinya ketika Anda mulai berbicara dengan orang-orang yang membuat dan mengendalikan robot dan mesin. Saya ingin berbagi dengan Anda informasi yang saya terima secara langsung, dari wawancara paling detail dan hasil penelitian terbaru dari Massachusetts Institute of Technology dan organisasi lain, dalam rangka pengujian robotika dan otomasi yang dilakukan dalam kondisi ekstrim di kedalaman laut, selama penerbangan udara (sipil dan militer) dan di luar angkasa. Ini bukan masa depan imajiner, tetapi apa yang terjadi hari ini: kita akan melihat bagaimana orang mengontrol robot dan menerima informasi melalui perangkat otonom, kita akan menganalisis bagaimana interaksi ini memengaruhi pekerjaan mereka,pengalaman hidup, keterampilan dan kemampuan.
Kisah kami dimulai dari tempat saya sendiri memulai - di kedalaman lautan. Dua puluh lima tahun yang lalu, ketika saya adalah seorang insinyur yang mengembangkan komputer dan alat tertanam untuk robot laut dalam, saya kagum menemukan bahwa teknik ini mengubah oseanografi, metode ilmiah, dan bahkan sifat profesi ahli kelautan dengan cara yang tidak dapat diprediksi. Pemahaman ini membuat saya memiliki dua karier paralel. Sebagai seorang ilmuwan, saya telah mempelajari interaksi antara manusia dan mesin, dari kapal lapis baja selama Perang Saudara Amerika hingga komputer dan perangkat lunak yang membantu astronot Apollo mendarat di bulan.
Sebagai seorang insinyur, saya telah mengintegrasikan data yang diperoleh dari penelitian ini ke dalam proyek modern - mengembangkan robot dan perangkat untuk digunakan dalam interaksi dekat dengan manusia. Dalam beberapa cerita saya tampil sebagai peserta, dalam cerita lain - sebagai pengamat, dan dalam cerita lain - dalam kedua penyamaran ini sekaligus. Selama bertahun-tahun mengumpulkan pengalaman, mencari dan berbicara dengan orang-orang, saya menjadi yakin bahwa kita harus mengubah pikiran kita tentang robot. Bahkan bahasa yang kita gunakan untuk membicarakannya diambil dari fiksi ilmiah abad ke-20 dan tidak ada hubungannya dengan pencapaian teknis di zaman kita. Misalnya, pesawat yang dikendalikan dari jarak jauh disebut drone, seolah-olah mereka adalah robot tanpa pikiran, padahal sebenarnya mereka dikendalikan secara ketat oleh manusia.
Robot sering kali ditampilkan (dan dijual) sebagai perantara yang sepenuhnya otonom, tetapi bahkan otonomi terbatas saat ini seringkali hanya ada dalam imajinasi manusia. Robot yang kami gunakan begitu luas dan beragam bukanlah robot ancaman - mereka tertanam dalam jaringan sosial dan teknis seperti kita. Di bawah ini kita akan melihat banyak contoh bagaimana kita bekerja sama dengan mesin kita. Ini semua tentang kombinasi. Saatnya untuk mempertimbangkan fungsi apa yang sebenarnya dilakukan robot modern untuk lebih memahami hubungan kita dengan kreasi tangan manusia yang seringkali luar biasa terampil ini. Saya menawarkan Anda kesimpulan empiris yang didukung penelitian: apa pun yang dilakukan robot di laboratorium, pada kenyataannya, di mana kehidupan manusia dan sumber daya nyata dipertaruhkan,kami berusaha untuk membatasi otonomi mereka pada sejumlah besar persetujuan dan kesempatan yang diperlukan untuk intervensi manusia.
Saya tidak berpendapat bahwa mesin itu pintar, dan saya tidak mengatakan bahwa suatu hari mereka mungkin tidak cukup pintar. Sebaliknya, pendapat saya adalah bahwa mesin semacam itu tidak terisolasi dari manusia. Mari daftar tiga mitos abad ke-20 yang terkait dengan robotika dan otomasi. Mitos pertama adalah kemajuan linier - gagasan bahwa teknologi akan berpindah dari kendali manusia langsung ke kendali jarak jauh, dan kemudian ke robot yang sepenuhnya otonom. Kata-kata filsuf Peter Singer, yang terus-menerus berbicara untuk membela sistem otonom, menangkap inti dari mitos ini. Dia menulis bahwa "kemampuan orang untuk mempertahankan kendali atas apa yang terjadi dibatalkan baik oleh mereka yang berada di pucuk pimpinan maupun secara langsung oleh teknologi, dan oleh karena itu orang akan segera dikeluarkan dari lingkaran kendali." Tapi tidak ada alasan untuk berasumsievolusi itu akan mengikuti jalan ini, bahwa "teknologi itu sendiri", seperti yang ditulis Singer, akan mengarah pada sesuatu yang serupa. Faktanya, terdapat bukti bahwa manusia secara bertahap melakukan kontak yang lebih dalam dengan mesin mereka.
Kami terus-menerus menemukan bahwa orang-orang, yang dikendalikan dari jarak jauh oleh mereka dan kendaraan otonom berkembang secara paralel, saling memengaruhi. Misalnya, kendaraan udara tak berawak tidak akan dapat terbang di wilayah udara nasional AS tanpa perubahan yang sesuai pada kendaraan berawak. Atau untuk mengambil contoh lain: kemajuan baru dalam robotika di bidang perawatan pesawat ruang angkasa tercermin dalam karya astronot dengan Teleskop Luar Angkasa Hubble. Teknologi yang paling berkembang (dan kompleks) bukanlah teknologi yang bekerja secara terpisah dari manusia, tetapi yang paling tertanam dalam sistem sosial dan merespons lebih cepat terhadap apa yang terjadi di dalamnya. Yang kedua adalah mitos substitusi, gagasan bahwa mesin secara bertahap akan mulai mengambil alih semua tugas yang dilakukan manusia. Mitos ini adalah versi abad ke-20 dari apa yang saya sebut fenomena Kuda Besi.
Awalnya, orang mengira bahwa kereta api akan meniadakan kebutuhan akan kuda, tetapi kereta api telah menunjukkan diri mereka sebagai kuda yang sangat tidak penting. Kereta api terjadi ketika orang belajar melakukan hal-hal yang benar-benar baru dengan bantuan mereka. Peneliti faktor manusia dan ilmuwan kognitif berpendapat bahwa automata jarang hanya "memekanisasi" tugas manusia. Sebaliknya, mereka cenderung membuat tugas lebih sulit, seringkali dengan meningkatkan beban kerja (atau mendistribusikannya kembali). Pesawat yang dikendalikan dari jarak jauh tidak melakukan tugas yang sama seperti pesawat berawak; mereka mengambil fungsi baru. Robot yang dikendalikan dari jarak jauh di Mars tidak meniru pekerjaan ahli geologi di lapangan;mereka dan orang-orang yang bekerja dengan mereka belajar untuk melakukan penelitian lapangan di lingkungan baru menggunakan mekanisme jarak jauh.
Akhirnya, kami memiliki mitos ketiga - mitos otonomi penuh, gagasan utopis bahwa robot dapat bertindak sepenuhnya secara mandiri saat ini atau di masa depan. Ya, automata, tentu saja, dapat melakukan beberapa tugas yang sebelumnya dilakukan oleh manusia, dan mereka memang mampu bertindak sendiri-sendiri untuk jangka waktu terbatas dalam menanggapi perubahan lingkungan. Tetapi mesin yang tidak bergantung pada petunjuk manusia adalah mesin yang tidak berguna. Hanya batu yang dapat benar-benar otonom (tetapi bahkan batu pun dibuat dan ditempatkan di tempatnya berkat lingkungannya). Otomasi mengubah tingkat keterlibatan manusia dalam pengoperasian mesin, tetapi tidak menghilangkan kebutuhannya sepenuhnya. Dalam sistem apa pun, bahkan sistem yang tampaknya otonom, kita selalu dapat menemukan antarmuka yang dengannya seseorang dapat mengontrol pekerjaannya,membaca informasi dan berkat itu menjadi berguna. Mengutip salah satu laporan terbaru dari Dewan Sains Departemen Pertahanan AS, "Tidak ada sistem yang sepenuhnya otonom, sama seperti tidak ada tentara, pelaut, penerbang, atau marinir yang sepenuhnya otonom."
Untuk berpikir dalam istilah abad ke-21 dan mengubah pandangan kita tentang robotika, otomatisasi, dan terutama gagasan otonomi yang lebih baru, kita harus memahami bagaimana niat, rencana, dan asumsi manusia mengubah esensi dari mesin yang mereka buat. Setiap operator, yang mengendalikan peralatannya, berinteraksi dengan perancang dan pemrogram, yang keberadaannya di mesin tidak berubah-ubah - bahkan dalam bentuk elemen struktural atau baris kode yang dibuat beberapa tahun yang lalu. Komputer dalam pesawat Air France Flight 447 dapat terus menerbangkan pesawat dengan data kecepatan udara yang terbatas, tetapi manusia telah memprogramnya untuk mencegahnya. Bahkan jika perangkat lunak mengambil tindakan yang tidak dapat diprediksi, ia berperilaku dalam kerangka skema dan batasan yang ditetapkan oleh pembuatnya. Bahwa,bagaimana sistem dikembangkan, oleh siapa dan untuk tujuan apa, menentukan kemampuan dan cara berinteraksi dengan orang-orang yang menggunakannya. Tujuan saya adalah melepaskan diri dari mitos-mitos ini dan memahami konsep otonomi dalam konteks abad ke-21.
Melalui cerita-cerita berikut ini, saya bermaksud membentuk kembali wacana publik dan membuat peta konsep untuk era baru. Untuk membuat peta seperti itu, berbicara tentang perangkat dan robot dalam buku ini, saya akan beroperasi dengan konsep yang dikendalikan oleh manusia, jarak jauh, dan otonom. Yang pertama adalah analogi dari kata yang tidak selalu tepat "berawak", oleh karena itu dalam beberapa kasus "dikendalikan" berarti "dikendalikan oleh seseorang di dalam kendaraan". Ini, tentu saja, adalah jenis peralatan lama dan sudah dikenal seperti kapal, pesawat terbang, kereta api, dan mobil - mesin yang digunakan orang untuk bepergian. Biasanya, sistem yang dikendalikan manusia sama sekali tidak dianggap robot, meskipun semakin mirip robot dengan manusia di dalamnya. Remote, singkatan dari kendaraan yang dioperasikan dari jarak jauh, secara sederhana menunjukkan posisi operator dalam hubungannya dengan kendaraan tersebut. Bahkan ketika tugas kognitif untuk mengontrol sistem jarak jauh hampir sepenuhnya bertepatan dengan yang dilakukan langsung oleh operator yang hadir secara fisik, ada atau tidaknya operator dan risiko terkait diberikan signifikansi budaya yang besar.
Contoh paling mencolok adalah peperangan jarak jauh yang ribuan kilometer dari zona perang. Ini adalah pengalaman yang sama sekali berbeda dari tugas prajurit biasa. Sebagai fenomena kognitif, keberadaan manusia terjalin erat dengan aspek sosial. Otomasi juga merupakan ide abad kedua puluh dan masih mencerminkan pandangan mekanistik bahwa mesin mengikuti prosedur yang telah ditentukan selangkah demi selangkah. Istilah "otomatis" biasanya digunakan untuk mendeskripsikan komputer di dalam pesawat, meskipun mereka menggabungkan algoritme modern yang agak rumit. Otonomi adalah kata yang lebih modis saat ini dan salah satu prioritas penelitian utama dari Departemen Pertahanan AS yang terus menyusut. Beberapa peneliti dengan jelas membedakan antara otonomi dan otomatisasi, tetapi, menurut saya,perbedaan antara otonomi hanya terletak pada tingkat yang lebih luas dari pengambilan keputusan independen daripada umpan balik sederhana; Selain itu, konsep "otonomi" mencakup dan menyatukan banyak ide yang dipinjam dari teori kecerdasan buatan dan disiplin ilmu lainnya. Dan, tentu saja, gagasan tentang otonomi individu dan kelompok menjadi penyebab kontroversi terus-menerus dalam politik, filsafat, kedokteran, dan sosiologi. Ini tidak mengherankan, karena teknisi sering meminjam istilah dari ilmu sosial untuk mendeskripsikan mesin mereka. Gagasan tentang otonomi individu dan kelompok menjadi penyebab kontroversi terus-menerus dalam politik, filsafat, kedokteran, dan sosiologi. Ini tidak mengherankan, karena teknisi sering meminjam istilah dari ilmu sosial untuk mendeskripsikan mesin mereka. Gagasan tentang otonomi individu dan kelompok menjadi penyebab kontroversi terus-menerus dalam politik, filsafat, kedokteran, dan sosiologi. Ini tidak mengherankan, karena teknisi sering meminjam istilah dari ilmu sosial untuk mendeskripsikan mesin mereka.
Bahkan dalam bisnis desain, istilah "otonomi" dapat memiliki beberapa arti yang berbeda. Otonomi dalam desain pesawat ruang angkasa terdiri dari pemrosesan data yang diperlukan untuk pengoperasian pesawat ruang angkasa (baik itu stasiun otomatis yang mengorbit atau robot bergerak), terpisah dari tugas-tugas seperti perencanaan misi. Di Massachusetts Institute of Technology, tempat saya mengajar, materi kursus teknik otonomi terutama mencakup "perencanaan jalur" - cara berpindah dari satu titik ke titik lain, menghabiskan waktu yang cukup dan tanpa menabrak apa pun. Dalam sistem lain, otonomi dianalogikan dengan kecerdasan, kemampuan untuk membuat keputusan yang akan dibuat seseorang dalam situasi tertentu, atau kemampuan untuk bertindak dalam kondisi tertentu.yang tidak diharapkan atau diramalkan oleh pembuat perangkat.
Kapal selam otonom disebut demikian karena mereka beroperasi sendiri dan berlawanan dengan kendaraan yang dikendalikan dari jarak jauh yang dihubungkan ke kapal dengan kabel panjang. Meskipun demikian, para insinyur yang membuat kapal selam otonom mengatakan bahwa perangkat mereka semi-otonom, karena hanya dalam kasus yang jarang mereka beroperasi tanpa kontak dengan operator. Istilah "otonom" menyiratkan kebebasan bertindak yang lebih besar. Ini menjelaskan cara peralatan dioperasikan, yang merupakan faktor yang berpotensi mudah menguap. Sebuah studi baru-baru ini menyarankan istilah "peningkatan otonomi": dengan cara ini, penulis menekankan sifat relatif dari otonomi dan menyatakan bahwa otonomi "lengkap", yaitu, mesin yang tidak perlu menerima informasi dari seseorang, akan selalu tidak terjangkau.
Dalam buku ini, definisi kerja dari otonomi adalah: sarana yang dikembangkan manusia untuk mengubah informasi dari lingkungan menjadi rencana dan tindakan yang ditargetkan. Kata-kata itu penting, dan itu memberi kontroversi rasa yang berbeda. Tapi kita seharusnya tidak memikirkannya. Saya akan sering mengandalkan bahasa (yang terkadang tidak akurat) yang digunakan oleh orang yang bekerja dengan saya. Inti dari buku ini bukanlah dalam definisi, tetapi dalam deskripsi pekerjaan nyata - bagaimana orang menggunakan sistem ini di dunia nyata, mendapatkan pengalaman baru, meneliti, atau bahkan berkelahi dan membunuh. Apa yang sebenarnya terjadi? Jika Anda memperhatikan pengalaman hidup para desainer dan mereka yang menggunakan robot, maka semuanya bisa menjadi jelas. Sebagai contoh,kata "drone" menyembunyikan sifat manusia yang melekat pada robot dan mengaitkan sisi negatifnya dengan gagasan abstrak seperti "teknologi" atau "otonomi". Saat kami memeriksa cara kerja bagian dalam operator Predator, kami mengetahui bahwa mereka tidak berperang dengan perangkat otomatis - manusia masih menciptakan, memprogram, dan mengendalikan mesin.
Ada perdebatan panjang tentang etika dan kebijakan pembunuhan jarak jauh oleh drone dengan operator jarak jauh, atau kerahasiaan perangkat semacam itu yang beroperasi di wilayah udara internal AS. Namun perdebatan ini berkaitan dengan sifat, tempat, dan waktu keputusan manusia, bukan dengan mesin otonom. Akibatnya, pertanyaannya bukan pada kontras kendaraan berawak dan tak berawak dan bukan pada kendaraan yang dikendalikan manusia dengan kendaraan otonom. Pertanyaan utama buku ini adalah: "Di manakah orang-orang itu?", "Siapa orang-orang ini?", "Apa yang mereka lakukan?", "Kapan mereka melakukannya?" Dimana orang-orang? (Di kapal … di udara … di dalam mobil … atau di kantor?) Manipulasi operator Predator mirip dengan tindakan seorang pilot pesawat - dia memantau keadaan sistem di dalam pesawat, melihat informasi,membuat keputusan dan mengambil langkah-langkah tertentu. Namun tubuhnya berada di tempat yang berbeda, mungkin beberapa ribu kilometer dari hasil karyanya. Perbedaan ini penting. Tugasnya berbeda. Risikonya berbeda, begitu pula keseimbangan kekuatan.
Pikiran manusia mampu melakukan perjalanan ke tempat lain, negara lain, ke planet lain. Pengetahuan yang diperoleh melalui pikiran dan indera berbeda dengan pengetahuan yang diperoleh melalui tubuh (di mana Anda makan, tidur, berkomunikasi, buang air besar). Kami memutuskan mana dari dua jalur untuk memperoleh pengetahuan yang harus diikuti tergantung pada situasi spesifik, dan ini memiliki konsekuensi bagi mereka yang terlibat dalam proses tersebut. Siapakah orang-orang ini? (Pilot … insinyur … ilmuwan … pekerja tidak terlatih … manajer?) Ubah tekniknya, dan kemudian tugas dan inti dari spesialis yang mengerjakannya akan berubah. Faktanya, Anda akan mengubah seluruh kontingen orang yang mampu mengelola sistem. Diperlukan studi dan pelatihan bertahun-tahun untuk menjadi pilot, dan profesi ini berada di puncak hierarki personel. Apakah kendali jarak jauh sebuah pesawat membutuhkan keterampilan dan sifat yang sama? Dari kelas sosial manakah tenaga kerja dapat direkrut?
Peningkatan otomatisasi pada pesawat komersial sejalan dengan perluasan demografi pilot baik di negara industri maupun di seluruh dunia. Apakah seorang peneliti seseorang yang bepergian dalam kondisi berbahaya, atau seseorang yang duduk di rumah di depan komputer? Apakah Anda harus menikmati hidup di atas kapal untuk menjadi ahli kelautan? Bisakah Anda menjelajahi Mars dengan menggunakan kursi roda? Apa pilot, peneliti, dan ilmuwan baru yang bekerja dengan akses jarak jauh ini? Apa yang mereka lakukan? (Terbang … mengontrol … memproses informasi … berkomunikasi?) Upaya fisik berubah menjadi pemrosesan informasi visual, dan kemudian menjadi tugas kognitif. Apa yang dulu membutuhkan kekuatan sekarang membutuhkan perhatian, kesabaran, dan reaksi cepat. Apakah pilot meletakkan tangannya langsung pada tuas kontrol,kapan dia menerbangkan pesawat? Atau masukkan perintah kunci ke dalam autopilot atau komputer penerbangan untuk memprogram jalur penerbangan pesawat? Apa peran penilaian orang tersebut terhadap situasi? Apa peran insinyur yang memprogram komputer terpasang, atau teknisi penerbangan yang menyiapkannya?
Kapan mereka melakukannya? (Dalam waktu nyata … dengan beberapa penundaan … sebelumnya, bertahun-tahun atau bulan sebelum misi?) Penerbangan pesawat biasa terjadi dalam waktu nyata: seseorang segera bereaksi terhadap peristiwa yang terjadi, dan tindakannya memiliki dampak langsung. Dalam skenario penerbangan luar angkasa, perangkat mungkin berada di Mars (atau mendekati asteroid yang jauh), dalam hal ini akan membutuhkan waktu 20 menit bagi perangkat untuk menerima perintah, dan 20 menit bagi operator untuk melihat bahwa sesuatu telah terjadi. Atau kita dapat mengatakan bahwa pesawat mendarat "dalam mode otomatis", padahal pada kenyataannya kita memahami bahwa pesawat itu mendarat di bawah kendali pemrogram yang meninggalkan instruksi beberapa bulan atau tahun sebelum mendarat (meskipun di sini kita mungkin harus membuat penyesuaian pada konsep "kontrol"). Mengontrol sistem otomatis bisa menyerupai berinteraksi dengan hantu. Pertanyaan sederhana ini menarik perhatian kami pada realokasi dan penataan kembali.
Bentuk baru kehadiran dan aktivitas manusia tidak biasa dan tidak setara dengan yang lama - identitas budaya seorang pilot yang mempertaruhkan nyawanya terbang di atas medan perang berbeda dari orang yang mengendalikan kendaraan dari jarak jauh dari stasiun darat. Tetapi perubahan ini juga tidak terduga - operator jarak jauh mungkin merasa lebih hadir di medan perang daripada pilot yang terbang tinggi di atasnya. Informasi ilmiah tentang bulan bisa jadi sama atau bahkan lebih lengkap bila dikumpulkan oleh kendaraan yang dikendalikan dari jarak jauh, dan bukan oleh orang yang mendarat langsung di planet tersebut. Tetapi pengalaman budaya eksplorasi bulan dalam hal ini sama sekali berbeda. Mari kita ganti gagasan kuno dengan gambar animasi yang kaya tentang bagaimana manusia sebenarnya membuat dan mengontrol robot dan sistem otomatis di dunia nyata. Kisah-kisah di bawah ini bersifat ilmiah dan teknis serta humanistik.
Kita akan melihat bahwa mesin yang digerakkan oleh manusia, jarak jauh, dan otonom memungkinkan pergerakan dan reorientasi kehadiran dan tindakan manusia dalam ruang dan waktu. Inti dari buku ini adalah sebagai berikut: yang penting bukanlah oposisi dari sistem yang dikendalikan manusia dan otonom, melainkan pertanyaan - "Di mana orang-orangnya?", "Siapakah orang-orang ini?", "Apa yang mereka lakukan dan kapan?" Pertanyaan terakhir yang paling sulit adalah: "Bagaimana persepsi manusia berubah?", "Dan mengapa itu penting?"
