Kecerdasan buatan akan segera berkembang ke tingkat kecerdasan pada tikus atau anjing, yang menimbulkan masalah etika bagi masyarakat.
Saatnya untuk mempertimbangkan apakah kecerdasan buatan layak mendapatkan perlindungan etis yang diberikan masyarakat kepada hewan, dan dalam kondisi apa ia harus menerimanya, mendesak edisi Aeon. Masalah ini perlu diatasi sebelum kita dapat menciptakan AI yang setara atau lebih unggul dari manusia.
Sudah ada banyak komunitas dan komite di seluruh dunia untuk memastikan bahwa hewan tidak dikorbankan dan mengalami penderitaan yang tidak perlu. Ketika sel punca manusia atau sel otak manusia digunakan selama penelitian, persyaratan etika menjadi lebih ketat. Sisi etis penggunaan kecerdasan buatan belum dipelajari dengan cara apa pun, apalagi dikontrol. Mungkin seharusnya begitu.
Dapat diasumsikan bahwa AI tidak layak mendapatkan jenis perlindungan etis yang diberikan kepada manusia dan hewan, karena kurangnya kesadaran dan emosi, seperti kegembiraan atau penderitaan. Mungkin. Tetapi kemudian kita dihadapkan pada pertanyaan filosofis yang sulit: bagaimana kita tahu bahwa kita telah menciptakan sesuatu yang mampu mengalami kegembiraan dan penderitaan? Jika AI cukup maju untuk mengeluh dan membela haknya, itu satu hal. Tetapi bagaimana jika dia seperti kecerdasan tikus atau anjing dan tidak dapat menceritakan tentang pengalamannya?
Di sini masalah muncul, karena dalam sains mereka belum mencapai konsensus tentang apa itu kesadaran dan bagaimana menentukan apakah itu ada atau tidak. Diyakini bahwa keberadaan kesadaran hanya membutuhkan jenis tertentu dari pemrosesan informasi yang terorganisir dengan baik: model informasi sistem yang fleksibel dalam kaitannya dengan objek di lingkungannya, dengan kemungkinan perhatian terkontrol dan perencanaan tindakan jangka panjang. Mungkin orang akan menciptakan sesuatu yang serupa dalam waktu dekat. Pandangan lain yang lebih konservatif adalah bahwa kesadaran mungkin memerlukan fitur biologis yang sangat spesifik, seperti otak yang terlihat seperti otak mamalia. Kita masih jauh dari tingkat kesadaran buatan ini.
Tidak jelas mana dari ide-ide ini yang benar, dan apakah definisi kesadaran baru akan muncul dalam waktu dekat. Namun, jika sudut pandang pertama benar, kami mungkin akan segera membuat banyak AI non-manusia yang memerlukan perlindungan hak.
Hak-hak hewan dan manusia mulai dipertahankan hanya setelah pelanggaran etika yang serius dicatat dalam hubungannya - pembedahan yang tidak perlu, kejahatan perang medis Nazi, serta penelitian tentang sifilis di kota Tuskegee (AS), di mana orang sehat terinfeksi penyakit ini. Mungkin hal serupa akan terjadi di bidang perlindungan hak AI.
