Hantu pembunuh mesin terus berlanjut. Apa yang dipercaya oleh Presiden Putin?

Pendukung robot militer (1) berpendapat bahwa senjata otomatis memberikan lebih banyak pilihan untuk melindungi kehidupan manusia. Mesin bisa lebih dekat dengan musuh daripada tentara, dan menilai ancaman dengan benar. Dan emosi terkadang melumpuhkan kemampuan untuk membuat keputusan yang tepat.

Banyak pendukung penggunaan robot pembunuh sangat percaya bahwa mereka akan membuat perang tidak terlalu berdarah karena lebih sedikit tentara yang akan mati. Mereka mencatat bahwa robot, meskipun tidak merasa kasihan, kebal terhadap emosi negatif manusia seperti panik, marah, dan balas dendam, yang sering mengarah pada kejahatan perang.

Aktivis hak asasi manusia juga menggunakan argumen bahwa militer telah menyebabkan pengurangan besar korban sipil selama setengah abad terakhir, dan robotisasi tentara memungkinkan mekanisme untuk menegakkan hukum perang lebih ketat. Mereka mengklaim bahwa mesin akan menjadi etis ketika mereka dilengkapi dengan perangkat lunak yang akan memaksa mereka untuk mematuhi hukum perang.

Tentu saja, sejumlah besar orang, termasuk yang sangat terkenal, tidak memiliki pendapat ini selama bertahun-tahun. Pada April 2013, kampanye internasional diluncurkan dengan slogan (2). Dalam kerangkanya, organisasi non-pemerintah menuntut larangan total penggunaan senjata otonom. Para ahli dari banyak negara pertama kali duduk untuk membahas topik ini pada Konferensi Perlucutan Senjata PBB di Jenewa pada Mei 2014. Sebuah laporan yang diterbitkan beberapa bulan kemudian oleh Human Rights Watch dan para ilmuwan dari Universitas Harvard mengatakan bahwa yang otonom akan terlalu berbahaya - mereka memilih target mereka sendiri dan membunuh orang. Pada saat yang sama, tidak terlalu jelas siapa yang harus dimintai pertanggungjawaban.

2. Demonstrasi sebagai bagian dari aksi "Hentikan robot pembunuh"

Apa yang bisa dilakukan segerombolan drone kecil

Perselisihan seputar robot pembunuh (ROU) telah berlangsung selama bertahun-tahun dan tidak kunjung reda. Beberapa bulan terakhir telah membawa upaya baru untuk menghentikan robot militer dan gelombang laporan proyek baru jenis ini, beberapa di antaranya bahkan sedang diuji dalam kondisi pertempuran nyata.

Pada November 2017, sebuah video menunjukkan segerombolan drone mini yang mematikan ., dalam aksi yang menakutkan. Pemirsa melihat bahwa kita tidak lagi membutuhkan mesin perang berat, tank, atau rudal yang dilemparkan oleh Predator untuk membunuh secara massal dan dengan senapan mesin. Direktur utama Stuart Russell, profesor kecerdasan buatan di Berkeley, mengatakan:

-

Musim semi lalu lima puluh profesor Universitas terkemuka dunia telah menandatangani banding ke Institut Sains dan Teknologi Tingkat Lanjut Korea (KAIST) dan mitranya Hanwha Systems. mereka mengumumkan bahwa mereka tidak akan bekerja sama dengan universitas dan menjamu tamu KAIST. Pasalnya, pembangunan "senjata otonom" dilakukan oleh kedua institusi tersebut. KAIST membantah laporan media tersebut.

Tak lama kemudian di AS lebih dari 3 karyawan Google memprotes pekerjaan perusahaan untuk militer. Mereka khawatir bahwa Google bermitra dengan proyek pemerintah dengan nama sandi Maven yang bertujuan menggunakan AI untuk mengenali objek dan wajah dalam video drone militer. Manajemen perusahaan mengatakan bahwa tujuan Maven adalah untuk menyelamatkan nyawa dan menyelamatkan orang dari pekerjaan yang membosankan, bukan agresi. Para pengunjuk rasa tidak yakin.

Bagian selanjutnya dari pertempuran adalah deklarasi ahli kecerdasan buatan, termasuk mengerjakan proyek Google dan Elon Musk. Mereka berjanji untuk tidak mengembangkan robot. Mereka juga meminta pemerintah untuk mengintensifkan upaya untuk mengatur dan membatasi senjata ini.

Pernyataan itu mengatakan, sebagian, bahwa "keputusan untuk mengambil nyawa manusia tidak boleh diambil oleh mesin." Meskipun tentara dunia dilengkapi dengan banyak perangkat otomatis, terkadang dengan otonomi tingkat tinggi, banyak ahli khawatir bahwa di masa depan teknologi ini akan menjadi sepenuhnya otonom, memungkinkan pembunuhan tanpa keterlibatan operator dan komandan manusia.

Para ahli juga memperingatkan bahwa mesin pembunuh otonom bisa lebih berbahaya daripada "senjata nuklir, kimia dan biologi" karena mereka dapat dengan mudah lepas kendali. Secara total, pada Juli tahun lalu, sebuah surat di bawah naungan Future of Life Institute (FGI) ditandatangani oleh 170 organisasi dan 2464 individu. Pada bulan-bulan awal 2019, sekelompok ilmuwan medis yang berafiliasi dengan FLI menyerukan lagi surat baru yang melarang pengembangan senjata yang dikendalikan kecerdasan buatan (AI).

Pertemuan PBB Agustus tahun lalu di Gniewo tentang kemungkinan regulasi hukum "robot pembunuh" militer berakhir dengan sukses ... mesin. Sekelompok negara, termasuk Amerika Serikat, Rusia dan Israel, memblokir pekerjaan lebih lanjut pada pengenalan larangan internasional atas senjata ini (draf Konvensi Larangan atau Pembatasan Penggunaan Senjata Konvensional Tertentu, CCW). Bukan kebetulan bahwa negara-negara ini dikenal karena pekerjaan mereka pada sistem senjata otonom dan robot canggih.

Rusia fokus pada robot tempur

Presiden Vladimir Putin sering dikutip mengatakan tentang sistem AI militer dan robot tempur:

-.

berbicara secara terbuka tentang pengembangan senjata otonom. Kepala Staf Umum angkatan bersenjatanya, Jenderal Valery Gerasimov, baru-baru ini mengatakan kepada kantor berita militer Interfax-AVN bahwa penggunaan robot akan menjadi salah satu fitur utama perang di masa depan. Dia menambahkan bahwa Rusia sedang mencoba sepenuhnya mengotomatiskan medan perang. Komentar serupa dibuat oleh Wakil Perdana Menteri Dmitry Rogozin dan Menteri Pertahanan Sergei Shoigu. Ketua Komite Dewan Federasi untuk Pertahanan dan Keamanan Viktor Bondarev mengatakan bahwa Rusia sedang berusaha untuk mengembangkan Teknologi Rojuini akan memungkinkan jaringan drone berfungsi sebagai satu kesatuan.

Ini tidak mengherankan jika kita ingat bahwa teletank pertama dikembangkan di Uni Soviet pada tahun 30-an. Mereka digunakan pada awal Perang Dunia II. Hari ini Rusia juga menciptakan robot tangki menjadi semakin mandiri.

Negara Putin baru-baru ini mengirim sendiri ke Suriah Kendaraan tempur tak berawak Uran-9 (3). perangkat kehilangan kontak dengan titik kontrol darat, memiliki masalah dengan sistem suspensi, dan senjatanya tidak berfungsi dengan sempurna dan tidak mengenai sasaran yang bergerak. Kedengarannya tidak terlalu serius, tetapi banyak yang menganggap pembersihan Suriah sebagai tes pertempuran yang baik yang memungkinkan Rusia meningkatkan mesin.

Roscosmos telah menyetujui rencana awal untuk mengirim dua robot ke Stasiun Luar Angkasa Internasional pada Agustus tahun ini. Fedor (4) di Uni tak berawak. Tidak seperti beban, tapi. Seperti di film RoboCop, Fedor menggunakan senjata dan menunjukkan keahlian menembak yang mematikan selama latihan menembak.

Pertanyaannya adalah, mengapa robot di luar angkasa dipersenjatai? Ada kecurigaan bahwa masalah ini tidak hanya dalam aplikasi tanah. Sementara itu di Bumi, produsen senjata Rusia Kalashnikov menunjukkan visualisasi robot Igorekyang, meskipun menimbulkan banyak tawa, menandakan bahwa perusahaan tersebut serius mengerjakan kendaraan tempur otonom. Pada Juli 2018, Kalashnikov mengumumkan bahwa dia sedang membuat senjata yang dia gunakan untuk membuat keputusan "tembak atau tidak tembak".

Untuk informasi ini harus ditambahkan laporan bahwa pembuat senjata Rusia Digtyarev mengembangkan sebuah senjata kecil tangki otonom Nerekht yang dapat bergerak diam-diam menuju targetnya sendiri dan kemudian meledak dengan kekuatan yang kuat untuk menghancurkan bangunan lain atau seluruh bangunan. Sebaik Tank T14 Tentara , kebanggaan angkatan bersenjata Rusia, dirancang untuk memungkinkan kendali jarak jauh dan mengemudi tanpa awak. Sputnik mengklaim bahwa insinyur militer Rusia sedang bekerja untuk membuat T-14 menjadi kendaraan lapis baja yang sepenuhnya otonom.

Arahan Keberatan

Militer AS sendiri telah memberlakukan batasan yang cukup jelas pada tingkat otonomi senjata mereka. Pada tahun 2012, Departemen Pertahanan AS mengeluarkan Directive 3000.09, yang menyatakan bahwa manusia harus memiliki hak untuk menolak tindakan robot bersenjata. (walaupun mungkin ada beberapa pengecualian). Arahan ini tetap berlaku. Kebijakan Pentagon saat ini adalah bahwa faktor penentu dalam penggunaan senjata harus selalu menjadi orang, dan penilaian seperti itu harus dilakukan. sesuai dengan hukum perang.

Meskipun orang Amerika telah menggunakan terbang, Predator, Reaper, dan banyak mesin super lainnya selama beberapa dekade, mereka bukan dan bukan model otonom. Mereka dikendalikan oleh operator dari jarak jauh, terkadang dari jarak beberapa ribu kilometer. Sebuah diskusi panas tentang otonomi mesin jenis ini dimulai dengan pemutaran perdana prototipe. drone X-47B (5), yang tidak hanya terbang secara mandiri, tetapi juga dapat lepas landas dari kapal induk, mendarat di atasnya, dan mengisi bahan bakar di udara. Maknanya juga menembak atau mengebom tanpa campur tangan manusia. Namun, proyek tersebut masih dalam pengujian dan peninjauan.

5. Pengujian X-47B tanpa awak di kapal induk Amerika

Pada tahun 2003, Departemen Pertahanan mulai bereksperimen dengan robot kecil seperti tank. SPOES dilengkapi dengan senapan mesin. Pada tahun 2007 ia dikirim ke Irak. namun, program tersebut berakhir setelah robot mulai bertingkah tak menentu, menggerakkan senapannya tak menentu. Akibatnya, militer AS meninggalkan studi robot darat bersenjata selama bertahun-tahun.

Pada saat yang sama, Angkatan Darat AS telah meningkatkan pengeluarannya untuk operasi dari $20 juta pada tahun 2014 menjadi $156 juta pada tahun 2018. Pada 2019, anggaran ini telah melonjak menjadi $ 327 juta. Ini adalah peningkatan kumulatif 1823% hanya dalam beberapa tahun. Para ahli mengatakan bahwa pada awal 2025, militer AS mungkin memiliki medan perang lebih banyak tentara robot daripada manusia.

Baru-baru ini, banyak kontroversi telah disebabkan dan diumumkan oleh Angkatan Darat AS proyek ATLAS () - otomatis. Di media, ini dianggap sebagai pelanggaran terhadap arahan 3000.09 yang disebutkan di atas. Namun, militer AS menyangkal dan memastikan bahwa pengecualian seseorang dari siklus pengambilan keputusan tidak mungkin dilakukan.

AI mengenali hiu dan warga sipil

Namun, pembela senjata otonom memiliki argumen baru. prof. Ronald Arkin, seorang ahli robotik di Institut Teknologi Georgia, menyatakan dalam publikasinya bahwa Dalam peperangan modern, senjata cerdas sangat penting untuk menghindari korban sipil, karena teknik pembelajaran mesin dapat secara efektif membantu membedakan antara kombatan dan warga sipil, serta target penting dan tidak penting.

Contoh keterampilan AI semacam itu adalah berpatroli di pantai Australia. drone Little Ripperdilengkapi dengan sistem SharkSpotter yang dikembangkan oleh University of Technology Sydney. Sistem ini secara otomatis memindai air untuk mencari hiu dan memperingatkan operator ketika melihat sesuatu yang tidak aman. (6) Dapat mengidentifikasi orang, lumba-lumba, perahu, papan selancar, dan benda-benda di dalam air untuk membedakan mereka dari hiu. Ini dapat mendeteksi dan mengidentifikasi sekitar enam belas spesies berbeda dengan akurasi tinggi.

6. Hiu yang dikenali dalam sistem SharkSpotter

Metode pembelajaran mesin canggih ini meningkatkan akurasi pengintaian udara lebih dari 90%. Sebagai perbandingan, operator manusia dalam situasi serupa secara akurat mengenali 20-30% objek dalam foto udara. Selain itu, identifikasi masih diverifikasi oleh manusia sebelum alarm.

Di medan perang, operator, melihat gambar di layar, hampir tidak dapat menentukan apakah orang-orang di lapangan adalah pejuang dengan AK-47 di tangan mereka atau, misalnya, petani dengan tombak. Arkin mencatat bahwa orang cenderung "melihat apa yang ingin mereka lihat," terutama dalam situasi stres. Efek ini berkontribusi pada jatuhnya pesawat Iran secara tidak sengaja oleh USS Vincennes pada tahun 1987. Tentu saja, menurutnya, senjata yang dikendalikan AI akan lebih baik daripada "bom pintar" saat ini, yang tidak benar-benar hidup. Agustus lalu, sebuah rudal berpemandu laser Saudi menghantam sebuah bus yang penuh dengan anak-anak sekolah di Yaman, menewaskan empat puluh anak.

“Jika bus sekolah diberi label dengan benar, mengidentifikasinya dalam sistem otonom bisa relatif mudah,” bantah Arkin dalam Popular Mechanics.

Namun, argumen ini tampaknya tidak meyakinkan para juru kampanye melawan pembunuh otomatis. Selain ancaman robot pembunuh, keadaan penting lainnya harus diperhitungkan. Bahkan sistem yang "baik" dan "penuh perhatian" dapat diretas dan diambil alih oleh orang yang sangat jahat. Maka semua argumen dalam membela peralatan militer kehilangan kekuatannya.