Perang algoritma

Ketika datang ke penggunaan kecerdasan buatan di militer, mimpi buruk fiksi ilmiah segera bangun, AI pemberontak dan mematikan yang bangkit melawan umat manusia untuk menghancurkannya. Sayangnya, ketakutan militer dan pemimpin bahwa “musuh akan mengejar kita” sama kuatnya dalam pengembangan algoritma peperangan.

Peperangan Algoritmayang, menurut banyak orang, secara mendasar dapat mengubah wajah medan perang seperti yang kita ketahui, terutama karena peperangan akan lebih cepat, jauh di depan kemampuan orang untuk membuat keputusan. Jenderal Amerika Jack Shanahan (1), kepala Pusat Gabungan AS untuk Kecerdasan Buatan, menekankan, bagaimanapun, bahwa sebelum memasukkan kecerdasan buatan ke dalam gudang senjata, kita harus memastikan bahwa sistem ini masih di bawah kendali manusia dan tidak memulai perang sendiri.

“Jika musuh memiliki mesin dan algoritma, kita akan kehilangan konflik ini”

Kemampuan mengemudi perang algoritmik didasarkan pada pemanfaatan kemajuan teknologi komputer di tiga bidang utama. Pertama dekade pertumbuhan eksponensial dalam daya komputasiini telah sangat meningkatkan kinerja pembelajaran mesin. Kedua pertumbuhan sumber daya yang cepat “Big data”, yaitu kumpulan data besar, biasanya otomatis, terkelola, dan terus dibuat yang cocok untuk pembelajaran mesin. Kekhawatiran ketiga perkembangan pesat teknologi komputasi awan, di mana komputer dapat dengan mudah mengakses sumber daya data dan memprosesnya untuk memecahkan masalah.

Algoritma Perangseperti yang didefinisikan oleh para ahli, pertama-tama harus diungkapkan dengan kode komputer. Kedua, harus merupakan hasil dari platform yang mampu mengumpulkan informasi dan membuat pilihan, membuat keputusan yang, setidaknya secara teori, tidak memerlukan Intervensi manusia. Ketiga, yang tampak jelas, tetapi tidak harus demikian, karena hanya dalam tindakanlah menjadi jelas apakah suatu teknik yang dimaksudkan untuk sesuatu yang lain dapat berguna dalam perang dan sebaliknya, ia harus dapat bekerja dalam kondisi-kondisi. konflik bersenjata.

Analisis arah di atas dan interaksinya menunjukkan bahwa perang algoritmik itu bukan teknologi yang terpisah seperti, misalnya. senjata energi или rudal hipersonik. Efeknya luas dan secara bertahap menjadi di mana-mana dalam permusuhan. Untuk pertama kalinya kendaraan militer mereka menjadi cerdas, berpotensi membuat kekuatan pertahanan yang menerapkannya lebih efisien dan efektif. Mesin cerdas seperti itu memiliki batasan yang jelas yang perlu dipahami dengan baik.

"" kata Shanahan musim gugur yang lalu dalam sebuah wawancara dengan mantan CEO Google Eric Schmidt dan wakil presiden urusan internasional Google Kent Walker. "".

Draf laporan Dewan Keamanan Nasional AS tentang AI mengacu pada China lebih dari 50 kali, menyoroti tujuan resmi China untuk menjadi pemimpin dunia dalam AI pada tahun 2030 (Lihat juga: ).

Kata-kata ini diucapkan di Washington pada konferensi khusus yang berlangsung setelah Shanakhan Center yang disebutkan di atas mempresentasikan laporan pendahuluannya kepada Kongres, disiapkan bekerja sama dengan para ahli terkenal di bidang kecerdasan buatan, termasuk Direktur Riset Microsoft Eric Horwitz, CEO AWS Andy Jassa dan Peneliti Utama Google Cloud Andrew Moore. Laporan akhir akan diterbitkan pada Oktober 2020.

protes karyawan Google

Beberapa tahun lalu, Pentagon terlibat. perang algoritmik dan sejumlah proyek terkait AI di bawah proyek Maven, berdasarkan kolaborasi dengan perusahaan teknologi, termasuk Google dan perusahaan rintisan seperti Clarifai. Itu terutama tentang mengerjakan kecerdasan buatanuntuk memudahkan identifikasi objek pada.

Ketika diketahui tentang partisipasi Google dalam proyek pada musim semi 2018, ribuan karyawan raksasa Mountain View menandatangani surat terbuka yang memprotes partisipasi perusahaan dalam permusuhan. Setelah berbulan-bulan kerusuhan buruh Google telah mengadopsi seperangkat aturannya sendiri untuk AIyang mencakup larangan partisipasi dalam acara-acara.

Google juga telah berkomitmen untuk menyelesaikan kontrak Project Maven pada akhir 2019. Keluarnya Google tidak mengakhiri Project Maven. Itu dibeli oleh Palantir Peter Thiel. Angkatan Udara dan Korps Marinir AS berencana untuk menggunakan kendaraan udara tak berawak khusus, seperti Global Hawk, sebagai bagian dari proyek Maven, yang masing-masing seharusnya memantau secara visual hingga 100 kilometer persegi.

Pada kesempatan apa yang terjadi di sekitar Proyek Maven, menjadi jelas bahwa militer AS sangat membutuhkan cloud-nya sendiri. Inilah yang dikatakan Shanahan selama konferensi. Ini terbukti ketika rekaman video dan pembaruan sistem harus diangkut dengan truk ke instalasi militer yang tersebar di seluruh lapangan. Di gedung komputasi awan terpadu, yang akan membantu memecahkan masalah jenis ini, sebagai bagian dari proyek infrastruktur TI terpadu untuk tentara Jedi, Microsoft, Amazon, Oracle, dan IBM. Google bukan karena kode etik mereka.

Jelas dari pernyataan Shanahan bahwa revolusi AI yang hebat di militer baru saja dimulai. Dan peran pusatnya di angkatan bersenjata AS semakin meningkat. Hal ini terlihat jelas dalam perkiraan anggaran JAIC. Pada 2019, totalnya hanya di bawah $ 90 juta. Pada tahun 2020, seharusnya sudah menjadi $414 juta, atau sekitar 10 persen dari anggaran AI Pentagon sebesar $4 miliar.

Mesin itu mengenali seorang prajurit yang menyerah

Pasukan AS sudah dilengkapi dengan sistem seperti Phalanx (2), yang merupakan jenis senjata otonom yang digunakan di kapal Angkatan Laut AS untuk menyerang rudal yang masuk. Ketika sebuah rudal terdeteksi, itu akan menyala secara otomatis dan menghancurkan semua yang ada di jalurnya. Menurut Ford, dia bisa menyerang dengan empat atau lima rudal dalam waktu setengah detik tanpa harus melewati dan melihat setiap sasaran.

Contoh lain adalah semi-otonom Harpy (3), sistem tak berawak komersial. Harpy digunakan untuk menghancurkan radar musuh. Misalnya, pada tahun 2003, ketika AS melancarkan serangan ke Irak yang memiliki sistem intersepsi radar udara, drone buatan Israel membantu menemukan dan menghancurkannya sehingga Amerika dapat dengan aman terbang ke wilayah udara Irak.

3. Peluncuran drone sistem Harpy IAI

Contoh lain yang terkenal dari senjata otonom adalah Sistem Samsung SGR-1 Korea, terletak di zona demiliterisasi antara Korea Utara dan Selatan, yang dirancang untuk mengidentifikasi dan menembak penyusup pada jarak hingga empat kilometer. Menurut uraiannya, sistem “dapat membedakan antara orang yang menyerah dan orang yang tidak menyerah” berdasarkan posisi tangan mereka atau pengenalan posisi senjata di tangan mereka.

4. Demonstrasi pendeteksian tentara yang menyerah oleh sistem Samsung SGR-1

Orang Amerika takut ditinggalkan

Saat ini, setidaknya 30 negara di dunia menggunakan senjata otomatis dengan tingkat pengembangan dan penggunaan AI yang berbeda. China, Rusia dan Amerika Serikat melihat kecerdasan buatan sebagai elemen yang sangat diperlukan dalam membangun posisi masa depan mereka di dunia. “Siapa pun yang memenangkan perlombaan AI akan menguasai dunia,” kata Presiden Rusia Vladimir Putin kepada siswa pada Agustus 2017. Presiden Republik Rakyat Tiongkok, Xi Jinping, belum membuat pernyataan profil tinggi seperti itu di media, tetapi ia adalah pendorong utama arahan yang menyerukan Tiongkok untuk menjadi kekuatan dominan di bidang AI pada tahun 2030.

Ada kekhawatiran yang berkembang di Amerika Serikat tentang "efek satelit", yang telah menunjukkan bahwa Amerika Serikat sangat tidak siap untuk menghadapi tantangan baru yang ditimbulkan oleh kecerdasan buatan. Dan ini bisa berbahaya bagi perdamaian, jika hanya karena negara yang terancam dominasi mungkin ingin menghilangkan keunggulan strategis musuh dengan cara lain, yaitu dengan perang.

Meskipun tujuan awal dari proyek Maven adalah untuk membantu menemukan pejuang ISIS Islam, signifikansinya untuk pengembangan lebih lanjut dari sistem kecerdasan buatan militer sangat besar. Peperangan elektronik berdasarkan perekam, monitor, dan sensor (termasuk seluler, terbang) dikaitkan dengan sejumlah besar aliran data heterogen, yang hanya dapat digunakan secara efektif dengan bantuan algoritme AI.

Medan perang hibrida telah menjadi IoT versi militer, kaya akan informasi penting untuk menilai ancaman dan peluang taktis dan strategis. Mampu mengelola data ini secara real time memiliki manfaat besar, tetapi kegagalan untuk belajar dari informasi ini dapat menjadi bencana. Kemampuan untuk memproses aliran informasi dengan cepat dari berbagai platform yang beroperasi di banyak area memberikan dua keuntungan militer utama: kecepatan i keterjangkauan. Kecerdasan buatan memungkinkan Anda untuk menganalisis kondisi dinamis medan perang secara real time dan menyerang dengan cepat dan optimal, sambil meminimalkan risiko terhadap pasukan Anda sendiri.

Medan perang baru ini juga ada di mana-mana dan. AI adalah jantung dari apa yang disebut kawanan drone, yang telah menerima banyak perhatian dalam beberapa tahun terakhir. Dengan bantuan sensor di mana-mana, tidak hanya memungkinkan drone untuk menavigasi medan yang tidak bersahabat, tetapi pada akhirnya memungkinkan pembentukan formasi kompleks dari berbagai jenis kendaraan udara tak berawak yang beroperasi di banyak area, dengan senjata tambahan yang memungkinkan taktik tempur canggih, segera beradaptasi dengan musuh. manuver untuk memanfaatkan medan perang dan melaporkan kondisi yang berubah.

Kemajuan dalam penargetan dan navigasi yang dibantu AI juga meningkatkan prospek efektivitas dalam berbagai sistem pertahanan taktis dan strategis, terutama pertahanan rudal, dengan meningkatkan metode pendeteksian, pelacakan, dan pengidentifikasian target.

terus meningkatkan kekuatan simulasi dan alat permainan yang digunakan untuk meneliti senjata nuklir dan konvensional. Pemodelan dan simulasi massal akan sangat penting untuk mengembangkan sistem multi-domain yang komprehensif dari sistem target untuk kontrol pertempuran dan misi yang kompleks. AI juga memperkaya interaksi multi-pihak (5). AI memungkinkan pemain untuk menambahkan dan memodifikasi variabel permainan untuk mengeksplorasi bagaimana kondisi dinamis (persenjataan, keterlibatan sekutu, pasukan tambahan, dll.) dapat memengaruhi kinerja dan pengambilan keputusan.

Untuk militer, identifikasi objek adalah titik awal alami untuk AI. Pertama, diperlukan analisis yang komprehensif dan cepat dari jumlah gambar dan informasi yang dikumpulkan dari satelit dan drone yang terus meningkat untuk menemukan objek penting militer, seperti rudal, pergerakan pasukan, dan data terkait intelijen lainnya. Saat ini, medan perang mencakup semua lanskap—laut, darat, udara, luar angkasa, dan dunia maya—dalam skala global.

dunia mayasebagai domain inheren digital, secara alami cocok untuk aplikasi AI. Di sisi ofensif, AI dapat membantu menemukan dan menargetkan node jaringan individu atau akun individu untuk mengumpulkan, mengganggu, atau memberi informasi yang salah. Serangan siber pada infrastruktur internal dan jaringan komando dapat menjadi bencana. Sejauh menyangkut pertahanan, AI dapat membantu mendeteksi intrusi semacam itu dan menemukan anomali destruktif dalam sistem operasi sipil dan militer.

Kecepatan yang diharapkan dan berbahaya

Namun, pengambilan keputusan yang cepat dan eksekusi yang cepat mungkin tidak membantu Anda dengan baik. untuk manajemen krisis yang efektif. Keuntungan dari kecerdasan buatan dan sistem otonom di medan perang mungkin tidak memberikan waktu untuk diplomasi, yang, seperti yang kita ketahui dari sejarah, sering berhasil sebagai sarana untuk mencegah atau mengelola krisis. Dalam praktiknya, memperlambat, berhenti sejenak, dan waktu untuk bernegosiasi bisa menjadi kunci kemenangan, atau setidaknya menghindari malapetaka, terutama ketika senjata nuklir dipertaruhkan.

Keputusan tentang perang dan perdamaian tidak dapat diserahkan kepada analitik prediktif. Ada perbedaan mendasar dalam cara data digunakan untuk tujuan ilmiah, ekonomi, logistik, dan prediksi. kebiasaan manusia.

Beberapa orang mungkin menganggap AI sebagai kekuatan yang melemahkan sensitivitas strategis bersama dan dengan demikian meningkatkan risiko perang. Data yang rusak secara tidak sengaja atau sengaja dapat menyebabkan sistem AI melakukan tindakan yang tidak diinginkan, seperti salah mengidentifikasi dan menargetkan target yang salah. Kecepatan tindakan yang didalilkan dalam kasus pengembangan algoritme perang dapat berarti eskalasi prematur atau bahkan tidak perlu yang menghambat pengelolaan krisis secara rasional. Di sisi lain, algoritma juga tidak akan menunggu dan menjelaskan, karena mereka juga diharapkan cepat.

Aspek yang mengganggu fungsi algoritma kecerdasan buatan juga disajikan oleh kami baru-baru ini di MT. Bahkan para ahli tidak tahu persis bagaimana AI mengarah pada hasil yang kita lihat di output.

Dalam kasus algoritma perang, kita tidak bisa mengabaikan ketidaktahuan seperti itu tentang alam dan bagaimana mereka "memikirkannya". Kami tidak ingin bangun di tengah malam karena ledakan nuklir karena kecerdasan buatan "kami" atau "mereka" telah memutuskan sudah waktunya untuk menyelesaikan permainan.