Kabinet Horor

Bangkitnya mesin dan perebutan kekuasaan oleh kecerdasan buatan. Dunia pengawasan total dan kontrol sosial. Perang nuklir dan degenerasi peradaban. Banyak visi gelap masa depan, yang digambar bertahun-tahun yang lalu, seharusnya terjadi hari ini. Dan sementara itu kita melihat ke belakang dan sepertinya mereka tidak ada di sana. Apa kamu yakin?

Ada repertoar yang cukup stereotip populer ramalan distopia (tentang visi hitam masa depan). Selain yang paling umum yang terkait dengan perusakan lingkungan dan sumber daya alam, secara luas diyakini bahwa teknologi terbaru merusak komunikasi antarpribadi, hubungan dan masyarakat.

Ruang virtual akan secara menipu menggantikan partisipasi nyata di dunia. Pandangan dystopian lainnya melihat perkembangan teknologi sebagai cara untuk meningkatkan ketidaksetaraan sosial, memusatkan kekuasaan dan kekayaan di tangan kelompok-kelompok kecil. Tuntutan tinggi dari teknologi modern memusatkan pengetahuan dan keterampilan dalam lingkaran sempit individu yang memiliki hak istimewa, meningkatkan pengawasan orang dan menghancurkan privasi.

Menurut banyak futuris, produktivitas yang lebih tinggi dan pilihan yang terlihat lebih besar dapat membahayakan kualitas hidup manusia dengan menyebabkan stres, membahayakan pekerjaan, dan membuat kita semakin materialistis tentang dunia.

Salah satu "dystopians" teknologi terkenal, James Gleick, memberikan contoh yang tampaknya sepele dari remote control TV sebagai penemuan klasik yang tidak menyelesaikan satu masalah signifikan, sehingga menimbulkan banyak masalah baru. Gleick, mengutip seorang sejarawan teknis Edward Tenner, menulis bahwa kemampuan dan kemudahan beralih saluran menggunakan remote control terutama berfungsi untuk mengalihkan perhatian pemirsa lebih dan lebih.

Alih-alih kepuasan, orang semakin tidak puas dengan saluran yang mereka tonton. Alih-alih kepuasan kebutuhan, ada perasaan kecewa yang tak ada habisnya.

Akankah mobil membuat kita tetap memesan?

Akankah kita bisa mengendalikan hal yang tak terelakkan ini dan mungkin akan segera datang? Lebih dari kecerdasan buatan? Jika ini masalahnya, seperti yang dinyatakan oleh banyak penglihatan distopia, maka tidak. (1).

Sulit untuk mengendalikan sesuatu yang berkali-kali lebih kuat dari kita. dengan peningkatan jumlah tugas. Dua puluh tahun yang lalu, tidak ada yang akan percaya bahwa mereka bisa membaca emosi dalam suara dan wajah seseorang jauh lebih akurat daripada yang bisa kita lakukan sendiri. Sementara itu, algoritma yang dilatih saat ini sudah mampu melakukan ini, menganalisis ekspresi wajah, timbre, dan cara kita berbicara.

Komputer menggambar, menggubah musik, dan salah satunya bahkan memenangkan kompetisi puisi di Jepang. Mereka telah mengalahkan orang dalam catur untuk waktu yang lama, mempelajari permainan dari awal. Hal yang sama berlaku untuk game Go yang jauh lebih kompleks.

itu mematuhi hukum percepatan yang semakin cepat. Apa yang telah dicapai AI – dengan bantuan manusia – selama beberapa dekade terakhir akan berlipat ganda dalam beberapa tahun ke depan, mungkin hanya beberapa bulan, dan kemudian hanya akan memakan waktu berminggu-minggu, berhari-hari, detik…

Ternyata baru-baru ini, algoritme yang digunakan di ponsel cerdas atau di bandara untuk menganalisis foto dari kamera di mana-mana tidak hanya dapat mengenali seseorang dalam bingkai yang berbeda, tetapi juga menentukan fitur psikologis yang intim secara eksklusif. Mengatakan bahwa ini adalah risiko privasi yang sangat besar seperti tidak mengatakan apa-apa. Ini bukan tentang pengawasan sederhana, mengawasi setiap langkah, tetapi tentang informasi yang muncul sebagai hasil dari penampilan seseorang, tentang keinginan tersembunyi dan preferensi pribadinya. 

Algoritma dapat mempelajari ini dengan relatif cepat dengan menganalisis ratusan ribu kasus, yang jauh lebih banyak daripada yang dapat dilihat oleh orang yang paling cerdik sekalipun seumur hidup. Berbekal pengalaman yang begitu kaya, mereka mampu memindai seseorang lebih akurat daripada psikolog, bahasa tubuh, dan analis gerak tubuh yang paling berpengalaman sekalipun.

Jadi distopia mengerikan yang sebenarnya bukanlah komputer bermain catur atau melawan kita, tetapi mereka dapat melihat jiwa kita lebih dalam daripada siapa pun selain diri kita sendiri, penuh dengan larangan dan hambatan dalam mengenali kecenderungan itu atau lainnya.

Elon Musk percaya bahwa ketika sistem AI mulai belajar dan bernalar dalam skala yang terus meningkat, "kecerdasan" dapat berkembang di suatu tempat jauh di dalam lapisan web, tidak terlihat oleh kita.

Menurut sebuah penelitian di Amerika yang diterbitkan pada tahun 2016, dalam 45 tahun ke depan, kecerdasan buatan memiliki peluang 50 persen untuk melampaui manusia dalam semua tugas. Para peramal mengatakan bahwa ya, AI akan menyelesaikan masalah kanker, meningkatkan dan mempercepat perekonomian, memberikan hiburan, meningkatkan kualitas dan durasi hidup, mendidik kita sehingga kita tidak bisa hidup tanpanya, tetapi mungkin suatu hari, tanpa kebencian, hanya karena berdasarkan perhitungan logis, itu hanya menghilangkan kita. Mungkin tidak akan berfungsi secara fisik, karena di setiap sistem ada baiknya menyimpan, mengarsipkan, dan menyimpan sumber daya yang "mungkin akan berguna suatu hari nanti". Ya, ini adalah sumber daya yang kami dapat untuk AI. Tenaga kerja yang dilindungi?

Optimis menghibur diri dengan kenyataan bahwa selalu ada kesempatan untuk mencabut steker dari stopkontak. Namun, semuanya tidak begitu sederhana. Sudah, kehidupan manusia telah menjadi sangat tergantung pada komputer bahwa langkah radikal melawan mereka akan menjadi bencana bagi kita.

Lagi pula, kami semakin menciptakan sistem pengambilan keputusan berbasis AI, memberi mereka hak untuk menerbangkan pesawat, menetapkan suku bunga, menjalankan pembangkit listrik - kami tahu bahwa algoritme akan melakukannya jauh lebih baik daripada kami. Pada saat yang sama, kami tidak sepenuhnya memahami bagaimana keputusan digital ini dibuat.

Ada ketakutan bahwa sistem komando super cerdas seperti "Kurangi Kemacetan" dapat membuat mereka menyimpulkan bahwa satu-satunya cara efektif untuk menyelesaikan pekerjaan adalah... mengurangi populasi hingga sepertiga atau bahkan setengahnya.

Ya, ada baiknya memberi mesin instruksi paling penting seperti "Pertama-tama, selamatkan nyawa manusia!". Namun, siapa yang tahu apakah kemudian logika digital akan mengarah pada pemenjaraan umat manusia atau di bawah lumbung, di mana kita mungkin aman, tetapi tentu saja tidak bebas.

Kejahatan dunia maya sebagai layanan

Dulu, distopia dan gambaran dunia pasca-apokaliptik dalam sastra dan sinema biasanya berlatarkan era pasca-nuklir. Saat ini, pemusnahan nuklir tampaknya tidak diperlukan untuk bencana dan kehancuran dunia seperti yang kita ketahui, meskipun tidak seperti yang kita bayangkan. , tidak mungkin menghancurkan dunia seperti di "Terminator", yang dikombinasikan dengan pemusnahan nuklir. Jika dia melakukannya, dia tidak akan menjadi kecerdasan super, tetapi kekuatan primitif. Bagaimanapun, bahkan umat manusia belum menyadari skenario global dari konflik nuklir yang menghancurkan.

Kiamat mesin nyata bisa jadi kurang mengesankan.

Perang dunia maya, serangan virus, peretasan sistem dan ransomware, ransomware (2) melumpuhkan dan menghancurkan dunia kita tidak kalah efektifnya dengan bom. Jika skala mereka meluas, kita mungkin memasuki fase perang total habis-habisan di mana kita akan menjadi korban dan sandera mesin, meskipun mereka tidak diharuskan untuk bertindak secara mandiri, dan ada kemungkinan bahwa orang-orang masih berada di belakang segalanya.

Musim panas lalu, Badan Keamanan Cyber ​​​​dan Infrastruktur AS (CISA) menyebut serangan ransomware sebagai "ancaman keamanan dunia maya yang paling terlihat."

CISA mengklaim bahwa banyak kegiatan di mana penjahat dunia maya menyadap dan mengenkripsi data seseorang atau organisasi dan kemudian memeras uang tebusan tidak pernah dilaporkan karena korban membayar penjahat dunia maya dan tidak mau mempublikasikan masalah dengan sistem mereka yang tidak aman. Pada tingkat mikro, penjahat dunia maya sering menargetkan orang tua yang kesulitan membedakan antara konten yang jujur ​​dan tidak jujur ​​di Internet. Mereka melakukan ini dengan malware yang disematkan dalam lampiran email atau pop-up di situs web yang terinfeksi. Pada saat yang sama, serangan terhadap perusahaan besar, rumah sakit, lembaga pemerintah dan pemerintah sedang meningkat.

Yang terakhir ini secara khusus menjadi sasaran karena data sensitif yang mereka miliki dan kemampuan untuk membayar uang tebusan yang besar.

Beberapa informasi, seperti informasi kesehatan, jauh lebih berharga bagi pemiliknya daripada yang lain dan dapat menghasilkan lebih banyak uang bagi penjahat. Pencuri dapat mencegat atau mengkarantina blok besar data klinis yang penting untuk perawatan pasien, seperti hasil tes atau informasi obat. Ketika hidup dipertaruhkan, tidak ada ruang untuk negosiasi di rumah sakit. Salah satu rumah sakit Amerika ditutup secara permanen pada November tahun lalu setelah serangan teroris Agustus.

Ini mungkin hanya akan menjadi lebih buruk dari waktu ke waktu. Pada tahun 2017, Departemen Keamanan Dalam Negeri AS mengumumkan bahwa serangan siber dapat menargetkan infrastruktur penting seperti utilitas air. Dan alat yang diperlukan untuk melakukan tindakan tersebut semakin tersedia untuk operator yang lebih kecil, kepada siapa mereka menjual bundel ransomware seperti perangkat lunak Cerber dan Petya dan membebankan biaya tebusan setelah serangan berhasil. Berdasarkan kejahatan dunia maya sebagai layanan.

Gangguan berbahaya dalam genom

Salah satu topik populer distopia adalah genetika, manipulasi DNA, dan pemuliaan orang - selain itu, "diprogram" dengan cara yang benar (otoritas, perusahaan, militer).

Perwujudan modern dari kecemasan ini adalah metode mempopulerkan Pengeditan gen CRISPR (3). Mekanisme yang dikandungnya terutama menjadi perhatian. memaksa fungsi yang diinginkan pada generasi berikutnya dan potensinya menyebar ke seluruh populasi. Salah satu penemu teknik ini, Jennifer Doudna, bahkan baru-baru ini menyerukan moratorium teknik pengeditan "garis kuman" seperti itu karena konsekuensi yang berpotensi membawa bencana.

Ingatlah bahwa beberapa bulan yang lalu, seorang ilmuwan Cina Jiankui telah dikritik secara luas karena mengedit gen embrio manusia untuk mengimunisasi mereka terhadap virus AIDS. Pasalnya, perubahan yang dilakukannya bisa diturunkan dari generasi ke generasi dengan konsekuensi yang tidak terduga.

Yang menjadi perhatian khusus adalah apa yang disebut d (penulisan ulang gen, penggerak gen), mis. mekanisme rekayasa genetika yang mengkodekan sistem pengeditan dalam DNA individu tertentu genom CRISPR / CAS9 dengan mengaturnya untuk mengedit varian gen yang tidak diinginkan ini. Karena itu, keturunan secara otomatis (tanpa partisipasi ahli genetika) menimpa varian gen yang tidak diinginkan dengan yang diinginkan.

Namun, varian gen yang tidak diinginkan dapat diterima oleh keturunan "sebagai hadiah" dari induk lain yang tidak dimodifikasi. Jadi penggerak gen mari kita hancurkan Hukum hereditas Mendelyang mengatakan bahwa setengah dari gen dominan pergi ke keturunan dari satu orang tua. Singkatnya, ini pada akhirnya akan mengarah pada penyebaran varian gen yang bersangkutan ke seluruh populasi.

Ahli biologi di Universitas Stanford Christina Smolke, kembali ke panel rekayasa genetika pada tahun 2016, memperingatkan bahwa mekanisme ini bisa berbahaya dan, dalam kasus ekstrim, konsekuensi yang mengerikan. Gen drive mampu bermutasi saat melewati generasi dan menyebabkan kelainan genetik seperti hemofilia atau hemofilia.

Seperti yang kita baca dalam sebuah artikel yang diterbitkan di Nature Review oleh para peneliti di University of California, Riverside, bahkan jika dorongan bekerja sebagaimana dimaksud dalam satu populasi organisme, sifat turun-temurun yang sama dapat berbahaya jika entah bagaimana dimasukkan ke populasi lain. . tampilan yang sama.

Ada juga bahaya bahwa para ilmuwan menciptakan penggerak gen di balik pintu tertutup dan tanpa tinjauan sejawat. Jika seseorang dengan sengaja atau tidak sengaja memasukkan penggerak gen berbahaya ke dalam genom manusia, seperti yang menghancurkan ketahanan kita terhadap influenza, itu bahkan bisa berarti akhir dari spesies homo sapiens…

Kapitalisme pengawasan

Versi distopia yang sulit dibayangkan oleh para mantan penulis fiksi ilmiah adalah realitas Internet, dan khususnya media sosial, dengan segala konsekuensinya yang digambarkan secara luas yang menghancurkan privasi, hubungan, dan integritas psikologis orang.

Dunia ini hanya dicat dalam pertunjukan seni yang lebih baru, seperti yang bisa kita lihat di seri Cermin Hitam di episode 2016 "The Diving" (4). Shoshana Zuboff, seorang ekonom Harvard, menyebut kenyataan ini sepenuhnya bergantung pada penegasan diri sosial dan sepenuhnya "dirampas". pengawasan kapitalisme (), dan pada saat yang sama karya puncak Google dan Facebook.

4. Adegan dari "Cermin Hitam" - episode "Menyelam"

Menurut Zuboff, Google adalah penemu pertama. Selain itu, ia terus memperluas kegiatan pengawasannya, misalnya melalui proyek "kota pintar" yang tampaknya tidak bersalah. Contohnya adalah proyek Lingkungan Paling Inovatif di Dunia oleh Sidewalk Labs, anak perusahaan Google. dermaga di Toronto.

Google berencana untuk mengumpulkan semua data terkecil tentang kehidupan penghuni tepi laut, pergerakan mereka, dan bahkan pernapasan dengan bantuan sensor pemantauan yang ada di mana-mana.

Juga sulit untuk memilih distopia internet yang tidak mungkin di Facebook. Kapitalisme pengawasan mungkin telah ditemukan oleh Google, tetapi Facebook-lah yang membawanya ke tingkat yang sama sekali baru. Ini dilakukan melalui mekanisme viral sosial dan emosional dan penganiayaan kejam bahkan terhadap mereka yang bukan pengguna platform Zuckerberg.

AI yang dijaga, tenggelam dalam realitas virtual, hidup dengan UBI

Menurut banyak futuris, masa depan dunia dan teknologi ditentukan oleh lima singkatan - AI, AR, VR, BC, dan UBI.

Pembaca "MT" mungkin tahu betul apa itu dan terdiri dari tiga yang pertama. Yang akrab juga ternyata menjadi yang keempat, "SM", ketika kita mengerti tentang apa itu. Dan yang kelima? UBD merupakan singkatan dari concept, artinya “pendapatan dasar universal » (5). Ini adalah manfaat publik, yang dipostulasikan dari waktu ke waktu, yang akan diberikan kepada setiap orang yang dibebaskan dari pekerjaan seiring dengan berkembangnya teknologi lain, terutama AI.

5. Penghasilan Dasar Universal - UBI

Swiss bahkan memasukkan gagasan itu ke dalam referendum tahun lalu, tetapi warganya menolaknya, karena khawatir pengenalan pendapatan yang dijamin akan menyebabkan banjir imigran. UBI juga membawa sejumlah bahaya lain, termasuk risiko melanggengkan kesenjangan sosial yang ada.

Setiap revolusi teknologi di balik akronim (lihat juga :) - jika menyebar dan berkembang ke arah yang diharapkan - memiliki konsekuensi besar bagi umat manusia dan dunia kita, termasuk, tentu saja, distopia dalam dosis besar. Misalnya, diyakini bahwa hal itu dapat menggantikan siklus pemilu empat tahun dan berujung pada referendum tentang berbagai masalah yang tak terhitung jumlahnya.

Realitas virtual, pada gilirannya, mampu "mengeluarkan" sebagian manusia dari dunia nyata. Seperti yang terjadi, misalnya, dengan Jang Ji Sung Korea, yang, setelah kematian putrinya pada tahun 2016 karena penyakit yang tidak dapat disembuhkan, telah bertemu avatarnya di VR. Ruang virtual juga menciptakan jenis masalah baru, atau sebenarnya mentransfer semua masalah lama yang diketahui ke dunia "baru", atau bahkan ke banyak dunia lain. Sampai batas tertentu, kita sudah bisa melihat ini di jejaring sosial, di mana terlalu sedikit suka pada posting menyebabkan depresi dan bunuh diri.

Kisah-kisah kenabian kurang lebih

Bagaimanapun, sejarah penciptaan visi dystopian juga mengajarkan kehati-hatian dalam merumuskan prediksi.

6. Sampul "Pulau-Pulau di Jaring"

Difilmkan tahun lalu adalah mahakarya sci-fi terkenal Ridley Scottpemburu android» Sejak 1982. Adalah mungkin untuk membahas pemenuhan atau tidak dari banyak elemen spesifik, tetapi tidak dapat disangkal bahwa ramalan terpenting tentang keberadaan android humanoid cerdas di zaman kita, dalam banyak hal lebih unggul dari manusia, belum menjadi kenyataan.

Kami akan siap untuk menoleransi lebih banyak lagi serangan kenabian."Neuromancer»yaitu novel William Gibson sejak tahun 1984, yang mempopulerkan konsep "dunia maya".

Namun, pada dekade itu, sebuah buku yang sedikit kurang terkenal muncul (di negara kita, hampir sepenuhnya, karena tidak diterjemahkan ke dalam bahasa Polandia), yang memprediksi waktu hari ini jauh lebih akurat. Saya sedang berbicara tentang romansaPulau di Web"(6) Bruce Sterling sejak tahun 1988, ditetapkan pada tahun 2023. Ini menyajikan dunia tenggelam dalam sesuatu yang mirip dengan Internet, yang dikenal sebagai "web". Itu dikendalikan oleh perusahaan internasional besar. "Islands on the Web" terkenal karena menyediakan kontrol, pengawasan, dan monopoli Internet yang diduga gratis.

Menarik juga untuk meramalkan operasi militer yang dilakukan menggunakan kendaraan udara tak berawak (drone) terhadap perompak/teroris online. Operator ribuan mil jauhnya dengan desktop yang aman - bagaimana kami mengetahuinya? Buku ini bukan tentang konflik tanpa akhir dengan terorisme Islam, tetapi tentang perjuangan melawan kekuatan yang menentang globalisasi. Dunia Kepulauan di Internet juga dipenuhi dengan perangkat konsumen yang sangat mirip dengan jam tangan pintar dan sepatu olahraga pintar.

Ada buku lain dari tahun 80-an yang, meskipun beberapa peristiwa tampak lebih fantastik, berhasil menggambarkan ketakutan distopia modern kita. Ini "Perangkat lunak georadar", Sejarah Rudy Rookerditetapkan pada tahun 2020. Dunia, keadaan masyarakat dan konfliknya tampak sangat mirip dengan apa yang kita hadapi saat ini. Ada juga robot yang dikenal sebagai boppers yang telah mendapatkan kesadaran diri dan melarikan diri ke kota-kota di bulan. Elemen ini belum terwujud, tetapi pemberontakan mesin menjadi pengulangan terus-menerus dari prediksi hitam.

Penglihatan zaman kita di dalam buku juga sangat akurat dalam banyak hal. Octavia Butler, terutama diPerumpamaan Penabur» (1993). Aksi dimulai pada 2024 di Los Angeles dan berlangsung di California, hancur oleh banjir, badai dan kekeringan yang disebabkan oleh perubahan iklim. Keluarga kelas menengah dan pekerja bertemu dalam komunitas tertutup ketika mereka mencoba melarikan diri dari dunia luar dengan obat-obatan adiktif dan perangkat realitas virtual. Agama-agama baru dan teori konspirasi bermunculan. Karavan pengungsi menuju utara untuk menghindari kehancuran ekologis dan sosial. Seorang presiden berkuasa yang menggunakan slogan kampanye "Make America Great Again" (ini adalah slogan Donald Trump) ...

Buku kedua Butler, "Perumpamaan tentang Bakatmenceritakan bagaimana anggota sekte agama baru meninggalkan Bumi dengan pesawat ruang angkasa untuk menjajah Alpha Centauri.

***

Apa pelajaran dari survei ekstensif tentang prediksi dan penglihatan yang dibuat beberapa dekade lalu mengenai kehidupan kita sehari-hari?

Mungkin, faktanya distopia sering terjadi, tetapi paling sering hanya sebagian.