Beri tahu anak kucing Anda apa yang Anda pikirkan di dalam - efek kotak hitam

Fakta bahwa algoritme AI tingkat lanjut seperti kotak hitam (1) yang membuang hasil tanpa mengungkapkan bagaimana hal itu terjadi membuat beberapa orang khawatir dan mengganggu orang lain.

Pada tahun 2015, tim peneliti di Rumah Sakit Mount Sinai di New York diminta menggunakan metode ini untuk menganalisis basis data luas pasien lokal (2). Koleksi besar ini berisi lautan informasi pasien, hasil tes, resep dokter, dan banyak lagi.

Para ilmuwan menyebut program analitis yang dikembangkan selama pekerjaan. Ini melatih data dari sekitar 700 orang. manusia, dan ketika diuji dalam pendaftar baru, terbukti sangat efektif dalam memprediksi penyakit. Tanpa bantuan ahli manusia, ia menemukan pola dalam catatan rumah sakit yang menunjukkan pasien mana yang sedang menuju penyakit, seperti kanker hati. Menurut para ahli, efisiensi prognostik dan diagnostik sistem jauh lebih tinggi daripada metode lain yang dikenal.

2. Sistem kecerdasan buatan medis berdasarkan database pasien

Pada saat yang sama, para peneliti memperhatikan bahwa itu bekerja dengan cara yang misterius. Ternyata, misalnya, itu ideal untuk pengenalan gangguan jiwaseperti skizofrenia, yang sangat sulit bagi dokter. Ini mengejutkan, terutama karena tidak ada yang tahu bagaimana sistem AI dapat melihat penyakit mental dengan sangat baik hanya berdasarkan catatan medis pasien. Ya, para spesialis sangat senang dengan bantuan ahli diagnosa mesin yang begitu efisien, tetapi mereka akan jauh lebih puas jika mereka memahami bagaimana AI sampai pada kesimpulannya.

Lapisan neuron buatan

Sejak awal, yaitu sejak konsep kecerdasan buatan dikenal, ada dua sudut pandang tentang AI. Yang pertama menyarankan bahwa akan sangat masuk akal untuk membangun mesin yang bernalar sesuai dengan prinsip dan logika manusia yang diketahui, membuat pekerjaan batin mereka transparan bagi semua orang. Yang lain percaya bahwa kecerdasan akan muncul lebih mudah jika mesin dipelajari melalui observasi dan eksperimen berulang.

Yang terakhir berarti membalikkan pemrograman komputer yang khas. Alih-alih programmer menulis perintah untuk memecahkan masalah, program menghasilkan algoritma sendiri berdasarkan data sampel dan hasil yang diinginkan. Metode pembelajaran mesin yang kemudian berkembang menjadi sistem AI paling kuat yang dikenal saat ini baru saja turun ke jalan, pada kenyataannya, mesin itu sendiri memprogram.

Pendekatan ini tetap berada di pinggiran penelitian sistem AI di tahun 60-an dan 70-an. Hanya pada awal dekade sebelumnya, setelah beberapa perubahan dan perbaikan perintis, Jaringan saraf "dalam" mulai menunjukkan peningkatan radikal dalam kemampuan persepsi otomatis. 

Pembelajaran mesin yang mendalam telah memberi komputer kemampuan luar biasa, seperti kemampuan untuk mengenali kata-kata yang diucapkan hampir seakurat manusia. Ini adalah keterampilan yang terlalu rumit untuk diprogram sebelumnya. Mesin harus dapat membuat "program" sendiri dengan pelatihan tentang kumpulan data besar.

Pembelajaran mendalam juga telah mengubah pengenalan gambar komputer dan sangat meningkatkan kualitas terjemahan mesin. Hari ini, digunakan untuk membuat segala macam keputusan penting dalam kedokteran, keuangan, manufaktur, dan banyak lagi.

Namun, dengan semua ini Anda tidak bisa hanya melihat ke dalam jaringan saraf yang dalam untuk melihat cara kerja "di dalam". Proses penalaran jaringan tertanam dalam perilaku ribuan neuron yang disimulasikan, diatur ke dalam lusinan atau bahkan ratusan lapisan yang saling berhubungan secara rumit..

Setiap neuron di lapisan pertama menerima input, seperti intensitas piksel dalam gambar, dan kemudian melakukan perhitungan sebelum mengeluarkan output. Mereka ditransmisikan dalam jaringan yang kompleks ke neuron dari lapisan berikutnya - dan seterusnya, sampai sinyal keluaran akhir. Selain itu, ada proses yang dikenal sebagai penyesuaian perhitungan yang dilakukan oleh masing-masing neuron sehingga jaringan pelatihan menghasilkan hasil yang diinginkan.

Dalam contoh yang sering dikutip terkait dengan pengenalan gambar anjing, tingkat AI yang lebih rendah menganalisis karakteristik sederhana seperti bentuk atau warna. Yang lebih tinggi menangani masalah yang lebih kompleks seperti bulu atau mata. Hanya lapisan atas yang menyatukan semuanya, mengidentifikasi set lengkap informasi sebagai seekor anjing.

Pendekatan yang sama dapat diterapkan pada jenis input lain yang menggerakkan mesin untuk belajar sendiri: suara yang membentuk kata dalam ucapan, huruf dan kata yang membentuk kalimat dalam teks tertulis, atau kemudi, misalnya. gerakan yang diperlukan untuk mengemudikan kendaraan.

Mobil tidak ketinggalan apapun.

Sebuah usaha dilakukan untuk menjelaskan apa yang sebenarnya terjadi dalam sistem tersebut. Pada tahun 2015, para peneliti di Google memodifikasi algoritme pengenalan gambar pembelajaran mendalam sehingga alih-alih melihat objek di foto, itu menghasilkan atau memodifikasinya. Dengan menjalankan algoritme mundur, mereka ingin menemukan karakteristik yang digunakan program untuk mengenali, katakanlah, burung atau bangunan.

Eksperimen ini, yang dikenal publik sebagai judulnya, menghasilkan penggambaran yang menakjubkan dari (3) hewan, pemandangan, dan karakter yang aneh dan aneh. Dengan mengungkapkan beberapa rahasia persepsi mesin, seperti fakta bahwa pola tertentu berulang kali dikembalikan dan diulang, mereka juga menunjukkan seberapa dalam pembelajaran mesin berbeda dari persepsi manusia - misalnya, dalam arti bahwa ia memperluas dan menduplikasi artefak yang kita abaikan dalam proses persepsi kita tanpa berpikir. .

3. Gambar dibuat dalam proyek

Kebetulan, di sisi lain, eksperimen ini telah mengungkap misteri mekanisme kognitif kita sendiri. Mungkin dalam persepsi kita bahwa ada berbagai komponen yang tidak dapat dipahami yang membuat kita langsung memahami dan mengabaikan sesuatu, sementara mesin dengan sabar mengulangi iterasinya pada objek yang "tidak penting".

Tes dan studi lain dilakukan dalam upaya untuk "memahami" mesin. Jason Yosinski dia menciptakan alat yang bertindak seperti probe yang tertancap di otak, menargetkan neuron buatan apa pun dan mencari gambar yang mengaktifkannya paling kuat. Dalam percobaan terakhir, gambar abstrak muncul sebagai hasil dari "mengintip" jaringan dengan tangan merah, yang membuat proses yang terjadi di sistem menjadi lebih misterius.

Namun, bagi banyak ilmuwan, studi semacam itu adalah kesalahpahaman, karena, menurut pendapat mereka, untuk memahami sistem, untuk mengenali pola dan mekanisme tingkat yang lebih tinggi dalam membuat keputusan yang kompleks, semua interaksi komputasi di dalam jaringan saraf yang dalam. Ini adalah labirin raksasa fungsi dan variabel matematika. Saat ini, itu tidak bisa dimengerti oleh kami.

Komputer tidak mau menyala? Mengapa?

Mengapa penting untuk memahami mekanisme pengambilan keputusan dari sistem kecerdasan buatan yang canggih? Model matematika sudah digunakan untuk menentukan narapidana mana yang dapat dibebaskan dengan pembebasan bersyarat, siapa yang dapat diberikan pinjaman, dan siapa yang dapat memperoleh pekerjaan. Mereka yang tertarik ingin tahu mengapa ini dan bukan keputusan lain yang dibuat, apa dasar dan mekanismenya.

dia mengakui pada April 2017 di MIT Technology Review. Tommy Yaakkola, seorang profesor MIT yang mengerjakan aplikasi untuk pembelajaran mesin. -.

Bahkan ada posisi hukum dan kebijakan bahwa kemampuan untuk meneliti dan memahami mekanisme pengambilan keputusan dari sistem AI adalah hak asasi manusia yang mendasar.

Sejak 2018, UE telah berupaya mewajibkan perusahaan untuk memberikan penjelasan kepada pelanggan mereka tentang keputusan yang dibuat oleh sistem otomatis. Ternyata ini terkadang tidak mungkin bahkan dengan sistem yang tampaknya relatif sederhana, seperti aplikasi dan situs web yang menggunakan ilmu mendalam untuk menampilkan iklan atau merekomendasikan lagu.

Komputer yang menjalankan program layanan ini sendiri, dan mereka melakukannya dengan cara yang tidak dapat kita pahami... Bahkan para insinyur yang membuat aplikasi ini tidak dapat sepenuhnya menjelaskan cara kerjanya.