Sekitar setahun yang lalu, saya menulis sebuah artikel tentang optimisme teknologi, yang menjelaskan antusiasme saya secara keseluruhan terhadap teknologi dan manfaat besar yang mungkin dibawanya, sambil juga menyatakan sikap hati-hati terhadap beberapa masalah tertentu, terutama yang berfokus pada AI super cerdas, serta risiko kehancuran yang mungkin ditimbulkan jika dibangun dengan tidak benar atau risiko manusia kehilangan kekuasaan secara tidak dapat dipulihkan.
Salah satu poin inti dalam artikel tersebut adalah mendukung sebuah konsep akselerasi defensif yang terdesentralisasi, demokratis, dan beragam. Kita perlu mempercepat perkembangan teknologi, tetapi secara selektif fokus pada teknologi yang dapat meningkatkan kemampuan defensif kita alih-alih merusak, serta berkomitmen untuk mendistribusikan kekuasaan, bukan mengkonsentrasikannya di tangan segelintir elit yang mewakili semua orang untuk menentukan benar atau salah. Mode defensif seharusnya seperti Swiss yang demokratis dan daerah Zomia yang hampir anarkis dalam sejarah, bukan seperti model tuan dan kastil di bawah feodalisme abad pertengahan.
Dalam setahun terakhir, gagasan dan konsep ini telah berkembang dan matang secara signifikan. Saya telah membagikan gagasan ini di platform "80.000 Jam" dan menerima banyak tanggapan, sebagian besar positif, tentu saja ada juga beberapa suara kritik.
Pekerjaan ini sendiri juga terus maju dan mencapai hasil konkret: kami telah melihat kemajuan di bidang vaksin sumber terbuka yang dapat diverifikasi; kesadaran orang tentang nilai udara dalam ruangan yang sehat terus meningkat; catatan komunitas terus memainkan peran positif; pasar prediksi sebagai alat informasi mengalami tahun terobosan; bukti nol digunakan dalam identifikasi identitas pemerintah dan di bidang media sosial ( dan memastikan keamanan dompet Ethereum melalui abstraksi akun ); alat pencitraan sumber terbuka digunakan di bidang kedokteran dan antarmuka otak-mesin, dan lain-lain.
Musim gugur tahun lalu, kami menyambut acara d/acc penting pertama: "Hari Penemuan d/acc" yang diadakan di Devcon (d/aDDy), acara ini mengumpulkan pembicara dari berbagai bidang pilar d/acc ( biologi, fisika, jaringan, pertahanan informasi, dan teknologi saraf ), berlangsung sepanjang hari. Orang-orang yang telah mengabdikan diri pada teknologi ini selama bertahun-tahun mulai lebih mengenal pekerjaan satu sama lain, sementara orang luar semakin menyadari visi yang lebih besar ini: nilai-nilai yang sama yang mendorong perkembangan Ethereum dan cryptocurrency dapat diperluas ke dunia yang lebih luas.
Makna dan Ruang Lingkup d/acc
Bayangkan skenario di tahun 2042. Anda melihat berita di media yang menyatakan bahwa kota tempat Anda tinggal mungkin akan mengalami wabah baru. Anda sudah terbiasa dengan jenis berita seperti ini: orang cenderung bereaksi berlebihan terhadap setiap mutasi penyakit hewan, dan dalam sebagian besar kasus, mutasi ini pada akhirnya tidak memicu krisis nyata. Dua wabah potensial sebelumnya terdeteksi lebih awal melalui pemantauan limbah dan analisis sumber terbuka di media sosial, dan berhasil dikendalikan di tahap awal. Namun, situasinya kali ini berbeda, pasar prediksi menunjukkan bahwa ada kemungkinan 60% untuk munculnya setidaknya 10.000 kasus, yang membuat Anda merasa khawatir.
Baru kemarin, urutan gen virus tersebut telah ditentukan. Pembaruan perangkat lunak untuk alat penguji udara di saku Anda segera dirilis, dengan pembaruan ini, alat penguji dapat mendeteksi virus baru ( baik melalui pengujian satu kali pernapasan, atau setelah terpapar udara dalam ruangan selama 15 menit untuk mendeteksi ). Sementara itu, instruksi dan kode sumber terbuka untuk menghasilkan vaksin menggunakan perangkat yang dapat diakses di fasilitas medis modern di seluruh dunia diharapkan akan dirilis dalam beberapa minggu. Sebagian besar orang saat ini belum mengambil tindakan, mereka terutama mengandalkan langkah-langkah penyaringan udara dan ventilasi yang telah diadopsi secara luas untuk melindungi diri mereka sendiri.
Karena Anda memiliki masalah imun, Anda harus lebih berhati-hati: asisten AI pribadi yang berjalan secara lokal dan bersumber terbuka yang Anda gunakan tidak hanya menjalankan tugas rutin seperti navigasi, rekomendasi restoran, dan kegiatan, tetapi juga mempertimbangkan data pengujian udara waktu nyata dan data karbon dioksida, sehingga hanya merekomendasikan tempat yang paling aman untuk Anda. Data ini disediakan oleh ribuan peserta dan perangkat, dengan menggunakan teknik bukti nol pengetahuan dan privasi diferensial, meminimalkan risiko data bocor atau disalahgunakan untuk tujuan lain ( Jika Anda berminat untuk menyumbangkan data ke kumpulan data ini, ada asisten AI pribadi lain yang akan memverifikasi apakah alat enkripsi ini benar-benar efektif ).
Dua bulan kemudian, pandemi secara ajaib telah mereda: tampaknya 60% orang mengikuti protokol pencegahan dasar, yaitu memakai masker ketika alat penguji udara mengeluarkan alarm dan menunjukkan adanya virus, dan jika hasil tes individu positif, maka harus isolasi mandiri di rumah. Langkah inilah yang cukup untuk menurunkan tingkat penularan yang sudah sangat berkurang akibat penyaringan udara yang kuat secara pasif menjadi di bawah 1. Hasil simulasi menunjukkan penyakit yang mungkin lima kali lebih parah daripada pandemi COVID-19 dua puluh tahun yang lalu, kini tidak menimbulkan dampak yang serius.
Acara d/acc yang diadakan oleh Devcon mencapai hasil yang sangat positif, yaitu konsep d/acc berhasil mengumpulkan orang-orang dari berbagai bidang dan secara nyata membangkitkan minat mereka terhadap pekerjaan satu sama lain.
Menyelenggarakan acara yang "beragam" bukanlah hal yang sulit, tetapi memungkinkan orang-orang dengan latar belakang dan minat yang berbeda untuk benar-benar membangun hubungan yang erat adalah hal yang tidak mudah. Saya masih ingat pengalaman dipaksa menonton opera yang panjang selama sekolah menengah pertama dan atas, di mana saya pribadi merasa opera-opera ini membosankan. Saya sangat sadar bahwa saya "seharusnya" menghargai mereka, karena jika tidak, saya akan dianggap sebagai kutu buku ilmu komputer yang tidak berbudaya, tetapi saya tidak bisa merasakan resonansi yang lebih dalam dengan konten opera tersebut. Namun, suasana acara d/acc hari itu sangat berbeda: terasa bahwa orang-orang benar-benar menyukai untuk memahami berbagai pekerjaan dari berbagai bidang.
Jika kita ingin membangun masa depan yang lebih cerah daripada kekuasaan, perlambatan, dan penghancuran, kita pasti perlu membangun aliansi yang luas ini. d/acc tampaknya telah mencapai kemajuan signifikan dalam hal ini, hanya itu saja sudah cukup untuk menunjukkan nilai berharga dari ide ini.
Inti pemikiran d/acc sangat jelas: desentralisasi, demokrasi, dan akselerasi defensif yang berbeda. Membangun teknologi yang dapat mendorong keseimbangan serangan dan pertahanan untuk condong ke arah pertahanan, dan dalam proses implementasinya tidak bergantung pada penyerahan lebih banyak kekuasaan kepada otoritas pusat. Ada hubungan erat yang melekat antara kedua aspek ini: setiap struktur politik yang desentralisasi, demokratis, atau bebas, cenderung berkembang pesat ketika pertahanan mudah diimplementasikan, sementara akan menghadapi tantangan berat ketika pertahanan menghadapi banyak kesulitan—dalam keadaan tersebut, hasil yang lebih mungkin muncul adalah periode kekacauan di mana semua orang saling bertentangan, yang pada akhirnya mencapai keadaan keseimbangan yang dikuasai oleh yang terkuat.
Salah satu cara untuk memahami pentingnya mencoba untuk mewujudkan desentralisasi, defensif, dan akselerasi secara bersamaan adalah dengan membandingkannya dengan konsep yang dihasilkan dari melepaskan salah satu dari ketiga aspek tersebut.
Desentralisasi dipercepat, tetapi mengabaikan bagian "pertahanan yang berbeda"
Pada dasarnya, ini mirip dengan menjadi seorang akselerasionis yang efektif ( e/acc ), tetapi pada saat yang sama mengejar desentralisasi. Ada banyak orang yang mengambil pendekatan ini, beberapa di antaranya menyebut diri mereka d/acc, tetapi mereka secara menguntungkan menggambarkan fokus mereka sebagai "agresif". Selain itu, ada banyak orang lain yang menunjukkan semangat yang lebih moderat terhadap "AI desentralisasi" dan topik serupa, tetapi bagi saya, perhatian mereka terhadap aspek "pertahanan" jelas kurang.
Menurut saya, cara ini mungkin dapat menghindari risiko kelompok tertentu menguasai kekuasaan atas umat manusia secara global, tetapi itu tidak menyelesaikan masalah struktural yang mendasar: dalam lingkungan yang mendukung serangan, selalu ada risiko bencana yang terus-menerus, atau seseorang akan menempatkan dirinya sebagai pelindung dan secara permanen menduduki posisi kekuasaan. Dalam hal AI, ia juga tidak dapat secara efektif mengatasi risiko kekuasaan manusia yang berkurang dibandingkan dengan AI.
Percepatan pertahanan yang terdistribusi, tetapi mengabaikan "desentralisasi dan demokrasi"
Untuk mencapai tujuan keamanan dengan menerima kontrol terpusat, ini selalu memiliki daya tarik tertentu bagi sebagian orang, dan pembaca pasti sudah akrab dengan banyak contoh seperti itu, serta kelemahan yang ditimbulkannya. Baru-baru ini, beberapa orang khawatir bahwa kontrol terpusat yang ekstrem mungkin menjadi satu-satunya cara untuk menghadapi teknologi ekstrem di masa depan: misalnya, bayangkan skenario hipotetis di mana "setiap orang memakai 'label kebebasan'—ini adalah produk lanjutan dari perangkat pemantauan yang lebih terbatas saat ini, mirip dengan label pergelangan kaki yang digunakan beberapa negara sebagai alternatif penjara...... video dan audio terenkripsi diunggah secara terus-menerus dan ditafsirkan secara real-time oleh mesin". Namun, kontrol terpusat memiliki masalah tingkat tertentu. Bentuk kontrol terpusat yang relatif moderat yang sering diabaikan tetapi tetap berbahaya, tercermin dalam bidang bioteknologi ( misalnya penolakan terhadap pengawasan publik pada makanan, vaksin ) dan memungkinkan tindakan penolakan ini tidak ditantang oleh norma tertutup.
Risiko dari cara ini jelas terlihat, yaitu pusat itu sendiri sering kali menjadi sumber risiko. Kita telah menyaksikan hal ini selama pandemi COVID-19, di mana penelitian yang didanai oleh beberapa pemerintah utama di dunia mungkin merupakan akar penyebab pandemi, dan epistemologi yang terpusat menyebabkan Organisasi Kesehatan Dunia selama bertahun-tahun menolak mengakui bahwa virus COVID-19 ditularkan melalui udara, sedangkan jarak sosial yang dipaksakan dan mandat vaksin memicu kemungkinan reaksi politik yang dapat bertahan selama puluhan tahun. Situasi serupa sangat mungkin terjadi lagi dalam konteks risiko terkait AI atau teknologi berisiko lainnya. Sebaliknya, cara desentralisasi akan lebih efektif dalam menghadapi risiko yang berasal dari pusat itu sendiri.
Pertahanan terdesentralisasi, tetapi menolak percepatan
Pada dasarnya, ini adalah upaya untuk memperlambat kemajuan teknologi atau mendorong penurunan ekonomi.
Strategi ini menghadapi dua tantangan. Pertama, secara umum, pertumbuhan teknologi dan ekonomi sangat menguntungkan bagi umat manusia, dan setiap penundaan akan membawa biaya yang sulit untuk diukur. Kedua, dalam dunia yang tidak otoriter, stagnasi adalah tidak stabil: mereka yang "curang" paling banyak, yang dapat menemukan cara yang tampaknya masuk akal untuk terus memajukan perkembangan, akan memiliki keunggulan. Strategi perlambatan dapat berfungsi dalam konteks tertentu sampai batas tertentu: misalnya, makanan Eropa lebih sehat daripada makanan Amerika, ini adalah sebuah contoh; keberhasilan non-proliferasi nuklir sejauh ini juga demikian. Namun, strategi ini tidak mungkin selalu berhasil.
Melalui d/acc, kami berkomitmen untuk mencapai tujuan berikut:
Dalam tren global yang semakin terfragmentasi, berpegang pada prinsip, bukan hanya membangun berbagai hal secara buta - sebaliknya, kami berharap dapat membangun hal-hal tertentu untuk membuat dunia menjadi lebih aman dan lebih baik.
Menyadari bahwa kemajuan teknologi yang eksponensial berarti dunia akan menjadi sangat aneh, dan "jejak" manusia di alam semesta pasti akan terus meningkat. Kemampuan kita untuk melindungi hewan, tanaman, dan kelompok rentan dari bahaya harus terus ditingkatkan, dan satu-satunya jalan adalah maju terus.
Membangun teknologi yang benar-benar melindungi kita, bukan berdasarkan asumsi "orang baik ( atau AI baik ) mengendalikan segalanya". Kami mencapai tujuan ini dengan membangun alat yang secara alami lebih efektif digunakan untuk membangun dan melindungi daripada untuk menghancurkan.
Memikirkan d/acc dari sudut pandang lain adalah kembali ke kerangka gerakan Partai Bajak Laut Eropa pada akhir 2000-an: pemberdayaan.
Tujuan kami adalah untuk membangun dunia yang dapat mempertahankan agensi manusia, mencapai kebebasan negatif, yaitu menghindari intervensi aktif dari orang lain ( baik itu warga sipil biasa, pemerintah, atau robot super pintar ) terhadap kemampuan kita untuk membentuk nasib kita sendiri, sambil mencapai kebebasan positif, yaitu memastikan bahwa kita memiliki pengetahuan dan sumber daya untuk menjalankan kemampuan ini. Ini mencerminkan tradisi liberal klasik yang telah berlangsung selama berabad-abad, yang mencakup perhatian Stewart Brand terhadap "akses alat", serta penekanan John Stuart Mill pada pendidikan dan kebebasan sebagai elemen kunci kemajuan manusia — mungkin juga dapat ditambahkan harapan Buckminster Fuller bahwa proses pemecahan masalah global adalah partisipatif dan terdistribusi secara luas. Mengingat lanskap teknologi abad ke-21, kita dapat melihat d/acc sebagai cara untuk mencapai tujuan-tujuan yang sama.
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
12 Suka
Hadiah
12
3
Bagikan
Komentar
0/400
BearMarketSurvivor
· 8jam yang lalu
Hanya dengan perjuangan ada kesempatan untuk menang
d/acc satu tahun: Desentralisasi pengembangan defensif yang dipercepat dan masa depan
d/acc: Tinjauan Tahunannya
Ditulis oleh: Vitalik Buterin
Sekitar setahun yang lalu, saya menulis sebuah artikel tentang optimisme teknologi, yang menjelaskan antusiasme saya secara keseluruhan terhadap teknologi dan manfaat besar yang mungkin dibawanya, sambil juga menyatakan sikap hati-hati terhadap beberapa masalah tertentu, terutama yang berfokus pada AI super cerdas, serta risiko kehancuran yang mungkin ditimbulkan jika dibangun dengan tidak benar atau risiko manusia kehilangan kekuasaan secara tidak dapat dipulihkan.
Salah satu poin inti dalam artikel tersebut adalah mendukung sebuah konsep akselerasi defensif yang terdesentralisasi, demokratis, dan beragam. Kita perlu mempercepat perkembangan teknologi, tetapi secara selektif fokus pada teknologi yang dapat meningkatkan kemampuan defensif kita alih-alih merusak, serta berkomitmen untuk mendistribusikan kekuasaan, bukan mengkonsentrasikannya di tangan segelintir elit yang mewakili semua orang untuk menentukan benar atau salah. Mode defensif seharusnya seperti Swiss yang demokratis dan daerah Zomia yang hampir anarkis dalam sejarah, bukan seperti model tuan dan kastil di bawah feodalisme abad pertengahan.
Dalam setahun terakhir, gagasan dan konsep ini telah berkembang dan matang secara signifikan. Saya telah membagikan gagasan ini di platform "80.000 Jam" dan menerima banyak tanggapan, sebagian besar positif, tentu saja ada juga beberapa suara kritik.
Pekerjaan ini sendiri juga terus maju dan mencapai hasil konkret: kami telah melihat kemajuan di bidang vaksin sumber terbuka yang dapat diverifikasi; kesadaran orang tentang nilai udara dalam ruangan yang sehat terus meningkat; catatan komunitas terus memainkan peran positif; pasar prediksi sebagai alat informasi mengalami tahun terobosan; bukti nol digunakan dalam identifikasi identitas pemerintah dan di bidang media sosial ( dan memastikan keamanan dompet Ethereum melalui abstraksi akun ); alat pencitraan sumber terbuka digunakan di bidang kedokteran dan antarmuka otak-mesin, dan lain-lain.
Musim gugur tahun lalu, kami menyambut acara d/acc penting pertama: "Hari Penemuan d/acc" yang diadakan di Devcon (d/aDDy), acara ini mengumpulkan pembicara dari berbagai bidang pilar d/acc ( biologi, fisika, jaringan, pertahanan informasi, dan teknologi saraf ), berlangsung sepanjang hari. Orang-orang yang telah mengabdikan diri pada teknologi ini selama bertahun-tahun mulai lebih mengenal pekerjaan satu sama lain, sementara orang luar semakin menyadari visi yang lebih besar ini: nilai-nilai yang sama yang mendorong perkembangan Ethereum dan cryptocurrency dapat diperluas ke dunia yang lebih luas.
Makna dan Ruang Lingkup d/acc
Bayangkan skenario di tahun 2042. Anda melihat berita di media yang menyatakan bahwa kota tempat Anda tinggal mungkin akan mengalami wabah baru. Anda sudah terbiasa dengan jenis berita seperti ini: orang cenderung bereaksi berlebihan terhadap setiap mutasi penyakit hewan, dan dalam sebagian besar kasus, mutasi ini pada akhirnya tidak memicu krisis nyata. Dua wabah potensial sebelumnya terdeteksi lebih awal melalui pemantauan limbah dan analisis sumber terbuka di media sosial, dan berhasil dikendalikan di tahap awal. Namun, situasinya kali ini berbeda, pasar prediksi menunjukkan bahwa ada kemungkinan 60% untuk munculnya setidaknya 10.000 kasus, yang membuat Anda merasa khawatir.
Baru kemarin, urutan gen virus tersebut telah ditentukan. Pembaruan perangkat lunak untuk alat penguji udara di saku Anda segera dirilis, dengan pembaruan ini, alat penguji dapat mendeteksi virus baru ( baik melalui pengujian satu kali pernapasan, atau setelah terpapar udara dalam ruangan selama 15 menit untuk mendeteksi ). Sementara itu, instruksi dan kode sumber terbuka untuk menghasilkan vaksin menggunakan perangkat yang dapat diakses di fasilitas medis modern di seluruh dunia diharapkan akan dirilis dalam beberapa minggu. Sebagian besar orang saat ini belum mengambil tindakan, mereka terutama mengandalkan langkah-langkah penyaringan udara dan ventilasi yang telah diadopsi secara luas untuk melindungi diri mereka sendiri.
Karena Anda memiliki masalah imun, Anda harus lebih berhati-hati: asisten AI pribadi yang berjalan secara lokal dan bersumber terbuka yang Anda gunakan tidak hanya menjalankan tugas rutin seperti navigasi, rekomendasi restoran, dan kegiatan, tetapi juga mempertimbangkan data pengujian udara waktu nyata dan data karbon dioksida, sehingga hanya merekomendasikan tempat yang paling aman untuk Anda. Data ini disediakan oleh ribuan peserta dan perangkat, dengan menggunakan teknik bukti nol pengetahuan dan privasi diferensial, meminimalkan risiko data bocor atau disalahgunakan untuk tujuan lain ( Jika Anda berminat untuk menyumbangkan data ke kumpulan data ini, ada asisten AI pribadi lain yang akan memverifikasi apakah alat enkripsi ini benar-benar efektif ).
Dua bulan kemudian, pandemi secara ajaib telah mereda: tampaknya 60% orang mengikuti protokol pencegahan dasar, yaitu memakai masker ketika alat penguji udara mengeluarkan alarm dan menunjukkan adanya virus, dan jika hasil tes individu positif, maka harus isolasi mandiri di rumah. Langkah inilah yang cukup untuk menurunkan tingkat penularan yang sudah sangat berkurang akibat penyaringan udara yang kuat secara pasif menjadi di bawah 1. Hasil simulasi menunjukkan penyakit yang mungkin lima kali lebih parah daripada pandemi COVID-19 dua puluh tahun yang lalu, kini tidak menimbulkan dampak yang serius.
Acara d/acc yang diadakan oleh Devcon mencapai hasil yang sangat positif, yaitu konsep d/acc berhasil mengumpulkan orang-orang dari berbagai bidang dan secara nyata membangkitkan minat mereka terhadap pekerjaan satu sama lain.
Menyelenggarakan acara yang "beragam" bukanlah hal yang sulit, tetapi memungkinkan orang-orang dengan latar belakang dan minat yang berbeda untuk benar-benar membangun hubungan yang erat adalah hal yang tidak mudah. Saya masih ingat pengalaman dipaksa menonton opera yang panjang selama sekolah menengah pertama dan atas, di mana saya pribadi merasa opera-opera ini membosankan. Saya sangat sadar bahwa saya "seharusnya" menghargai mereka, karena jika tidak, saya akan dianggap sebagai kutu buku ilmu komputer yang tidak berbudaya, tetapi saya tidak bisa merasakan resonansi yang lebih dalam dengan konten opera tersebut. Namun, suasana acara d/acc hari itu sangat berbeda: terasa bahwa orang-orang benar-benar menyukai untuk memahami berbagai pekerjaan dari berbagai bidang.
Jika kita ingin membangun masa depan yang lebih cerah daripada kekuasaan, perlambatan, dan penghancuran, kita pasti perlu membangun aliansi yang luas ini. d/acc tampaknya telah mencapai kemajuan signifikan dalam hal ini, hanya itu saja sudah cukup untuk menunjukkan nilai berharga dari ide ini.
Inti pemikiran d/acc sangat jelas: desentralisasi, demokrasi, dan akselerasi defensif yang berbeda. Membangun teknologi yang dapat mendorong keseimbangan serangan dan pertahanan untuk condong ke arah pertahanan, dan dalam proses implementasinya tidak bergantung pada penyerahan lebih banyak kekuasaan kepada otoritas pusat. Ada hubungan erat yang melekat antara kedua aspek ini: setiap struktur politik yang desentralisasi, demokratis, atau bebas, cenderung berkembang pesat ketika pertahanan mudah diimplementasikan, sementara akan menghadapi tantangan berat ketika pertahanan menghadapi banyak kesulitan—dalam keadaan tersebut, hasil yang lebih mungkin muncul adalah periode kekacauan di mana semua orang saling bertentangan, yang pada akhirnya mencapai keadaan keseimbangan yang dikuasai oleh yang terkuat.
Salah satu cara untuk memahami pentingnya mencoba untuk mewujudkan desentralisasi, defensif, dan akselerasi secara bersamaan adalah dengan membandingkannya dengan konsep yang dihasilkan dari melepaskan salah satu dari ketiga aspek tersebut.
Desentralisasi dipercepat, tetapi mengabaikan bagian "pertahanan yang berbeda"
Pada dasarnya, ini mirip dengan menjadi seorang akselerasionis yang efektif ( e/acc ), tetapi pada saat yang sama mengejar desentralisasi. Ada banyak orang yang mengambil pendekatan ini, beberapa di antaranya menyebut diri mereka d/acc, tetapi mereka secara menguntungkan menggambarkan fokus mereka sebagai "agresif". Selain itu, ada banyak orang lain yang menunjukkan semangat yang lebih moderat terhadap "AI desentralisasi" dan topik serupa, tetapi bagi saya, perhatian mereka terhadap aspek "pertahanan" jelas kurang.
Menurut saya, cara ini mungkin dapat menghindari risiko kelompok tertentu menguasai kekuasaan atas umat manusia secara global, tetapi itu tidak menyelesaikan masalah struktural yang mendasar: dalam lingkungan yang mendukung serangan, selalu ada risiko bencana yang terus-menerus, atau seseorang akan menempatkan dirinya sebagai pelindung dan secara permanen menduduki posisi kekuasaan. Dalam hal AI, ia juga tidak dapat secara efektif mengatasi risiko kekuasaan manusia yang berkurang dibandingkan dengan AI.
Percepatan pertahanan yang terdistribusi, tetapi mengabaikan "desentralisasi dan demokrasi"
Untuk mencapai tujuan keamanan dengan menerima kontrol terpusat, ini selalu memiliki daya tarik tertentu bagi sebagian orang, dan pembaca pasti sudah akrab dengan banyak contoh seperti itu, serta kelemahan yang ditimbulkannya. Baru-baru ini, beberapa orang khawatir bahwa kontrol terpusat yang ekstrem mungkin menjadi satu-satunya cara untuk menghadapi teknologi ekstrem di masa depan: misalnya, bayangkan skenario hipotetis di mana "setiap orang memakai 'label kebebasan'—ini adalah produk lanjutan dari perangkat pemantauan yang lebih terbatas saat ini, mirip dengan label pergelangan kaki yang digunakan beberapa negara sebagai alternatif penjara...... video dan audio terenkripsi diunggah secara terus-menerus dan ditafsirkan secara real-time oleh mesin". Namun, kontrol terpusat memiliki masalah tingkat tertentu. Bentuk kontrol terpusat yang relatif moderat yang sering diabaikan tetapi tetap berbahaya, tercermin dalam bidang bioteknologi ( misalnya penolakan terhadap pengawasan publik pada makanan, vaksin ) dan memungkinkan tindakan penolakan ini tidak ditantang oleh norma tertutup.
Risiko dari cara ini jelas terlihat, yaitu pusat itu sendiri sering kali menjadi sumber risiko. Kita telah menyaksikan hal ini selama pandemi COVID-19, di mana penelitian yang didanai oleh beberapa pemerintah utama di dunia mungkin merupakan akar penyebab pandemi, dan epistemologi yang terpusat menyebabkan Organisasi Kesehatan Dunia selama bertahun-tahun menolak mengakui bahwa virus COVID-19 ditularkan melalui udara, sedangkan jarak sosial yang dipaksakan dan mandat vaksin memicu kemungkinan reaksi politik yang dapat bertahan selama puluhan tahun. Situasi serupa sangat mungkin terjadi lagi dalam konteks risiko terkait AI atau teknologi berisiko lainnya. Sebaliknya, cara desentralisasi akan lebih efektif dalam menghadapi risiko yang berasal dari pusat itu sendiri.
Pertahanan terdesentralisasi, tetapi menolak percepatan
Pada dasarnya, ini adalah upaya untuk memperlambat kemajuan teknologi atau mendorong penurunan ekonomi.
Strategi ini menghadapi dua tantangan. Pertama, secara umum, pertumbuhan teknologi dan ekonomi sangat menguntungkan bagi umat manusia, dan setiap penundaan akan membawa biaya yang sulit untuk diukur. Kedua, dalam dunia yang tidak otoriter, stagnasi adalah tidak stabil: mereka yang "curang" paling banyak, yang dapat menemukan cara yang tampaknya masuk akal untuk terus memajukan perkembangan, akan memiliki keunggulan. Strategi perlambatan dapat berfungsi dalam konteks tertentu sampai batas tertentu: misalnya, makanan Eropa lebih sehat daripada makanan Amerika, ini adalah sebuah contoh; keberhasilan non-proliferasi nuklir sejauh ini juga demikian. Namun, strategi ini tidak mungkin selalu berhasil.
Melalui d/acc, kami berkomitmen untuk mencapai tujuan berikut:
Memikirkan d/acc dari sudut pandang lain adalah kembali ke kerangka gerakan Partai Bajak Laut Eropa pada akhir 2000-an: pemberdayaan.
Tujuan kami adalah untuk membangun dunia yang dapat mempertahankan agensi manusia, mencapai kebebasan negatif, yaitu menghindari intervensi aktif dari orang lain ( baik itu warga sipil biasa, pemerintah, atau robot super pintar ) terhadap kemampuan kita untuk membentuk nasib kita sendiri, sambil mencapai kebebasan positif, yaitu memastikan bahwa kita memiliki pengetahuan dan sumber daya untuk menjalankan kemampuan ini. Ini mencerminkan tradisi liberal klasik yang telah berlangsung selama berabad-abad, yang mencakup perhatian Stewart Brand terhadap "akses alat", serta penekanan John Stuart Mill pada pendidikan dan kebebasan sebagai elemen kunci kemajuan manusia — mungkin juga dapat ditambahkan harapan Buckminster Fuller bahwa proses pemecahan masalah global adalah partisipatif dan terdistribusi secara luas. Mengingat lanskap teknologi abad ke-21, kita dapat melihat d/acc sebagai cara untuk mencapai tujuan-tujuan yang sama.
![Vitalik Baru: Bagaimana Akselerasi Desentralisasi Mengenkripsi