Приблизно рік тому я написав статтю про технологічний оптимізм, в якій виклав своє загальне захоплення технологіями та величезними перевагами, які вони можуть принести, одночасно висловлюючи обережне ставлення до певних конкретних проблем, зокрема, до надзвичайно розумного ШІ, а також до ризиків, які можуть виникнути в разі неналежного створення, таких як руйнівні ризики або невідворотна втрата влади людьми.
Однією з основних ідей, викладених у тій статті, є підтримка концепції децентралізованого, демократичного та диференційованого оборонного прискорення. Нам потрібно прискорити розвиток технологій, але вибірково зосереджуватися на тих технологіях, які можуть зміцнити нашу обороноздатність, а не завдати шкоди, та прагнути до розподілу влади, а не зосередження її в руках небагатьох еліт, які вирішують, що є правильним, а що - ні, від імені всіх. Оборонна модель повинна бути такою ж, як у демократичній Швейцарії та історичному напіванархістському регіоні Зоміа, а не такою, як у середньовічному феодалізмі з його лордами та замками.
Протягом минулого року ці ідеї та концепції отримали значний розвиток і зрілість. Я поділився цими думками на платформі "80,000 годин" і отримав багато відгуків, більшість з яких була позитивною, звісно, були й деякі критичні голоси.
Ця робота також продовжується і досягає конкретних результатів: ми спостерігали прогрес у сфері верифікованих відкритих вакцин; усвідомлення цінності здорового внутрішнього повітря постійно зростає; спільнотні нотатки продовжують відігравати позитивну роль; прогностичні ринки стали проривом у якості інформаційного інструменту; нульові знання стали застосовуватися в урядовій ідентифікації та соціальних медіа ( і забезпечили безпеку гаманців Ethereum через абстракцію рахунків ); відкриті інструменти зображення застосовуються в медицині та в сфері мозкових інтерфейсів тощо.
Минулої осені ми провели нашу першу важливу подію d/acc: "День відкриттів d/acc", що відбувся на Devcon (d/aDDy). Ця подія об'єднала спікерів з різних стовпів d/acc ( біології, фізики, мереж, інформаційної оборони та нейротехнологій ) і тривала цілий день. Люди, які протягом багатьох років працювали над цими технологіями, почали більше дізнаватися про роботу один одного, а зовнішні особи все більше усвідомлюють цю велику мету: що однакові цінності, які сприяють розвитку Ethereum та криптовалют, можуть бути розширені на більш широкий світ.
Значення та межі d/acc
Уявіть собі сцену 2042 року. Ви бачите в медіа повідомлення про те, що у вашому місті може спалахнути нова епідемія. Ви вже звикли до таких новин: люди зазвичай надмірно реагують на кожну мутацію хвороб тварин, і в більшості випадків ці мутації врешті-решт не викликають реальної кризи. Дві попередні потенційні епідемії були вчасно виявлені завдяки моніторингу стічних вод і аналізу відкритих джерел у соціальних мережах і успішно зупинені на стадії зародження. Однак ця ситуація відрізняється: ринкові прогнози показують, що ймовірність виникнення щонайменше 10 000 випадків досягає 60%, що викликає у вас занепокоєння.
Ще вчора геном вірусу був визначений. Оновлення програмного забезпечення для тестера повітря у вашій кишені було випущено одразу, завдяки цьому оновленню, тестер може виявити новий вірус ( як через тестування дихання, так і через виявлення ) через 15 хвилин перебування в кімнатному повітрі. Тим часом, очікується, що відкриті інструкції та код для створення вакцини, які можуть бути отримані за допомогою будь-якого сучасного медичного обладнання у світі, будуть випущені протягом кількох тижнів. Більшість людей наразі не вжили жодних заходів, вони в основному покладаються на широко впроваджені заходи фільтрації повітря та вентиляції для захисту власної безпеки.
Оскільки у вас є проблеми з імунітетом, ви дієте більш обережно: ваш відкритий локальний особистий асистент AI, крім виконання звичайних завдань, таких як навігація, рекомендації ресторанів і заходів, також буде враховувати дані про якість повітря в реальному часі та дані про вуглекислий газ, щоб рекомендувати лише найбезпечніші місця. Ці дані надаються тисячами учасників і пристроїв, з використанням технологій нульового знання та диференційної конфіденційності, що максимізує зменшення ризику витоку даних або їх неналежного використання (. Якщо ви хочете внести дані в ці набори даних, є інші особисті асистенти AI, які перевірять, чи дійсно ці криптографічні інструменти ефективні ).
Два місяці потому епідемія дивовижним чином згасла: здається, 60% людей дотримувались основних протиепідемічних протоколів, а саме, носили маски, коли повітряний тестер сповіщав про наявність вірусу, а якщо особистий тест давав позитивний результат, то залишались вдома на самоізоляції. Саме цей захід виявився достатнім, щоб ще більше знизити рівень передачі, який вже був значно знижений завдяки пасивній потужній фільтрації повітря, до менш ніж 1. Моделювання показало, що хвороба, яка могла бути в п'ять разів серйознішою за пандемію COVID-19 двадцятирічної давності, наразі не завдала серйозної шкоди.
Захід d/acc, організований Devcon, досяг вкрай позитивного результату, а саме, концепція d/acc успішно об'єднала людей з різних сфер і дійсно стимулювала їхній живий інтерес до роботи один одного.
Організувати захід із "різноманіттям" не є складним завданням, але справді налагодити тісний зв'язок між людьми з різними фонами та інтересами - це досить нелегко. Я досі пам'ятаю, як у середній і старшій школі мене змушували дивитися довгі опери, і тоді я вважав їх нудними. Я добре знав, що "повинен" їх цінувати, адже інакше мене вважали б неосвіченим комп'ютерним науковцем-ледарем, але я не зміг на більш глибокому рівні відчути зміст опери. Проте атмосфера заходу d/acc була абсолютно іншою: здавалося, що людям справді подобається дізнаватися про різні види діяльності.
Якщо ми прагнемо побудувати майбутнє, яке буде яскравішим за панування, сповільнення та знищення, нам неодмінно потрібно розпочати таку широкомасштабну роботу зі створення альянсів. d/acc, здається, досягла значних успіхів у цій справі, і цього вже достатньо, щоб підкреслити цінність цієї ідеї.
Основна ідея d/acc проста і зрозуміла: децентралізований, демократичний та диференційований оборонний прискорювач. Створення технологій, які можуть спонукати баланс атак і захисту до зміщення в бік оборони, і при цьому в процесі реалізації не залежати від передачі більшої влади центральним органам. Між цими двома аспектами існує внутрішній тісний зв'язок: будь-яка децентралізована, демократична або вільна політична структура, коли захист легко реалізувати, зазвичай може процвітати, тоді як, коли захист стикається з величезними труднощами, вона стикається з серйозними викликами — в таких випадках більш імовірним результатом є період безладу, коли всі протистоять один одному, врешті-решт досягаючи стану балансу, в якому панує найсильніший.
Розуміння спроби одночасно реалізувати децентралізацію, обороноздатність і прискорення важливе, і один із способів це зробити - порівняти його з концепціями, які виникають унаслідок відмови від будь-якого з цих трьох аспектів.
Децентралізація прискорюється, але игноруються "диференційовані захисні" частини
По суті, це схоже на те, щоб стати ефективним акцелераціоністом (e/acc), але при цьому прагнути до децентралізації. Є багато людей, які обирають цей шлях, деякі з них самі себе називають d/acc, але вони корисно описують свій акцент як "атакуючий". Крім того, є багато інших, хто виявляє більш помірковану зацікавленість у "децентралізованому ШІ" та подібних темах, але, на мій погляд, їхня увага до "оборонних" аспектів явно недостатня.
На мою думку, цей підхід, можливо, зможе уникнути ризику диктатури певних груп над світовим людством, але він не вирішує потенційні структурні проблеми: в середовищі, що сприяє агресії, завжди існує постійний ризик катастрофи, або хтось може позиціонувати себе як захисник і назавжди зайняти домінуюче становище. Щодо ШІ, він також не може адекватно вирішити ризик послаблення влади людства в цілому щодо ШІ.
Диференційоване прискорення оборони, але ігнорування "децентралізації та демократії"
Прийняття централізованого контролю для досягнення цілей безпеки завжди має певну привабливість для частини людей, читачі, безсумнівно, вже знайомі з багатьма такими прикладами та їхніми недоліками. Нещодавно деякі люди висловили занепокоєння, що екстремальний централізований контроль може бути єдиним способом реагування на екстремальні технології в майбутньому: наприклад, уявіть собі таку гіпотетичну ситуацію, "кожен носить 'вільну мітку' — це наступний продукт обмежених на сьогодні носимих пристроїв моніторингу, подібно до кількох країн, які використовують їх як альтернативу в'язницям... зашифроване відео та аудіо постійно завантажуються та в реальному часі інтерпретуються машинами". Однак централізований контроль має проблему ступеня. Одна форма відносно м'якого централізованого контролю, яка зазвичай ігнорується, але все ще є шкідливою, проявляється в галузі біотехнологій (, наприклад, у випадку харчових продуктів, вакцин ) та опору громадського нагляду, а також можливості дозволити цю поведінку без викликів закритим стандартам.
Ризики такого підходу очевидні, а саме те, що сам центр часто стає джерелом ризику. Ми стали свідками цього під час пандемії COVID-19, коли функціональні дослідження, що фінансуються кількома основними світовими урядами, могли бути джерелом пандемії, а централізовані епістемології призвели до того, що Всесвітня організація охорони здоров'я протягом багатьох років відмовлялася визнати, що вірус COVID-19 передається повітрям, тоді як обов'язкове соціальне дистанціювання та примусова вакцинація викликали політичні наслідки, які можуть тривати десятиліттями. Подібна ситуація з великою ймовірністю може повторитися в будь-яких ризикових сценаріях, пов'язаних із ШІ або іншими ризиковими технологіями. У порівнянні, децентралізований підхід ефективніше впорається з ризиками, що походять від самого центру.
Децентралізована оборона, але відторгнення прискорення
По суті, це спроба уповільнити технологічний прогрес або сприяти економічному спаду.
Ця стратегія стикається з подвійними викликами. По-перше, в цілому технологічний і економічний ріст є надзвичайно корисними для людства, і будь-яка затримка в цьому призведе до непередбачуваних витрат. По-друге, в світі, що не є тоталітарним, застій є нестабільним: ті, хто "обманює" найбільше, зможуть знайти, здавалося б, розумні способи продовжувати розвиток, займуть перевагу. Стратегія уповільнення може працювати в певних специфічних контекстах: наприклад, європейська їжа є більш здоровою, ніж американська, це є одним з прикладів; успіхи в ядерному нерозповсюдженні до цього часу також є таким прикладом. Проте ці стратегії не можуть діяти вічно.
Через d/acc ми прагнемо досягти наступних цілей:
Дотримуючись принципів у світі, що дедалі більше стає племінним, а не сліпо будуючи різні речі — навпаки, ми очікуємо створити певні речі, щоб зробити світ більш безпечним і кращим.
Усвідомлення експоненціального технологічного прогресу означає, що світ стане надзвичайно дивним, і загальний "відбиток" людства у всесвіті неминуче буде постійно зростати. Наша здатність захищати вразливих тварин, рослин і людей від шкоди повинна безперервно підвищуватися, а єдиний шлях вперед - це йти вперед.
Побудова технологій, які дійсно захищають нас, а не ґрунтуються на припущенні, що "добра людина ( або хороший ШІ ) контролює все". Ми досягаємо цієї мети, створюючи інструменти, які природно є ефективнішими для побудови та захисту, ніж для руйнування.
Розгляд d/acc з іншої точки зору – це повернення до рамок європейського руху піратів наприкінці 2000-х років: наділення повноваженнями.
Наша мета — створити світ, який зможе зберегти людську агентивність, реалізувати негативну свободу, тобто уникати активного втручання інших (, будь то звичайні громадяни, уряд чи суперінтелектуальні роботи ), у нашу здатність формувати власну долю, одночасно досягаючи позитивної свободи, тобто забезпечуючи наявність знань і ресурсів для реалізації цієї спроможності. Це відгукується на традицію класичного лібералізму, що триває вже багато століть, яка охоплює увагу Стюарта Бренда до "отримання інструментів", а також наголос Джона Стюарта Мілля на освіті та свободі як ключових елементах людського прогресу — можливо, слід додати також бачення Бакмінстера Фуллера, що процес глобального вирішення проблем має бути участевим і широко розподіленим. З огляду на технологічну картину XXI століття, ми можемо розглядати d/acc як спосіб досягнення цих самих цілей.
d/acc один рік: Децентралізація оборонного прискорення розвитку та майбутнього
d/acc: Річний огляд
Автор: Віталік Бутерін
Приблизно рік тому я написав статтю про технологічний оптимізм, в якій виклав своє загальне захоплення технологіями та величезними перевагами, які вони можуть принести, одночасно висловлюючи обережне ставлення до певних конкретних проблем, зокрема, до надзвичайно розумного ШІ, а також до ризиків, які можуть виникнути в разі неналежного створення, таких як руйнівні ризики або невідворотна втрата влади людьми.
Однією з основних ідей, викладених у тій статті, є підтримка концепції децентралізованого, демократичного та диференційованого оборонного прискорення. Нам потрібно прискорити розвиток технологій, але вибірково зосереджуватися на тих технологіях, які можуть зміцнити нашу обороноздатність, а не завдати шкоди, та прагнути до розподілу влади, а не зосередження її в руках небагатьох еліт, які вирішують, що є правильним, а що - ні, від імені всіх. Оборонна модель повинна бути такою ж, як у демократичній Швейцарії та історичному напіванархістському регіоні Зоміа, а не такою, як у середньовічному феодалізмі з його лордами та замками.
Протягом минулого року ці ідеї та концепції отримали значний розвиток і зрілість. Я поділився цими думками на платформі "80,000 годин" і отримав багато відгуків, більшість з яких була позитивною, звісно, були й деякі критичні голоси.
Ця робота також продовжується і досягає конкретних результатів: ми спостерігали прогрес у сфері верифікованих відкритих вакцин; усвідомлення цінності здорового внутрішнього повітря постійно зростає; спільнотні нотатки продовжують відігравати позитивну роль; прогностичні ринки стали проривом у якості інформаційного інструменту; нульові знання стали застосовуватися в урядовій ідентифікації та соціальних медіа ( і забезпечили безпеку гаманців Ethereum через абстракцію рахунків ); відкриті інструменти зображення застосовуються в медицині та в сфері мозкових інтерфейсів тощо.
Минулої осені ми провели нашу першу важливу подію d/acc: "День відкриттів d/acc", що відбувся на Devcon (d/aDDy). Ця подія об'єднала спікерів з різних стовпів d/acc ( біології, фізики, мереж, інформаційної оборони та нейротехнологій ) і тривала цілий день. Люди, які протягом багатьох років працювали над цими технологіями, почали більше дізнаватися про роботу один одного, а зовнішні особи все більше усвідомлюють цю велику мету: що однакові цінності, які сприяють розвитку Ethereum та криптовалют, можуть бути розширені на більш широкий світ.
Значення та межі d/acc
Уявіть собі сцену 2042 року. Ви бачите в медіа повідомлення про те, що у вашому місті може спалахнути нова епідемія. Ви вже звикли до таких новин: люди зазвичай надмірно реагують на кожну мутацію хвороб тварин, і в більшості випадків ці мутації врешті-решт не викликають реальної кризи. Дві попередні потенційні епідемії були вчасно виявлені завдяки моніторингу стічних вод і аналізу відкритих джерел у соціальних мережах і успішно зупинені на стадії зародження. Однак ця ситуація відрізняється: ринкові прогнози показують, що ймовірність виникнення щонайменше 10 000 випадків досягає 60%, що викликає у вас занепокоєння.
Ще вчора геном вірусу був визначений. Оновлення програмного забезпечення для тестера повітря у вашій кишені було випущено одразу, завдяки цьому оновленню, тестер може виявити новий вірус ( як через тестування дихання, так і через виявлення ) через 15 хвилин перебування в кімнатному повітрі. Тим часом, очікується, що відкриті інструкції та код для створення вакцини, які можуть бути отримані за допомогою будь-якого сучасного медичного обладнання у світі, будуть випущені протягом кількох тижнів. Більшість людей наразі не вжили жодних заходів, вони в основному покладаються на широко впроваджені заходи фільтрації повітря та вентиляції для захисту власної безпеки.
Оскільки у вас є проблеми з імунітетом, ви дієте більш обережно: ваш відкритий локальний особистий асистент AI, крім виконання звичайних завдань, таких як навігація, рекомендації ресторанів і заходів, також буде враховувати дані про якість повітря в реальному часі та дані про вуглекислий газ, щоб рекомендувати лише найбезпечніші місця. Ці дані надаються тисячами учасників і пристроїв, з використанням технологій нульового знання та диференційної конфіденційності, що максимізує зменшення ризику витоку даних або їх неналежного використання (. Якщо ви хочете внести дані в ці набори даних, є інші особисті асистенти AI, які перевірять, чи дійсно ці криптографічні інструменти ефективні ).
Два місяці потому епідемія дивовижним чином згасла: здається, 60% людей дотримувались основних протиепідемічних протоколів, а саме, носили маски, коли повітряний тестер сповіщав про наявність вірусу, а якщо особистий тест давав позитивний результат, то залишались вдома на самоізоляції. Саме цей захід виявився достатнім, щоб ще більше знизити рівень передачі, який вже був значно знижений завдяки пасивній потужній фільтрації повітря, до менш ніж 1. Моделювання показало, що хвороба, яка могла бути в п'ять разів серйознішою за пандемію COVID-19 двадцятирічної давності, наразі не завдала серйозної шкоди.
Захід d/acc, організований Devcon, досяг вкрай позитивного результату, а саме, концепція d/acc успішно об'єднала людей з різних сфер і дійсно стимулювала їхній живий інтерес до роботи один одного.
Організувати захід із "різноманіттям" не є складним завданням, але справді налагодити тісний зв'язок між людьми з різними фонами та інтересами - це досить нелегко. Я досі пам'ятаю, як у середній і старшій школі мене змушували дивитися довгі опери, і тоді я вважав їх нудними. Я добре знав, що "повинен" їх цінувати, адже інакше мене вважали б неосвіченим комп'ютерним науковцем-ледарем, але я не зміг на більш глибокому рівні відчути зміст опери. Проте атмосфера заходу d/acc була абсолютно іншою: здавалося, що людям справді подобається дізнаватися про різні види діяльності.
Якщо ми прагнемо побудувати майбутнє, яке буде яскравішим за панування, сповільнення та знищення, нам неодмінно потрібно розпочати таку широкомасштабну роботу зі створення альянсів. d/acc, здається, досягла значних успіхів у цій справі, і цього вже достатньо, щоб підкреслити цінність цієї ідеї.
Основна ідея d/acc проста і зрозуміла: децентралізований, демократичний та диференційований оборонний прискорювач. Створення технологій, які можуть спонукати баланс атак і захисту до зміщення в бік оборони, і при цьому в процесі реалізації не залежати від передачі більшої влади центральним органам. Між цими двома аспектами існує внутрішній тісний зв'язок: будь-яка децентралізована, демократична або вільна політична структура, коли захист легко реалізувати, зазвичай може процвітати, тоді як, коли захист стикається з величезними труднощами, вона стикається з серйозними викликами — в таких випадках більш імовірним результатом є період безладу, коли всі протистоять один одному, врешті-решт досягаючи стану балансу, в якому панує найсильніший.
Розуміння спроби одночасно реалізувати децентралізацію, обороноздатність і прискорення важливе, і один із способів це зробити - порівняти його з концепціями, які виникають унаслідок відмови від будь-якого з цих трьох аспектів.
Децентралізація прискорюється, але игноруються "диференційовані захисні" частини
По суті, це схоже на те, щоб стати ефективним акцелераціоністом (e/acc), але при цьому прагнути до децентралізації. Є багато людей, які обирають цей шлях, деякі з них самі себе називають d/acc, але вони корисно описують свій акцент як "атакуючий". Крім того, є багато інших, хто виявляє більш помірковану зацікавленість у "децентралізованому ШІ" та подібних темах, але, на мій погляд, їхня увага до "оборонних" аспектів явно недостатня.
На мою думку, цей підхід, можливо, зможе уникнути ризику диктатури певних груп над світовим людством, але він не вирішує потенційні структурні проблеми: в середовищі, що сприяє агресії, завжди існує постійний ризик катастрофи, або хтось може позиціонувати себе як захисник і назавжди зайняти домінуюче становище. Щодо ШІ, він також не може адекватно вирішити ризик послаблення влади людства в цілому щодо ШІ.
Диференційоване прискорення оборони, але ігнорування "децентралізації та демократії"
Прийняття централізованого контролю для досягнення цілей безпеки завжди має певну привабливість для частини людей, читачі, безсумнівно, вже знайомі з багатьма такими прикладами та їхніми недоліками. Нещодавно деякі люди висловили занепокоєння, що екстремальний централізований контроль може бути єдиним способом реагування на екстремальні технології в майбутньому: наприклад, уявіть собі таку гіпотетичну ситуацію, "кожен носить 'вільну мітку' — це наступний продукт обмежених на сьогодні носимих пристроїв моніторингу, подібно до кількох країн, які використовують їх як альтернативу в'язницям... зашифроване відео та аудіо постійно завантажуються та в реальному часі інтерпретуються машинами". Однак централізований контроль має проблему ступеня. Одна форма відносно м'якого централізованого контролю, яка зазвичай ігнорується, але все ще є шкідливою, проявляється в галузі біотехнологій (, наприклад, у випадку харчових продуктів, вакцин ) та опору громадського нагляду, а також можливості дозволити цю поведінку без викликів закритим стандартам.
Ризики такого підходу очевидні, а саме те, що сам центр часто стає джерелом ризику. Ми стали свідками цього під час пандемії COVID-19, коли функціональні дослідження, що фінансуються кількома основними світовими урядами, могли бути джерелом пандемії, а централізовані епістемології призвели до того, що Всесвітня організація охорони здоров'я протягом багатьох років відмовлялася визнати, що вірус COVID-19 передається повітрям, тоді як обов'язкове соціальне дистанціювання та примусова вакцинація викликали політичні наслідки, які можуть тривати десятиліттями. Подібна ситуація з великою ймовірністю може повторитися в будь-яких ризикових сценаріях, пов'язаних із ШІ або іншими ризиковими технологіями. У порівнянні, децентралізований підхід ефективніше впорається з ризиками, що походять від самого центру.
Децентралізована оборона, але відторгнення прискорення
По суті, це спроба уповільнити технологічний прогрес або сприяти економічному спаду.
Ця стратегія стикається з подвійними викликами. По-перше, в цілому технологічний і економічний ріст є надзвичайно корисними для людства, і будь-яка затримка в цьому призведе до непередбачуваних витрат. По-друге, в світі, що не є тоталітарним, застій є нестабільним: ті, хто "обманює" найбільше, зможуть знайти, здавалося б, розумні способи продовжувати розвиток, займуть перевагу. Стратегія уповільнення може працювати в певних специфічних контекстах: наприклад, європейська їжа є більш здоровою, ніж американська, це є одним з прикладів; успіхи в ядерному нерозповсюдженні до цього часу також є таким прикладом. Проте ці стратегії не можуть діяти вічно.
Через d/acc ми прагнемо досягти наступних цілей:
Розгляд d/acc з іншої точки зору – це повернення до рамок європейського руху піратів наприкінці 2000-х років: наділення повноваженнями.
Наша мета — створити світ, який зможе зберегти людську агентивність, реалізувати негативну свободу, тобто уникати активного втручання інших (, будь то звичайні громадяни, уряд чи суперінтелектуальні роботи ), у нашу здатність формувати власну долю, одночасно досягаючи позитивної свободи, тобто забезпечуючи наявність знань і ресурсів для реалізації цієї спроможності. Це відгукується на традицію класичного лібералізму, що триває вже багато століть, яка охоплює увагу Стюарта Бренда до "отримання інструментів", а також наголос Джона Стюарта Мілля на освіті та свободі як ключових елементах людського прогресу — можливо, слід додати також бачення Бакмінстера Фуллера, що процес глобального вирішення проблем має бути участевим і широко розподіленим. З огляду на технологічну картину XXI століття, ми можемо розглядати d/acc як спосіб досягнення цих самих цілей.
![Vitalik нова стаття: як децентралізований акселераціонізм шифрується