Примерно год назад я написал статью о технологическом оптимизме, в которой изложил свой общий энтузиазм по поводу технологий и их потенциальных огромных преимуществ, а также выразил осторожное отношение к определенным вопросам, в основном сосредоточившись на суперумном ИИ и рисках, которые могут возникнуть в случае неправильного строительства, включая катастрофические риски или возможность необратимой потери власти для человечества.
Одной из ключевых идей, изложенных в этой статье, является поддержка концепции децентрализованной, демократической и дифференцированной оборонительной акселерации. Нам необходимо ускорять развитие технологий, но целенаправленно сосредоточиться на тех технологиях, которые могут усилить наши оборонительные способности, а не повредить им, и стремиться к распределению власти, а не к концентрации ее в руках немногих элит, которые будут судить о правоте и неправоте от имени всех. Оборонительная модель должна быть такой, как в демократической Швейцарии и историческом почти анархическом регионе Зомия, а не как в феодализме средневековья с его лордами и замками.
За последний год эти идеи и концепции значительно развились и созрели. Я поделился этими мыслями на платформе "80,000 часов" и получил много откликов, большинство из которых были положительными, хотя, конечно, были и некоторые критические отзывы.
Эта работа продолжается и приносит конкретные результаты: мы видим прогресс в области проверяемых открытых вакцин; растет осознание ценности здорового внутреннего воздуха; общественные заметки продолжают играть активную роль; прогнозные рынки становятся прорывным инструментом информации; доказательства с нулевым знанием применяются в правительственной идентификации и социальных медиа ( и обеспечивают безопасность кошельков Ethereum через абстракцию аккаунтов ); инструменты открытого кода применяются в медицине и области интерфейсов «мозг-машина», и так далее.
Прошлой осенью мы встретили наше первое важное мероприятие d/acc: "День открытия d/acc", проведенное на Devcon (d/aDDy). Мероприятие объединило спикеров из различных столпов d/acc, включая биологию, физику, сеть, информационную безопасность и нейротехнологии (, и продолжалось целый день. Люди, на протяжении многих лет работающие с этими технологиями, начали лучше понимать работу друг друга, а внешние лица все больше осознавали эту более широкую перспективу: ценности, продвигающие развитие Ethereum и криптовалют, могут быть распространены на более широкий мир.
![Виталик новая статья: как децентрализованный ускоризм сочетает криптовалюту и ИИ?])https://img-cdn.gateio.im/webp-social/moments-160f74295ba6e4b4e0353b0c4e25a386.webp(
Содержание и объем d/acc
Представьте себе сцену 2042 года. Вы видите в средствах массовой информации сообщение о том, что в вашем городе может вспыхнуть новая эпидемия. Вы уже привыкли к таким новостям: люди, как правило, чрезмерно реагируют на каждую мутацию заболеваний животных, и в подавляющем большинстве случаев эти мутации в конечном итоге не приводят к реальным кризисам. Две предыдущие потенциальные эпидемии были выявлены на ранних стадиях благодаря мониторингу сточных вод и анализу открытых данных в социальных сетях, и их удалось успешно сдержать на зародышевом этапе. Однако в этот раз ситуация иная, прогнозные рынки показывают вероятность того, что будет зафиксировано как минимум 10 000 случаев, достигающую 60%, что вызывает у вас тревогу.
Вчера был установлен генетический последовательность вируса. Обновление программного обеспечения для вашего карманного тестера воздуха было немедленно выпущено, с помощью этого обновления тестер может обнаруживать новый вирус ) как через однократное дыхательное тестирование, так и через тестирование ( после 15 минут воздействия на внутренний воздух в комнате. В то же время ожидается, что открытые инструкции и код для создания вакцины с использованием оборудования, доступного в современных медицинских учреждениях по всему миру, будут выпущены в течение нескольких недель. В настоящее время большинство людей не предприняли никаких действий, и они в основном полагаются на широко используемые меры по фильтрации воздуха и вентиляции для обеспечения своей безопасности.
Из-за наличия у вас проблем с иммунной системой, вы действуете более осторожно: ваш открытый локальный личный помощник ИИ, помимо выполнения обычных задач, таких как навигация, рекомендации ресторанов и мероприятий, также будет учитывать данные о качестве воздуха в реальном времени и данные о углекислом газе, чтобы рекомендовать вам только самые безопасные места. Эти данные предоставляются тысячами участников и устройств, с помощью технологий нулевых знаний и дифференциальной конфиденциальности, что минимизирует риск утечки данных или их нецелевого использования ) Если вы хотите внести данные в эти наборы данных, другие личные помощники ИИ проверят, действительно ли эти криптографические инструменты эффективны (.
Через два месяца пандемия чудесным образом исчезла: похоже, 60% людей следовали основным протоколам профилактики, то есть надевали маски, когда датчик воздуха подавал сигнал тревоги и показывал наличие вируса, а также изолировались дома в случае положительного теста. Именно это действие оказалось достаточным, чтобы еще больше снизить коэффициент распространения, который уже значительно уменьшился благодаря пассивной фильтрации воздуха, до менее 1. Болезнь, симуляция которой показала, что она может быть в пять раз серьезнее, чем пандемия COVID-19 двадцатилетней давности, сейчас не оказала серьезного воздействия.
Мероприятие d/acc, организованное Devcon, достигло крайне положительного результата, а именно концепция d/acc успешно объединила людей из разных областей и действительно вызвала у них живой интерес к работе друг друга.
Провести мероприятие с "разнообразием" несложно, но заставить людей с разным опытом и интересами действительно установить тесные связи - задача не из легких. Я до сих пор помню, как в средней и старшей школе меня заставляли смотреть длинные оперы, и тогда мне казалось, что они скучны и неинтересны. Я прекрасно понимал, что "должен" их ценить, потому что в противном случае меня бы считали безкультурным компьютерным ленивцем, но я не смог на более глубоком уровне сопереживать содержанию оперы. Однако атмосфера мероприятия d/acc была совершенно иной: казалось, что людям искренне нравится узнавать о работах из разных областей.
Если мы стремимся построить будущее, более светлое, чем правление, замедление и разрушение, нам необходимо развивать такое широкое сотрудничество. d/acc, похоже, достиг значительных успехов в этом направлении, и этого достаточно, чтобы подчеркнуть ценность этой идеи.
Основная идея d/acc проста и ясна: децентрализованная, демократичная и дифференцированная защитная акселерация. Создание технологий, способствующих смещению баланса сил в сторону защиты, при этом не полагаясь на передачу большей власти центральным властям в процессе реализации. Существует внутреннее тесное связующее звено между этими двумя аспектами: любая децентрализованная, демократическая или свободная политическая структура, как правило, может процветать, когда защита легко реализуема, и сталкивается с серьезными вызовами, когда защита сталкивается с большими трудностями — в таких случаях более вероятным исходом является период хаоса, когда все противостоят друг другу, в конце концов достигая состояния равновесия, управляемого сильнейшими.
Один из способов понять важность одновременной реализации децентрализации, защиты и ускорения заключается в сопоставлении с идеей, возникающей при отказе от любого из этих трех аспектов.
![Новая статья Виталика: как децентрализованный ускоризм связывает криптовалюту и ИИ?])https://img-cdn.gateio.im/webp-social/moments-e42a1dcd075fe6d525b3fa2ccbe6aa27.webp(
Децентрализованное ускорение, но игнорирование части "дифференцированной защиты"
По сути, это похоже на то, чтобы стать эффективным акселерационистом ) e/acc (, но при этом стремиться к децентрализации. Многие люди выбирают этот путь, некоторые из которых называют себя d/acc, но они полезно описывают свой акцент как "агрессивный". Кроме того, есть много других, кто проявляет более умеренный интерес к "децентрализованному ИИ" и подобным темам, но, на мой взгляд, их внимание к "защитной" стороне явно недостаточно.
На мой взгляд, такой подход может помочь избежать риска диктатуры определенной группы над всем человечеством, но он не решает потенциальные структурные проблемы: в среде, благоприятствующей агрессии, всегда существует постоянный риск катастрофы, или кто-то может позиционировать себя как защитника и занять доминирующее положение на постоянной основе. Что касается ИИ, он также не может должным образом решить риск ослабления власти человечества по отношению к ИИ.
Дифференцированная защита ускоряется, но игнорирует "децентрализацию и демократию"
Для достижения целей безопасности принятие централизованного контроля всегда привлекало определенную часть людей, читатели, безусловно, уже знакомы со множеством таких примеров и с их недостатками. В последнее время некоторые люди обеспокоены тем, что крайний централизованный контроль может быть единственным способом справиться с будущими экстремальными технологиями: например, представьте себе гипотетическую ситуацию, в которой "каждый носит 'ярлык свободы' — это более ограниченный продукт носимой системы мониторинга, аналогичный браслетам, используемым в некоторых странах в качестве альтернативы тюремному заключению... Защищенные видео и аудио постоянно загружаются и в реальном времени интерпретируются машинами". Однако централизованный контроль имеет степень проблемы. Одна из форм относительно умеренного централизованного контроля, которая обычно игнорируется, но все же является вредной, проявляется в области биотехнологий ), например, в сопротивлении общественного контроля в отношении продуктов питания, вакцин ( и в позволении этому сопротивлению оставаться без вызова в закрытых стандартах.
Риски этого подхода очевидны, и основным источником риска часто является сам центр. Мы уже стали свидетелями этого во время пандемии COVID-19, когда функциональные исследования, финансируемые несколькими ведущими мировыми правительствами, могли быть источником пандемии. Централизованная эпистемология привела к тому, что Всемирная организация здравоохранения на протяжении многих лет отказывалась признать, что вирус COVID-19 передается воздушным путем, а обязательное соблюдение социальной дистанции и принудительная вакцинация вызвали политические последствия, которые могут продолжаться десятилетиями. Подобная ситуация с высокой вероятностью может повториться в любом рискованном контексте, связанном с ИИ или другими рискованными технологиями. В этом отношении децентрализованный подход будет более эффективно справляться с рисками, исходящими от самого центра.
Децентрализованная защита, но исключение ускорения
По сути, это попытка замедлить технологический прогресс или спровоцировать экономический спад.
Эта стратегия сталкивается с двойными вызовами. Во-первых, в целом технологический и экономический рост крайне полезен для человечества, и любое его замедление приведет к неоценимым последствиям. Во-вторых, в неавторитарном мире стагнация является нестабильной: те, кто "обманывает" больше всего и может найти, казалось бы, разумные способы продолжать развитие, будут иметь преимущество. Стратегия замедления может в определенных обстоятельствах сработать до некоторой степени: например, европейская еда здоровее американской, и это является примером; успех, достигнутый в области нераспространения ядерного оружия, также подтверждает это. Однако эти стратегии не могут действовать вечно.
Через d/acc мы стремимся достичь следующих целей:
В условиях нарастающей племенной тенденции в современном мире стоит придерживаться принципов, а не слепо строить различные вещи – наоборот, мы стремимся создавать конкретные вещи, чтобы сделать мир более безопасным и прекрасным.
Осознание экспоненциального технологического прогресса означает, что мир станет крайне необычным, и общий "след" человечества во вселенной обязательно будет постоянно расти. Наша способность защищать уязвимых животных, растения и людей от ущерба должна постоянно увеличиваться, и единственный путь вперед - это смело двигаться вперед.
Создание технологий, которые действительно защищают нас, а не основываются на предположении, что "хорошие люди ) или хороший ИИ ( контролируют все". Мы достигаем этой цели, создавая инструменты, которые по своей природе более эффективны для построения и защиты, чем для разрушения.
Другой взгляд на d/acc заключается в возвращении к рамкам движения пиратов в Европе в конце 2000-х годов: наделение полномочиями.
Наша цель заключается в создании мира, который сможет сохранить человеческую активность, осуществить негативную свободу, то есть избежать активного вмешательства со стороны других, будь то обычные граждане, государство или суперумные роботы ), в нашу способность формировать собственную судьбу, а также достичь позитивной свободы, то есть обеспечить наличие знаний и ресурсов для реализации этой способности. Это перек呼应вает классическую традицию либерализма, которая существует на протяжении нескольких веков, включая внимание Стюарта Брандта к "доступу к инструментам" и акцент Джона Стюарта Милля на образовании и свободе как ключевых элементах человеческого прогресса — возможно, также стоит добавить видение Бакминстера Фуллера о том, что процесс глобального решения проблем должен быть участническим и широко распространенным. Учитывая технологический ландшафт XXI века, мы можем рассматривать d/acc как один из способов достижения этих же целей.
d/acc один год: Децентрализация защитного ускорения развития и будущего
d/acc: Обзор года
Автор: Виталик Бутерин
Примерно год назад я написал статью о технологическом оптимизме, в которой изложил свой общий энтузиазм по поводу технологий и их потенциальных огромных преимуществ, а также выразил осторожное отношение к определенным вопросам, в основном сосредоточившись на суперумном ИИ и рисках, которые могут возникнуть в случае неправильного строительства, включая катастрофические риски или возможность необратимой потери власти для человечества.
Одной из ключевых идей, изложенных в этой статье, является поддержка концепции децентрализованной, демократической и дифференцированной оборонительной акселерации. Нам необходимо ускорять развитие технологий, но целенаправленно сосредоточиться на тех технологиях, которые могут усилить наши оборонительные способности, а не повредить им, и стремиться к распределению власти, а не к концентрации ее в руках немногих элит, которые будут судить о правоте и неправоте от имени всех. Оборонительная модель должна быть такой, как в демократической Швейцарии и историческом почти анархическом регионе Зомия, а не как в феодализме средневековья с его лордами и замками.
За последний год эти идеи и концепции значительно развились и созрели. Я поделился этими мыслями на платформе "80,000 часов" и получил много откликов, большинство из которых были положительными, хотя, конечно, были и некоторые критические отзывы.
Эта работа продолжается и приносит конкретные результаты: мы видим прогресс в области проверяемых открытых вакцин; растет осознание ценности здорового внутреннего воздуха; общественные заметки продолжают играть активную роль; прогнозные рынки становятся прорывным инструментом информации; доказательства с нулевым знанием применяются в правительственной идентификации и социальных медиа ( и обеспечивают безопасность кошельков Ethereum через абстракцию аккаунтов ); инструменты открытого кода применяются в медицине и области интерфейсов «мозг-машина», и так далее.
Прошлой осенью мы встретили наше первое важное мероприятие d/acc: "День открытия d/acc", проведенное на Devcon (d/aDDy). Мероприятие объединило спикеров из различных столпов d/acc, включая биологию, физику, сеть, информационную безопасность и нейротехнологии (, и продолжалось целый день. Люди, на протяжении многих лет работающие с этими технологиями, начали лучше понимать работу друг друга, а внешние лица все больше осознавали эту более широкую перспективу: ценности, продвигающие развитие Ethereum и криптовалют, могут быть распространены на более широкий мир.
![Виталик новая статья: как децентрализованный ускоризм сочетает криптовалюту и ИИ?])https://img-cdn.gateio.im/webp-social/moments-160f74295ba6e4b4e0353b0c4e25a386.webp(
Содержание и объем d/acc
Представьте себе сцену 2042 года. Вы видите в средствах массовой информации сообщение о том, что в вашем городе может вспыхнуть новая эпидемия. Вы уже привыкли к таким новостям: люди, как правило, чрезмерно реагируют на каждую мутацию заболеваний животных, и в подавляющем большинстве случаев эти мутации в конечном итоге не приводят к реальным кризисам. Две предыдущие потенциальные эпидемии были выявлены на ранних стадиях благодаря мониторингу сточных вод и анализу открытых данных в социальных сетях, и их удалось успешно сдержать на зародышевом этапе. Однако в этот раз ситуация иная, прогнозные рынки показывают вероятность того, что будет зафиксировано как минимум 10 000 случаев, достигающую 60%, что вызывает у вас тревогу.
Вчера был установлен генетический последовательность вируса. Обновление программного обеспечения для вашего карманного тестера воздуха было немедленно выпущено, с помощью этого обновления тестер может обнаруживать новый вирус ) как через однократное дыхательное тестирование, так и через тестирование ( после 15 минут воздействия на внутренний воздух в комнате. В то же время ожидается, что открытые инструкции и код для создания вакцины с использованием оборудования, доступного в современных медицинских учреждениях по всему миру, будут выпущены в течение нескольких недель. В настоящее время большинство людей не предприняли никаких действий, и они в основном полагаются на широко используемые меры по фильтрации воздуха и вентиляции для обеспечения своей безопасности.
Из-за наличия у вас проблем с иммунной системой, вы действуете более осторожно: ваш открытый локальный личный помощник ИИ, помимо выполнения обычных задач, таких как навигация, рекомендации ресторанов и мероприятий, также будет учитывать данные о качестве воздуха в реальном времени и данные о углекислом газе, чтобы рекомендовать вам только самые безопасные места. Эти данные предоставляются тысячами участников и устройств, с помощью технологий нулевых знаний и дифференциальной конфиденциальности, что минимизирует риск утечки данных или их нецелевого использования ) Если вы хотите внести данные в эти наборы данных, другие личные помощники ИИ проверят, действительно ли эти криптографические инструменты эффективны (.
Через два месяца пандемия чудесным образом исчезла: похоже, 60% людей следовали основным протоколам профилактики, то есть надевали маски, когда датчик воздуха подавал сигнал тревоги и показывал наличие вируса, а также изолировались дома в случае положительного теста. Именно это действие оказалось достаточным, чтобы еще больше снизить коэффициент распространения, который уже значительно уменьшился благодаря пассивной фильтрации воздуха, до менее 1. Болезнь, симуляция которой показала, что она может быть в пять раз серьезнее, чем пандемия COVID-19 двадцатилетней давности, сейчас не оказала серьезного воздействия.
Мероприятие d/acc, организованное Devcon, достигло крайне положительного результата, а именно концепция d/acc успешно объединила людей из разных областей и действительно вызвала у них живой интерес к работе друг друга.
Провести мероприятие с "разнообразием" несложно, но заставить людей с разным опытом и интересами действительно установить тесные связи - задача не из легких. Я до сих пор помню, как в средней и старшей школе меня заставляли смотреть длинные оперы, и тогда мне казалось, что они скучны и неинтересны. Я прекрасно понимал, что "должен" их ценить, потому что в противном случае меня бы считали безкультурным компьютерным ленивцем, но я не смог на более глубоком уровне сопереживать содержанию оперы. Однако атмосфера мероприятия d/acc была совершенно иной: казалось, что людям искренне нравится узнавать о работах из разных областей.
Если мы стремимся построить будущее, более светлое, чем правление, замедление и разрушение, нам необходимо развивать такое широкое сотрудничество. d/acc, похоже, достиг значительных успехов в этом направлении, и этого достаточно, чтобы подчеркнуть ценность этой идеи.
Основная идея d/acc проста и ясна: децентрализованная, демократичная и дифференцированная защитная акселерация. Создание технологий, способствующих смещению баланса сил в сторону защиты, при этом не полагаясь на передачу большей власти центральным властям в процессе реализации. Существует внутреннее тесное связующее звено между этими двумя аспектами: любая децентрализованная, демократическая или свободная политическая структура, как правило, может процветать, когда защита легко реализуема, и сталкивается с серьезными вызовами, когда защита сталкивается с большими трудностями — в таких случаях более вероятным исходом является период хаоса, когда все противостоят друг другу, в конце концов достигая состояния равновесия, управляемого сильнейшими.
Один из способов понять важность одновременной реализации децентрализации, защиты и ускорения заключается в сопоставлении с идеей, возникающей при отказе от любого из этих трех аспектов.
![Новая статья Виталика: как децентрализованный ускоризм связывает криптовалюту и ИИ?])https://img-cdn.gateio.im/webp-social/moments-e42a1dcd075fe6d525b3fa2ccbe6aa27.webp(
Децентрализованное ускорение, но игнорирование части "дифференцированной защиты"
По сути, это похоже на то, чтобы стать эффективным акселерационистом ) e/acc (, но при этом стремиться к децентрализации. Многие люди выбирают этот путь, некоторые из которых называют себя d/acc, но они полезно описывают свой акцент как "агрессивный". Кроме того, есть много других, кто проявляет более умеренный интерес к "децентрализованному ИИ" и подобным темам, но, на мой взгляд, их внимание к "защитной" стороне явно недостаточно.
На мой взгляд, такой подход может помочь избежать риска диктатуры определенной группы над всем человечеством, но он не решает потенциальные структурные проблемы: в среде, благоприятствующей агрессии, всегда существует постоянный риск катастрофы, или кто-то может позиционировать себя как защитника и занять доминирующее положение на постоянной основе. Что касается ИИ, он также не может должным образом решить риск ослабления власти человечества по отношению к ИИ.
Дифференцированная защита ускоряется, но игнорирует "децентрализацию и демократию"
Для достижения целей безопасности принятие централизованного контроля всегда привлекало определенную часть людей, читатели, безусловно, уже знакомы со множеством таких примеров и с их недостатками. В последнее время некоторые люди обеспокоены тем, что крайний централизованный контроль может быть единственным способом справиться с будущими экстремальными технологиями: например, представьте себе гипотетическую ситуацию, в которой "каждый носит 'ярлык свободы' — это более ограниченный продукт носимой системы мониторинга, аналогичный браслетам, используемым в некоторых странах в качестве альтернативы тюремному заключению... Защищенные видео и аудио постоянно загружаются и в реальном времени интерпретируются машинами". Однако централизованный контроль имеет степень проблемы. Одна из форм относительно умеренного централизованного контроля, которая обычно игнорируется, но все же является вредной, проявляется в области биотехнологий ), например, в сопротивлении общественного контроля в отношении продуктов питания, вакцин ( и в позволении этому сопротивлению оставаться без вызова в закрытых стандартах.
Риски этого подхода очевидны, и основным источником риска часто является сам центр. Мы уже стали свидетелями этого во время пандемии COVID-19, когда функциональные исследования, финансируемые несколькими ведущими мировыми правительствами, могли быть источником пандемии. Централизованная эпистемология привела к тому, что Всемирная организация здравоохранения на протяжении многих лет отказывалась признать, что вирус COVID-19 передается воздушным путем, а обязательное соблюдение социальной дистанции и принудительная вакцинация вызвали политические последствия, которые могут продолжаться десятилетиями. Подобная ситуация с высокой вероятностью может повториться в любом рискованном контексте, связанном с ИИ или другими рискованными технологиями. В этом отношении децентрализованный подход будет более эффективно справляться с рисками, исходящими от самого центра.
Децентрализованная защита, но исключение ускорения
По сути, это попытка замедлить технологический прогресс или спровоцировать экономический спад.
Эта стратегия сталкивается с двойными вызовами. Во-первых, в целом технологический и экономический рост крайне полезен для человечества, и любое его замедление приведет к неоценимым последствиям. Во-вторых, в неавторитарном мире стагнация является нестабильной: те, кто "обманывает" больше всего и может найти, казалось бы, разумные способы продолжать развитие, будут иметь преимущество. Стратегия замедления может в определенных обстоятельствах сработать до некоторой степени: например, европейская еда здоровее американской, и это является примером; успех, достигнутый в области нераспространения ядерного оружия, также подтверждает это. Однако эти стратегии не могут действовать вечно.
Через d/acc мы стремимся достичь следующих целей:
Другой взгляд на d/acc заключается в возвращении к рамкам движения пиратов в Европе в конце 2000-х годов: наделение полномочиями.
Наша цель заключается в создании мира, который сможет сохранить человеческую активность, осуществить негативную свободу, то есть избежать активного вмешательства со стороны других, будь то обычные граждане, государство или суперумные роботы ), в нашу способность формировать собственную судьбу, а также достичь позитивной свободы, то есть обеспечить наличие знаний и ресурсов для реализации этой способности. Это перек呼应вает классическую традицию либерализма, которая существует на протяжении нескольких веков, включая внимание Стюарта Брандта к "доступу к инструментам" и акцент Джона Стюарта Милля на образовании и свободе как ключевых элементах человеческого прогресса — возможно, также стоит добавить видение Бакминстера Фуллера о том, что процесс глобального решения проблем должен быть участническим и широко распространенным. Учитывая технологический ландшафт XXI века, мы можем рассматривать d/acc как один из способов достижения этих же целей.
![Виталик новая статья: как ускорять децентрализацию с помощью криптовалюты