Сеть в эпоху ИИ: откуда возникает спрос и куда направится инновация?
Сеть является ключевым элементом эпохи больших моделей ИИ. В эпоху больших моделей мы уже наблюдаем ускоренную итерацию сетевых устройств, таких как оптические модули и коммутаторы, а также взрывной рост спроса. Однако понимание рынка о том, почему графические карты необходимо сочетать с большим количеством оптических модулей, и почему связь стала проблемой больших моделей, довольно поверхностно. Эта статья начнет с принципов и исследует, почему сеть становится новой "центральной позицией" в эпоху ИИ, а также обсудит инновации на стороне сети и инвестиционные возможности, исходя из последних изменений в отрасли.
Сетевой спрос в основном исходит из трех источников:
Растущий объем моделей требует многосерверных кластеров для решения проблем обучения.
Сеть больше используется для синхронизации параметров модели между графическими процессорами, что предъявляет более высокие требования к плотности и ёмкости сети.
Обучение больших моделей продолжается несколько месяцев, стоимость сбоев в сети крайне высока, требования к стабильности возрастают.
Сетевые инновации в основном проявляются в трех направлениях:
Замена коммуникационных сред: оптические модули стремятся к более высокой скорости, одновременно снижая затраты с помощью LPO, LRO, кремниевой оптики и других методов. Медь преобладает в соединениях внутри шкафов. Новые технологии, такие как Chiplet и Wafer-scaling, ускоряют исследование пределов кремниевой связи.
Конкуренция сетевых протоколов: связь между узлами с привязкой к видеокартам, таким как NVIDIA NV-LINK, AMD Infinity Fabric. Основная конкуренция между узлами происходит между IB и Ethernet.
Изменения в сетевой архитектуре: архитектура Leaf-Spine имеет высокую стоимость в сверхбольших кластерах, архитектуры Dragonfly, rail-only и другие новые архитектуры могут стать следующим направлением эволюции сверхбольших кластеров.
Инвестиционные рекомендации:
Ключевые элементы коммуникационной системы: Zhongji Xuchuang, Xinyi Sheng, Tianfu Communications, Hu Dian Co.
Инновационные элементы в системе связи: Чанфэй волоконно-оптические, Чжунтянь технологии, Хэнтун оптоэлектроника, Шэнкэ связь.
Предупреждение о рисках: спрос на ИИ ниже ожиданий, закон масштабирования не работает, конкуренция в отрасли усиливается.
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
7 Лайков
Награда
7
5
Поделиться
комментарий
0/400
RugDocScientist
· 15ч назад
Эта волна рынка полностью зависит от видеокарт?
Посмотреть ОригиналОтветить0
LadderToolGuy
· 15ч назад
Видеокарты все растут на глазах, кто будет заниматься интернет-расходами?
Посмотреть ОригиналОтветить0
TheShibaWhisperer
· 15ч назад
重在 увеличить позицию 光模块这波~
Посмотреть ОригиналОтветить0
RugDocDetective
· 15ч назад
Скоростные видеокарты рано или поздно столкнутся с ограничением скорости интернета.
С увеличением сетевого спроса в эпоху ИИ, инновации в области связи встречают новые возможности.
Сеть в эпоху ИИ: откуда возникает спрос и куда направится инновация?
Сеть является ключевым элементом эпохи больших моделей ИИ. В эпоху больших моделей мы уже наблюдаем ускоренную итерацию сетевых устройств, таких как оптические модули и коммутаторы, а также взрывной рост спроса. Однако понимание рынка о том, почему графические карты необходимо сочетать с большим количеством оптических модулей, и почему связь стала проблемой больших моделей, довольно поверхностно. Эта статья начнет с принципов и исследует, почему сеть становится новой "центральной позицией" в эпоху ИИ, а также обсудит инновации на стороне сети и инвестиционные возможности, исходя из последних изменений в отрасли.
Сетевой спрос в основном исходит из трех источников:
Растущий объем моделей требует многосерверных кластеров для решения проблем обучения.
Сеть больше используется для синхронизации параметров модели между графическими процессорами, что предъявляет более высокие требования к плотности и ёмкости сети.
Обучение больших моделей продолжается несколько месяцев, стоимость сбоев в сети крайне высока, требования к стабильности возрастают.
Сетевые инновации в основном проявляются в трех направлениях:
Замена коммуникационных сред: оптические модули стремятся к более высокой скорости, одновременно снижая затраты с помощью LPO, LRO, кремниевой оптики и других методов. Медь преобладает в соединениях внутри шкафов. Новые технологии, такие как Chiplet и Wafer-scaling, ускоряют исследование пределов кремниевой связи.
Конкуренция сетевых протоколов: связь между узлами с привязкой к видеокартам, таким как NVIDIA NV-LINK, AMD Infinity Fabric. Основная конкуренция между узлами происходит между IB и Ethernet.
Изменения в сетевой архитектуре: архитектура Leaf-Spine имеет высокую стоимость в сверхбольших кластерах, архитектуры Dragonfly, rail-only и другие новые архитектуры могут стать следующим направлением эволюции сверхбольших кластеров.
Инвестиционные рекомендации:
Ключевые элементы коммуникационной системы: Zhongji Xuchuang, Xinyi Sheng, Tianfu Communications, Hu Dian Co.
Инновационные элементы в системе связи: Чанфэй волоконно-оптические, Чжунтянь технологии, Хэнтун оптоэлектроника, Шэнкэ связь.
Предупреждение о рисках: спрос на ИИ ниже ожиданий, закон масштабирования не работает, конкуренция в отрасли усиливается.