Майкл Делл считает, что растущий дефицит высокопроизводительных компонентов для инфраструктуры искусственного интеллекта приведет к дальнейшему росту цен на память.
Ёмкость памяти на один ускоритель вырастает в 25 раз, при этом количество развернутых ускорителей также увеличивается в 25 раз. Перемножение данных показателей демонстрирует фантастический рост спроса на рынке памяти в 625 раз к 2028 г. Динамика перехода между поколениями ускорителей NVIDIA хорошо согласуется с теорией М.Делла.
Как оценивают эксперты, переход от архитектуры Ampere к Vera Rubin увеличивает потребность в памяти кратно. Речь не только о прогрессе в технологии HBM. NVIDIA и другие производители внедряют новые стандарты вроде SOCAMM для поддержки специфических ИИ-нагрузок. При сравнении ёмкости памяти от Hopper (H100/H200) до Vera Rubin с HBM4 и SOCAMM заметно, что разница составляет 22,8 раза – до 1824 Гб суммарной ёмкости на ускоритель.
Требования к памяти растут с каждым поколением чипов и будут расти ещё сильнее в период перехода индустрии к инференсу.
Другой ключевой момент: вендоры заключают с гиперскейлерами контракты сроком до 5 лет, и спрос на такие соглашения превышает все возможные прогнозы. Покупатели готовы согласиться с любой ценой ради гарантированных поставок. Для поставщиков это четкий маркер, что спрос сохранится на высоком уровне до 2028 г.. когда будут введены в строй новые производственные мощности.
Майкл Делл: «По мере того, как объём памяти на каждый ускоритель и масштабы систем в ИИ-инфраструктуре растут одновременно, формируется структура, в которой общий спрос на память увеличивается примерно в 625 раз. Расширение предложения памяти занимает годы, тогда как текущий спрос на ИИ-инфраструктуру не замедляется».