В рамках истории компьютерной индустрии бум искусственного интеллекта представляется лишь временным, однако он уже оказывает значительное влияние на рынок компонентов. По прогнозам, к началу следующего года до 20% производственных мощностей, задействованных в производстве DRAM, будут ориентированы на нужды ИИ. Как сообщает Commercial Times, в 2024 году облачный сектор потребует около 3 эксабайт высокоскоростной памяти, что составит лишь 7,5% от общего объема выпускаемой оперативной памяти. Тем не менее, около 20% всех производственных мощностей будет использовано для создания памяти для ИИ.
Спрос на память типа HBM и GDDR7 растёт, так как их производство требует значительно больше ресурсов по сравнению с традиционной DDR. Например, для выпуска 1 Гбайт HBM требуется в четыре раза больше сырья, а для GDDR7 — в 1,7 раза больше. Ожидается, что мировые мощности по производству DRAM достигнут 40 эксабайт, но прирост не превысит 15-20% в год, что усугубит дефицит. Для крупных облачных платформ, таких как Google и AWS, только на инференс понадобится до 750 петабайт памяти. Частные облачные решения и китайский рынок добавят еще 800 петабайт, а на обучение языковых моделей потребуется дополнительно 500 петабайт.