URL: https://www.opennet.dev/cgi-bin/openforum/vsluhboard.cgi
Форум: vsluhforumID15
Нить номер: 4963
[ Назад ]

Исходное сообщение
"Будущее железа для AI"

Отправлено zionist , 11-Июл-25 00:20 
Не нашёл раздел про железо, поэтому спрашиваю тут.

Сейчас идёт активное продвижение AI везде и всюду, что создаёт большой спрос на соответствующее железо. К примеру сервер DGX-H200 от NVidia с восемью чипами H200 стоит больше трёхсот кусков зелени. Даже один такой чип в отдельности стоит более 30 тысяч долларов. Однако рано или поздно этот рынок насытится и расширять его дальше можно будет только за счёт частного сектора. Для этого нужно будет производить достаточно мощные NPU (или TPU?), превосходящие геймерские GPU в задачах AI и не превосходящие их в цене.

Как думаете, каким будет рынок таких чипов через 3 - 5 лет и можно ли будет купить карточку для развёртывания полной модели DeepSeek-R1 на обычной персоналке вкладывая в это не более 200 - 300 долларов? Буду рад послушать и просто ваши размышлизмы на тему доступности железа для AI.


Содержание

Сообщения в этом обсуждении
"Будущее железа для AI"
Отправлено Аноним , 11-Июл-25 10:31 
>Сейчас идёт активное продвижение AI везде и всюду

А в дальнейшем оно остановится и рынок консолидируется. Спрос на технологию, особенно платежеспособный, ограничен.

>К примеру сервер DGX-H200 от NVidia с восемью чипами H200 стоит больше трёхсот кусков зелени. Даже один такой чип в отдельности стоит более 30 тысяч долларов

Берите в лизинг ))

>расширять его дальше можно будет только за счёт частного сектора

Ага, а еще рынок серверов, промышленного уровня коммутаторо, хранилок и дисковых полок, все они очень много расширялись за счет частного сектора...

>можно ли будет купить карточку для развёртывания полной модели DeepSeek-R1
>вкладывая в это не более 200 - 300 долларов

С чего бы вдруг? Опять же, по аналогии с серверным железом, купить за 300 баксов можно будет только неликвидный бесполезный для актуальных задач хлам.


"Будущее железа для AI"
Отправлено zionist , 12-Июл-25 00:28 
> А в дальнейшем оно остановится и рынок консолидируется. Спрос на технологию, особенно платежеспособный, ограничен.

Зато желание продавать и извлекать прибыль не ограничено, а производство чипов слишком малыми партиями просто невыгодно и поднимает их себестоимость до небес.

> Берите в лизинг ))

Разорюсь на электричестве. Потребление этой коробки порядка полутора киловатт. Мне нужно что-то адекватное для дома или небольшого офиса.

> Ага, а еще рынок серверов, промышленного уровня коммутаторо, хранилок и дисковых полок, все они очень много расширялись за счет частного сектора...

Представь себе. Например RAID добрёл и до десктопов. Разумеется достаточно простой RAID, но всё же. Ядра серверных камней не сильно отличаются от десктопных, ну и так далее. NVidia забралась слишком высоко на дерево, чтобы через несколько лет упереться в предел корпоративного рынка. Да и конкуренты не дремлют.