>>Мда, понятие ХайЛоада я смотрю сильно изменилось, это забавно, даже очень смешно.
> Ну может я чего то и не пони-маю, но а почему маркетплейс
> или сайт доставки еды не может быть хайлоад?
> Мне кажется вполне подходит под этот термин. Нет ну может я и
> заблуждаюсь, но тогда просьба объяснить.

Ну сколько сотен тысяч запросов в секунду сайт доставки еды обрабатывает?

Есть разные определения хайлоада. В моём понимании это такая нагрузка которая упирается в аппаратные возможности железа. В скорости подсистемы памяти, пропускную способность дисков, скорость сетевой карты, итд. Обычно не вычислительные мозжможности ЦП, потому как другие ресурсы зачастую исчерпываются быстрее, и, это не тот лоад обычно. когда у вас упирается в ЦП или другой ускоритель, это задача вычислительной нагрузки, что немного сильно другое.

Например у вас 100Гигабитный канал, вам нужно отдавать данные со скоростью 100Гб в секунду, откуда то там их вытаскивая что-то с ними делая и выплёвывая в сетеву карту.
Сейчас с этим стало немного легче чем раньше, по многим причинам, но все-же, у вас обычно задача минимизировать копирование данных в памяти. Если размеры индивидуальных "запросов" не велики в сравнении с общим "каналом", то нужно минимизировать ресурсы необходимые для обслуживания отдельного запроса.

Есть разница между
>"мой сервер пердит и греется пытаясь справиться с 10 одновременными пользователями

и
>у нас получается загрузить 100Гб канал только на 70% из за лишней операции копирования в TCP/IP стеке ядра

Короче, если вы упёрлись в сетевую карту и подсистему памяти - у вас хайлоад.
Если в ЦП - у вас дерьмокод.