URL: https://www.opennet.dev/cgi-bin/openforum/vsluhboard.cgi
Форум: vsluhforumID3
Нить номер: 124440
[ Назад ]

Исходное сообщение
"Выпуск cache-bench 0.1.0 для исследования эффективности кэширования файлов при нехватке памяти"

Отправлено opennews , 04-Июн-21 16:24 
cache-bench - это Python скрипт, позволяющий оценить влияние настроек виртуальной памяти (vm.swappiness, vm.watermark_scale_factor, Multigenerational LRU Framework и прочих) на производительность выполнения задач, выполнение которых зависит от кэширования файловых операций чтения в условиях нехватки памяти. Код открыт под лицензией CC0...

Подробнее: https://www.opennet.dev/opennews/art.shtml?num=55273


Содержание

Сообщения в этом обсуждении
"Выпуск cache-bench 0.1.0 для исследования эффективности кэши..."
Отправлено Рева RarogCmex Денис , 04-Июн-21 16:24 
Интересно, сколько он будет мои 48Гб на сервере тестировать.

"Выпуск cache-bench 0.1.0 для исследования эффективности кэши..."
Отправлено commiethebeastie , 04-Июн-21 16:31 
Понты уровня сiло.

"Выпуск cache-bench 0.1.0 для исследования эффективности кэши..."
Отправлено Ананомизец , 04-Июн-21 16:35 
фсяко быстрие чем маи 512Г

"Выпуск cache-bench 0.1.0 для исследования эффективности кэши..."
Отправлено быдлоюзер , 04-Июн-21 16:38 
У меня 26гб озу. За две недели работы платформы отображающей много графиков цен криптовалют, своп распух до 78гб.
Вроде всё устраивает, но иногда при начале "тяжелого свопинга" платформа не отвечает несколько минут, рвётся связь с серверами и у меня получаются пропуски на граффиках цен. Установив zram "дело улучшилось раза скажем в два с половиной".
Поможет ли мне этот скрипт подобрать правильные значения vm.swappiness, vm.watermark_scale_factor, Multigenerational LRU Framework и прочих? Чтобы устранить "эффект недоступности" платформы во время "тяжёлого свопинга"

"Выпуск cache-bench 0.1.0 для исследования эффективности кэши..."
Отправлено Аноним , 04-Июн-21 16:47 
Если это жава, возможно, поможет uksm и openj9 -- в теории, потребление памяти упадёт очень значительно, и своп будет использоваться более эффективно.

"Выпуск cache-bench 0.1.0 для исследования эффективности кэши..."
Отправлено быдлоюзер , 04-Июн-21 16:49 
Платформа sierrachart сделана на чистом c++ для винды, работает через wine

"Выпуск cache-bench 0.1.0 для исследования эффективности кэши..."
Отправлено НяшМяш , 04-Июн-21 18:45 
Может быть утекает сам wine. Один раз столкнулся с утечкой GDI объектов - программа просто переставала перерисовываться и замечали это не сразу, а в логах сыпались ошибки. Пофиксили с помощью winetricks gdiplus. Может и с этим софтом тоже похожая история приключилась.

"Выпуск cache-bench 0.1.0 для исследования эффективности кэши..."
Отправлено foo , 04-Июн-21 17:26 
>Поможет ли мне этот скрипт подобрать правильные значения vm.swappiness, vm.watermark_scale_factor, Multigenerational LRU Framework и прочих?

Да, поможет. Впрочем, скажу тебе и так:

- ставь swappiness не ниже 100 при использовании zram

- если система на HDD, то можно swappiness и в 150-190 выкрутить (начиная с ядер 5.8)

см актуальную док https://github.com/torvalds/linux/blob/master/Documentation/...


"Выпуск cache-bench 0.1.0 для исследования эффективности кэши..."
Отправлено Амоним , 04-Июн-21 17:30 
Копать в сторону drop cache    и  memory compaction / fragmentation.  Дело вовсе не в нехватке памяти, а в её фрагментации. Теоретически ядро с этим  само справляется, фактически приходится ему помогать - принудительно сбрасывать (файловый) кэш и утрабмовывать (дефрагментировать) свободную память.  Смотреть в /proc/buddyinfo

"Выпуск cache-bench 0.1.0 для исследования эффективности кэши..."
Отправлено Амоним , 04-Июн-21 17:36 
Правильнее будет сказать - дело не только в нехватке памяти, но и в её фрагментации.

"Выпуск cache-bench 0.1.0 для исследования эффективности кэши..."
Отправлено foo , 04-Июн-21 17:38 
При наличии zram основной причиной тормозов при своппинге как раз является истощение чистых файловых кэшей - приходится часто дёргать медленный диск на каждый чих. Тут как раз поможет именно увеличение своппинес, чтоб ценный кэш не выбрасывался из памяти.

"Выпуск cache-bench 0.1.0 для исследования эффективности кэши..."
Отправлено Аноним , 04-Июн-21 18:46 
Попробуй вот этот
https://gist.github.com/iavael/f64f392d61d452f247c87b90f5b4b...

Только учитывай, что запускать его нужно в системе после некоторой работы под штатной нагрузкой, но в которой еще не заканчивалась доступная оперативная память (в которой active память еще не вытеснялась в своп).


"Выпуск cache-bench 0.1.0 для исследования эффективности кэши..."
Отправлено Аноним , 05-Июн-21 02:58 
Спасибо. А в каких единицах выводится Swapsize?

"Выпуск cache-bench 0.1.0 для исследования эффективности кэши..."
Отправлено быдлоюзер , 05-Июн-21 17:57 
Открытие графиков при запуске программы занимает минут 40, съев всё озу и наполняя своп до 17гб. И начинается штатная работа, в процессе которой за 2 недели своп наполняется до 80гб.

"Выпуск cache-bench 0.1.0 для исследования эффективности кэши..."
Отправлено edo , 05-Июн-21 13:45 
>  не отвечает несколько минут

Hdd? На ssd такого не встречал


"Выпуск cache-bench 0.1.0 для исследования эффективности кэши..."
Отправлено быдлоюзер , 05-Июн-21 14:01 
Hdd

"Выпуск cache-bench 0.1.0 для исследования эффективности кэши..."
Отправлено Аноним , 04-Июн-21 17:01 
О каждом своём наколеночном скрипте теперь буду новость на опеннете писать.

"Выпуск cache-bench 0.1.0 для исследования эффективности кэши..."
Отправлено foo , 04-Июн-21 17:08 
Если полезный скрипт - почему бы и нет?

Например, с помощью cache-bench установлено, например, что Multigenerational LRU Framework, недавно опубликованный гуглом, не вполне корректно работает со swappiness, точнее то, что swappiness (от 1 до 200) очень слабо влияет на результат, в отличие от тестов с применением классического LRU.

cache-bench позволяет наглядно демострировать влияние swappiness на скорость некоторых файловых операций при нехватке памяти.


"Выпуск cache-bench 0.1.0 для исследования эффективности кэши..."
Отправлено Аноним , 04-Июн-21 17:36 
>Например, с помощью cache-bench установлено, например, что Multigenerational LRU Framework, недавно опубликованный гуглом, не вполне корректно работает со swappiness, точнее то, что swappiness (от 1 до 200) очень слабо влияет на результат, в отличие от тестов с применением классического LRU.

С помощью скрипта, которому меньше дня? Может стоило новость написать про ошибки в Multigenerational LRU Framework лучше, чем одноразовый скрипт пиарить?


"Выпуск cache-bench 0.1.0 для исследования эффективности кэши..."
Отправлено foo , 04-Июн-21 17:41 
Скрипту месяц, просто не был опубликован.

"Выпуск cache-bench 0.1.0 для исследования эффективности кэши..."
Отправлено foo , 04-Июн-21 17:42 
>новость написать про ошибки в Multigenerational LRU Framework лучше, чем одноразовый скрипт пиарить?

Разрепорчу в лкмл, потом и сюда новость кину


"Выпуск cache-bench 0.1.0 для исследования эффективности кэши..."
Отправлено foo , 04-Июн-21 17:51 
уже было на лоре https://www.linux.org.ru/news/opensource/16350636

"Выпуск cache-bench 0.1.0 для исследования эффективности кэши..."
Отправлено Annoynymous , 04-Июн-21 20:42 
На ЛОР-е r-test, здесь cache-bench.

Если это шутка такая, то я её не понимаю.


"Выпуск cache-bench 0.1.0 для исследования эффективности кэши..."
Отправлено foo , 05-Июн-21 03:20 
> На ЛОР-е r-test, здесь cache-bench.

cache-bench - это переименованный r-test. См описание и код.


"Выпуск cache-bench 0.1.0 для исследования эффективности кэши..."
Отправлено adolfus , 07-Июн-21 00:27 
Что такое директория? Директрисса, что ли?