@Fox Привет.Я описывал задачу в этой теме https://community.bablosoft.com/topic/27417/вызов-многопоточной-функции
Дело в том,что я не могу вообще никак перевести свой скрипт на многопоток,у меня тупо,что в вызове функции в многопоток,что просто обычный многопоток,выполняет свою работу с данными по очереди,а не одновременно.И это очень сильно бьет по времени,а нужна именно скорость обработки.Все уже готово и скрипт рабочий полностью,но скорость обработки заставила воспользоваться многопотоком.Ранее,подобных проблем не замечал,а сейчас элементарную задачу не могу уже несколько дней решить.
Скрипт очень простой и работает без браузера вообще,в скрипте используется только одно взаимодействие с гет запросом.Пример скрипта я приложил в этой теме(но без запросов),он точно почти такой же,как и основа.
Логика такова:
1)Запускается скрипт (без всяких ресурсов изначально и данных) и создаются два ресурса.
2)Делается запрос на сайт,который обрабатывается в отдельной функции,т.е. обрабатывает полученные строки и записывает в ресурс.
3)Вызывается функция в несколько потоков,которая работает (должна работать) с каждой строкой из созданного ранее ресурса(уникальной)в отдельном потоке.Данные обрабатываются и записываются во второй ранее созданный ресурс.
4)Как только данные обработаны,ресурс переводится в список и список записывается в файл.Более ничего не делается.
-Сперва я думал,что проблема в создаваемых в ходе работы ресурсах,но нет.Создавал изначально ресурсы и то же самое было.
-Потом пробовал брать из файлов значения\потом создавать файлы по ходу и из них брать данные\сохранять напрямую пытался и.т.д
-Возможно думал стоят какие то ограничения из за слабого пк с 4 гб оперативы и взял сервер с 64 гб,но как обрабатывалась строка за 5 минут на моем пк,так же по скорости и на серваке.Ладно, с этим я уже ничего не поделаю из за регулярок в проекте,согласен.Но вот перевести на поток и хотя бы по 10 строк одновременно обрабатывать,очень бы помогло.А сейчас в любом случае,у меня,сколько бы потоков не выставил - работает все равно как один,просто по очереди разный поток берет свои данные(
Медленная работа в многопотоке
-
Подскажите пожалуйста у всех так с версии 24,0,7 скорость скрипта в многопотоке стала более ресурсоемкой и съедает даже на 10 потоках невероятно много ресурсов а именно оперативки около 5 Гб и грузит процессор до 80%.
Для примера, взяв этот же скрипт на версии 23,2,2 - скрипт на этих 10 потоках просто летает...
У всех так стало или у меня что-то, подскажите пожалуйста! -
@speshalboom с 24 версии у БАС новый движок, полноценный хромиум и да он много жрет. Хорошая видеокарта может уменьшить нагрузку. Да, теперь видеокарта играет роль )))
-
@UserTrue said in Медленная работа в многопотоке:
@speshalboom с 24 версии у БАС новый движок, полноценный хромиум и да он много жрет. Хорошая видеокарта может уменьшить нагрузку. Да, теперь видеокарта играет роль )))
Ну это скорей недостаток, в наших реалиях нужны 100-200 потоков, а на 24 версиях это стоит приличных денег на сервер.
-
@Dodok said in Медленная работа в многопотоке:
@UserTrue said in Медленная работа в многопотоке:
@speshalboom с 24 версии у БАС новый движок, полноценный хромиум и да он много жрет. Хорошая видеокарта может уменьшить нагрузку. Да, теперь видеокарта играет роль )))Ну это скорей недостаток, в наших реалиях нужны 100-200 потоков, а на 24 версиях это стоит приличных денег на сервер.
C видеокартой Chromium (24+) шустрее 23,2,2
-
@FastSpace Увы сервера с видеокартой стоят на ряд дороже обычных, вам то не знать.
-
@Dodok said in Медленная работа в многопотоке:
@FastSpace Увы сервера с видеокартой стоят на ряд дороже обычных, вам то не знать.
Да, но если самому собирать свой сервер, то не дороже. Даже при конских ценах на видяхи из-за дефицита полупроводников, курса битка и майнинга видео карта останется топ решением. А при старых ценах (ближе к рекомендуемым) на видяхи вообще жир.
-
@FastSpace said in Медленная работа в многопотоке:
м. А при старых ценах (ближе к рекомендуемым) на видяхи вообще жир.
Увы при мобильном интернете в селе, и невозможности провести даже медь, для меня такой вариант не годиться.
Есть конечно вариант с арендой стойки, но его надо обдумать и по цене аренда опять же...
-
Да есть такое, сервер на azure за 200 баксов в месяц умирает в тяжелых мучениях, в то время как комп 10 летней давности пережевывает спокойно
@FastSpace с любой видеокартой? Или чем мощнее тем быстрее? -
@olegar said in Медленная работа в многопотоке:
Да есть такое, сервер на azure за 200 баксов в месяц умирает в тяжелых мучениях, в то время как комп 10 летней давности пережевывает спокойно
@FastSpace с любой видеокартой? Или чем мощнее тем быстрее?Не с любой. Весь упор в видеопамять. 1 поток создает от 80 до 150 МБ (декстоп). Мобилы поменьше.
960/1070/3060/3090
4/8/12/24 ГБ памяти -
@FastSpace Помню был разговор о том что можно перекинуть нагрузку с видеокарты на проц, если можно об этом моменте подробнее.
-
@Dodok said in Медленная работа в многопотоке:
@FastSpace Помню был разговор о том что можно перекинуть нагрузку с видеокарты на проц, если можно об этом моменте подробнее.
--disable-gpu флаг
