@Fox Привет.Я описывал задачу в этой теме https://community.bablosoft.com/topic/27417/вызов-многопоточной-функции
Дело в том,что я не могу вообще никак перевести свой скрипт на многопоток,у меня тупо,что в вызове функции в многопоток,что просто обычный многопоток,выполняет свою работу с данными по очереди,а не одновременно.И это очень сильно бьет по времени,а нужна именно скорость обработки.Все уже готово и скрипт рабочий полностью,но скорость обработки заставила воспользоваться многопотоком.Ранее,подобных проблем не замечал,а сейчас элементарную задачу не могу уже несколько дней решить.
Скрипт очень простой и работает без браузера вообще,в скрипте используется только одно взаимодействие с гет запросом.Пример скрипта я приложил в этой теме(но без запросов),он точно почти такой же,как и основа.
Логика такова:
1)Запускается скрипт (без всяких ресурсов изначально и данных) и создаются два ресурса.
2)Делается запрос на сайт,который обрабатывается в отдельной функции,т.е. обрабатывает полученные строки и записывает в ресурс.
3)Вызывается функция в несколько потоков,которая работает (должна работать) с каждой строкой из созданного ранее ресурса(уникальной)в отдельном потоке.Данные обрабатываются и записываются во второй ранее созданный ресурс.
4)Как только данные обработаны,ресурс переводится в список и список записывается в файл.Более ничего не делается.
-Сперва я думал,что проблема в создаваемых в ходе работы ресурсах,но нет.Создавал изначально ресурсы и то же самое было.
-Потом пробовал брать из файлов значения\потом создавать файлы по ходу и из них брать данные\сохранять напрямую пытался и.т.д
-Возможно думал стоят какие то ограничения из за слабого пк с 4 гб оперативы и взял сервер с 64 гб,но как обрабатывалась строка за 5 минут на моем пк,так же по скорости и на серваке.Ладно, с этим я уже ничего не поделаю из за регулярок в проекте,согласен.Но вот перевести на поток и хотя бы по 10 строк одновременно обрабатывать,очень бы помогло.А сейчас в любом случае,у меня,сколько бы потоков не выставил - работает все равно как один,просто по очереди разный поток берет свои данные(
вызов многопоточной функции
-
Доброго времени суток форумчанам!В общем,даже смешно говорить,но это стало серьезной проблемой для меня.Созданный скрипт работал в один поток и создавал список,с которым работал в один поток,на что уходило около 10-ти минут (около 1-2к строк),это время меня стало не устраивать и хотел переделать во многопоток,но созданный из функции,так как другое просто не подходит.
1)Имеется скрипт,который в один поток создает 2 ресурса с настройками:- количество успехов 1
- количество неудач 1
- одновременных использований 1
- время между использованием 0
2)Далее делается один get-запрос на сайт и получаем файл json с 2000+ элементами,записываем в глобальную переменную.
3)Через цикл,зависимый от количества элементов в json записываются числа и список этих чисел записывается в созданный ресурс
4)Запускается функция во многопотоке(20 потоков\1 успех\1 неудача),которая парсит полученный json,через глобальную переменную и берет числа из ресурса,без удаления по notreuse циклом for .Числа подставляются в переменную и по ключу берутся json данные,обрабатываются и записываются в другой ресурс,с такими же настройками,как в первом.
5)По завершению всех потоков функции,все данные в ресурсе записываются списком в файл.Около 1000-1500 строк.
Получается в каждом потоке еще и включается цикл for на 10-50 повторений,так как я не знаю сколько может быть строк.
Вроде бы все хорошо,но с такими же действиями время не изменяется,так и работает 10-11 минут,хоть с одним потоком хоть 500 потоков!Такое чувство,что потоки все равно по очереди выполняют работу.Может ли кто подсказать,как увеличить скорость обработки данных?Или от железа зависит?Делал и через файл и через ресурсы и все равно скорость не увеличивается.
