@Fox Привет.Я описывал задачу в этой теме https://community.bablosoft.com/topic/27417/вызов-многопоточной-функции
Дело в том,что я не могу вообще никак перевести свой скрипт на многопоток,у меня тупо,что в вызове функции в многопоток,что просто обычный многопоток,выполняет свою работу с данными по очереди,а не одновременно.И это очень сильно бьет по времени,а нужна именно скорость обработки.Все уже готово и скрипт рабочий полностью,но скорость обработки заставила воспользоваться многопотоком.Ранее,подобных проблем не замечал,а сейчас элементарную задачу не могу уже несколько дней решить.
Скрипт очень простой и работает без браузера вообще,в скрипте используется только одно взаимодействие с гет запросом.Пример скрипта я приложил в этой теме(но без запросов),он точно почти такой же,как и основа.
Логика такова:
1)Запускается скрипт (без всяких ресурсов изначально и данных) и создаются два ресурса.
2)Делается запрос на сайт,который обрабатывается в отдельной функции,т.е. обрабатывает полученные строки и записывает в ресурс.
3)Вызывается функция в несколько потоков,которая работает (должна работать) с каждой строкой из созданного ранее ресурса(уникальной)в отдельном потоке.Данные обрабатываются и записываются во второй ранее созданный ресурс.
4)Как только данные обработаны,ресурс переводится в список и список записывается в файл.Более ничего не делается.
-Сперва я думал,что проблема в создаваемых в ходе работы ресурсах,но нет.Создавал изначально ресурсы и то же самое было.
-Потом пробовал брать из файлов значения\потом создавать файлы по ходу и из них брать данные\сохранять напрямую пытался и.т.д
-Возможно думал стоят какие то ограничения из за слабого пк с 4 гб оперативы и взял сервер с 64 гб,но как обрабатывалась строка за 5 минут на моем пк,так же по скорости и на серваке.Ладно, с этим я уже ничего не поделаю из за регулярок в проекте,согласен.Но вот перевести на поток и хотя бы по 10 строк одновременно обрабатывать,очень бы помогло.А сейчас в любом случае,у меня,сколько бы потоков не выставил - работает все равно как один,просто по очереди разный поток берет свои данные(
Собрать в файл ресурсы которые неудалось обработать удачно.
-
Есть ресурс из файла. Опции выполнять повторно, запись, успешных выполненный 1, не успешных 5. Тип запуска повторно, в многопоточном режиме. В случае успеха на поток, есть точка где я могу записать в файл отчета или в результаты успешно выполненный ресурс из файла. Но если поток не смог дойти до успеха и вышел по fail то счетчик неудач на этой строчке файла из ресурса увеличивается. А при достижении количества неудач ресурс из обработки исключается. Как собрать такие строки ресурсы в файл отчета? Которые были откинуты по количеству неудач.
Накидал тест, в результате прогона любого файла из 20 строк - будут неуспешные. test.xml -
Вот люди спрашивали о счетчике количества удач/неудач на ресурсе и ответа нету. Так бы можно было обойти, сделав количество неудач на один больше и в начала потока проверять счетчик неудач и если он предпоследний - писать в отчет и завершать поток по fail для удаления строки ресурса.
-
@termin333 said in Собрать в файл ресурсы которые неудалось обработать удачно.:
Есть ресурс из файла. Опции выполнять повторно, запись, успешных выполненный 1, не успешных 5. Тип запуска повторно, в многопоточном режиме. В случае успеха на поток, есть точка где я могу записать в файл отчета или в результаты успешно выполненный ресурс из файла. Но если поток не смог дойти до успеха и вышел по fail то счетчик неудач на этой строчке файла из ресурса увеличивается. А при достижении количества неудач ресурс из обработки исключается. Как собрать такие строки ресурсы в файл отчета? Которые были откинуты по количеству неудач.
Накидал тест, в результате прогона любого файла из 20 строк - будут неуспешные. test.xmlПроще обработать все ошибки и самому записывать в необходимый файл данные в зависимости от ошибки.
-
@Fox несоглашусь. Оборачивать весь код в игнорирование ошибок не хотелось - потому что пользователь задаёт количество ошибок на ресурс. Помимо этого ресурса в проекте есть ещё прокси и аккаунты. И сейчас все настроено красиво. Если пытаться делать самому, то перезапускать поток уже не выйдет, в случае ошибки. И придётся на себя брать работу по обслуживанию всех трёх ресурсов. Плюс выйти поток может не только по ошибке, но и если акки кончились. И придётся тоже все это прописывать.
Теплится пока надежда, что есть возможность получить эти счётчики. Пусть и не тривиально. -
@termin333 said in Собрать в файл ресурсы которые неудалось обработать удачно.:
@Fox несоглашусь. Оборачивать весь код в игнорирование ошибок не хотелось - потому что пользователь задаёт количество ошибок на ресурс. Помимо этого ресурса в проекте есть ещё прокси и аккаунты. И сейчас все настроено красиво. Если пытаться делать самому, то перезапускать поток уже не выйдет, в случае ошибки. И придётся на себя брать работу по обслуживанию всех трёх ресурсов. Плюс выйти поток может не только по ошибке, но и если акки кончились. И придётся тоже все это прописывать.
Теплится пока надежда, что есть возможность получить эти счётчики. Пусть и не тривиально.Вы описываете решение конкретно вашей задачи, для скрипта который вы уже написали. Для вас эта возможность позволила бы ни чего толком не переписывать и не исправлять. Но на данный момент этой возможности нет и вряд-ли появится в ближайшее время.
Имхо: Быстрее придумать и реализовать логику обходя эту отсутствующую возможность, чем ждать её появляения.
