@Fox Привет.Я описывал задачу в этой теме https://community.bablosoft.com/topic/27417/вызов-многопоточной-функции
Дело в том,что я не могу вообще никак перевести свой скрипт на многопоток,у меня тупо,что в вызове функции в многопоток,что просто обычный многопоток,выполняет свою работу с данными по очереди,а не одновременно.И это очень сильно бьет по времени,а нужна именно скорость обработки.Все уже готово и скрипт рабочий полностью,но скорость обработки заставила воспользоваться многопотоком.Ранее,подобных проблем не замечал,а сейчас элементарную задачу не могу уже несколько дней решить.
Скрипт очень простой и работает без браузера вообще,в скрипте используется только одно взаимодействие с гет запросом.Пример скрипта я приложил в этой теме(но без запросов),он точно почти такой же,как и основа.
Логика такова:
1)Запускается скрипт (без всяких ресурсов изначально и данных) и создаются два ресурса.
2)Делается запрос на сайт,который обрабатывается в отдельной функции,т.е. обрабатывает полученные строки и записывает в ресурс.
3)Вызывается функция в несколько потоков,которая работает (должна работать) с каждой строкой из созданного ранее ресурса(уникальной)в отдельном потоке.Данные обрабатываются и записываются во второй ранее созданный ресурс.
4)Как только данные обработаны,ресурс переводится в список и список записывается в файл.Более ничего не делается.
-Сперва я думал,что проблема в создаваемых в ходе работы ресурсах,но нет.Создавал изначально ресурсы и то же самое было.
-Потом пробовал брать из файлов значения\потом создавать файлы по ходу и из них брать данные\сохранять напрямую пытался и.т.д
-Возможно думал стоят какие то ограничения из за слабого пк с 4 гб оперативы и взял сервер с 64 гб,но как обрабатывалась строка за 5 минут на моем пк,так же по скорости и на серваке.Ладно, с этим я уже ничего не поделаю из за регулярок в проекте,согласен.Но вот перевести на поток и хотя бы по 10 строк одновременно обрабатывать,очень бы помогло.А сейчас в любом случае,у меня,сколько бы потоков не выставил - работает все равно как один,просто по очереди разный поток берет свои данные(
Повторить загрузку страницы в случае ошибки.
-
-
@den335 said in Повторить загрузку страницы в случае ошибки.:
Я делал после загрузки поиск какого-нибудь элемента на странице, если его нет, то начинаем по новой. Ну и загрузку обернуть в блок игнорирования ошибок, если есть ошибка опять же начинаем заново
ну вот меня интересует именно вот это действие "начинаем сначала", я додумался только в оборачивание "игнорировать ошибки" + метки
-
-
@REFGOLD Так у меня так же многое и не ток у меня, не ждёт полной загрузки а проверяет несколько Элементов которые быстрее всех появляются на Экране.
Несколько делаю на всяк Случай, мало ли, какой то мож и Адрес сменит или Просто Отпечаток такой Попадётся что он совсем не тот будет.
Опять же так же Проверяю Декстоп Фингер Сработал или Моб, что бы при энном он выполнял энные Функции под тот то или то то :)Да ещё и после Загрузить ( в загрузке то снимаю ждать полной ) а ставлю Ждать Загрузки URL но это ток на Декстопных в основном Работает.
-
Я почти всегда загрузку страницы оборачиваю в игнорирование, т.к. из за прокси допустим бывает страница загрузилась, форма для заполнения появилась но пишет "ошибка загрузки". Чтобы не выкидывало и дальше заполнение пошло лучше обернуть, пусть лучше там дальше при поиске элемента скрипт накроется чем в этом месте
