@Fox Привет.Я описывал задачу в этой теме https://community.bablosoft.com/topic/27417/вызов-многопоточной-функции
Дело в том,что я не могу вообще никак перевести свой скрипт на многопоток,у меня тупо,что в вызове функции в многопоток,что просто обычный многопоток,выполняет свою работу с данными по очереди,а не одновременно.И это очень сильно бьет по времени,а нужна именно скорость обработки.Все уже готово и скрипт рабочий полностью,но скорость обработки заставила воспользоваться многопотоком.Ранее,подобных проблем не замечал,а сейчас элементарную задачу не могу уже несколько дней решить.
Скрипт очень простой и работает без браузера вообще,в скрипте используется только одно взаимодействие с гет запросом.Пример скрипта я приложил в этой теме(но без запросов),он точно почти такой же,как и основа.
Логика такова:
1)Запускается скрипт (без всяких ресурсов изначально и данных) и создаются два ресурса.
2)Делается запрос на сайт,который обрабатывается в отдельной функции,т.е. обрабатывает полученные строки и записывает в ресурс.
3)Вызывается функция в несколько потоков,которая работает (должна работать) с каждой строкой из созданного ранее ресурса(уникальной)в отдельном потоке.Данные обрабатываются и записываются во второй ранее созданный ресурс.
4)Как только данные обработаны,ресурс переводится в список и список записывается в файл.Более ничего не делается.
-Сперва я думал,что проблема в создаваемых в ходе работы ресурсах,но нет.Создавал изначально ресурсы и то же самое было.
-Потом пробовал брать из файлов значения\потом создавать файлы по ходу и из них брать данные\сохранять напрямую пытался и.т.д
-Возможно думал стоят какие то ограничения из за слабого пк с 4 гб оперативы и взял сервер с 64 гб,но как обрабатывалась строка за 5 минут на моем пк,так же по скорости и на серваке.Ладно, с этим я уже ничего не поделаю из за регулярок в проекте,согласен.Но вот перевести на поток и хотя бы по 10 строк одновременно обрабатывать,очень бы помогло.А сейчас в любом случае,у меня,сколько бы потоков не выставил - работает все равно как один,просто по очереди разный поток берет свои данные(
Помогите, пож-та, в Xpath вставить переменную
-
-
@kuzkuz said in Помогите, пож-та, в Xpath вставить переменную:
Оригинал строки
XPATH> (//div[@class="main"]//ul//li[(contains(.,"спецблок"))])[1]
нужно в цикле
XPATH> (//div[@class="main"]//ul//li[(contains(.,"спецблок"))])[[[CYCLE_INDEX]]]
Попробуйте поставить пробелы
[ [[CYCLE_INDEX]] ] -
-
@kuzkuz said in Помогите, пож-та, в Xpath вставить переменную:
@Fox да, как раз так и сделал, методом научного тыка. Работает. Но хочется избежать косяков в дальнейшем, поэтому и спросил. Спасибо!
Если используете браузер, можете использовать префикс >AT>[[CYCLE_INDEX]]
-
можно получить весь список элементов сразу / или их свойства . ( xpath_get_xml_list , xpath_get_text_list )
и потом идти не по элементам циклом, а просто по данным из списка ( FOREACH ), если это не потеряет актуальность, возможно и цикл не будет нужен? -
@jurassik said in Помогите, пож-та, в Xpath вставить переменную:
можно получить весь список элементов сразу / или их свойства . ( xpath_get_xml_list , xpath_get_text_list )
и потом идти не по элементам циклом, а просто по данным из списка ( FOREACH ), если это не потеряет актуальность, возможно и цикл не будет нужен?Приставка >XPATH> используется только в браузере, скорее всего пользователь производит какие то браузерные действия с элементами (клик, наведение курсора, выполнение js на элементе и т.п.)
-
зачастую человек вместо поочередной загрузки десятка страниц совершает на сайте ненужную активность и тем самым в несколько раз понижает скорость и стабильность автомата. Другие циклами парсят эти элементы, а могут выполнить всё в одно действие. Конечно задачи бывают разные
-
-
@Fox А как вот внутри сделать чтоб сработало
>XPATH> //li[@data-text ='[[ZAPROS]]' and @data-type="fulltext"]такое ощющение что в данном случае не обрабатывается переменная
-
@Bigma said in Помогите, пож-та, в Xpath вставить переменную:
@Fox А как вот внутри сделать чтоб сработало
>XPATH> //li[@data-text ='[[ZAPROS]]' and @data-type="fulltext"]такое ощющение что в данном случае не обрабатывается переменная
Попробуйте поместить весь селектор в переменную, а затем использовать её в действии
