@Fox Привет.Я описывал задачу в этой теме https://community.bablosoft.com/topic/27417/вызов-многопоточной-функции
Дело в том,что я не могу вообще никак перевести свой скрипт на многопоток,у меня тупо,что в вызове функции в многопоток,что просто обычный многопоток,выполняет свою работу с данными по очереди,а не одновременно.И это очень сильно бьет по времени,а нужна именно скорость обработки.Все уже готово и скрипт рабочий полностью,но скорость обработки заставила воспользоваться многопотоком.Ранее,подобных проблем не замечал,а сейчас элементарную задачу не могу уже несколько дней решить.
Скрипт очень простой и работает без браузера вообще,в скрипте используется только одно взаимодействие с гет запросом.Пример скрипта я приложил в этой теме(но без запросов),он точно почти такой же,как и основа.
Логика такова:
1)Запускается скрипт (без всяких ресурсов изначально и данных) и создаются два ресурса.
2)Делается запрос на сайт,который обрабатывается в отдельной функции,т.е. обрабатывает полученные строки и записывает в ресурс.
3)Вызывается функция в несколько потоков,которая работает (должна работать) с каждой строкой из созданного ранее ресурса(уникальной)в отдельном потоке.Данные обрабатываются и записываются во второй ранее созданный ресурс.
4)Как только данные обработаны,ресурс переводится в список и список записывается в файл.Более ничего не делается.
-Сперва я думал,что проблема в создаваемых в ходе работы ресурсах,но нет.Создавал изначально ресурсы и то же самое было.
-Потом пробовал брать из файлов значения\потом создавать файлы по ходу и из них брать данные\сохранять напрямую пытался и.т.д
-Возможно думал стоят какие то ограничения из за слабого пк с 4 гб оперативы и взял сервер с 64 гб,но как обрабатывалась строка за 5 минут на моем пк,так же по скорости и на серваке.Ладно, с этим я уже ничего не поделаю из за регулярок в проекте,согласен.Но вот перевести на поток и хотя бы по 10 строк одновременно обрабатывать,очень бы помогло.А сейчас в любом случае,у меня,сколько бы потоков не выставил - работает все равно как один,просто по очереди разный поток берет свои данные(
Рандомно не сохраняются куки в профилях
-
Не могу выследить закономерность, не сохраняются куки в профиль, не на всех профилях а на некоторых, при том с раза 3-4го в режиме записи если проделать всю работу, то сохраняются, а так получается что просто при следующем открытии профиля - пустые куки, при этом все профили объединяет то что у них в корне файл Cookies весит 20кб ( по факту кук нет, если сделать действие "Сохранить cookies" то массив пустой ) . Как только я раза 3-4 повторю работу скрипта с этим профилем, то в какой-то из разов куки магическим образом сохраняются, и сам файл Cookies начинает весить > 20кб, таким образом я 100% уверен что куки сохранились ( по факту так и происходит).
Только сейчас заметил этот баг, до этого думал что меня сервис банил просто. Я еще не смог определиться до конца что происходит, но как мне показалось что массово эта проблема появляется когда работа с профилями идёт в режиме Запуска а не Записи. Хотя если первично куки не сохранились в режиме Запуска, мне приходится танцевать с бубном в режиме Записи с этим профилем, и внезапно они сохраняются.
Сейчас занимаюсь тем что пытаюсь найти причину этой проблемы, возможно у кого-то было что-то подобное дайте подсказку плиз)
-
https://community.bablosoft.com/topic/7293/не-сохраняются-куки-сайтов-в-режиме-запуска
вот походу такая же проблема у юзеров, и еще есть подобные по форуму
-
@centerdevs тоже замечал
-
Всё, нашёл временное решение-костыль.
В самом конце скрипта нужно добавить следующий блок
Как это происходит - ХЗ.
Вообщем я запустил скрипт в режиме записи, нажал Play и смотрю за файлом Cookies, скрипт доработал файл Cookies равен 20кб, я заранее уже понимаю что это пустые куки будут ( а должны быть потому что сервис накидывает кучу кук в браузер )
Тут же выполняю блок Сохранить cookies, и это срабатывают как триггер для сохранения кук в файл профиля, файл Cookies изменяется и его размер становится 48кб.
Выше написал фигню, теперь 100% разобрался с причиной )
Проблема в том что куки пишутся в профиль через 15-20 секунд после того как сделали запрос на сайт, видимо стоит таймер по записи кук текущей сессии в файл. Потому проблема была такая рандомная, не у всех и не всегда.
Потому в режиме записи она зачастую не возникала, там всё происходило дольше.Решение - работа с профилем должна составлять 20 сек минимум, в таком случае всё будет записано.
Писал себе обертку со слипом для этого случая, в реальности около 35 секунд нужно БАСу для записи кук, так что 40 секунд минимальное время самое то.
