@Fox Привет.Я описывал задачу в этой теме https://community.bablosoft.com/topic/27417/вызов-многопоточной-функции
Дело в том,что я не могу вообще никак перевести свой скрипт на многопоток,у меня тупо,что в вызове функции в многопоток,что просто обычный многопоток,выполняет свою работу с данными по очереди,а не одновременно.И это очень сильно бьет по времени,а нужна именно скорость обработки.Все уже готово и скрипт рабочий полностью,но скорость обработки заставила воспользоваться многопотоком.Ранее,подобных проблем не замечал,а сейчас элементарную задачу не могу уже несколько дней решить.
Скрипт очень простой и работает без браузера вообще,в скрипте используется только одно взаимодействие с гет запросом.Пример скрипта я приложил в этой теме(но без запросов),он точно почти такой же,как и основа.
Логика такова:
1)Запускается скрипт (без всяких ресурсов изначально и данных) и создаются два ресурса.
2)Делается запрос на сайт,который обрабатывается в отдельной функции,т.е. обрабатывает полученные строки и записывает в ресурс.
3)Вызывается функция в несколько потоков,которая работает (должна работать) с каждой строкой из созданного ранее ресурса(уникальной)в отдельном потоке.Данные обрабатываются и записываются во второй ранее созданный ресурс.
4)Как только данные обработаны,ресурс переводится в список и список записывается в файл.Более ничего не делается.
-Сперва я думал,что проблема в создаваемых в ходе работы ресурсах,но нет.Создавал изначально ресурсы и то же самое было.
-Потом пробовал брать из файлов значения\потом создавать файлы по ходу и из них брать данные\сохранять напрямую пытался и.т.д
-Возможно думал стоят какие то ограничения из за слабого пк с 4 гб оперативы и взял сервер с 64 гб,но как обрабатывалась строка за 5 минут на моем пк,так же по скорости и на серваке.Ладно, с этим я уже ничего не поделаю из за регулярок в проекте,согласен.Но вот перевести на поток и хотя бы по 10 строк одновременно обрабатывать,очень бы помогло.А сейчас в любом случае,у меня,сколько бы потоков не выставил - работает все равно как один,просто по очереди разный поток берет свои данные(
Нуждаюсь в совете (скрипт на запросах)
-
@lesliwp вам правильно ответили что без сайта вам ничего не скажут конкретно и что судя по запросу и то что у вас нет опыта проще сделать на браузере. А в целом чтот тут не понятного, ищете откуда берутся нужные для запроса данные, если повезёт то есть на странице или в других запросах, а если нет то генерируются js кодом и нужно ковырять его на сайте. В любом случае за пиццу вам никто этого делать не станет.
-
@UserTrue я уже это понял, я про эти вопросы:
Так же вопрос, нужно ли в запросе прописывать куки? Так как они прописаны в фидлере.
Или в этом нет смысла, и они автоматически отправляются?И если использовать Установить заголовок для User-Agent и Accept-Language
То получается в запросах их после тоже можно не указывать? -
@lesliwp said in Нуждаюсь в совете (скрипт на запросах):
Так же вопрос, нужно ли в запросе прописывать куки? Так как они прописаны в фидлере.
Или в этом нет смысла, и они автоматически отправляются?И если использовать Установить заголовок для User-Agent и Accept-Language
То получается в запросах их после тоже можно не указывать?А разве не проще было проверить самому? Бас куки сам подставляет которые в него загрузили или были установлены из других запросов. Установленные заголовки будут во всех запросах.
-
@lesliwp Не выйдет у вас сделать на запросах без входа через браузер, возможно даже и после браузера не получится сделать на запросах из-за некоторых данных:
channels-rsa-fingerprint:
X-XSRF-TOKEN:
Другие точно не знаю, вероятно есть ещё кучка данных, которые генерируются непосредственно в браузере. -
@lesliwp said in Нуждаюсь в совете (скрипт на запросах):
@sergerdn и всё же был бы рад услышать ответы на вопросы, спасибо большое.
После каждого моего ответа будет еще больше вопросов и так в геометрической прогрессии. Рекомендую отказаться от написания скрипта на запросах и сделать в браузере.
-
-
-
-
-
@lesliwp said in Нуждаюсь в совете (скрипт на запросах):
не нужно говорить "если такие вопросы задаёшь, то точно не получится",
Я этого не говорил.
@lesliwp said in Нуждаюсь в совете (скрипт на запросах):
Демотивировать людей точно не нужно.
Ты пришел с вопросом на форум, где куча разных людей. Не все ответы будут тебе приятны.
