@Fox Привет.Я описывал задачу в этой теме https://community.bablosoft.com/topic/27417/вызов-многопоточной-функции
Дело в том,что я не могу вообще никак перевести свой скрипт на многопоток,у меня тупо,что в вызове функции в многопоток,что просто обычный многопоток,выполняет свою работу с данными по очереди,а не одновременно.И это очень сильно бьет по времени,а нужна именно скорость обработки.Все уже готово и скрипт рабочий полностью,но скорость обработки заставила воспользоваться многопотоком.Ранее,подобных проблем не замечал,а сейчас элементарную задачу не могу уже несколько дней решить.
Скрипт очень простой и работает без браузера вообще,в скрипте используется только одно взаимодействие с гет запросом.Пример скрипта я приложил в этой теме(но без запросов),он точно почти такой же,как и основа.
Логика такова:
1)Запускается скрипт (без всяких ресурсов изначально и данных) и создаются два ресурса.
2)Делается запрос на сайт,который обрабатывается в отдельной функции,т.е. обрабатывает полученные строки и записывает в ресурс.
3)Вызывается функция в несколько потоков,которая работает (должна работать) с каждой строкой из созданного ранее ресурса(уникальной)в отдельном потоке.Данные обрабатываются и записываются во второй ранее созданный ресурс.
4)Как только данные обработаны,ресурс переводится в список и список записывается в файл.Более ничего не делается.
-Сперва я думал,что проблема в создаваемых в ходе работы ресурсах,но нет.Создавал изначально ресурсы и то же самое было.
-Потом пробовал брать из файлов значения\потом создавать файлы по ходу и из них брать данные\сохранять напрямую пытался и.т.д
-Возможно думал стоят какие то ограничения из за слабого пк с 4 гб оперативы и взял сервер с 64 гб,но как обрабатывалась строка за 5 минут на моем пк,так же по скорости и на серваке.Ладно, с этим я уже ничего не поделаю из за регулярок в проекте,согласен.Но вот перевести на поток и хотя бы по 10 строк одновременно обрабатывать,очень бы помогло.А сейчас в любом случае,у меня,сколько бы потоков не выставил - работает все равно как один,просто по очереди разный поток берет свои данные(
Запись HTTP-запросов в режиме "Запуска"
-
Работаю с некоторыми системами, у которых не документировано API, через браузер.
Т.е. например смотрю ключи и токены доступа сессии в режиме "Записи", потом ручками копирую их из инструмента "HTTP-анализ трафика" или "Запись HTTP-запросов", а потом уже запускаю многопоток с этими токенами.
Вопрос - каким образом в режиме запуска в многопотоке можно сниффать трафик , который отдаёт страница, и с ним взаимодействовать? (Логгировать GET\POST и их ответы)
Либо второй вопрос, если я получил страницу через HTTP-клиент, каким образом я могу имитировать прокрутку страницы, кроме как через API Ajax, которые браузер использует для догрузки следующей порции инфы на сайт?
-
@AngelOfAncient said in Запись HTTP-запросов в режиме "Запуска":
Вопрос - каким образом в режиме запуска в многопотоке можно сниффать трафик , который отдаёт страница, и с ним взаимодействовать? (Логгировать GET\POST и их ответы)
-
@AngelOfAncient said in Запись HTTP-запросов в режиме "Запуска":
Вопрос - каким образом в режиме запуска в многопотоке можно сниффать трафик , который отдаёт страница, и с ним взаимодействовать? (Логгировать GET\POST и их ответы)
В фиддлере есть возможность устанавливать правила автоматического морфинга трафика на лету
-
@serrgo said in Запись HTTP-запросов в режиме "Запуска":
@AngelOfAncient said in Запись HTTP-запросов в режиме "Запуска":
Вопрос - каким образом в режиме запуска в многопотоке можно сниффать трафик , который отдаёт страница, и с ним взаимодействовать? (Логгировать GET\POST и их ответы)
В фиддлере есть возможность устанавливать правила автоматического морфинга трафика на лету
Тогда используйте фидлер, в BAS пока такой возможности нет
-
@Fox Вопрос в догонку - а как обрабатывать то, что вернёт это действие?
В описании написано, что возвращается список, но при попытке с ним работать в логе вот это:Текущие данные : [object Object]И действие "Объединить в строку" даёт просто строку вида:
[object Object][object Object][object Object]JSON модуль тоже не видит каждый из этих объектов как чего-то, пригодного к обработке.
-
@AngelOfAncient said in Запись HTTP-запросов в режиме "Запуска":
@Fox Вопрос в догонку - а как обрабатывать то, что вернёт это действие?
В описании написано, что возвращается список, но при попытке с ним работать в логе вот это:Текущие данные : [object Object]И действие "Объединить в строку" даёт просто строку вида:
[object Object][object Object][object Object]JSON модуль тоже не видит каждый из этих объектов как чего-то, пригодного к обработке.
Прямо в описании указано, что действие возвращает массив объектов, откройте диспетчер переменных что бы это увидеть
-
@Fox said in Запись HTTP-запросов в режиме "Запуска":
Прямо в описании указано, что действие возвращает массив объектов, откройте диспетчер переменных что бы это увидеть
Всё верно. И это действительно видно в диспетчере.
Я к тому, как и каким штатным методом это потом разбирать. -
@AngelOfAncient said in Запись HTTP-запросов в режиме "Запуска":
@Fox said in Запись HTTP-запросов в режиме "Запуска":
Прямо в описании указано, что действие возвращает массив объектов, откройте диспетчер переменных что бы это увидеть
Всё верно. И это действительно видно в диспетчере.
Я к тому, как и каким штатным методом это потом разбирать.Для начала бы я посоветовал в принципе изучить, что же это такое "ассоциативные массивы"
https://learn.javascript.ru/objectА работать с ним штатными методами проще через модуль "JSON"
https://community.bablosoft.com/topic/10374/получить-значение-параметра-из-действия-получить-все-элементы-кэша
