@Fox Привет.Я описывал задачу в этой теме https://community.bablosoft.com/topic/27417/вызов-многопоточной-функции
Дело в том,что я не могу вообще никак перевести свой скрипт на многопоток,у меня тупо,что в вызове функции в многопоток,что просто обычный многопоток,выполняет свою работу с данными по очереди,а не одновременно.И это очень сильно бьет по времени,а нужна именно скорость обработки.Все уже готово и скрипт рабочий полностью,но скорость обработки заставила воспользоваться многопотоком.Ранее,подобных проблем не замечал,а сейчас элементарную задачу не могу уже несколько дней решить.
Скрипт очень простой и работает без браузера вообще,в скрипте используется только одно взаимодействие с гет запросом.Пример скрипта я приложил в этой теме(но без запросов),он точно почти такой же,как и основа.
Логика такова:
1)Запускается скрипт (без всяких ресурсов изначально и данных) и создаются два ресурса.
2)Делается запрос на сайт,который обрабатывается в отдельной функции,т.е. обрабатывает полученные строки и записывает в ресурс.
3)Вызывается функция в несколько потоков,которая работает (должна работать) с каждой строкой из созданного ранее ресурса(уникальной)в отдельном потоке.Данные обрабатываются и записываются во второй ранее созданный ресурс.
4)Как только данные обработаны,ресурс переводится в список и список записывается в файл.Более ничего не делается.
-Сперва я думал,что проблема в создаваемых в ходе работы ресурсах,но нет.Создавал изначально ресурсы и то же самое было.
-Потом пробовал брать из файлов значения\потом создавать файлы по ходу и из них брать данные\сохранять напрямую пытался и.т.д
-Возможно думал стоят какие то ограничения из за слабого пк с 4 гб оперативы и взял сервер с 64 гб,но как обрабатывалась строка за 5 минут на моем пк,так же по скорости и на серваке.Ладно, с этим я уже ничего не поделаю из за регулярок в проекте,согласен.Но вот перевести на поток и хотя бы по 10 строк одновременно обрабатывать,очень бы помогло.А сейчас в любом случае,у меня,сколько бы потоков не выставил - работает все равно как один,просто по очереди разный поток берет свои данные(
Tor. Проблемы использования в BAS.
-
Подскажите, если кто сталкивался.
Открываю сайт auto.ru в браузере Tor, используя цепочку прокси. Все прекрасно открывается и нет никаких проблем.
Вытаскиваю из Tor список прокси с помощью launch.vbs (127.0.0.1:9150, 127.0.0.1:9151 и т.д.), об этом решении здесь на форуме много писалось.
Подсовываю эти прокси в BAS и тут auto.ru категорически не хочет открываться, а сразу подсовывает страницу с капчей - типа: "извините, ваши запросы похожи на автоматические бла-бла-бла".
Как обойти эту страницу, если это возможно в BAS?
Подскажите в какую сторону копать? Возможно нужно вставлять какие-то заголовки перед загрузкой страницы в браузере BAS?
Буду очень благодарен за любую помощь.
-
@nvrt Прокси Tor сильно заспамлены сами по себе, не советую пользоваться.
Установить заголовок можешь через модуль Сеть >> установить заголовокUser-Agent Mozilla/5.0 (Windows NT 6.1; WOW64; rv:44.0) Gecko/20100101 Firefox/44.0Если не поможет, по экспериментируй с настройками BAS
-
Спасибо за совет.
Понятно, что эти прокси заспамлены, но ведь в самом браузере Tor страницы открываются без капчи, а в браузере BAS сразу с первого же входа КАПЧА.
Поэтому предполагаю, что нужно как-то настраивать.
На какие настройки BAS посоветуете обратить внимание в первую очередь?
-
@nvrt Заголовки. Это не только user-agent. Это
еще и обман сервераеще например accept language, accept encoding и т.д. Смотрите что отправляется при обычном браузерном заходе. И имитируйте их. Еще сервак может не понять если какого то запроса нет. Вернее понять ;-) жава скрипт какой который работает в браузере, но разумеется никак не танцует на пост\гетах имитировать его например. Смотрите что именно и на каких страницах шлет. И повторяйте. -
Еще. Это пригодится и на пост/гетах и в браузере. Функционал реализован в БАСе, но не все не знают. Проект реализован в картинках) Ну чтоб каждый мог увидеть визуально. 0_1530637918766_test_time.xml
