@Fox Привет.Я описывал задачу в этой теме https://community.bablosoft.com/topic/27417/вызов-многопоточной-функции
Дело в том,что я не могу вообще никак перевести свой скрипт на многопоток,у меня тупо,что в вызове функции в многопоток,что просто обычный многопоток,выполняет свою работу с данными по очереди,а не одновременно.И это очень сильно бьет по времени,а нужна именно скорость обработки.Все уже готово и скрипт рабочий полностью,но скорость обработки заставила воспользоваться многопотоком.Ранее,подобных проблем не замечал,а сейчас элементарную задачу не могу уже несколько дней решить.
Скрипт очень простой и работает без браузера вообще,в скрипте используется только одно взаимодействие с гет запросом.Пример скрипта я приложил в этой теме(но без запросов),он точно почти такой же,как и основа.
Логика такова:
1)Запускается скрипт (без всяких ресурсов изначально и данных) и создаются два ресурса.
2)Делается запрос на сайт,который обрабатывается в отдельной функции,т.е. обрабатывает полученные строки и записывает в ресурс.
3)Вызывается функция в несколько потоков,которая работает (должна работать) с каждой строкой из созданного ранее ресурса(уникальной)в отдельном потоке.Данные обрабатываются и записываются во второй ранее созданный ресурс.
4)Как только данные обработаны,ресурс переводится в список и список записывается в файл.Более ничего не делается.
-Сперва я думал,что проблема в создаваемых в ходе работы ресурсах,но нет.Создавал изначально ресурсы и то же самое было.
-Потом пробовал брать из файлов значения\потом создавать файлы по ходу и из них брать данные\сохранять напрямую пытался и.т.д
-Возможно думал стоят какие то ограничения из за слабого пк с 4 гб оперативы и взял сервер с 64 гб,но как обрабатывалась строка за 5 минут на моем пк,так же по скорости и на серваке.Ладно, с этим я уже ничего не поделаю из за регулярок в проекте,согласен.Но вот перевести на поток и хотя бы по 10 строк одновременно обрабатывать,очень бы помогло.А сейчас в любом случае,у меня,сколько бы потоков не выставил - работает все равно как один,просто по очереди разный поток берет свои данные(
Проблема в многопотоковом чекере прокси.
-
Вот тестовый чекер и файл прокси. В файле прокси 100 строк прокси, сам файл лежит в директории C:\proxy\1.txt
Настройки ресурса:
Успешный и ошибочных использований: 1
Количество одновременных использований: 1
Время между использованиями: 1По логике когда заканчиваются строки прокси в файле, поток должен завершится, но этого не происходит. Поток просто висит и ни чего не делает.
Я прокоментировал каждый блок, чтобы это заметить. Пробовал увеличить время между использованиями, результат тот же, только дольше. -
@romanbiz А как ты организовал эту логику в многопотоке?
А вообще не в чекере дело, а в логике действий. Почему потоки останавливаются, не завершаясь. Чтобы потом в подобной ситуации знать что делать.
Ведь чекер можно любой написать, или скачать уже готовый, коих полно в инете. Да отдельно чекать файл перед запуском скриптов -
Я изначально, когда только заметил этот косяк, подумал, что поток забирая последний прокси, записывает его в переменную. А когда в следующий раз пытается записать, ресурс ни чего не отдаёт и переменная не записывается, оставляя старое значение. Которое мусолится по кругу. Но тестовый чекер меня поставил в тупик.
Сейчас у меня скрипт с этим чекером работает. Всем потокам хватило прокси, кроме одного. Вот он и зациклился на последнем значении.[23:34:14] Поток №4 : Хороший прокси не сработал. [23:34:14] Поток №4 : Нашли хорошую прокси 103.58.73.202:8080 [23:35:15] Поток №4 : Хороший прокси не сработал. [23:35:15] Поток №4 : Нашли хорошую прокси 103.58.73.202:8080 [23:35:21] Поток №4 : Хороший прокси не сработал. [23:35:21] Поток №4 : Нашли хорошую прокси 103.58.73.202:8080 [23:36:14] Поток №4 : Хороший прокси не сработал. [23:36:14] Поток №4 : Нашли хорошую прокси 103.58.73.202:8080 -
@Fox Скрипт работает бесконечно, потому что вы поставили в конце каждого потока бесконечный цикл, если его убрать, то скрипт завершится самостоятельно когда закончатся прокси.
Вы правда рассчитываете, что скрипт завершится, когда последние 2 действия выглядят так?
Также обратите внимание, что пока поток использует ресурс, он не может быть использован другими потоками, более того они будут ждать того времени, пока другой поток закончит с ним действия.
Эта причина, по которой скрипт зависает не перед бесконечным циклом, а перед взятием ресурса. -
@Fox said in Проблема в многопотоковом чекере прокси.:
Вот тестовый чекер и файл прокси. В файле прокси 100 строк прокси, сам файл лежит в директории C:\proxy\1.txt
Настройки ресурса:
Успешный и ошибочных использований: 1
Количество одновременных использований: 1
Время между использованиями: 1По логике когда заканчиваются строки прокси в файле, поток должен завершится, но этого не происходит. Поток просто висит и ни чего не делает.
Я прокоментировал каждый блок, чтобы это заметить. Пробовал увеличить время между использованиями, результат тот же, только дольше.@Fox как вы это решили?
