Отдельная многопоточная функция в скрипте

[j0hnyb]

Всем доброго дня! Написал скрипт "А" он парсит прокси с нескольких сайтов, работает в один поток. Дальше решил дописать чекер валидных прокси в этом же скрипте отдельной функцией "Б". Раньше пользовался сторонним сервисом чека, но потом узнал про https://bablosoft.com/ip решил написать многопоточную функцию "В" на http запросах. По итогу в основном скрипте создается новый ресурс в него добавляются нечекнутые прокси(это стадия отрабатывает четко). Дальше в функцие "В" перебираю ресурс в 10 потоков и по результату статуса http ответа хочу записывать в файл. Проблемы и вопросы такие:

• Как правильнее будет записывать чекнутые прокси в файл? Записывать сразу в файл ресурс из каждого потока или создать отдельный ресурс или список?
• Пробовал просто вывести в лог ресурс в многопотоке в функции "В", выводит все айпи, но при этом только в одном потоке. Почему так? Потому что нагрузки вывести в лог 50 айпи хватает для 1 потока?
• Хочу дописать ресурс(чекбокс) на выбор сайтов для парсинга(за каждый сайт отвечает отдельная функция), т.е. возможно ли включить\отключить выполнение функций ресурсом до старта скрипта?
• Я тестирую на кол-ве айпи 50 штук. Если их будет 5к корректно ли сайт https://bablosoft.com/ip отнесется к такому кол-ву запросов?

[Fox]

@j0hnyb said in Отдельная многопоточная функция в скрипте:

по результату статуса http ответа хочу записывать в файл

Я так полагаю по статусу ответа 200? Такая проверка не всегда будет корректна, так как такой статус будет даже на странице авторизации прокси.

@j0hnyb said in Отдельная многопоточная функция в скрипте:

Как правильнее будет записывать чекнутые прокси в файл? Записывать сразу в файл ресурс из каждого потока или создать отдельный ресурс или список?

Используйте ресурс "из файла" с галочкой запись и записывайте все потоки в этот ресурс.

@j0hnyb said in Отдельная многопоточная функция в скрипте:

Пробовал просто вывести в лог ресурс в многопотоке в функции "В", выводит все айпи, но при этом только в одном потоке. Почему так? Потому что нагрузки вывести в лог 50 айпи хватает для 1 потока?

Понятия не имею, как написали логику, так и работает.

@j0hnyb said in Отдельная многопоточная функция в скрипте:

Хочу дописать ресурс(чекбокс) на выбор сайтов для парсинга(за каждый сайт отвечает отдельная функция), т.е. возможно ли включить\отключить выполнение функций ресурсом до старта скрипта?

Установите условие выполнения функций, в зависимости от данных чекбокса.

@j0hnyb said in Отдельная многопоточная функция в скрипте:

Я тестирую на кол-ве айпи 50 штук. Если их будет 5к корректно ли сайт https://bablosoft.com/ip отнесется к такому кол-ву запросов?

Смысла не вижу тестить на https://bablosoft.com/ip бесплатные прокси. Часть прокси, которые могут работать с https://bablosoft.com/ip могут не работать с целевым сайтом, и наоборот - на целевой сайт через эти прокси зайти можно, а вот на https://bablosoft.com/ip не получится.

[j0hnyb]

Такая проверка не всегда будет корректна, так как такой статус будет даже на странице авторизации прокси.

Ну да по статусу 200 так в шпаргалке в басе написано, да и если нет ответа статус -1 приходит. Не в данном скрипте а в общем случае как корректней проверять ответ?

Используйте ресурс "из файла" с галочкой запись и записывайте все потоки в этот ресурс.

Просто у меня новый ресурс создавался в самом начале скрипта, а не через вкладку ресурсы там вроде никаких галочек и параметров указать нельзя(или я еще не нашел где))Окей с этим сделаю.

Благодарю за ответы на нубские вопросы, просто хочу знать как это работает, а не просто написать чтоб работало пока не сломалось

[allive]

@j0hnyb said in Отдельная многопоточная функция в скрипте:

просто хочу знать как это работает, а не просто написать чтоб работало пока не сломалось

Тогда экспериментируйте оно быстро сломается) и будет вам мануал собственного производства в голове, как и что можно.

@j0hnyb said in Отдельная многопоточная функция в скрипте:

там вроде никаких галочек и параметров указать нельзя

Можно если посмотреть на него и клацнуть правой кнопкой. Там все будет. причем графически.