Bablosoft

Понадобилось мне значит 10000 (десять тысяч) гретых профилей в день

Поддержка

  • P

    в чем прикол функции в многопоток

    Поддержка
    0 Votes
    6 Posts
    827 Views
    P

    @Fox Привет.Я описывал задачу в этой теме https://community.bablosoft.com/topic/27417/вызов-многопоточной-функции
    Дело в том,что я не могу вообще никак перевести свой скрипт на многопоток,у меня тупо,что в вызове функции в многопоток,что просто обычный многопоток,выполняет свою работу с данными по очереди,а не одновременно.И это очень сильно бьет по времени,а нужна именно скорость обработки.Все уже готово и скрипт рабочий полностью,но скорость обработки заставила воспользоваться многопотоком.Ранее,подобных проблем не замечал,а сейчас элементарную задачу не могу уже несколько дней решить.
    Скрипт очень простой и работает без браузера вообще,в скрипте используется только одно взаимодействие с гет запросом.Пример скрипта я приложил в этой теме(но без запросов),он точно почти такой же,как и основа.
    Логика такова:
    1)Запускается скрипт (без всяких ресурсов изначально и данных) и создаются два ресурса.
    2)Делается запрос на сайт,который обрабатывается в отдельной функции,т.е. обрабатывает полученные строки и записывает в ресурс.
    3)Вызывается функция в несколько потоков,которая работает (должна работать) с каждой строкой из созданного ранее ресурса(уникальной)в отдельном потоке.Данные обрабатываются и записываются во второй ранее созданный ресурс.
    4)Как только данные обработаны,ресурс переводится в список и список записывается в файл.Более ничего не делается.
    -Сперва я думал,что проблема в создаваемых в ходе работы ресурсах,но нет.Создавал изначально ресурсы и то же самое было.
    -Потом пробовал брать из файлов значения\потом создавать файлы по ходу и из них брать данные\сохранять напрямую пытался и.т.д
    -Возможно думал стоят какие то ограничения из за слабого пк с 4 гб оперативы и взял сервер с 64 гб,но как обрабатывалась строка за 5 минут на моем пк,так же по скорости и на серваке.Ладно, с этим я уже ничего не поделаю из за регулярок в проекте,согласен.Но вот перевести на поток и хотя бы по 10 строк одновременно обрабатывать,очень бы помогло.А сейчас в любом случае,у меня,сколько бы потоков не выставил - работает все равно как один,просто по очереди разный поток берет свои данные(

  • Z

    Bas детект в Loop и в потоке.

    Moved Поддержка
    0 Votes
    8 Posts
    820 Views
    ?

    Короче чё то ржу над постановкой вопроса и тем как на удивление Фокс угадал суть...

  • K

    У Браузера И Http-клиента разные прокси, то есть если поставлю в браузер прокси, а в хттп клиенте останется мой айпи?

    Поддержка
    0 Votes
    5 Posts
    1016 Views
    FoxF

    @kingstreet06 said in У Браузера И Http-клиента разные прокси, то есть если поставлю в браузер прокси, а в хттп клиенте останется мой айпи?:

    @oyasumi-punpun said in У Браузера И Http-клиента разные прокси, то есть если поставлю в браузер прокси, а в хттп клиенте останется мой айпи?:

    @kingstreet06 Да. Это легко можно проверить, если в браузере зайти на сайт, допустим, такой - https://whoer.net/ru. И сделать на этот же сайт GET-запрос с помощью HTTP-клиента.

    А вопрос, если SAVED_CONTENT есть, но потом инет отрубился, и потом смотришь Сохранение SAVED_CONTENT опять после запроса, который был при выкл инете, то в SAVED_CONTENT новое значение будет с ошибкой, или просто сохранение старого, того что было до дисконнекта

    В действии "Содержание ответа" находится, кто бы мог подумать, содержание ответа последнего успешного запроса :D

  • R

    Пропускать текст в файле

    Поддержка
    0 Votes
    10 Posts
    1981 Views
    romanbizR

    @Antonio В смысле костыльно, я имел ввиду забираем содержимое файла и парсим его через регулярку. И сохраняем в отдельный файл. По моему это намного эффективнее чем по отдельности брать.

  • denanotherdayD

    Переменная в match

    Moved Поддержка
    0 Votes
    2 Posts
    1162 Views
    supportS

    @denanotherday

    >MATCH><span class="answers-big" onclick="CheckVerify('c0474df6c6b2ff6df6d5fde9ed2dc80f'); return false;">[[CAPTCHA_RESULT]]</span>

    Так как вы написали должно работать.
    Вы можете хоть весь селектор записать в переменную, а потом ее использовать