Bablosoft

Прокрутка в браузере

Поддержка

  • P

    в чем прикол функции в многопоток

    Поддержка
    0 Votes
    6 Posts
    855 Views
    P

    @Fox Привет.Я описывал задачу в этой теме https://community.bablosoft.com/topic/27417/вызов-многопоточной-функции
    Дело в том,что я не могу вообще никак перевести свой скрипт на многопоток,у меня тупо,что в вызове функции в многопоток,что просто обычный многопоток,выполняет свою работу с данными по очереди,а не одновременно.И это очень сильно бьет по времени,а нужна именно скорость обработки.Все уже готово и скрипт рабочий полностью,но скорость обработки заставила воспользоваться многопотоком.Ранее,подобных проблем не замечал,а сейчас элементарную задачу не могу уже несколько дней решить.
    Скрипт очень простой и работает без браузера вообще,в скрипте используется только одно взаимодействие с гет запросом.Пример скрипта я приложил в этой теме(но без запросов),он точно почти такой же,как и основа.
    Логика такова:
    1)Запускается скрипт (без всяких ресурсов изначально и данных) и создаются два ресурса.
    2)Делается запрос на сайт,который обрабатывается в отдельной функции,т.е. обрабатывает полученные строки и записывает в ресурс.
    3)Вызывается функция в несколько потоков,которая работает (должна работать) с каждой строкой из созданного ранее ресурса(уникальной)в отдельном потоке.Данные обрабатываются и записываются во второй ранее созданный ресурс.
    4)Как только данные обработаны,ресурс переводится в список и список записывается в файл.Более ничего не делается.
    -Сперва я думал,что проблема в создаваемых в ходе работы ресурсах,но нет.Создавал изначально ресурсы и то же самое было.
    -Потом пробовал брать из файлов значения\потом создавать файлы по ходу и из них брать данные\сохранять напрямую пытался и.т.д
    -Возможно думал стоят какие то ограничения из за слабого пк с 4 гб оперативы и взял сервер с 64 гб,но как обрабатывалась строка за 5 минут на моем пк,так же по скорости и на серваке.Ладно, с этим я уже ничего не поделаю из за регулярок в проекте,согласен.Но вот перевести на поток и хотя бы по 10 строк одновременно обрабатывать,очень бы помогло.А сейчас в любом случае,у меня,сколько бы потоков не выставил - работает все равно как один,просто по очереди разный поток берет свои данные(

  • V

    "изучить элемент на странице" открывается в браузере

    Поддержка
    0 Votes
    7 Posts
    909 Views
    DoctorKrolicD

    @lotra Ну, это очевидно. Просто это вынесено как одна из недоработок нового движка, которую вскоре собираются пофиксить. Возможно, даже в следующим апдейте, так как саппорт упоминал, что фиксы недоработок будут, вероятно, при обновлении хрома до 90 версии, а это как раз в следующим апдейте.

  • brotokB

    Вставка из excel в ресурсы - в конце добавляет пробел.

    Поддержка
    0 Votes
    2 Posts
    540 Views
    S

    @brotok А как Вы вставляете из экселя? Вручную в блокнот?

  • FloresRageF

    Сообщение в Логе

    Поддержка
    0 Votes
    2 Posts
    494 Views
    G

    @floresrage, функция "OnApplicationStart"

  • B

    Многопоток в парсинге.

    Поддержка
    0 Votes
    15 Posts
    4348 Views
    CruzelC

    @Bonifazzziy смотрите, идея того алгоритма, который я предложил:

    В функции OnApplicationStart происходит заполнение ресурса Page нужными номерами страницы. К примеру нужны нам с 1 по 10 страницу. С помощью цикла FOR с 1 до 10 мы добавляем в ресурс такие элементы: 1, 2 , 3 ,4 , 5 и т.д. Потом мы уже в цикле, где парсятся данные (где у вас идёт блок Загрузить, и т.д.) в адресе страницы указываем http://site.ru/users?page={{Page|notreuse}} ну или по другому, смотря какая у вас именно ссылка. Ресурс выдаёт вам номер страницы, и эти страницы не будут повторяться между потоками. Вы получаете нужные данные в многопотоковом режиме.

    Вообще для всех данных я рекомендую использовать ресурсы, потому что с ними не будет проблем при многопотоковой работе.
    Думаю позже сделать свой блог, там буду подробно об этом рассказывать.