@Fox Привет.Я описывал задачу в этой теме https://community.bablosoft.com/topic/27417/вызов-многопоточной-функции
Дело в том,что я не могу вообще никак перевести свой скрипт на многопоток,у меня тупо,что в вызове функции в многопоток,что просто обычный многопоток,выполняет свою работу с данными по очереди,а не одновременно.И это очень сильно бьет по времени,а нужна именно скорость обработки.Все уже готово и скрипт рабочий полностью,но скорость обработки заставила воспользоваться многопотоком.Ранее,подобных проблем не замечал,а сейчас элементарную задачу не могу уже несколько дней решить.
Скрипт очень простой и работает без браузера вообще,в скрипте используется только одно взаимодействие с гет запросом.Пример скрипта я приложил в этой теме(но без запросов),он точно почти такой же,как и основа.
Логика такова:
1)Запускается скрипт (без всяких ресурсов изначально и данных) и создаются два ресурса.
2)Делается запрос на сайт,который обрабатывается в отдельной функции,т.е. обрабатывает полученные строки и записывает в ресурс.
3)Вызывается функция в несколько потоков,которая работает (должна работать) с каждой строкой из созданного ранее ресурса(уникальной)в отдельном потоке.Данные обрабатываются и записываются во второй ранее созданный ресурс.
4)Как только данные обработаны,ресурс переводится в список и список записывается в файл.Более ничего не делается.
-Сперва я думал,что проблема в создаваемых в ходе работы ресурсах,но нет.Создавал изначально ресурсы и то же самое было.
-Потом пробовал брать из файлов значения\потом создавать файлы по ходу и из них брать данные\сохранять напрямую пытался и.т.д
-Возможно думал стоят какие то ограничения из за слабого пк с 4 гб оперативы и взял сервер с 64 гб,но как обрабатывалась строка за 5 минут на моем пк,так же по скорости и на серваке.Ладно, с этим я уже ничего не поделаю из за регулярок в проекте,согласен.Но вот перевести на поток и хотя бы по 10 строк одновременно обрабатывать,очень бы помогло.А сейчас в любом случае,у меня,сколько бы потоков не выставил - работает все равно как один,просто по очереди разный поток берет свои данные(
Перенос строки в файл
-
Всем доброго дня
Сейчас обнаружил такую проблему у себя:
Есть шаблон по типу
Из ресурса берется урл и проверяется на условие(при этом урл удаляется)
Если условие соблюдено то => Определяется текущий урл и добавляется элементом в другой ресурс
Если не соблюдено, то => Определяется текущий урл и добавляется элементом в ресурс (из которых и берется урл, чтобы позже проверить еще раз на это условие)Работает как то очень не понятно, добавляется 1 раз всего в ресурсы и все, а удаляется каждый раз)
Надеюсь поняли проблему, если нет, то отпишите, обьясню и все приложу -
-
@DrPrime не вышло, сейчас опишу алгоритм на данный момент
- Начало цикла
- Устанавливаем переменную из ресурса
- Загружаем переменную(урл)
- Проверка на условие:
Да - получаем урл и добавляем элементом в ресурс
Нет - добавляем из переменной в ресурс
Тогда когда получаем урл и добавляем элементом ресурс он добавляется, а добавить из переменной в ресурс не получается
Пробовал по разному, устанавливал еще один ресурс с тем файлом откуда подгужался урл и пытался так записать, но не выходит -
@dayron Смотри, я думал что у тебя удаление идет в ручную, а не по количеству. Смотри, почему происходит так, как происходит сейчас. Ресурсы удаляются, когда программа заканчивается (если по количеству), и удаляет ресурс по значению. То есть, я так понял у тебя идет по онлайну лайк. Допустим, зашел на страницу durov - он не онлайн, ты его добавляешь в конец списка, но скрипт по завершению работы удалит и первое упоминание, и последнее.
Для того что бы этого избежать, нужно удалять вручную в скрипте. Например, если онлайн, я так понял он падает в блек и больше никогда не используется. Тогда можешь сразу после того, как вставил его в переменную, удалить его, только не {{ML_LIST|notreuse}}, а просто {{ML_LIST}}. Тоесть в при копировании его в переменную используешь нотреюс, а при удалении - нетДа, и если у тебя уже ресурс полностью удаляется в ручную - можешь поставить успехи и неудачи для него в 99999999.
