@Fox Привет.Я описывал задачу в этой теме https://community.bablosoft.com/topic/27417/вызов-многопоточной-функции
Дело в том,что я не могу вообще никак перевести свой скрипт на многопоток,у меня тупо,что в вызове функции в многопоток,что просто обычный многопоток,выполняет свою работу с данными по очереди,а не одновременно.И это очень сильно бьет по времени,а нужна именно скорость обработки.Все уже готово и скрипт рабочий полностью,но скорость обработки заставила воспользоваться многопотоком.Ранее,подобных проблем не замечал,а сейчас элементарную задачу не могу уже несколько дней решить.
Скрипт очень простой и работает без браузера вообще,в скрипте используется только одно взаимодействие с гет запросом.Пример скрипта я приложил в этой теме(но без запросов),он точно почти такой же,как и основа.
Логика такова:
1)Запускается скрипт (без всяких ресурсов изначально и данных) и создаются два ресурса.
2)Делается запрос на сайт,который обрабатывается в отдельной функции,т.е. обрабатывает полученные строки и записывает в ресурс.
3)Вызывается функция в несколько потоков,которая работает (должна работать) с каждой строкой из созданного ранее ресурса(уникальной)в отдельном потоке.Данные обрабатываются и записываются во второй ранее созданный ресурс.
4)Как только данные обработаны,ресурс переводится в список и список записывается в файл.Более ничего не делается.
-Сперва я думал,что проблема в создаваемых в ходе работы ресурсах,но нет.Создавал изначально ресурсы и то же самое было.
-Потом пробовал брать из файлов значения\потом создавать файлы по ходу и из них брать данные\сохранять напрямую пытался и.т.д
-Возможно думал стоят какие то ограничения из за слабого пк с 4 гб оперативы и взял сервер с 64 гб,но как обрабатывалась строка за 5 минут на моем пк,так же по скорости и на серваке.Ладно, с этим я уже ничего не поделаю из за регулярок в проекте,согласен.Но вот перевести на поток и хотя бы по 10 строк одновременно обрабатывать,очень бы помогло.А сейчас в любом случае,у меня,сколько бы потоков не выставил - работает все равно как один,просто по очереди разный поток берет свои данные(
Поля в базе можно программно создавать ?
-
@Bigma без node js не получится, но в таком случае нужно все общение с базой делать на ней
-
так тоже не получается
((?!5ed5016b7e32d56b98d2c686).)*Это точно возможно ? просто мне кажется там регулярки, только чтоб по частям, но тоже не понятно так как эти намера то из воздуха создаются, и для чего там экспрешен мне вообще не понятно
-
@Bigma said in Поля в базе можно программно создавать ?:
И еще один вопрос: можно ли получить по фильтру запись из базы данных с исключением группы?
Если не изменяет память, можно только получить конкретную группу без всяких доп условий.
-
@UserTrue боюсь что так оно и есть, и это печально. Было бы удобно именно исключать.
-
@f0cus said in Поля в базе можно программно создавать ?:
@UserTrue а зачем тогда конструктор? ща попробую Я им и не пользуюсь. Проверю
Какой конструктор? Там только есть тип expression, но это не о чем не говорит и в примере там только простое обращение по id.
Через драйвер точно можно получить.
-
@UserTrue похоже.. ты прав он там для видимости а блин такой советчик советую то чего сам никогда не делал.. я им не пользуюсь...
@Bigma Я понимаю с нодай вы не на ты но можно и ей и там можно получить все что надо и как надо. Есть даже скрипт от @UserTrue для примера в лайвхаках он вроде. Работает вполне Если нужна помощь напишите.
Кстати работает он лучше стандартного) ну то что не кубик, а так вариативность лучше и вот оказывается кубик до кучи еще и не фильтрует по группам -
@f0cus да ладно, надежда то была :) эхх
-
@f0cus От души благодарю, пошел изучать ...
-
@Bigma said in Поля в базе можно программно создавать ?:
@f0cus От души благодарю, пошел изучать ...
Ну если осилишь, то вот пример запроса, исключит группу с id = '5ed516c0547c77c877202cde'
Но тут можно в массиве сразу несколько групп исключить{$nor:[{groups:ObjectId('5ed516c0547c77c877202cde')}]}Или чтобы исключить только одну группу
{groups: {$ne: ObjectId('5ed516c0547c77c877202cde')}}
