@Fox Привет.Я описывал задачу в этой теме https://community.bablosoft.com/topic/27417/вызов-многопоточной-функции
Дело в том,что я не могу вообще никак перевести свой скрипт на многопоток,у меня тупо,что в вызове функции в многопоток,что просто обычный многопоток,выполняет свою работу с данными по очереди,а не одновременно.И это очень сильно бьет по времени,а нужна именно скорость обработки.Все уже готово и скрипт рабочий полностью,но скорость обработки заставила воспользоваться многопотоком.Ранее,подобных проблем не замечал,а сейчас элементарную задачу не могу уже несколько дней решить.
Скрипт очень простой и работает без браузера вообще,в скрипте используется только одно взаимодействие с гет запросом.Пример скрипта я приложил в этой теме(но без запросов),он точно почти такой же,как и основа.
Логика такова:
1)Запускается скрипт (без всяких ресурсов изначально и данных) и создаются два ресурса.
2)Делается запрос на сайт,который обрабатывается в отдельной функции,т.е. обрабатывает полученные строки и записывает в ресурс.
3)Вызывается функция в несколько потоков,которая работает (должна работать) с каждой строкой из созданного ранее ресурса(уникальной)в отдельном потоке.Данные обрабатываются и записываются во второй ранее созданный ресурс.
4)Как только данные обработаны,ресурс переводится в список и список записывается в файл.Более ничего не делается.
-Сперва я думал,что проблема в создаваемых в ходе работы ресурсах,но нет.Создавал изначально ресурсы и то же самое было.
-Потом пробовал брать из файлов значения\потом создавать файлы по ходу и из них брать данные\сохранять напрямую пытался и.т.д
-Возможно думал стоят какие то ограничения из за слабого пк с 4 гб оперативы и взял сервер с 64 гб,но как обрабатывалась строка за 5 минут на моем пк,так же по скорости и на серваке.Ладно, с этим я уже ничего не поделаю из за регулярок в проекте,согласен.Но вот перевести на поток и хотя бы по 10 строк одновременно обрабатывать,очень бы помогло.А сейчас в любом случае,у меня,сколько бы потоков не выставил - работает все равно как один,просто по очереди разный поток берет свои данные(
импорт в базу csv (как изменить разделитель двоеточие?)
-
@Dinomys said in импорт в базу csv (как изменить разделитель двоеточие?):
@Fox Вопрос все равно остается открытым =) в excel нет простого способа сохранить с двоеточием (если повставлять двоеточий то в ссылках http: тоже обрежется). Да и у меня задача ежедневно импортировать большие файлы в базу с разделителями , и ; есть ли уроки как еще можно управлять базой?
Приложите пустой проект с базой и файл csv хотя бы с 10 строками, которые не удаётся нормально импортировать в базу
-
@Fox Проект еще пустой. Создал базу и в ней несколько колонок string
Вот простой пример, у меня разделитель Точка с запятой, Но при импорте он режет базу и по точке с запятой и по двоеточию в http:// Как мне избежать разрезания ссылок с двоеточием при импорте?
-
@Dinomys said in импорт в базу csv (как изменить разделитель двоеточие?):
@Fox Проект еще пустой. Создал базу и в ней несколько колонок string
Я и просил вас прислать пустой проект, в нём была бы структура необходимой базы (что бы мне её самому не создавать).
-
@Fox Кстати экспорт из базы тоже работает неправильно.
Если в ячейке есть ссылка http:// то он никак не экранирует это двоеточие
Если таблицаяндекс | http://yandex.ruТо экспорт будет
яндекс:http://yandex.ruи при обратном импорте опять получится 3 ячейки
яндекс | http | //yandex.ru -
-
-
@DrPrime Нашел решение импорта (Это и на эксель может влиять)
В Windows - Настройки -> Языковые настройки -> расширенные настройки и разделитель списков указать запятую, точку с запятой или двоеточие. И это влияет на импорт/экспорт и в экселе и в Басе
-
@DrPrime said in импорт в базу csv (как изменить разделитель двоеточие?):
А вот ексель у меня похоходу сломался, потому что теперь почему то экспортирует без екранирования.
Не сломался. Просто это гребаный майкрософт. csv в ексель надо не открывать, а импортировать.
-
-
-
Libre и open офисы вроде нормально работают, только в них большие файлы вроде не открыть. Но есть еще специально утилитки для csv
-
Собственно такая задача:
В файле есть 40 000 путей к файлам. Построчно. Пути вида D:\dfasf\dfdf
Импорт из csv не помогает, так как импортит только буковки D
Импорт файла в список - не работает, так как видимо для баса это слишком большой список. Соответсвенно через бас заполнить базу тоже не могу.
Че делать ?
