Баги в новой гидре

Включаю гидру: 102210 Перетаскиваю ползунок на коннекторе финама в положение I. Гидра вылетает: 1022...

2013-02-04T08:36:00Z

Включаю гидру:

Перетаскиваю ползунок на коннекторе финама в положение I.

Гидра вылетает:

Настройки финама:

Общие настройки:

Ось Win 7 ultimate 64 eng

Пофиксил баг. Наличие данных по дням проверялось не в алфавитных папках.

2013-02-12T08:35:55Z

Пофиксил баг.
Наличие данных по дням проверялось не в алфавитных папках.

как Гидра запоминает текущий таск, т.е что уже скачано и что еще предстоит скачать? С финама выкачив...

2013-02-12T07:53:27Z

Цитата:

как Гидра запоминает текущий таск, т.е что уже скачано и что еще предстоит скачать?

С финама выкачиваются "сырцы" в формате txt(в папке с данными появляется папка TemporaryFiles, куда они складываются), затем сохраняются в формате bin.
При новом старте, гидра проверяет, за какой период/по каким дням есть данные, если есть дырки в сохраненных данных, то по этим дням будет идти закачка.

К примеру стоит дата скачки по SPFB.RTS@RTS с 01.01.2009, но данные начинаются только с 11 числа, до этого приходят "пустые" txt.
Соответственно и сохранятся данные в формате bin будут с 11 числа. Поэтому при следующем старте и проверке по каким дням нет данных, гидра посчитает что с 1 по 10 нет данных, и опять будут выкачиваться данные по этим дням.

Цитата:

Задача: скачать данные за период 01.01.2009-12.02.2013 по SPFB.RTS@RTS.

При скачивании с финама надо знать несколько нюансов:
Финам не дает скачивать большой объем тиков в торговое время.
Данные с финама нередко "кривые", надо делать "верификацию", хотя бы визуальную по графику.
Серваки финама не всегда доступны. И если не получается скачать, это не значит что проблема именно в Гидре.

Сегодня на ночь, для теста, поставил выкачивать SPFB.RTS@RTS за 01.01.2009-08.02.2013
В итоге выкачалось 3 года из 4. Была одна ошибка - сервер не доступен.
"Сырцов" выкачалось 7,6 Гига. Это к тому, что надо заранее освобождать место на винте, если планируется выкачивать большой объем.

Цитата:

как только гидра доходит до последнего скачанного дня, наблюдается следующее:

Попробуйте удалить папку TemporaryFiles.

Одна из последних ошибок Гидры... Задача: скачать данные за период 01.01.2009-08.02.2013 по SPFB.RTS...

2013-02-11T18:36:35Z

Одна из последних ошибок Гидры...
Задача: скачать данные за период 01.01.2009-08.02.2013 по SPFB.RTS@RTS.
Скачивание прекращается (довольно продолжительное). Версия из транка (22848)

Код

00:05:13.437|Error  |Finam     |System.Net.WebException: Сервер нарушил протокол. Section=ResponseStatusLine
   в System.Net.WebClient.DownloadDataInternal(Uri address, WebRequest& request)
   в System.Net.WebClient.DownloadString(Uri address)
   в StockSharp.Algo.History.Finam.FinamHistorySource.#=qJs$6$bo78j0D5KtkZiF2xA==(Uri #=qnS2IEguL$xmTNxXhz2pdMw==)
   в StockSharp.Algo.History.Finam.FinamHistorySource.#=qYY4_54y1TtpX1q44diOy0mOxY24_tsYSTKuZGgJLO8Q=.#=qKXc6$JrTvx4ucZEkz7PEuFNVrrpIRMJEMMmkj$NR67k=()
   в StockSharp.Algo.History.Finam.FinamHistorySource.#=qD9oAKJ$GEARGfcJzgMhM$g==[T](String #=qnO0Ips9PCGTHpJZLYngtIw==, Func`1 #=q4QaBVWbRJ6OXHOSbMPTJcQ==, Func`2 #=qMN_MvtLc_r$VTLD4lBmVbA==)
   в StockSharp.Algo.History.Finam.FinamHistorySource.GetTrades(Security security, DateTime time)
   в StockSharp.Hydra.Finam.FinamSource.LoadTrades(Security security, List`1 allDates) в M:\My Download\stocksharp-22848\trunk\Hydra\Plugins\Finam\FinamSource.cs:строка 195
   в StockSharp.Hydra.Finam.FinamSource.Load() в M:\My Download\stocksharp-22848\trunk\Hydra\Plugins\Finam\FinamSource.cs:строка 164
   в StockSharp.Hydra.Worker.Downloader.Download() в M:\My Download\stocksharp-22848\trunk\Hydra\Hydra\Worker.cs:строка 175

При последующем старте Гидры происходит следующее:
- Гидра начинает "скачивание", с указанной даты в настройках источника (Finam), т.е. все сначала, . с 01.01.2009. По факту, происходит "верификация" данных с самого начала!?
- как только гидра доходит до последнего скачанного дня, наблюдается следующее:

Код

02:18:33.656|Error  |Finam     |System.OutOfMemoryException: Выдано исключение типа "System.OutOfMemoryException".
   в System.String.Split(String[] separator, Int32 count, StringSplitOptions options)
   в Ecng.Common.StringHelper.Split(String str, String separator)
   в StockSharp.Algo.History.Finam.FinamHistorySource.#=qJs$6$bo78j0D5KtkZiF2xA==(Uri #=qnS2IEguL$xmTNxXhz2pdMw==)
   в StockSharp.Algo.History.Finam.FinamHistorySource.#=qYY4_54y1TtpX1q44diOy0mOxY24_tsYSTKuZGgJLO8Q=.#=qKXc6$JrTvx4ucZEkz7PEuFNVrrpIRMJEMMmkj$NR67k=()
   в StockSharp.Algo.History.Finam.FinamHistorySource.#=qD9oAKJ$GEARGfcJzgMhM$g==[T](String #=qnO0Ips9PCGTHpJZLYngtIw==, Func`1 #=q4QaBVWbRJ6OXHOSbMPTJcQ==, Func`2 #=qMN_MvtLc_r$VTLD4lBmVbA==)
   в StockSharp.Algo.History.Finam.FinamHistorySource.GetTrades(Security security, DateTime time)
   в StockSharp.Hydra.Finam.FinamSource.LoadTrades(Security security, List`1 allDates) в M:\My Download\stocksharp-22848\trunk\Hydra\Plugins\Finam\FinamSource.cs:строка 195
   в StockSharp.Hydra.Finam.FinamSource.Load() в M:\My Download\stocksharp-22848\trunk\Hydra\Plugins\Finam\FinamSource.cs:строка 164
   в StockSharp.Hydra.Worker.Downloader.Download() в M:\My Download\stocksharp-22848\trunk\Hydra\Hydra\Worker.cs:строка 175

Дальше все сначала.
Вопросы:
- как в таком случае продолжить скачивание?
- как Гидра запоминает текущий таск, т.е что уже скачано и что еще предстоит скачать?
С чем это связано и как можно это решить?

Собрал некоторое количество exceptions)) Запустить гидру на скачивание не получалось. Интересный мом...

2013-02-11T08:00:03Z

Цитата:

Собрал некоторое количество exceptions)) Запустить гидру на скачивание не получалось. Интересный момент в том, что гидра с каждым разом "пробегает" "все с начала" и дальше выход на эксепшн.
Метод тыка)))
Скачался полностью другой инструмент...Скачивание прерванного инструмента возобновилась...
- такое чувство, что гидра "не знает" что скачала ранее.(проход по логам?)

Какой источник? Что значит "пробегает все с начала"? Какая ошибка при скачивании?

Цитата:

Сейчас так и есть, ничего фатального не происходит, но как в таком случае продолжить скачивание?

Да вроде как ответ очевиден. Если не хватает места, то наверное его надо освободить. Или вопрос в другом?

Цитата:

Идем дальше!
Выгрузка свечек в .txt формат, через раз.Не думаю что ограничение .txt формата 12-16 мб...

Приведите пошаговые действия, когда появляется данная ошибка.

Идем дальше! Выгрузка свечек в .txt формат, через раз.Не думаю что ограничение .txt формата 12-16 мб...

2013-02-10T16:08:23Z

Идем дальше!
Выгрузка свечек в .txt формат, через раз.Не думаю что ограничение .txt формата 12-16 мб...

Сейчас так и есть, ничего фатального не происходит, но как в таком случае продолжить скачивание? Ан...

2013-02-09T20:09:54Z

jTr

[quote=Moadip;23919]
Сейчас так и есть, ничего фатального не происходит, но как в таком случае продолжить скачивание?

Ан нет, поторопился. При нехватке места на диске, все-таки выход по ексепшен, с выбором отладчика...

...Думаю при нехватке места в логи будет писаться сообщение об ошибке, и при наборе определенного к...

2013-02-09T19:35:54Z

Moadip

...Думаю при нехватке места в логи будет писаться сообщение об ошибке, и при наборе определенного количества exceptions, источник будет остановлен.
По крайней мере сейчас так.

Сейчас так и есть, ничего фатального не происходит, но как в таком случае продолжить скачивание?

Собрал некоторое количество exceptions)) Запустить гидру на скачивание не получалось. Интересный мом...

2013-02-09T19:31:39Z

Хм. Интересный вопрос, надо будет проэкспериментировать. Думаю при нехватке места в логи будет писат...

2013-02-09T18:44:18Z

Хм. Интересный вопрос, надо будет проэкспериментировать.
Думаю при нехватке места в логи будет писаться сообщение об ошибке, и при наборе определенного количества exceptions, источник будет остановлен.
По крайней мере сейчас так.

Не понятно, как работает гидра в случае, когда гидра останавливается по причине нехватки места на ди...

2013-02-09T18:21:28Z

Не понятно, как работает гидра в случае, когда гидра останавливается по причине нехватки места на диске. Как в этом случае происходит дальнейшее скачивание?

Commit 22603 Михаил фиксил проблему. Вроде как больше не появлялась. Сейчас последний коммит 22879 -...

2013-02-09T06:45:04Z

Commit 22603

Михаил фиксил проблему. Вроде как больше не появлялась. Сейчас последний коммит 22879 - codeplex

Цитата:

Она там не скомпилирована? Я не могу ее на 2010 студии запустить, точнее запускаю, а она просит ссылку StockSharp.Hydra.Core.dll, я чет ее не найду

Нет, там лежат исходники. StockSharp.Hydra.Core.dll - это скомпиленный проект Core в Гидре.

Запускайте проект целиком trunk\StockSharp.sln и собирайте его полностью. Так точно соберется все что нужно.

Попробуйте последнюю версию с codeplex, вроде как это проблема была решена. Она там не скомпилирова...

2013-02-09T06:21:36Z

Moadip

Попробуйте последнюю версию с codeplex, вроде как это проблема была решена.

Собрал гидру из транка (22848) Скачал тики с Финама. При генерации нестандартных свечек из тиков (на...

2013-02-09T06:16:35Z

jTr

Собрал гидру из транка (22848)
Скачал тики с Финама. При генерации нестандартных свечек из тиков (например 4 мин) происходит следующее:

Время первой сделки получается, происходит 10.28, цена соответствует первой сделки в 10.30 (цена 11250).
По идее, время открытия свечек д.б. 10.30,10.34, 10.38 и т.д?!
При генерации 1мин,5мин свечек время и цена правильная 10.30(11250)...

Гидра скорее всего не причем, бага в самом S#. Посмотрим.

Гидра 4.1.7 выкидывает при запуске вот такую ошибку, а 4.1.6 запускается без проблем Попробуйте посл...

2013-02-09T06:12:27Z

MenDel

Гидра 4.1.7 выкидывает при запуске вот такую ошибку, а 4.1.6 запускается без проблем

Попробуйте последнюю версию с codeplex, вроде как это проблема была решена.

Гидра 4.1.7 выкидывает при запуске вот такую ошибку, а 4.1.6 запускается без проблем А 4.1.6 когда н...

2013-02-09T05:48:33Z

Гидра 4.1.7 выкидывает при запуске вот такую ошибку, а 4.1.6 запускается без проблем

А 4.1.6 когда нажимаю стоп, загрузка данных не останавливается

Собрал гидру из транка (22848) Скачал тики с Финама. При генерации нестандартных свечек из тиков (на...

2013-02-08T09:56:41Z

Обработки неотловленных ошибок потоков как-то не заметно. Это достаточно легко проверить.

2013-02-05T09:31:21Z

VassilSanych

Обработки неотловленных ошибок потоков как-то не заметно.

Это достаточно легко проверить.

На чистой win 8 русской идет, на чистой win 7 eng не идет. Кстати не первый раз такое замечаю, что п...

2013-02-05T04:12:28Z

yammm

На чистой win 8 русской идет, на чистой win 7 eng не идет. Кстати не первый раз такое замечаю, что под англ версиями все работает немного иначе :)

Под англ. версиями иначе работает то, что разрабатывалось под русской версией. Особенно если никто толком продукт не тестировал.
Точнее с русскими настройками, потому что локальных версий уже вобщем-то уже и нет. Последняя моя "локальная" версия ОС была Win 98 SE. Все остальные изначально были многоязычными, но везде кнопка Пуск называлась "Пуск". Даже в Win 8 ;)
Настройте параметры данных и интерфейса на русский язык, иначе у вас и Quik нормально работать не будет.
Я не имею в виду даже Local pack, настройте хотя бы формат данных и шрифты по-умолчанию.

Если Гидра вылетает молча, то это какой-то баг во фреймворке. Это маловероятно Потому что обработчик...

2013-02-05T03:58:54Z

Mikhail Sukhov

Если Гидра вылетает молча, то это какой-то баг во фреймворке.

Это маловероятно

Mikhail Sukhov

Потому что обработчик ошибок есть, и он не может не сработать.

Стартовый файл Гидры выглядит так

Код


namespace StockSharp.Hydra
{
 public partial class App
	{
	}
}

Обработки неотловленных ошибок потоков как-то не заметно. Любые другие обработчики обрабатывают только отдельные куски кода.
Так что обработчик может и не сработать.