Пробую закачивать и скачивать бекапы через filezilla и rclone. По протоколу storj, не S3. Скорость при скачивании одного файла почему то не превышает 7мбайт. Если качать несколько файлов одновременно то скорость поднимается до х7мб, то есть по 7мбайт на поток. При этом еще и процессор сильно напрягается (4ядерный райзен).
Бекапы состоят из огромных файлов, для них такие скорости слишком малы. Дробить их на мелкие части неудобно.
Вы можете указать количество параллельных потоков как в Filezilla (menu Edit → Settings → Transfers → Maximum simultaneous transfers), так и в rclone (опция --transfers).
Нативный протокол использует параллельную загрузку кусочков каждого сегмента файла с нескольких узлов одновременно (стартует с 39 и как только первые 29 завершены, остальные отменяются), и вы можете увеличить параметр сколько сегментов должно скачиваться одновременно опцией --multi-thread-streams в rclone или использовать uplink с опциями --transfers и --parallelism соответственно.
В filezilla параметр Maximum simultaneous transfers никак не повлиял на скорость скачивания одного большого файла, по прежнему не больше 7мбайт в секунду.
В rclone по умолчанию --multi-thread-streams=4. Попробовал 40, скорость скачивания одного большого файла не изменилась или изменилась совсем мало. rclone mount xxx_storj_io: w: --multi-thread-streams=40 --vfs-cache-mode full
Maximum simultaneous transfers в Filezilla влияет на параллельное скачивание нескольких файлов. У них нет параметра на параллельное скачивание сегментов файла. Размер сегмента по умолчанию в сети Storj составляет 64МБ.
Если вы указываете параметр --multi-thread-streams в rclone, то попробуйте также указать размер одного сегмента с помощью параметра --multi-thread-cutoff 64Mi.
Скорость в сети Storj никак не ограничивается, она зависит от имеющейся пропускной способности вашего канала Интернет и скорости между вашим месторасположением и расположением узлов. При нативной интеграции также влияет количество установленной памяти и мощность процессора (расшифровка и компоновка файлов из кусочков требует вычислительной мощности).
7МБ/с это 56Мбит/с. Какое подключение к сети интернет и к роутеру вы используете? Если проводное, то пропускная способность ограничена пропускной способностью вашего роутера и канала ISP при использовании параллельных подключений. Если беспроводное, то ещё пропускной способностью вашего wifi адаптера и используемого типа беспроводного подключения, расстояния до роутера, количества других устройств в сети и наличия препятствий между вашим расположением и расположением роутера. В общем случае беспроводное подключение плохо адаптировано для передачи больших объёмов данных в параллельных потоках.
Ещё влияет настройка QoS на вашем адаптере, особенно это заметно в Windows, если эта настройка включена, то ОС автоматически резервирует часть пропускной способности канала и скорость передачи может быть в несколько раз ниже пропускной способности канала (обычно это заметно при закачивании данных, при скачивании это менее заметно).
Проблема только когда rclone подключает сетевой диск rclone mount
Это самый удобный для меня вариант но в нем скорость больше 7мбайт с storj не получается