Будет большой пост с трех частей
- Расскажу, что есть и что хочу использовать
- Раскажу, что случилось
- Спрошу, как сделать максимально правильно
--------------------------1111111111111111111------------------------------------
Имею автоматизированный сервер виртуализации, он делает свою работу. Есть бессперебойник, мягкое выключение, 3 WAN с wanfailover и d-dns
Офлайн, через падения WAN, остаться нереально
Скачки напряжения - не страшны
Захотел отдать часть мошьностей проекту storj
Одна из виртуалок данного сервера - NAS на freebsd с проброшенными аппаратно на него контроллерами дисков (и оперативкой 128гиг)
Диски собраны в массив с !избыточностью! ZFS с контроллем контрольных сумм, потому не страна смерть диска или сбойные сектора на нем (если вовремя сменить диск)
Данный NAS имеет “лишнее” пространство
Подумал и решил отдать его storj
Бросать в виртуалку физический диск - ИМХО, не правильно ибо нет избыточности… а диски смертны
Делать зеркало - не оптимально ибо тратится двойная цена за место + увеличенный расход светы
Создал на NAS том поверх ZFS на 3Тб и отдал его iSCSI
Взял чистую виртуалку с дебиан, подключил iSCSI диск (/dev/sdb), отформатировал его в ext4 (без создания GPT таблицы, поверх на сырой диск), включил автомаунт через fstab
UUID=55dd5277-67f7-4594-958d-56111173d758 /mnt/storj1 ext4 _netdev,discard,noatime 0 0
Производительность такого решения великолепная
Для надежности и отсуствия глюков написал скрипт на случай выключения, включения и ребута
При включении стартуют все виртуалки, что не завязанны на НАС и сам НАС
Сразу после загрузки, сам НАС запускает скрипт и включает виртуалку storj, та подключает iSCSI, маунтит и все РАБОТАЛО!
При ребуте или выключении первой тушу виртуалку storj
Данное решение показалось оптимальным ибо надежное хранение, легкость увеличения обьема (сейчас в массиве меняю диски 3Тб на 8Тб), потом ДУМАЛ просто увеличить размер тома iSCSI и со стороны ноды сделать resizeFS
Все это великолепно работало почти 2 месяца, прошто проверки и пережило штук 8 выключений сервера и ребутов
-------------------------------------------------2222222222222222222222222--------------------------------
Сегодня, ребутнул сервак, а оно на вебморде показало, ПУСТЫЕ ГРАФИКИ
Я так понял, по какой-то причине диски не примаунтились и сабж запустился как новая нода впустой папке с “нуля”
ребутнул виртуалку - все стало ок
Уже пару спутников не прошли аудит по разу
Вот, что вижу в логах
Blockquote
Jan 31 12:50:22 storj1 kernel: [ 5.250722] scsi host3: iSCSI Initiator over TCP/IP
Jan 31 12:50:23 storj1 kernel: [ 6.293923] scsi 3:0:0:0: Direct-Access FreeBSD iSCSI DISK 0001 PQ: 0 ANSI: 5
Jan 31 12:50:23 storj1 kernel: [ 6.295330] sd 3:0:0:0: Attached scsi generic sg1 type 0
Jan 31 12:50:23 storj1 kernel: [ 6.295526] sd 3:0:0:0: Power-on or device reset occurred
Jan 31 12:50:23 storj1 kernel: [ 6.297656] sd 3:0:0:0: [sdb] 941621248 4096-byte logical blocks: (3.86 TB/3.51 TiB)
Jan 31 12:50:23 storj1 kernel: [ 6.297983] sd 3:0:0:0: [sdb] Write Protect is off
Jan 31 12:50:23 storj1 kernel: [ 6.298742] sd 3:0:0:0: [sdb] Write cache: enabled, read cache: enabled, doesn’t support DPO or FUA
Jan 31 12:50:23 storj1 kernel: [ 6.299541] sd 3:0:0:0: [sdb] Optimal transfer size 1048576 bytes
Jan 31 12:50:23 storj1 kernel: [ 6.308682] sd 3:0:0:0: [sdb] Attached SCSI disk
Jan 31 12:50:25 storj1 kernel: [ 8.187187] random: crng init done
Jan 31 12:50:25 storj1 kernel: [ 8.187207] random: 7 urandom warning(s) missed due to ratelimiting
Jan 31 12:50:25 storj1 kernel: [ 8.336199] audit: type=1400 audit(1580467825.871:5): apparmor=“STATUS” operation=“profile_load” profile=“unconfined” name=“docker-default” pi$
Jan 31 12:50:26 storj1 kernel: [ 8.479830] bridge: filtering via arp/ip/ip6tables is no longer available by default. Update your scripts to load br_netfilter if you need thi$
Jan 31 12:50:26 storj1 kernel: [ 8.485432] Bridge firewalling registered
Jan 31 12:50:26 storj1 kernel: [ 8.752070] Initializing XFRM netlink socket
Jan 31 12:50:26 storj1 kernel: [ 8.947377] IPv6: ADDRCONF(NETDEV_UP): docker0: link is not ready
Jan 31 12:50:26 storj1 kernel: [ 9.229893] docker0: port 1(veth2a56afb) entered blocking state
Jan 31 12:50:26 storj1 kernel: [ 9.229895] docker0: port 1(veth2a56afb) entered disabled state
Jan 31 12:50:26 storj1 kernel: [ 9.229954] device veth2a56afb entered promiscuous mode
Jan 31 12:50:26 storj1 kernel: [ 9.230088] IPv6: ADDRCONF(NETDEV_UP): veth2a56afb: link is not ready
Jan 31 12:50:26 storj1 kernel: [ 9.230091] docker0: port 1(veth2a56afb) entered blocking state
Jan 31 12:50:26 storj1 kernel: [ 9.230092] docker0: port 1(veth2a56afb) entered forwarding state
Jan 31 12:50:26 storj1 kernel: [ 9.230144] docker0: port 1(veth2a56afb) entered disabled state
Jan 31 12:50:26 storj1 kernel: [ 9.234340] docker0: port 2(veth4d096c4) entered blocking state
Jan 31 12:50:26 storj1 kernel: [ 9.234341] docker0: port 2(veth4d096c4) entered disabled state
Jan 31 12:50:26 storj1 kernel: [ 9.234372] device veth4d096c4 entered promiscuous mode
Jan 31 12:50:26 storj1 kernel: [ 9.234414] IPv6: ADDRCONF(NETDEV_UP): veth4d096c4: link is not ready
Jan 31 12:50:26 storj1 kernel: [ 9.234416] docker0: port 2(veth4d096c4) entered blocking state
Jan 31 12:50:26 storj1 kernel: [ 9.234417] docker0: port 2(veth4d096c4) entered forwarding state
Jan 31 12:50:26 storj1 kernel: [ 9.234431] IPv6: ADDRCONF(NETDEV_CHANGE): docker0: link becomes ready
Jan 31 12:50:26 storj1 kernel: [ 9.235325] docker0: port 2(veth4d096c4) entered disabled state
Jan 31 12:50:27 storj1 kernel: [ 9.651650] eth0: renamed from vethc6a5907
Jan 31 12:50:27 storj1 kernel: [ 9.666533] IPv6: ADDRCONF(NETDEV_CHANGE): veth2a56afb: link becomes ready
Jan 31 12:50:27 storj1 kernel: [ 9.666573] docker0: port 1(veth2a56afb) entered blocking state
Jan 31 12:50:27 storj1 kernel: [ 9.666575] docker0: port 1(veth2a56afb) entered forwarding state
Jan 31 12:50:27 storj1 kernel: [ 9.682542] eth0: renamed from veth9487869
Jan 31 12:50:27 storj1 kernel: [ 9.698807] IPv6: ADDRCONF(NETDEV_CHANGE): veth4d096c4: link becomes ready
Jan 31 12:50:27 storj1 kernel: [ 9.698844] docker0: port 2(veth4d096c4) entered blocking state
Jan 31 12:50:27 storj1 kernel: [ 9.698845] docker0: port 2(veth4d096c4) entered forwarding state
Jan 31 12:50:32 storj1 kernel: [ 14.073328] EXT4-fs (sdb): recovery complete
Jan 31 12:50:32 storj1 kernel: [ 14.074487] EXT4-fs (sdb): mounting with “discard” option, but the device does not support discard
Jan 31 12:50:32 storj1 kernel: [ 14.074489] EXT4-fs (sdb): mounted filesystem with ordered data mode. Opts: discard
Blockquote
Вот еще, почему-то контейнер_д загрузился намного раньше чем iSCSI…
Потом что-то не то творится с сетью, докер колбасит
Дальше
Blockquote
Jan 31 12:50:27 storj1 systemd[1]: Started Docker Application Container Engine.
Blockquote
И ТОЛЬКО ЧЕРЕЗ 5 сек ЯДРО ПРОВЕРИЛО И ПРИМАУНТИЛО ДИСК
Blockquote
Jan 31 12:50:20 storj1 containerd[409]: time=“2020-01-31T12:50:20.327688662+02:00” level=info msg=“containerd successfully booted in 0.029096s”
Jan 31 12:50:20 storj1 iscsid: iSCSI daemon with pid=315 started!
Jan 31 12:50:20 storj1 iscsid: cannot make a connection to 10.1.1.3:3260 (-1,101)
Jan 31 12:50:20 storj1 ntpd[406]: bind(24) AF_INET6 fe80::10c7:ccff:fe4e:7a76%2#123 flags 0x11 failed: Cannot assign requested address
Jan 31 12:50:20 storj1 ntpd[406]: unable to create socket on ens18 (6) for fe80::10c7:ccff:fe4e:7a76%2#123
Jan 31 12:50:20 storj1 ntpd[406]: failed to init interface for address fe80::10c7:ccff:fe4e:7a76%2
Jan 31 12:50:20 storj1 ntpd[406]: Soliciting pool server 79.142.192.130
Jan 31 12:50:21 storj1 ntpd[406]: Soliciting pool server 194.40.240.24
Jan 31 12:50:22 storj1 ntpd[406]: Soliciting pool server 134.249.140.99
Jan 31 12:50:22 storj1 kernel: [ 5.250722] scsi host3: iSCSI Initiator over TCP/IP
Jan 31 12:50:22 storj1 ntpd[406]: Soliciting pool server 91.236.251.12
Jan 31 12:50:22 storj1 ntpd[406]: Soliciting pool server 91.236.251.11
Jan 31 12:50:22 storj1 ntpd[406]: Listen normally on 7 ens18 [fe80::10c7:ccff:fe4e:7a76%2]:123
Jan 31 12:50:22 storj1 ntpd[406]: new interface(s) found: waking up resolver
Jan 31 12:50:22 storj1 ntpd[406]: Soliciting pool server 185.102.185.102
Jan 31 12:50:23 storj1 kernel: [ 6.293923] scsi 3:0:0:0: Direct-Access FreeBSD iSCSI DISK 0001 PQ: 0 ANSI: 5
Jan 31 12:50:23 storj1 kernel: [ 6.295330] sd 3:0:0:0: Attached scsi generic sg1 type 0
Jan 31 12:50:23 storj1 kernel: [ 6.295526] sd 3:0:0:0: Power-on or device reset occurred
Jan 31 12:50:23 storj1 kernel: [ 6.297656] sd 3:0:0:0: [sdb] 941621248 4096-byte logical blocks: (3.86 TB/3.51 TiB)
Jan 31 12:50:23 storj1 kernel: [ 6.297983] sd 3:0:0:0: [sdb] Write Protect is off
Jan 31 12:50:23 storj1 kernel: [ 6.297985] sd 3:0:0:0: [sdb] Mode Sense: 83 00 00 08
Jan 31 12:50:23 storj1 iscsiadm[319]: Logging in to [iface: default, target: iqn.cloud.zhyr.nas:storj1, portal: 10.1.1.3,3260] (multiple)
Jan 31 12:50:23 storj1 iscsiadm[319]: Login to [iface: default, target: iqn.cloud.zhyr.nas:storj1, portal: 10.1.1.3,3260] successful.
Jan 31 12:50:23 storj1 kernel: [ 6.298742] sd 3:0:0:0: [sdb] Write cache: enabled, read cache: enabled, doesn’t support DPO or FUA
Jan 31 12:50:23 storj1 kernel: [ 6.299541] sd 3:0:0:0: [sdb] Optimal transfer size 1048576 bytes
Jan 31 12:50:23 storj1 systemd[1]: Started Login to default iSCSI targets.
Jan 31 12:50:23 storj1 systemd[1]: Reached target Remote File Systems (Pre).
Jan 31 12:50:23 storj1 kernel: [ 6.308682] sd 3:0:0:0: [sdb] Attached SCSI disk
Jan 31 12:50:23 storj1 ntpd[406]: Soliciting pool server 195.34.204.246
Jan 31 12:50:23 storj1 ntpd[406]: Soliciting pool server 195.34.204.246
Jan 31 12:50:23 storj1 ntpd[406]: Soliciting pool server 91.236.251.58
Jan 31 12:50:24 storj1 systemd[1]: Found device iSCSI_DISK.
Jan 31 12:50:24 storj1 systemd[1]: mnt-storj1.mount: Directory /mnt/storj1 to mount over is not empty, mounting anyway.
Jan 31 12:50:24 storj1 systemd[1]: Mounting /mnt/storj1…
Jan 31 12:50:24 storj1 iscsid: Connection1:0 to [target: iqn.cloud.zhyr.nas:storj1, portal: 10.1.1.3,3260] through [iface: default] is operational now
Jan 31 12:50:24 storj1 ntpd[406]: Soliciting pool server 195.78.244.50
Jan 31 12:50:24 storj1 ntpd[406]: Soliciting pool server 193.27.208.100
Jan 31 12:50:24 storj1 ntpd[406]: Soliciting pool server 162.159.200.1
Jan 31 12:50:25 storj1 kernel: [ 8.187187] random: crng init done
Jan 31 12:50:25 storj1 kernel: [ 8.187207] random: 7 urandom warning(s) missed due to ratelimiting
Jan 31 12:50:25 storj1 systemd[1]: Started OpenBSD Secure Shell server.
Jan 31 12:50:25 storj1 dockerd[411]: time=“2020-01-31T12:50:25.841790940+02:00” level=info msg=“Starting up”
Jan 31 12:50:25 storj1 kernel: [ 8.336199] audit: type=1400 audit(1580467825.871:5): apparmor=“STATUS” operation=“profile_load” profile=“unconfined” name=“docker-default” pi$
Jan 31 12:50:25 storj1 dockerd[411]: time=“2020-01-31T12:50:25.878570067+02:00” level=info msg=“parsed scheme: “unix”” module=grpc
Jan 31 12:50:25 storj1 dockerd[411]: time=“2020-01-31T12:50:25.878749682+02:00” level=info msg=“scheme “unix” not registered, fallback to default scheme” module=grpc
Jan 31 12:50:25 storj1 dockerd[411]: time=“2020-01-31T12:50:25.878912122+02:00” level=info msg=“ccResolverWrapper: sending update to cc: {[{unix:///run/containerd/containerd.so$
Jan 31 12:50:25 storj1 dockerd[411]: time=“2020-01-31T12:50:25.878951093+02:00” level=info msg=“ClientConn switching balancer to “pick_first”” module=grpc
Jan 31 12:50:25 storj1 dockerd[411]: time=“2020-01-31T12:50:25.888748753+02:00” level=info msg=“parsed scheme: “unix”” module=grpc
Jan 31 12:50:25 storj1 dockerd[411]: time=“2020-01-31T12:50:25.888957063+02:00” level=info msg=“scheme “unix” not registered, fallback to default scheme” module=grpc
Jan 31 12:50:25 storj1 dockerd[411]: time=“2020-01-31T12:50:25.889173100+02:00” level=info msg=“ccResolverWrapper: sending update to cc: {[{unix:///run/containerd/containerd.so$
Jan 31 12:50:25 storj1 dockerd[411]: time=“2020-01-31T12:50:25.889380865+02:00” level=info msg=“ClientConn switching balancer to “pick_first”” module=grpc
Jan 31 12:50:25 storj1 dockerd[411]: time=“2020-01-31T12:50:25.897960462+02:00” level=info msg=”[graphdriver] using prior storage driver: overlay2”
Jan 31 12:50:25 storj1 ntpd[406]: Soliciting pool server 193.106.144.7
Jan 31 12:50:25 storj1 dockerd[411]: time=“2020-01-31T12:50:25.970241272+02:00” level=warning msg=“Your kernel does not support swap memory limit”
Jan 31 12:50:25 storj1 dockerd[411]: time=“2020-01-31T12:50:25.970286250+02:00” level=warning msg=“Your kernel does not support cgroup rt period”
Jan 31 12:50:25 storj1 dockerd[411]: time=“2020-01-31T12:50:25.970309005+02:00” level=warning msg=“Your kernel does not support cgroup rt runtime”
Jan 31 12:50:25 storj1 dockerd[411]: time=“2020-01-31T12:50:25.970583240+02:00” level=info msg=“Loading containers: start.”
Jan 31 12:50:26 storj1 kernel: [ 8.479830] bridge: filtering via arp/ip/ip6tables is no longer available by default. Update your scripts to load br_netfilter if you need thi$
Jan 31 12:50:26 storj1 kernel: [ 8.485432] Bridge firewalling registered
Jan 31 12:50:26 storj1 kernel: [ 8.752070] Initializing XFRM netlink socket
Jan 31 12:50:26 storj1 systemd-udevd[250]: Using default interface naming scheme ‘v240’.
Jan 31 12:50:26 storj1 systemd-udevd[250]: link_config: autonegotiation is unset or enabled, the speed and duplex are not writable.
Jan 31 12:50:26 storj1 kernel: [ 8.947377] IPv6: ADDRCONF(NETDEV_UP): docker0: link is not ready
Jan 31 12:50:26 storj1 dockerd[411]: time=“2020-01-31T12:50:26.686203383+02:00” level=info msg=“Default bridge (docker0) is assigned with an IP address 172.17.0.0/16. Daemon op$
Jan 31 12:50:26 storj1 kernel: [ 9.229893] docker0: port 1(veth2a56afb) entered blocking state
Jan 31 12:50:26 storj1 kernel: [ 9.229895] docker0: port 1(veth2a56afb) entered disabled state
Jan 31 12:50:26 storj1 kernel: [ 9.229954] device veth2a56afb entered promiscuous mode
Jan 31 12:50:26 storj1 kernel: [ 9.230088] IPv6: ADDRCONF(NETDEV_UP): veth2a56afb: link is not ready
Jan 31 12:50:26 storj1 kernel: [ 9.230091] docker0: port 1(veth2a56afb) entered blocking state
Jan 31 12:50:26 storj1 kernel: [ 9.230092] docker0: port 1(veth2a56afb) entered forwarding state
Jan 31 12:50:26 storj1 kernel: [ 9.230144] docker0: port 1(veth2a56afb) entered disabled state
Jan 31 12:50:26 storj1 systemd-udevd[250]: link_config: autonegotiation is unset or enabled, the speed and duplex are not writable.
Jan 31 12:50:26 storj1 systemd-udevd[250]: Could not generate persistent MAC address for vethc6a5907: No such file or directory
Jan 31 12:50:26 storj1 systemd-udevd[273]: link_config: autonegotiation is unset or enabled, the speed and duplex are not writable.
Jan 31 12:50:26 storj1 systemd-udevd[273]: Using default interface naming scheme ‘v240’.
Jan 31 12:50:26 storj1 systemd-udevd[273]: Could not generate persistent MAC address for veth2a56afb: No such file or directory
Jan 31 12:50:26 storj1 systemd-udevd[251]: link_config: autonegotiation is unset or enabled, the speed and duplex are not writable.
Jan 31 12:50:26 storj1 systemd-udevd[264]: link_config: autonegotiation is unset or enabled, the speed and duplex are not writable.
Jan 31 12:50:26 storj1 systemd-udevd[264]: Using default interface naming scheme ‘v240’.
Jan 31 12:50:26 storj1 systemd-udevd[251]: Using default interface naming scheme ‘v240’.
Jan 31 12:50:26 storj1 systemd-udevd[264]: Could not generate persistent MAC address for veth9487869: No such file or directory
Jan 31 12:50:26 storj1 systemd-udevd[251]: Could not generate persistent MAC address for veth4d096c4: No such file or directory
Jan 31 12:50:26 storj1 kernel: [ 9.234340] docker0: port 2(veth4d096c4) entered blocking state
Jan 31 12:50:26 storj1 kernel: [ 9.234341] docker0: port 2(veth4d096c4) entered disabled state
Jan 31 12:50:26 storj1 kernel: [ 9.234372] device veth4d096c4 entered promiscuous mode
Jan 31 12:50:26 storj1 kernel: [ 9.234414] IPv6: ADDRCONF(NETDEV_UP): veth4d096c4: link is not ready
Jan 31 12:50:26 storj1 kernel: [ 9.234416] docker0: port 2(veth4d096c4) entered blocking state
Jan 31 12:50:26 storj1 kernel: [ 9.234417] docker0: port 2(veth4d096c4) entered forwarding state
Jan 31 12:50:26 storj1 kernel: [ 9.234431] IPv6: ADDRCONF(NETDEV_CHANGE): docker0: link becomes ready
Jan 31 12:50:26 storj1 kernel: [ 9.235325] docker0: port 2(veth4d096c4) entered disabled state
Jan 31 12:50:26 storj1 containerd[409]: time=“2020-01-31T12:50:26.847243700+02:00” level=info msg=“shim containerd-shim started” address=”/containerd-shim/moby/8ce66e8aed33eea5$
Jan 31 12:50:26 storj1 ntpd[406]: Soliciting pool server 2606:4700:f1::1
Jan 31 12:50:26 storj1 containerd[409]: time=“2020-01-31T12:50:26.959133935+02:00” level=info msg=“shim containerd-shim started” address="/containerd-shim/moby/ec788144db039d47$
Jan 31 12:50:27 storj1 kernel: [ 9.651650] eth0: renamed from vethc6a5907
Jan 31 12:50:27 storj1 kernel: [ 9.666533] IPv6: ADDRCONF(NETDEV_CHANGE): veth2a56afb: link becomes ready
Jan 31 12:50:27 storj1 kernel: [ 9.666573] docker0: port 1(veth2a56afb) entered blocking state
Jan 31 12:50:27 storj1 kernel: [ 9.666575] docker0: port 1(veth2a56afb) entered forwarding state
Jan 31 12:50:27 storj1 kernel: [ 9.682542] eth0: renamed from veth9487869
Jan 31 12:50:27 storj1 kernel: [ 9.698807] IPv6: ADDRCONF(NETDEV_CHANGE): veth4d096c4: link becomes ready
Jan 31 12:50:27 storj1 kernel: [ 9.698844] docker0: port 2(veth4d096c4) entered blocking state
Jan 31 12:50:27 storj1 kernel: [ 9.698845] docker0: port 2(veth4d096c4) entered forwarding state
Jan 31 12:50:27 storj1 dockerd[411]: time=“2020-01-31T12:50:27.365641344+02:00” level=info msg=“Loading containers: done.”
Jan 31 12:50:27 storj1 dockerd[411]: time=“2020-01-31T12:50:27.432509362+02:00” level=info msg=“Docker daemon” commit=633a0ea838 graphdriver(s)=overlay2 version=19.03.5
Jan 31 12:50:27 storj1 dockerd[411]: time=“2020-01-31T12:50:27.432844236+02:00” level=info msg=“Daemon has completed initialization”
Jan 31 12:50:27 storj1 dockerd[411]: time=“2020-01-31T12:50:27.459208529+02:00” level=info msg=“API listen on /var/run/docker.sock”
Jan 31 12:50:27 storj1 systemd[1]: Started Docker Application Container Engine.
Jan 31 12:50:29 storj1 ntpd[406]: receive: Unexpected origin timestamp 0xe1de84f4.e917f489 does not match aorg 0000000000.00000000 from server@193.106.144.7 xmt 0xe1de84f5.7b35$
Jan 31 12:50:31 storj1 ntpd[406]: Listen normally on 8 docker0 172.17.0.1:123
Jan 31 12:50:31 storj1 ntpd[406]: Listen normally on 9 docker0 [fe80::42:22ff:fe13:dcf6%3]:123
Jan 31 12:50:31 storj1 ntpd[406]: Listen normally on 10 veth2a56afb [fe80::58e3:41ff:fe40:baec%5]:123
Jan 31 12:50:31 storj1 ntpd[406]: Listen normally on 11 veth4d096c4 [fe80::24ea:b6ff:fed9:99c1%7]:123
Jan 31 12:50:31 storj1 ntpd[406]: new interface(s) found: waking up resolver
Jan 31 12:50:32 storj1 kernel: [ 14.073328] EXT4-fs (sdb): recovery complete
Jan 31 12:50:32 storj1 kernel: [ 14.074487] EXT4-fs (sdb): mounting with “discard” option, but the device does not support discard
Jan 31 12:50:32 storj1 kernel: [ 14.074489] EXT4-fs (sdb): mounted filesystem with ordered data mode. Opts: discard
Jan 31 12:50:32 storj1 systemd[1]: Mounted /mnt/storj1.
Jan 31 12:50:32 storj1 systemd[1]: Reached target Remote File Systems.
Jan 31 12:50:32 storj1 systemd[1]: Starting Permit User Sessions…
Jan 31 12:50:32 storj1 systemd[1]: Starting LSB: disk temperature monitoring daemon…
Jan 31 12:50:32 storj1 cron[859]: (CRON) INFO (pidfile fd = 3)
Jan 31 12:50:32 storj1 systemd[1]: Started Regular background program processing daemon.
Jan 31 12:50:32 storj1 systemd[1]: Started Permit User Sessions.
Jan 31 12:50:32 storj1 systemd[1]: Started Getty on tty1.
Jan 31 12:50:32 storj1 systemd[1]: Reached target Login Prompts.
Jan 31 12:50:32 storj1 cron[859]: (CRON) INFO (Running @reboot jobs)
Jan 31 12:50:32 storj1 systemd[1]: Started LSB: disk temperature monitoring daemon.
Jan 31 12:50:32 storj1 systemd[1]: Reached target Multi-User System.
Jan 31 12:50:32 storj1 systemd[1]: Reached target Graphical Interface.
Jan 31 12:50:32 storj1 systemd[1]: Starting Update UTMP about System Runlevel Changes…
Jan 31 12:50:32 storj1 systemd[1]: systemd-update-utmp-runlevel.service: Succeeded.
Jan 31 12:50:32 storj1 systemd[1]: Started Update UTMP about System Runlevel Changes.
Jan 31 12:50:32 storj1 systemd[1]: Startup finished in 1.695s (kernel) + 12.402s (userspace) = 14.097s.
Jan 31 12:50:38 storj1 systemd[1]: Created slice User Slice of UID 0.
Jan 31 12:50:38 storj1 systemd[1]: Starting User Runtime Directory /run/user/0…
Jan 31 12:50:38 storj1 systemd[1]: Started User Runtime Directory /run/user/0.
Jan 31 12:50:38 storj1 systemd[1]: Starting User Manager for UID 0…
Jan 31 12:50:38 storj1 systemd[937]: Reached target Paths.
Jan 31 12:50:38 storj1 systemd[937]: Reached target Timers.
Jan 31 12:50:38 storj1 systemd[937]: Listening on GnuPG cryptographic agent and passphrase cache.
Jan 31 12:50:38 storj1 systemd[937]: Listening on GnuPG cryptographic agent (ssh-agent emulation).
Jan 31 12:50:38 storj1 systemd[937]: Listening on GnuPG cryptographic agent and passphrase cache (restricted).
Jan 31 12:50:38 storj1 systemd[937]: Listening on GnuPG network certificate management daemon.
Jan 31 12:50:38 storj1 systemd[937]: Listening on GnuPG cryptographic agent and passphrase cache (access for web browsers).
Jan 31 12:50:38 storj1 systemd[937]: Reached target Sockets.
Jan 31 12:50:38 storj1 systemd[937]: Reached target Basic System.
Jan 31 12:50:38 storj1 systemd[937]: Reached target Default.
Jan 31 12:50:38 storj1 systemd[937]: Startup finished in 76ms.
Blockquote
Вопросы
- Почему оно до этого работало ок?
- Нода 3 недели как прошла ветинг… Убивать ее, она уже смысла не имеет?
----------------------------------------------------------------------333333333333333333-----------------------------------
На практике данное решение оказалось не надежным и не важно, будет жить эта нода дальше или нет хочу ухнать
-
Есть у разработчиков “рецепт” правилього варианта разворачивания ноды, дабы раз настроил и забыл почти навсегда… пришел, когда захотел мягко и безкровно дать больше места? Желательно, что б оно не просило допресурсов, а жило на существующем с МАКСИМАЛЬНОЙ НАДЕЖНОСТЬЮ, как сохранности данных, так и работоспособности?
Прошу поделится ним -
Если мне оставлять все как есть, может есть мысли у кого, что сделать что б не поймать такой глюк в будущем?
Можно не запускать докер, пока при загрузке не проверится и примаунтится iSCSI?
Или как-то скриптом стартовать докер только после проверки, примонтировался ли том?
Или что б загрузка системы становилась колом пока не примаунтится iSCSI?
Как правильнее? -
storj впринципе можно в заданных условиях первой части сапоортить надежно?
-
Собираю советы, как правильнее все перестроить, дабы и данные не терять в случае смерти ОДНОГО диска… и не выделять дополнительную вереницу дисков ТОЛЬКО для storj.