Počínající nedostatek volného místa na disku #48

Open
opened 2020-11-23 07:12:09 +01:00 by Disassembler · 18 comments
Disassembler commented 2020-11-23 07:12:09 +01:00 (Migrated from git.spotter.cz)

@Podhorecky: V noci mi přišlo první varování ze serveru u Hetznerů, že disk je zaplněn z 91 %, t.j. je obsazeno 66 GiB z dostupných 76 GiB. Uklidil jsem tam různé cache, dočasná úložiště, lokální kopie instalačních balíků a vygumoval staré logy operačního systému, čímž využití spadlo na 60 GB. S daty se to teď má takhle:

Data Listopad 2020 Říjen 2022
Data NextCloudu 30 GB 28 GB
Data SeedDMS 4,8 GB 4,9 GB
Data Pandora 3,2 GB -
Data GitLabu - 0,9 GB
Data OnlyOffice 0,4 GB 0,4 GB
Data Decidimu 0,2 GB 0,4 GB
Data Odoo 0,1 GB 0,4 GB
Webové prezentace 4,1 GB 5,3 GB
Lokální zálohy wordpressu 0,5 GB 1,1 GB
Maily 0,1 GB 0,1 GB
LXC kontejnery 4,4 GB 4,7 GB
LXD kontejnery 5,8 GB -
Podman kontejnery - 12,3 GB
PostgreSQL databáze 0,5 GB 0,4 GB
MySQL databáze 0,3 GB 0,2 GB
Antivirová databáze 0,7 GB 0,7 GB
Logy aplikací, služeb a OS 0,5 GB 1 GB
Operační systém, služby, konfigurace atd. 4 GB 4 GB
Swapovací prostor 1 GB 2 GB

Pokud hodláme při upgrade serveru (#44) přecházet na vyšší hostingový tarif CX41, budeme tam mít 160 GB (152 GiB) diskového prostoru, takže nářek výše můžete považoavt za bezpředmětný. Pokud zůstaneme u stávajícího tarifu, budete se muset s těmi daty trochu krotit nebo musíme něco omezit, případně úplně zrušit. Třeba to Odoo můžeme zazálohovat u mě nebo u Vás mimo server, čímž sundáme nějaký ten gigabajt z LXC/LXD kontejnerů. Očekávám, že konsolidace kontejnerů, kterou budu dělat během upgrade, nám taky trochu místa získá.

@Podhorecky: V noci mi přišlo první varování ze serveru u Hetznerů, že disk je zaplněn z 91 %, t.j. je obsazeno 66 GiB z dostupných 76 GiB. Uklidil jsem tam různé cache, dočasná úložiště, lokální kopie instalačních balíků a vygumoval staré logy operačního systému, čímž využití spadlo na 60 GB. S daty se to teď má takhle: | Data | Listopad 2020 | Říjen 2022 | | ------ | ------ | ------ | | Data NextCloudu | 30 GB | 28 GB | | Data SeedDMS | 4,8 GB | 4,9 GB | | Data Pandora | 3,2 GB | - | | Data GitLabu | - | 0,9 GB | | Data OnlyOffice | 0,4 GB | 0,4 GB | | Data Decidimu | 0,2 GB | 0,4 GB | | Data Odoo | 0,1 GB | 0,4 GB | | Webové prezentace | 4,1 GB | 5,3 GB | | Lokální zálohy wordpressu | 0,5 GB | 1,1 GB | | Maily | 0,1 GB | 0,1 GB | | LXC kontejnery | 4,4 GB | 4,7 GB | | LXD kontejnery | 5,8 GB | - | | Podman kontejnery | - | 12,3 GB | | PostgreSQL databáze | 0,5 GB | 0,4 GB | | MySQL databáze | 0,3 GB | 0,2 GB | | Antivirová databáze | 0,7 GB | 0,7 GB | | Logy aplikací, služeb a OS | 0,5 GB | 1 GB | | Operační systém, služby, konfigurace atd. | 4 GB | 4 GB | | Swapovací prostor | 1 GB | 2 GB | Pokud hodláme při upgrade serveru (#44) přecházet na vyšší hostingový tarif CX41, budeme tam mít 160 GB (152 GiB) diskového prostoru, takže nářek výše můžete považoavt za bezpředmětný. Pokud zůstaneme u stávajícího tarifu, budete se muset s těmi daty trochu krotit nebo musíme něco omezit, případně úplně zrušit. Třeba to Odoo můžeme zazálohovat u mě nebo u Vás mimo server, čímž sundáme nějaký ten gigabajt z LXC/LXD kontejnerů. Očekávám, že konsolidace kontejnerů, kterou budu dělat během upgrade, nám taky trochu místa získá.
Podhorecky commented 2020-11-23 11:32:39 +01:00 (Migrated from git.spotter.cz)

Děkuji za zprávu! Zaplnění jsem nárazově spáchal já, protože jsem chtěl odzálohovat svá data z notebooku. Plánuji zbavit se W7 a přejít na Lubuntu, protože W7 už mi poměrně dost obtěžují tím, jak spouští procesy kdejakého antiviru a podobně. To vytváří dojem, že HW je stále pomalejší a ntb plečka má málo (4GB) paměti další práci.

Operaci W7 --> Lubuntu se odvážím asi do týdne. Další skokový nárůst dat na serveru ode mne v blízké době nebude, spíš to jetě lehce promažu. Takže pokud bychom vydrželi s kapacitou dosavadního tarifu hostingu, tak fajn. MUsím najít střídmé optimum aby budoucí nárůst dat nebyl nekontrolovatelný.

Vaši operaci považuji za sofistikované kung-fu, takže kdybyste na to potřeboval víc místa, dají se odmazat data Pandora.

Děkuji za zprávu! Zaplnění jsem nárazově spáchal já, protože jsem chtěl odzálohovat svá data z notebooku. Plánuji zbavit se W7 a přejít na Lubuntu, protože W7 už mi poměrně dost obtěžují tím, jak spouští procesy kdejakého antiviru a podobně. To vytváří dojem, že HW je stále pomalejší a ntb plečka má málo (4GB) paměti další práci. Operaci W7 --> Lubuntu se odvážím asi do týdne. Další skokový nárůst dat na serveru ode mne v blízké době nebude, spíš to jetě lehce promažu. Takže pokud bychom vydrželi s kapacitou dosavadního tarifu hostingu, tak fajn. MUsím najít střídmé optimum aby budoucí nárůst dat nebyl nekontrolovatelný. Vaši operaci považuji za sofistikované kung-fu, takže kdybyste na to potřeboval víc místa, dají se odmazat data Pandora.
Disassembler commented 2021-01-09 22:40:09 +01:00 (Migrated from git.spotter.cz)

Po upgrade máme obsazeno 54 GB, což je upřímně řečeno poněkud zvláštní, protože jsme se zbavili prakticky pouze dat Pan.do/ra a všechna ostatní čísla máme téměř stejná, některá dokonce i o malinko vyšší. Nicméně i tak jsme někde vyčarovali další 3 GB volného místa, takže si nestěžuji a zavírám issue. Stále platí, že se systémovými prostředky jsme skoro na hraně, takže s dalšími velkými plány opatrně.

Kdyby byl potřeba diskový prostor například na nějaké zálohy nebo jiná data, která nejsou příliš živá, Hetzner nabízí i storage boxy přístupné přes všelijaké protokoly - https://www.hetzner.com/storage/storage-box - startují na 100 GB prostoru za 3,45 EUR měsíčně, což je dneska sotva cena jednoho oběda. Tak kdybychom se nemohli vejít na server, můžete třeba ty Vaše zálohy z Maca nebo podobné záležitosti odstěhovat tam. Jestli správně počítám, je to výhodnější i než nějaké Google a Amazon cloudy a jiné OneDrivy.

Po upgrade máme obsazeno 54 GB, což je upřímně řečeno poněkud zvláštní, protože jsme se zbavili prakticky pouze dat Pan.do/ra a všechna ostatní čísla máme téměř stejná, některá dokonce i o malinko vyšší. Nicméně i tak jsme někde vyčarovali další 3 GB volného místa, takže si nestěžuji a zavírám issue. Stále platí, že se systémovými prostředky jsme skoro na hraně, takže s dalšími velkými plány opatrně. Kdyby byl potřeba diskový prostor například na nějaké zálohy nebo jiná data, která nejsou příliš živá, Hetzner nabízí i storage boxy přístupné přes všelijaké protokoly - https://www.hetzner.com/storage/storage-box - startují na 100 GB prostoru za 3,45 EUR měsíčně, což je dneska sotva cena jednoho oběda. Tak kdybychom se nemohli vejít na server, můžete třeba ty Vaše zálohy z Maca nebo podobné záležitosti odstěhovat tam. Jestli správně počítám, je to výhodnější i než nějaké Google a Amazon cloudy a jiné OneDrivy.
Disassembler (Migrated from git.spotter.cz) closed this issue 2021-01-09 22:40:10 +01:00
Podhorecky commented 2021-01-10 14:25:01 +01:00 (Migrated from git.spotter.cz)

ok, díky za info. S mými daty v nejbližší době neplánuji žádné velké přírůstky. Ale info o záloze dobré vědět.
Obavu spíš mám při budoucím pokusu o import testovacích dat do DHS2, v dokumentaci na sebe prozradili, že operace s daty je rozežraná na odkládací prostor (což chápu a nevyčítám jim to) To zjistim možná někdy najaře a včas promyslím.

odhaduji že až mi budete posílat fakturu, tak už se budete moct zbavit nějakých fousatých snapshotů, které bych stejně nevyužil.

ok, díky za info. S mými daty v nejbližší době neplánuji žádné velké přírůstky. Ale info o záloze dobré vědět. Obavu spíš mám při budoucím pokusu o import testovacích dat do DHS2, v dokumentaci na sebe prozradili, že operace s daty je rozežraná na odkládací prostor (což chápu a nevyčítám jim to) To zjistim možná někdy najaře a včas promyslím. odhaduji že až mi budete posílat fakturu, tak už se budete moct zbavit nějakých fousatých snapshotů, které bych stejně nevyužil.
Podhorecky commented 2021-04-02 02:58:57 +02:00 (Migrated from git.spotter.cz)

aktuálně je na https://play.dhis2.org/ demoverze DHIS2 2.35.3 včetně českého jazyka rozhraní. Není tam další lokalizace metadat. Plánovat další postup je docela na vodě.

Vzhledem k vývoji situace která je tradičně "fantastická" mne napadá zbavit se DHIS2 na Hetznerovi a místo zaplnit s pomocí CoopCycle. Jsem schopen ještě odebrat pár GB z úložitě NextCLoudu.

aktuálně je na https://play.dhis2.org/ demoverze DHIS2 2.35.3 včetně českého jazyka rozhraní. Není tam další lokalizace metadat. Plánovat další postup je docela na vodě. Vzhledem k vývoji situace která je tradičně "fantastická" mne napadá zbavit se DHIS2 na Hetznerovi a místo zaplnit s pomocí CoopCycle. Jsem schopen ještě odebrat pár GB z úložitě NextCLoudu.
Podhorecky (Migrated from git.spotter.cz) reopened this issue 2021-04-02 02:58:58 +02:00
Disassembler commented 2021-04-02 06:30:24 +02:00 (Migrated from git.spotter.cz)

No to ale se ten CoopCycle musí nejdřív někdo naučit instalovat a konfigurovat, přebalit do kontejnerů kterým rozumí LXC, vytvořit pro něj skripty atd. Zatím máme v repozitáři přesně 0 řádků týkajících se CoopCycle a jediné, co jsme s ním kdy dělali bylo, že jsem jej někdy v srpnu 2019 experimentálně nainstaloval ve výchozí konfiguraci do Dockeru běžícího na hypervizoru u mě, a Vy jste si jej osahal, což nakonec dopadlo poněkud neslavně.

Takže i kdybyste se pro variantu nahrazení DHISu CoopCyclem rozhodl, nedokážu Vám říct v jakém časovém horizontu bych byl schopen to realizovat.

No to ale se ten CoopCycle musí nejdřív někdo naučit instalovat a konfigurovat, přebalit do kontejnerů kterým rozumí LXC, vytvořit pro něj skripty atd. Zatím máme v repozitáři přesně 0 řádků týkajících se CoopCycle a jediné, co jsme s ním kdy dělali bylo, že jsem jej někdy v srpnu 2019 experimentálně nainstaloval ve výchozí konfiguraci do Dockeru běžícího na hypervizoru u mě, a Vy jste si jej osahal, což nakonec dopadlo poněkud neslavně. Takže i kdybyste se pro variantu nahrazení DHISu CoopCyclem rozhodl, nedokážu Vám říct v jakém časovém horizontu bych byl schopen to realizovat.
Podhorecky commented 2021-04-02 11:00:23 +02:00 (Migrated from git.spotter.cz)

máte pravdu, už mi vyprchalo jak narychlo jste to tenkrát udělal. Přemýšlím co dál, proto vytahuji tyhle testovací nápady a uvažuji coby-kdyby. Je to bez zpětné vazby na celý systém úvah takové žonglování s jedním míčkem, v cirkuse bez diváků. Nenaléhám, zkusím se poptat o pomoc.

máte pravdu, už mi vyprchalo jak narychlo jste to tenkrát udělal. Přemýšlím co dál, proto vytahuji tyhle testovací nápady a uvažuji coby-kdyby. Je to bez zpětné vazby na celý systém úvah takové žonglování s jedním míčkem, v cirkuse bez diváků. Nenaléhám, zkusím se poptat o pomoc.
Podhorecky commented 2021-04-17 11:42:01 +02:00 (Migrated from git.spotter.cz)

aktuálně na Hetznerovi kontejnerované site nedostupné, ostatní site dostupné.

aktuálně na Hetznerovi kontejnerované site nedostupné, ostatní site dostupné.
Disassembler commented 2021-04-17 11:46:38 +02:00 (Migrated from git.spotter.cz)

Opraveno. Nějaká podivná anomálie při běžném upgrade a restartu. Zkusím odpoledne zjistit, proč k tomu došlo.

Opraveno. Nějaká podivná anomálie při běžném upgrade a restartu. Zkusím odpoledne zjistit, proč k tomu došlo.
Podhorecky commented 2021-04-17 11:52:42 +02:00 (Migrated from git.spotter.cz)

Děkuji velice!

Děkuji velice!
Podhorecky commented 2021-04-17 12:11:56 +02:00 (Migrated from git.spotter.cz)

Při té příležitosti je možné vyatomovat DHIS2 a doménu trendspotter.cz zanechat ladem na příležitostně jiné pokusy.

Při té příležitosti je možné vyatomovat DHIS2 a doménu trendspotter.cz zanechat ladem na příležitostně jiné pokusy.
Podhorecky commented 2021-04-17 14:02:21 +02:00 (Migrated from git.spotter.cz)

na vině bude pravděpodobně Odoo, které hapalo. Tipuji mírné zvýšení zátěže systemových prostředků, včera jsem páchal nějaké testy.

na vině bude pravděpodobně Odoo, které hapalo. Tipuji mírné zvýšení zátěže systemových prostředků, včera jsem páchal nějaké testy.
Disassembler commented 2021-04-17 23:28:14 +02:00 (Migrated from git.spotter.cz)

No, z logu vidím, že poté, co začaly startovat služby hostitele včetně kontejnerů, se virtuální rozhraní, které tvoří spoj mezi kontejnerem a hostitelem, neuráčilo dostatečně rychle přiřadit do síťového mostu. Takže aplikační kontejner, který by při startu rád komunikoval s databázovým kontejnerem, spadl, protože nemohl. Přesnou příčinu se mi dohledat nepodařilo, každopádně konfigurace se neměnila, takže si pohlídám, jestli se to náhodou nestane i příště a kdyžtak budu pátrat dál.

vyatomovat DHIS2

💥 (wiki aktualizována)

No, z logu vidím, že poté, co začaly startovat služby hostitele včetně kontejnerů, se virtuální rozhraní, které tvoří spoj mezi kontejnerem a hostitelem, neuráčilo dostatečně rychle přiřadit do síťového mostu. Takže aplikační kontejner, který by při startu rád komunikoval s databázovým kontejnerem, spadl, protože nemohl. Přesnou příčinu se mi dohledat nepodařilo, každopádně konfigurace se neměnila, takže si pohlídám, jestli se to náhodou nestane i příště a kdyžtak budu pátrat dál. > vyatomovat DHIS2 :boom: (wiki aktualizována)
Podhorecky commented 2021-04-18 12:33:34 +02:00 (Migrated from git.spotter.cz)

zajímavé, vypadá to že Odoo má nějaký opakovaný problém. Od posledního vašeho nahození jsem s ním nic nedělal, teď vypadá že si hoví. Naštěstí to neni nic neodkladného

zajímavé, vypadá to že Odoo má nějaký opakovaný problém. Od posledního vašeho nahození jsem s ním nic nedělal, teď vypadá že si hoví. Naštěstí to neni nic neodkladného
Disassembler commented 2022-10-08 11:53:50 +02:00 (Migrated from git.spotter.cz)

changed the description

changed the description
Disassembler commented 2022-10-08 12:00:34 +02:00 (Migrated from git.spotter.cz)

Stav služeb obnoven, všechny aplikace a kontejnery jsou opět funkční. GitLab se zakousl skutečně kvalitně, takže jsem u něj musel obnovovat ze zálohy až z 3.10. Pokud jste si tento týden stihl něco poznamenat do GitLabu, dejte vědět a zkusím to vydolovat z té dnešní zbořené databáze.

Provedl jsem hloubkový úklid a vyšťoural veškeré možné volné místo. Disk je v součsnosti zaplněn z 93 %, takže počítám, že vydrží tak do Vánoc, než se zase něco ukrutně posere. Aktualizoval jsem tabulku v původním popisu tohoto issue aktuálními daty. GitLab stále zůstává veřejným nepřítelem číslo jedna, co se užírání systemových prostředků týče.

Stav služeb obnoven, všechny aplikace a kontejnery jsou opět funkční. GitLab se zakousl skutečně kvalitně, takže jsem u něj musel obnovovat ze zálohy až z 3.10. Pokud jste si tento týden stihl něco poznamenat do GitLabu, dejte vědět a zkusím to vydolovat z té dnešní zbořené databáze. Provedl jsem hloubkový úklid a vyšťoural veškeré možné volné místo. Disk je v součsnosti zaplněn z 93 %, takže počítám, že vydrží tak do Vánoc, než se zase něco ukrutně posere. Aktualizoval jsem tabulku v původním popisu tohoto issue aktuálními daty. GitLab stále zůstává veřejným nepřítelem číslo jedna, co se užírání systemových prostředků týče.
Disassembler commented 2022-10-08 12:01:54 +02:00 (Migrated from git.spotter.cz)

changed the description

changed the description
Podhorecky commented 2022-10-08 22:11:13 +02:00 (Migrated from git.spotter.cz)

@Disassembler díky moc za rekonstrukci a taky aktualizaci tabulky. Co se týče GitLabu, můj poslední záznam nestojí za námahu, takže takto vyhovuje.

Jak jste psal ohledně teoretické migrace a Gitea, asi bych proti tomu výhledově nic neměl, jen v tom nedokážu posoudit co bych musel udělat kvuli té migraci. Kdyby toto odlehčení zároveň odlehčilo vám otravné servisní operace, bylo by to ok.

Uvažuji, jak budu zatěžovat stávající hosting v následující době, vypadá to že z mého popudu nevznikne žádná skoková zátěž, takže snad nebudou nečekaná překvapení.
Uvažoval jsem sice o jednorázovém mailingu z mého poštovního serveru směrem na obecní úřady v ČR ve věci Decidim, ale nevim kdy si to troufnu, zrazuje mě především náročná příprava mailů a mizerná efektivita (odhaduji pod 1%) a 99% je pak otravné řešení parazitních jevů. Spíš je pravděpodobnější, že by se doména dostala na blacklist, Takže asi bych to měl zkusit přes mailchimp nebo takněkde.

Moje činnost je teď průběžný překlad SW. Další úvahy co s tím jsou na vodě. Výsledky překladů jsou veřejně nepatrné a pokusy o selfpromo v této činnosti jsou závislé na jiných lidech, které to nezajímá.

Ostatní weby a služby se snažím nedráždit, ale jsem rád že mi běží prakticky bezproblémově. Asi nejzajímavější na nich je ten pocit, že odpovědnost je jen na nás a že bez našeho vědomí tam nikdo cizí nevyváří data a tak podobně,

@Disassembler díky moc za rekonstrukci a taky aktualizaci tabulky. Co se týče GitLabu, můj poslední záznam nestojí za námahu, takže takto vyhovuje. Jak jste psal ohledně teoretické migrace a Gitea, asi bych proti tomu výhledově nic neměl, jen v tom nedokážu posoudit co bych musel udělat kvuli té migraci. Kdyby toto odlehčení zároveň odlehčilo vám otravné servisní operace, bylo by to ok. Uvažuji, jak budu zatěžovat stávající hosting v následující době, vypadá to že z mého popudu nevznikne žádná skoková zátěž, takže snad nebudou nečekaná překvapení. Uvažoval jsem sice o jednorázovém mailingu z mého poštovního serveru směrem na obecní úřady v ČR ve věci Decidim, ale nevim kdy si to troufnu, zrazuje mě především náročná příprava mailů a mizerná efektivita (odhaduji pod 1%) a 99% je pak otravné řešení parazitních jevů. Spíš je pravděpodobnější, že by se doména dostala na blacklist, Takže asi bych to měl zkusit přes mailchimp nebo takněkde. Moje činnost je teď průběžný překlad SW. Další úvahy co s tím jsou na vodě. Výsledky překladů jsou veřejně nepatrné a pokusy o selfpromo v této činnosti jsou závislé na jiných lidech, které to nezajímá. Ostatní weby a služby se snažím nedráždit, ale jsem rád že mi běží prakticky bezproblémově. Asi nejzajímavější na nich je ten pocit, že odpovědnost je jen na nás a že bez našeho vědomí tam nikdo cizí nevyváří data a tak podobně,
Podhorecky commented 2022-10-08 22:24:02 +02:00 (Migrated from git.spotter.cz)

co se týče Odoo aplikace, rád bych ji nechal běžet, protože mám budoucí dilema ohledně provozu živnosti a taknějak varianta je použít ho jako záznam účtních položek. Jistý si nejsem, ale to je už mimo debatu o hostingu.

co se týče Odoo aplikace, rád bych ji nechal běžet, protože mám budoucí dilema ohledně provozu živnosti a taknějak varianta je použít ho jako záznam účtních položek. Jistý si nejsem, ale to je už mimo debatu o hostingu.
Sign in to join this conversation.
No Label
CZ
OSM
pro info
No Milestone
No project
No Assignees
1 Participants
Notifications
Due Date
The due date is invalid or out of range. Please use the format 'yyyy-mm-dd'.

No due date set.

Dependencies

No dependencies set.

Reference: Spotter-Cluster/Hosting#48
No description provided.