Auflistung der Daten:

Datenbanken:

connecting to: mongo08.luan.xres.de/test
mongos> show dbs;
DAF_LIVE_loging 15.9462890625GB
DEV_DEVEL_data  23.9423828125GB
DEV_DEVEL_loging        0.203125GB
DEV_STAGING_data        3.9521484375GB
DEV_STAGING_loging      0.203125GB
FER_LIVE_data   35.9365234375GB
FER_LIVE_loging 117.896484375GB
FER_STAGING_loging      0.203125GB
FOR_LIVE_loging 11.9482421875GB
HOCL_LIVE_data  21.943359375GB
HOCL_LIVE_loging        1.953125GB
JT_LIVE_data    161.875GB
JT_LIVE_loging  57.92578125GB
JT_STAGING_loging       0.453125GB
JT_TEST_loging  (empty)
LMX_LIVE_data   145.8828125GB
LMX_LIVE_loging 169.87109375GB
LMX_STAGING_loging      0.203125GB
LTS_LIVE_loging 273.8203125GB
OPD_LIVE_data   109.900390625GB
OPD_LIVE_loging 43.9326171875GB
OPD_STAGING_loging      0.203125GB
XPUR_LIVE_loging        5.951171875GB


========================================
Database Statistics von oben Rot markierten (AUSGABEN IN GB!) http://docs.mongodb.org/manual/reference/command/dbStats/#dbcmd.dbStats

FER
mongos>db.stats(1024*1024*1024)
{
    "raw" : {
        "production/mongo07:10003,mongo08:10003" : {
            "db" : "FER_LIVE_loging",
            "collections" : 8,
            "objects" : 56529329,
            "avgObjSize" : 2044.447189670339,
            "dataSize" : 107,
            "storageSize" : 110,
            "numExtents" : 123,
            "indexes" : 7,
            "indexSize" : 3,
            "fileSize" : 117,
            "nsSizeMB" : 16,
            "dataFileVersion" : {
                "major" : 4,
                "minor" : 5
            },
            "ok" : 1
        }
    },
    "objects" : 56529329,
    "avgObjSize" : 2044,
    "dataSize" : 107,
    "storageSize" : 110, //Tatsächliche Größe der Collection
    "numExtents" : 123,
    "indexes" : 7,
    "indexSize" : 3,
    "fileSize" : 117,  //Belegt auf der Platte (stoargeSize + Padding etc.)
    "ok" : 1
}


LMX
/* 0 */
{
    "raw" : {
        "production/mongo07:10003,mongo08:10003" : {
            "db" : "LMX_LIVE_loging",
            "collections" : 9,
            "objects" : 60985004,
            "avgObjSize" : 2732.994838731174,
            "dataSize" : 155,
            "storageSize" : 161,
            "numExtents" : 176,
            "indexes" : 8,
            "indexSize" : 3,
            "fileSize" : 169,
            "nsSizeMB" : 16,
            "dataFileVersion" : {
                "major" : 4,
                "minor" : 5
            },
            "ok" : 1
        }
    },
    "objects" : 60985004,
    "avgObjSize" : 2732,
    "dataSize" : 155,
    "storageSize" : 161,
    "numExtents" : 176,
    "indexes" : 8,
    "indexSize" : 3,
    "fileSize" : 169,
    "ok" : 1
}

LTS
{
    "raw" : {
        "production/mongo07:10003,mongo08:10003" : {
            "db" : "LTS_LIVE_loging",
            "collections" : 8,
            "objects" : 25003047,
            "avgObjSize" : 11474.23359320966,
            "dataSize" : 267,
            "storageSize" : 268,
            "numExtents" : 191,
            "indexes" : 8,
            "indexSize" : 1,
            "fileSize" : 273,
            "nsSizeMB" : 16,
            "dataFileVersion" : {
                "major" : 4,
                "minor" : 5
            },
            "ok" : 1
        }
    },
    "objects" : 25003047,
    "avgObjSize" : 11474,
    "dataSize" : 267,
    "storageSize" : 268,
    "numExtents" : 191,
    "indexes" : 8,
    "indexSize" : 1,
    "fileSize" : 273,
    "ok" : 1
}

Betroffen sind hier jewails die process und request collection.



Von SRK nachgefragte Collection von LMX: LMX_LIVE_loging.log_provicer_payload

mongos> db.log_provider_payload.stats(1024*1024*1024)
{
        "sharded" : false,
        "primary" : "production",
        "ns" : "LMX_LIVE_loging.log_provider_payload",
        "count" : 2167248,
        "size" : 57,
        "avgObjSize" : 0.000026300635644836218,
        "storageSize" : 59, //Das hier sind GB
        "numExtents" : 50,
        "nindexes" : 1,
        "lastExtentSize" : 1,
        "paddingFactor" : 1,
        "systemFlags" : 1,
        "userFlags" : 0,
        "totalIndexSize" : 0,
        "indexSizes" : {
                "_id_" : 0
        },
        "ok" : 1
}



Am 30.04.2014 10:40, schrieb Haiko Gerdes:
Hallo Phillip,

danke für Info und Lösung.

Mit freundlichen Grüßen

Haiko Gerdes
- Geschäftsführer -
___________________________________________________________________________
TraSo GmbH
Georg-Schumann-Str. 294
D-04159 / Leipzig

Tel.: +49 341 90 98 7 418 // Fax: +49 341 90 98 749
Mobil: +49 172 610 2849

Internet: http://traso.de E-Mail: h.gerdes@traso.de
___________________________________________________________________________
Geschäftsführer: Haiko Gerdes 
Handelsregister: Amtsgericht Leipzig, HRB 21850


-----Ursprüngliche Nachricht-----
Von: team [mailto:team-bounces@lists.traso.de] Im Auftrag von Phillip Wirth
Gesendet: Mittwoch, 30. April 2014 09:41
An: team@lists.traso.de
Betreff: [Team] Mongo mal wieder

Huhu,

Da einige vielleicht es durch Nagios Meldungen schon mitbekommen haben die Mongo hat noch 1 Woche zu leben bevor sie umkippt weil Platten voll.

SetUp:
SECONDARY: mongo08
PRIMARY: mongo07
jewails mit ~1,6 TB Plattenplatz

Was bisher geschah:
Unsere Vermutung Fragmentierung der Daten.
gestern gegen 11 Uhr am : Krisztian und Ich haben mongo08 's Daten gelöscht, und resyncen lassen.
Gestern Abend habe ich den HBDImporter gestoppt weil das oplog (Quasi das bin log für mongo) sonst too stale würde und mongo08 würde nicht hinterherkommen mit syncen
    - oplog größer machen? Ja! In dem SetUp möglich? Nein. Grund?
Plattenplatz.

Das ging ganz gut, habe jetzt den mongo08 zum master gemacht.
!!!ABER!!!
Die aktuellen unfragmentierten Daten auf mongo08 sind 1,4 TB
du -sh  /var/lib/mongodb/production => 1,4T    /var/lib/mongodb/production

Und zu 1,6TB ist nicht viel Luft nach oben!

Ich habe gestern Abend auch was meinen Bereich betrifft nach unnützen Daten geschaut, aber die Menge ist so gering das es im MB Bereich bleibt.

Aktuell:
HBDImporter gestartet.
Was jetzt ansteht ist der resync von mongo07, das werde ich tun wenn der HBDImporter zu ~90% durchgelaufen ist. Dann ist die Gefahr sehr gering das dass oplog zu stale wird.

Gerade noch mit Soeren gesprochen: Die Caheberechnung und alle anderen Prozesse sollten problemlos weiter laufen.

Viel Spaß,

Phillip



-- 

Mit freundlichen Grüßen
 
Phillip Wirth
 - Entwicklung -
________________________________________________________
TraSo GmbH
 
Georg-Schumann-Str. 294
D-04159 Leipzig

E-Mail: p.wirth@traso.de
Internet: http://www.traso.de
 
________________________________________________________
Geschäftsführer: Haiko Gerdes
Handelsregister: Amtsgericht Leipzig, HRB 21850