owncloud an der technischen universität berlin fazit der ... · owncloud an der tu berlin quota...
TRANSCRIPT
ownCloud an der Technischen Universität Berlin Fazit der ersten 6 Monate
T.Hildmann | tubIT | ownCloud Hochschulworkshop | 16. August 2013
Agenda
- Ausgangslage und Historie (Unser Weg zur ownCloud.)
- Architektur (Hard- und Software, Netzwerkstruktur)
- Nutzerverhalten (Wie wird ownCloud an der TUB benutzt?)
- Systemverhalten (Was sagt die Hardware zu ownCloud?)
- Erfahrungen (ownCloud aus Sicht des IT-Dienstleisters)
- Ausblick (Wie geht es bei uns weiter?)
- Fazit
ownCloud | T. Hildmann | Hochschulworkshop Seite 2
Speichern und Teilen an der TU Berlin 2012 Speicher: Andrew File System (AFS)
Quota persönlich (1 GB pro Studierender, 5 GB pro Mitarbeiter) pro Einrichtung (250 GB) erweiterbar in 1 TB-Schritten Zugriff via AFS-Client (Windows, MacOS X, Linux, ...) WebAFS SFTP via SSH-Gateway http://www.user.tu-berlin.de/<nutzername> Subversion (SVN)
Teilen: GigaMove über DFN-AAI
ownCloud | T. Hildmann | Hochschulworkshop Seite 3
PC/Mac: Nutzbarkeit abhängig von AFS-Client auf OS
Laptop: AFS-Client schwierig, WebAFS als Alternative
Tablet: Ausschließlich über WebAFS. Schlechte Integration!
Server: Sehr gute Nutzbarkeit über AFS-Client
Anz
ahl z
uneh
men
d N
utzbarkeit abnehmend
ownCloud | T. Hildmann | Hochschulworkshop Seite 4
ownCloud an der TU Berlin Quota
– Studierende 10 GB – Mitarbeiterinnen und Mitarbeiter 50 GB – Einrichtungen folgen mit 250 GB
Zugriffsmöglichkeiten
– WebDAV für stationäre Geräte – Sync-Client für Laptops und PCs in fremden Netzen – iOS / Android-Apps für Smartphones und Tablets – Web-GUI für variablen Zugriff von überall
Teilen
– Austausch von Dateien und Ordner inkl. gemeinsamen Arbeiten – einfach über Mailadresse innerhalb der TU Berlin
ownCloud | T. Hildmann | Hochschulworkshop Seite 5
Projekthistorie Anfang 2012: Evaluation von Cloud-Speicheralternativen
– Teamdrive, PowerFolder, ownCloud, ... – zunächst ausgiebige Evaluation von PowerFolder – mit der Version 4.x wird ownCloud erneut interessant
Herbst 2012: – Start eines ownCloud Beta-Tests mit interessierten TUB-Nutzern
Winter 2012 / 2013: – Aufbau der produktiven ownCloud-Infrastruktur – finale Tests mit ownCloud 5.x
2. Mai 2013: – Einladung an über 30.000 Studierende
10. Mai 2013: – Einladung an ca. 10.000 Mitarbeiterinnen und Mitarbeiter
ownCloud | T. Hildmann | Hochschulworkshop Seite 7
SYSTEMARCHITEKTUR ownCloud-Implementierung an der TU Berlin
ownCloud | T. Hildmann | Hochschulworkshop Seite 8
Selektives Load-Balancing Synchroner Mensch-Maschine-Zugriff
– Browser, iOS, Android, WebDAV
– Zuordnung auf 7 Server – flüssige Reaktion
Asynchroner Maschine-Maschine-Zugriff
– Sync-Client – Zuordnung auf 3 Server – Lastabhängig / abgekoppelt
ownCloud | T. Hildmann | Hochschulworkshop Seite 10
Sync-Client
Browser
iOS / Android
oc-01 oc-02 oc-03
oc-04 oc-05 oc-06
oc-07 oc-08 oc-09
Application Server
LDAP Slave
Apache
ownCloud
owncloud-01... owncloud-07
CPU 2 CPUs à 4 Kerne (Xeon 4540)
RAM 16 GB
NIC 1 GbE
owncloud-08... owncloud-10 (VM)
CPU 2 vCPUs
RAM 8 GB
NIC 1 GbE
ownCloud Applikationsserver
ownCloud | T. Hildmann | Hochschulworkshop Seite 11
shared Disk
MySQL HAProxy
ownCloud Filer
ownCloud | T. Hildmann | Hochschulworkshop Seite 12
owncloudfs-01
CPU 2 x 4-Kern CPU (Intel Xeon E5620)
RAM 24 GB
NIC 10 GbE
HBA 2, physischer Zugriff auf Platten
owncloudfs-02
CPU 2 x 4-Kern CPU (Intel Xeon E5504)
RAM 10 GB
NIC 10 GbE
HBA 2, physischer Zugriff auf Platten
dbowncloud-04... dbowncloud-07
CPU 2 x Dual-Core (Intel Xeon 5130)
RAM 32 GB
NIC 1 GbE
HBA 2
Datenbankcluster
ownCloud | T. Hildmann | Hochschulworkshop Seite 13
Galera-Cluster • Tabellen brauchen primary Keys!
• Rechner mit ähnlichen Ausstattung verwenden!
BENUTZERVERHALTEN ownCloud-Nutzung an der TU Berlin
ownCloud | T. Hildmann | Hochschulworkshop Seite 14
Anzahl der registrierten Benutzer
ownCloud | T. Hildmann | Hochschulworkshop Seite 15
0
500
1000
1500
2000
2500
3000
3500
Dateimodifikationen
ownCloud | T. Hildmann | Hochschulworkshop Seite 17
Monitoring-Ausfall
OC-Sync Client 1.3
Anzahl der Dateien
0
500000
1000000
1500000
2000000
2500000
3000000
3500000
4000000
4500000
5000000
ownCloud | T. Hildmann | Hochschulworkshop Seite 18
Verteilung der Dateigrößen
ownCloud | T. Hildmann | Hochschulworkshop Seite 19
60% 18%
22%
0%
0-16 KB
16-128 KB
128KB - 1GB
> 1GB
3.939.463 Dateien
ownCloud Applikationsserver (% CPU, erster Monat)
ownCloud | T. Hildmann | Hochschulworkshop Seite 21
0
5
10
15
20
25
30
35
40
19.0
5.13
00:
00
19.0
5.13
13:
00
20.0
5.13
02:
00
20.0
5.13
15:
00
21.0
5.13
04:
00
21.0
5.13
17:
00
22.0
5.13
06:
00
22.0
5.13
19:
00
23.0
5.13
08:
00
23.0
5.13
21:
00
24.0
5.13
10:
00
24.0
5.13
23:
00
25.0
5.13
12:
00
26.0
5.13
01:
00
26.0
5.13
14:
00
27.0
5.13
03:
00
27.0
5.13
16:
00
28.0
5.13
05:
00
28.0
5.13
18:
00
29.0
5.13
07:
00
29.0
5.13
20:
00
30.0
5.13
09:
00
30.0
5.13
22:
00
31.0
5.13
11:
00
01.0
6.13
00:
00
01.0
6.13
13:
00
02.0
6.13
02:
00
02.0
6.13
15:
00
03.0
6.13
04:
00
03.0
6.13
17:
00
04.0
6.13
06:
00
04.0
6.13
19:
00
05.0
6.13
08:
00
05.0
6.13
21:
00
06.0
6.13
10:
00
06.0
6.13
23:
00
07.0
6.13
12:
00
08.0
6.13
01:
00
08.0
6.13
14:
00
09.0
6.13
03:
00
09.0
6.13
16:
00
10.0
6.13
05:
00
10.0
6.13
18:
00
11.0
6.13
07:
00
11.0
6.13
20:
00
12.0
6.13
09:
00
12.0
6.13
22:
00
13.0
6.13
11:
00
14.0
6.13
00:
00
14.0
6.13
13:
00
15.0
6.13
02:
00
15.0
6.13
15:
00
16.0
6.13
04:
00
16.0
6.13
17:
00
17.0
6.13
06:
00
17.0
6.13
19:
00
18.0
6.13
08:
00
ownCloud Applikationsserver (% CPU, letzter Monat)
ownCloud | T. Hildmann | Hochschulworkshop Seite 22
0
10
20
30
40
50
60
70
80
90
100
06.0
7.13
00:
00
06.0
7.13
14:
00
07.0
7.13
04:
00
07.0
7.13
18:
00
08.0
7.13
08:
00
08.0
7.13
22:
00
09.0
7.13
12:
00
10.0
7.13
02:
00
10.0
7.13
16:
00
11.0
7.13
06:
00
11.0
7.13
20:
00
12.0
7.13
10:
00
13.0
7.13
00:
00
13.0
7.13
14:
00
14.0
7.13
04:
00
14.0
7.13
18:
00
15.0
7.13
08:
00
15.0
7.13
22:
00
16.0
7.13
12:
00
17.0
7.13
02:
00
17.0
7.13
16:
00
18.0
7.13
06:
00
18.0
7.13
20:
00
19.0
7.13
10:
00
20.0
7.13
00:
00
20.0
7.13
14:
00
21.0
7.13
04:
00
21.0
7.13
18:
00
22.0
7.13
08:
00
22.0
7.13
22:
00
23.0
7.13
12:
00
24.0
7.13
02:
00
24.0
7.13
16:
00
25.0
7.13
06:
00
25.0
7.13
20:
00
26.0
7.13
10:
00
27.0
7.13
00:
00
27.0
7.13
14:
00
28.0
7.13
04:
00
28.0
7.13
18:
00
29.0
7.13
08:
00
29.0
7.13
22:
00
30.0
7.13
12:
00
31.0
7.13
02:
00
31.0
7.13
16:
00
01.0
8.13
06:
00
01.0
8.13
20:
00
02.0
8.13
10:
00
03.0
8.13
00:
00
03.0
8.13
14:
00
04.0
8.13
04:
00
04.0
8.13
18:
00
05.0
8.13
08:
00
CPU Fileserver (% CPU, erster Monat)
ownCloud | T. Hildmann | Hochschulworkshop Seite 23
0
1
2
3
4
5
6
19.0
5.13
00:
00
19.0
5.13
14:
00
20.0
5.13
04:
00
20.0
5.13
18:
00
21.0
5.13
08:
00
21.0
5.13
22:
00
22.0
5.13
12:
00
23.0
5.13
02:
00
23.0
5.13
16:
00
24.0
5.13
06:
00
24.0
5.13
20:
00
25.0
5.13
10:
00
26.0
5.13
00:
00
26.0
5.13
14:
00
27.0
5.13
04:
00
27.0
5.13
18:
00
28.0
5.13
08:
00
28.0
5.13
22:
00
29.0
5.13
12:
00
30.0
5.13
02:
00
30.0
5.13
16:
00
31.0
5.13
06:
00
31.0
5.13
20:
00
01.0
6.13
10:
00
02.0
6.13
00:
00
02.0
6.13
14:
00
03.0
6.13
04:
00
03.0
6.13
18:
00
04.0
6.13
08:
00
04.0
6.13
22:
00
05.0
6.13
12:
00
06.0
6.13
02:
00
06.0
6.13
16:
00
07.0
6.13
06:
00
07.0
6.13
20:
00
08.0
6.13
10:
00
09.0
6.13
00:
00
09.0
6.13
14:
00
10.0
6.13
04:
00
10.0
6.13
18:
00
11.0
6.13
08:
00
11.0
6.13
22:
00
12.0
6.13
12:
00
13.0
6.13
02:
00
13.0
6.13
16:
00
14.0
6.13
06:
00
14.0
6.13
20:
00
15.0
6.13
10:
00
16.0
6.13
00:
00
16.0
6.13
14:
00
17.0
6.13
04:
00
17.0
6.13
18:
00
18.0
6.13
08:
00
CPU Fileserver (% CPU, letzter Monat)
ownCloud | T. Hildmann | Hochschulworkshop Seite 24
0
2
4
6
8
10
12
14
16
06.0
7.13
00:
00
06.0
7.13
14:
00
07.0
7.13
04:
00
07.0
7.13
18:
00
08.0
7.13
08:
00
08.0
7.13
22:
00
09.0
7.13
12:
00
10.0
7.13
02:
00
10.0
7.13
16:
00
11.0
7.13
06:
00
11.0
7.13
20:
00
12.0
7.13
10:
00
13.0
7.13
00:
00
13.0
7.13
14:
00
14.0
7.13
04:
00
14.0
7.13
18:
00
15.0
7.13
08:
00
15.0
7.13
22:
00
16.0
7.13
12:
00
17.0
7.13
02:
00
17.0
7.13
16:
00
18.0
7.13
06:
00
18.0
7.13
20:
00
19.0
7.13
10:
00
20.0
7.13
00:
00
20.0
7.13
14:
00
21.0
7.13
04:
00
21.0
7.13
18:
00
22.0
7.13
08:
00
22.0
7.13
22:
00
23.0
7.13
12:
00
24.0
7.13
02:
00
24.0
7.13
16:
00
25.0
7.13
06:
00
25.0
7.13
20:
00
26.0
7.13
10:
00
27.0
7.13
00:
00
27.0
7.13
14:
00
28.0
7.13
04:
00
28.0
7.13
18:
00
29.0
7.13
08:
00
29.0
7.13
22:
00
30.0
7.13
12:
00
31.0
7.13
02:
00
31.0
7.13
16:
00
01.0
8.13
06:
00
01.0
8.13
20:
00
02.0
8.13
10:
00
03.0
8.13
00:
00
03.0
8.13
14:
00
04.0
8.13
04:
00
04.0
8.13
18:
00
05.0
8.13
08:
00
CPU Datenbankserver (% CPU, erster Monat)
ownCloud | T. Hildmann | Hochschulworkshop Seite 25
0
5
10
15
20
25
30
35
40
19.0
5.13
00:
00
19.0
5.13
14:
00
20.0
5.13
04:
00
20.0
5.13
18:
00
21.0
5.13
08:
00
21.0
5.13
22:
00
22.0
5.13
12:
00
23.0
5.13
02:
00
23.0
5.13
16:
00
24.0
5.13
06:
00
24.0
5.13
20:
00
25.0
5.13
10:
00
26.0
5.13
00:
00
26.0
5.13
14:
00
27.0
5.13
04:
00
27.0
5.13
18:
00
28.0
5.13
08:
00
28.0
5.13
22:
00
29.0
5.13
12:
00
30.0
5.13
02:
00
30.0
5.13
16:
00
31.0
5.13
06:
00
31.0
5.13
20:
00
01.0
6.13
10:
00
02.0
6.13
00:
00
02.0
6.13
14:
00
03.0
6.13
04:
00
03.0
6.13
18:
00
04.0
6.13
08:
00
04.0
6.13
22:
00
05.0
6.13
12:
00
06.0
6.13
02:
00
06.0
6.13
16:
00
07.0
6.13
06:
00
07.0
6.13
20:
00
08.0
6.13
10:
00
09.0
6.13
00:
00
09.0
6.13
14:
00
10.0
6.13
04:
00
10.0
6.13
18:
00
11.0
6.13
08:
00
11.0
6.13
22:
00
12.0
6.13
12:
00
13.0
6.13
02:
00
13.0
6.13
16:
00
14.0
6.13
06:
00
14.0
6.13
20:
00
15.0
6.13
10:
00
16.0
6.13
00:
00
16.0
6.13
14:
00
17.0
6.13
04:
00
17.0
6.13
18:
00
18.0
6.13
08:
00
CPU Datenbankserver (% CPU, letzterMonat)
ownCloud | T. Hildmann | Hochschulworkshop Seite 26
0
5
10
15
20
25
30
35
40
45
06.0
7.13
00:
00
06.0
7.13
14:
00
07.0
7.13
04:
00
07.0
7.13
18:
00
08.0
7.13
08:
00
08.0
7.13
22:
00
09.0
7.13
12:
00
10.0
7.13
02:
00
10.0
7.13
16:
00
11.0
7.13
06:
00
11.0
7.13
20:
00
12.0
7.13
10:
00
13.0
7.13
00:
00
13.0
7.13
14:
00
14.0
7.13
04:
00
14.0
7.13
18:
00
15.0
7.13
08:
00
15.0
7.13
22:
00
16.0
7.13
12:
00
17.0
7.13
02:
00
17.0
7.13
16:
00
18.0
7.13
06:
00
18.0
7.13
20:
00
19.0
7.13
10:
00
20.0
7.13
00:
00
20.0
7.13
14:
00
21.0
7.13
04:
00
21.0
7.13
18:
00
22.0
7.13
08:
00
22.0
7.13
22:
00
23.0
7.13
12:
00
24.0
7.13
02:
00
24.0
7.13
16:
00
25.0
7.13
06:
00
25.0
7.13
20:
00
26.0
7.13
10:
00
27.0
7.13
00:
00
27.0
7.13
14:
00
28.0
7.13
04:
00
28.0
7.13
18:
00
29.0
7.13
08:
00
29.0
7.13
22:
00
30.0
7.13
12:
00
31.0
7.13
02:
00
31.0
7.13
16:
00
01.0
8.13
06:
00
01.0
8.13
20:
00
02.0
8.13
10:
00
03.0
8.13
00:
00
03.0
8.13
14:
00
04.0
8.13
04:
00
04.0
8.13
18:
00
05.0
8.13
08:
00
Arbeitsspeicherverwendung
ownCloud | T. Hildmann | Hochschulworkshop Seite 27
alles relativ konstant
0 1 2 3 4 5 6 7 8 9
10
Applikationsserver
0
2
4
6
8
10
12
14
16
Datenbankserver
0
2
4
6
8
10
12
14
Fileserver
Durchschnittswerte RAM
ownCloud | T. Hildmann | Hochschulworkshop Seite 28
Applikationsserver 6-10 GB / 16 GB
Datenbankserver 12-16 GB / 32 GB
Fileserver 6-12 GB / 24 GB
Netzwerk-Last: Applicationserver (alle Interfaces, Bit/s)
ownCloud | T. Hildmann | Hochschulworkshop Seite 29
0
100.000.000
200.000.000
300.000.000
400.000.000
500.000.000
600.000.000
700.000.000
800.000.000
900.000.000
06.0
7.13
00:
00
06.0
7.13
14:
00
07.0
7.13
04:
00
07.0
7.13
18:
00
08.0
7.13
08:
00
08.0
7.13
22:
00
09.0
7.13
12:
00
10.0
7.13
02:
00
10.0
7.13
16:
00
11.0
7.13
06:
00
11.0
7.13
20:
00
12.0
7.13
10:
00
13.0
7.13
00:
00
13.0
7.13
14:
00
14.0
7.13
04:
00
14.0
7.13
18:
00
15.0
7.13
08:
00
15.0
7.13
22:
00
16.0
7.13
12:
00
17.0
7.13
02:
00
17.0
7.13
16:
00
18.0
7.13
06:
00
18.0
7.13
20:
00
19.0
7.13
10:
00
20.0
7.13
00:
00
20.0
7.13
14:
00
21.0
7.13
04:
00
21.0
7.13
18:
00
22.0
7.13
08:
00
22.0
7.13
22:
00
23.0
7.13
12:
00
24.0
7.13
02:
00
24.0
7.13
16:
00
25.0
7.13
06:
00
25.0
7.13
20:
00
26.0
7.13
10:
00
27.0
7.13
00:
00
27.0
7.13
14:
00
28.0
7.13
04:
00
28.0
7.13
18:
00
29.0
7.13
08:
00
29.0
7.13
22:
00
30.0
7.13
12:
00
31.0
7.13
02:
00
31.0
7.13
16:
00
01.0
8.13
06:
00
01.0
8.13
20:
00
02.0
8.13
10:
00
03.0
8.13
00:
00
03.0
8.13
14:
00
04.0
8.13
04:
00
04.0
8.13
18:
00
05.0
8.13
08:
00
ownCloud | T. Hildmann | Hochschulworkshop Seite 30
0 100.000.000 200.000.000 300.000.000 400.000.000 500.000.000 600.000.000 700.000.000 800.000.000 900.000.000
Durchschnittlich weitergeleitete Bit/s owncloudfs 01-02
0
5.000.000
10.000.000
15.000.000
20.000.000
25.000.000
Durchschnittlich weitergeleitete Bit/s dbowncloud 01-07
ERFAHRUNGEN Probleme, Lösungen, Rückmeldung, Stimmung...
ownCloud | T. Hildmann | Hochschulworkshop Seite 31
Probleme und Lösungen
ownCloud | T. Hildmann | Hochschulworkshop Seite 32
Last auf DB erforderte einen DB-Server pro 100 Benutzer
Erstellen von Primärschlüsseln und Indizes.
ownCloud-DB läuft nicht auf Galera-Cluster
Erstellen von Primärschlüsseln für alle Tabellen.
ownCloud Applikation setzt gemeinsame Partition für alle Nutzer voraus. Nutzung eines Cluster-Dateisystems.
Doppelte Einträge in der Weboberfläche bei einigen Nutzern.
https://github.com/owncloud/core/pull/3388
Quota wird für geteilte Dateien belastet. https://github.com/owncloud/core/pull/2804
Probleme und Lösungen
ownCloud | T. Hildmann | Hochschulworkshop Seite 33
LDAP-Anfragen erzeugen extrem hohe Last auf Server
LDAP-Replika jeweils lokal auf dem Applikationsserver
Hohe Last auf Kerberos-Server Weitere Kerberos-Server via Round-Robin in die Verteilung
Kurze Updatezyklen und Updates unterschiedlicher Qualität
Bereitstellung einer Testumgebung und effizienter Workflow für Updates
Probleme ohne (bisherige) Lösung
- Löschen und Widerherstellen - Löscht man einen Ordner und stellt diesen wieder her, wird der Inhalt
außerhalb wieder hergestellt
- Löscht man Shares aus „Shared“, wird der Inhalt außerhalb von Shared wieder hergestellt
- Gleichnamige Shares eines Benutzers werden nur einmal angezeigt (Issue # 3611)
- Permanente Laufwerkzuordnung für Win7 WebDAV-Client funktioniert nicht - Probleme mit einigen Passwörtern / Browsern (bislang nicht reproduzierbar) - Einige Nutzer melden, das „eingespielte Dateien“ gelöscht, statt
synchronisiert werden (bislang nicht reproduzierbar)
ownCloud | T. Hildmann | Hochschulworkshop Seite 34
Nutzeranfragen / Tickets
- Viele Anfragen zu unterschiedlichen WebDAV-Clients (Netdrive, Cyberduck, Android/iOS Apps)
- gewünschte Kalender / Adressbuchfunktion
- Nutzung von ownCloud durch Alumni
In Summe außerhalb des Semesters < 5 Tickets pro Woche!
ownCloud | T. Hildmann | Hochschulworkshop Seite 35
Nächste ownCloud-Projekte
- ownCloud Speicherplatz für Fachgebiete etc.
(“Kostenstellen mit Organisationscharakter”)
- Verbesserung des Sharings über Gruppen
(Masterarbeit)
- Integration in Lehrveranstaltungen etc.
- Zugriff auf Speicher auch z.B. via CIFS, AFS oder NFS
ownCloud | T. Hildmann | Hochschulworkshop Seite 38
Fazit
ownCloud ist für große Umgebungen skalierbar!
– größter Schwachpunkt sind z.Zt. die Datenbanken
– Vorsicht mit LDAP und Kerberos!
Nutzer-Resonanz ausgesprochen positiv
Synchronisation mit 1.3 Client schon 98% Dropbox-“Experience“
Schnelle Weiterentwicklung
– Workflow für Testing und Update muss stehen
– eigene PHP-Experten oder Entwicklernetzwerk ist vorteilhaft
ownCloud | T. Hildmann | Hochschulworkshop Seite 39