Hallo zusammen, ich (kein ITler) suche eine gute und günstige Lösung ca. 50 GB an Daten irgendwo in die Cloud abzulegen um mit einer API darauf zu zugreifen.Traffic sind ein paar MB am Tag. Da ich mich mit IT-Sicherheit nicht gut auskenne und der Datensatz öffentlichk verfügbare (aufbereitete) Datensätze beinhaltet, suche ich nach einer SaaS Lösung, bei der sich andere sich um Sicherheit und Serverwartung kümmern.
Was könnt ihr mir empfehlen?
Edit: Daten schonmal für die zahlreichen Antworten. Hier noch mehr Informationen zum Unterfangen:
Die Datenbank liegt jetzt als CSV vor. Die Datei wird am Ende ca 50GB haben, derzeit ca 3 GB. Enthalten sind Daten von Tieren und deren Eigenschaften. Ich möchte mit n8n (Automatisierung wie Zapier) ein Tier abfragen und Farbe, Lebensraum etc als Antwort erhalten. Es sind <100 Anfragen am Tag und die Datenbank soll nicht groß bearbeitet werden. Wenn, dann lade ich weitere CSVs hoch um sie zu erweitern.
Was soll die API denn können? Um Deine aktuelle Anforderung zu erfüllen, könnte man sagen: schmeiß die Datei(en) auf irgendeinen Webserver, und die API findet sich im RFC für HTTP. Du möchtest was ändern? Lade die Datei(en) neu hoch, oder lade zusätzliche Dateien hoch.
Nichts besonderes. Nur Werte auslesen. Aber jedes mal 50 GB hoch laden wenn sich was ändert wär schon heftig
jedes mal 50 GB hoch laden
ich denke die Idee wäre jeden datensatz in eine eigene Datei zu stecken. Dann muss man zum hinzufügen von datensätzen nur neue dateien hochladen.
Wenn du jedoch eine Eigenschaft zu jedem Datensatz hinzufügen möchtest, müsstest alle Dateien nochmal hochladen. Falls das öfter passiert, wäre das also keine gute lösung
suchst du nach einer relationalen Datenbank (mysql,postgres,…) oder einfach nach einem Datenspeicher? In deinem Titel steht Datenbank, aber nach dem Text hört es sich eher an, dass du nach einfachem cloud-speicher suchst. Also sowas wie amazon S3. Da gibt es auch etliche kompatible Alternativanbieter.
deleted by creator
Danke für die lange Antwort! Habe meinen Post oben erweitert :)
deleted by creator
Das war der richtige Tipp, danke! Habe mir bei Manitu einen Webspace für 2,50€ im Monat geholt und eine MariaDB genommen. Die ersten GB sind schon hochgeladen und ich hoffe die DB darf weiter wachsen. Das ist meine erste DB und die ersten Abfragen haben funktioniert, ein bisschen wie Magie. Ich bin begeistert!
deleted by creator
Was sind das denn für Daten? Evtl kommt ja Excel 365 in Frage…
Ein Excelfile mit 50 GB?
bester witz des tages.
ich wette im heise forum gibts n irren der das geschafft hat …entgegen jeder vernunft.
deleted by creator
Ich habe mehrere kostenlose Sachen gefunden, vielleicht ist das ja was gutes.
Wenn Du eh n8n lokal (?) installiert hast, könntest Du eine Postgresql-Datenbank zusätzlich auf demselben Server installieren. Die läuft auch auf einem Mini-Rechner wie Raspberry Pi.
Schau dir mal NoCode DBs wie NocoDB,etc. an.
Das wär mein Favourit gewesen und hatte ich schon am laufen. Limitgröße für CSV-upload: 5 MB :/
Per Script splitten? Ich meine 3GB läd man ja auch bei anderen DBs ungern in einem Stück hoch.