Zu große Datenmenge für Excel?

Gast #2815996
Lesenswert?

Hi,

ich habe ca. 6 Millionen Messwerte mit Semikolon getrennt in einer .txt 
gespeichert werden.

Wenn ich dann mit Excel die Datei öffnen will, fragt er nach 
Formatierung.
Leider wird es nur in die erste Zeile reingeschrieben.
Sodass er also auf eine große Spaltenanzahl angewiesen ist.

Dazu habe ich 2 Fragen:

1.Besteht die Möglichkeit, irgendwelche Einstellungen in Excel 
vorzunehmen, damit er die Daten nur in Spalte 1 schreibt?
(Excel kann ja mehr Zeilen als Spalten.)

2.Kann man irgendwelche Einstellungen vornehmen um die Spaltenanzahl zu 
vergrößern?
Gast #2816019
Lesenswert?

Joachim Drechsel schrieb:
> Excel macht eh bei 65535 Zeilen dicht, vergiß Excel.

schön das die leute ihr wissen nicht mal updaten:

http://de.wikipedia.org/wiki/Microsoft_Excel
[...]
Seit Excel 2007 kann ein Tabellenblatt 1.048.576 Zeilen und 16.384 
Spalten (A bis XFD), also 17.179.869.184 Zellen umfassen. Davor war die 
Größe auf 65.536 Zeilen und 256 Spalten (A bis IV), also 16.777.216 
Zellen, begrenzt. Ist in jedem dieser Felder eine Ziffer eingetragen, so 
hat eine Datei in Office 2003 eine Größe von 227 MB.
[...]

> Nimm eine Datenbank.
richtig, soetwas macht man nicht mit Excel
Gast #2816043
Lesenswert?

@Peter
Und was hält Dich davon ab, es zu sehen oder auszuprobieren?
Die Unfähigkeit 6Mio Mal eine Zufallszahl produzieren und in die jeweils 
nächste Zeile schreiben zu lassen oder die Unkenntnis der 
Tastenfunktionen Strg + C, STRG + V, STRG + Cursortaste
Gast #2816058
Lesenswert?

Wenn Du einen homogenen Datenblock einliest, versucht Excel natürlich 
diesen in eine Zeile zu packen - und bekommt dicke Backen.
Wenn Du also unbedingt diesen Brocken einlesen willst, so musst Du, am 
Besten mit einem kleinen Script, alle (z.B.) 500 Werte das Semikolon 
durch einen Zeilenumbruch ersetzen.
Den Block kannst Du dann über die Importfilter einlesen. Ob sich so 
etwas allerdings vernünftig in Excel bearbeiten lässt, ist eine andere 
Frage.
Gast #2816067
Lesenswert?

Peter II schrieb:
> Norbert schrieb:
>> Peter II schrieb:
>>> und damit kann man also excel datein mit mit so vielen zeilen erzeugen -
>>> das will ich sehen?
>>
>> Gern!
>
> das ist aber keine Excel-Datei.

Das stimmt, das ist ein Bild. ;-)

'Speichern unter' bietet mir einen ganzen Sack voller Excel Formate an:
Excel 5.0  95  97  2000  XP  2003  2007  und  Pocket
Gast #2816077
Lesenswert?

Peter II schrieb:
> tex schrieb:
>> Joachim
>> Das ist auch gar nicht nötig, denn Openoffice und Libreoffice gibt es
>> umsonst.
> und damit kann man also excel datein mit mit so vielen zeilen erzeugen -
> das will ich sehen?
Die Daten liegen laut OP in einer txt-Datei und dass sie unbedingt in 
eine xls(x)-Datei landen müssen, kann ich nirgends sehen.
Gast #2816090
Lesenswert?

conchulio schrieb:
> Egal in welchem Excel Datenformat.
> Nur wichtig ist, dass ich alle 6Millionen Werte in separaten Zellen, am
> liebsten in einer Spalte abspeichern kann.

Aus deinem Post ging leider nicht hervor welches OS du verwendest.
Sollte es etwas Linux-ähnliches sein, so kannst du die Quelldatei sehr 
einfach per Kommandozeile umformen und zB 600.000 Zeile je 10 Werte 
anordnen. Diese Datei könntest du problemlos importieren.

Bei Win kann ich dir leider nicht helfen.
Gast #2816115
Lesenswert?

Mir wäre schon sehr geholfen, wenn jemand ne Möglichkeit wüsste, wie ich 
Excel dazu beweg es in Spalte 1 zu schreiben, anstatt in Zeile 1.
Hinter jedem Wert steht ein Semikolon wie schon erwähnt.
Hier nochmal als Bild:
Angehängte Dateien:
Gast #2816128
Lesenswert?

Wenn die oben gemachte Angabe von maximal 1.048.576 Zeilen pro 
Excel-Sheet stimmen, Du unter Windoof und Excel arbeiten willst oder 
musst, bleibt Dir nur die Umformung übrig.
Kleb' Dir doch einfach ein einfachst Basic-, Pascal- oder C-Programm 
zusammen und brech die Datei so um, dass Du unter den maximalen 
Zeilenanzahl bleibst.
Natürlich gibt es 'nen Haufen Programme die das alles viel Besser 
können, aber ich unterstelle mal das Du dich mit Excel auskennst und da 
wäre das erlernen eines anderen Programms echt übertrieben. Immer 
vorausgesetzt, Du kannst Excel und das Ganze ist eine einmalige 
Angelegenheit.
Gast #2816145
Lesenswert?

amateur schrieb:
> Wenn die oben gemachte Angabe von maximal 1.048.576 Zeilen pro
> Excel-Sheet stimmen, Du unter Windoof und Excel arbeiten willst oder
> musst, bleibt Dir nur die Umformung übrig.

Wobei man bei der Umformung schon ein wenig weiter denken sollte, weil 
man die Werte ja ueblicherweise nicht nur "in Excel haben" will, sondern 
mit Ecxel damit weitere Berechnungen machen.
Also sollte man die als erstes so umformen, wie es spaeter die 
gewuenschten Berechnungen erleichtert.

Wenn allerdings zu jedem Wert zwei weitere berechnete hinzukommen, dann 
ist mit Excel schon wieder Ende. (3*6 Mio = 18 Mio groesser:

Peter II schrieb:
> also 17.179.869.184 Zellen

fonsana
Gast #2816168
Lesenswert?

>Mir wäre schon sehr geholfen, wenn jemand ne

Versuch mal beim Import NICHT das Semikolon an Trenner anzugeben. Ich 
weiß allerdings nicht, ab wann EINE Zelle "dicke" Backen bekommt. Du 
versuchst ja schließlich Megabytes in eine zu packen.
Gast #2816183
Lesenswert?

Noch eine verwegene Idee:
Wenn ich mir die Messwerte so ansehe, bleiben diese immer für eine 
Anzahl die Gleichen.
Schreib doch ein kleines script das den Wert in der ersten Spalte und 
dessen Wiederholung in der zweiten angibt.

Also z.B.:

013;013;013;013;013;013;013;013;013;013;239;239;239;239;239;239;239;...

zu:
1
013 10
2
239  7
Gast #2816205
Lesenswert?

oszi40 schrieb:
> Excel kann .csv importieren.
>
> Leider BESITZT der TS conchulio nur Excel2000 wodurch bei 65535 Zeilen
> Feierabend ist. Also besser DB benutzen oder mühsam 6 Millionen Daten

Ich hatte bis jetzt meine Excelversion noch nicht erwähnt.
Es ist 2010, sodass also:

Peter II schrieb:
> 1.048.576 Zeilen und 16.384
> Spalten (A bis XFD), also 17.179.869.184 Zellen umfassen

zur Verfügung stehen.

Ich habe kein Problem damit wenn ich die 6Millionen Werte auf 6 Excel 
Dateien verteilen müsste.

Es bleibt aber immer noch das Problem, dass Excel beim öffnen der 
geposteten .txt mir nur Spaltenweise darstellen anbietet.
Gast #2816221
Lesenswert?

Wenn Du versuchst die Datei via Öffnen->"Als Textdatei" reinzukriegen, 
wirst Du mit Sicherheit nicht glücklich. Ich habe hier nur eine 
Excel-Antiquität und kann es deshalb nicht "vormachen", aber Du solltest 
zumindest den Versuch machen die Datei zu "Importieren".
Gast #2816222
Lesenswert?

Der ganze Thread ist ein wunderschönes Beispiel für die Möglichkeiten 
versch. Betriebssysteme.

Such dir jemanden mit einem Linux System und dann:
1
cat indatei | tr ";" "\n" | split --lines=600000 --numeric−suffixes
Fertig...
Moderator #2816236
Lesenswert?

Was soll denn mit den Daten geschehen, nachdem sie im Excel-Format —
möglicherweise auf mehrere Dateien verteilt — gespeichert worden sind?

Selbst wenn du das mit irgendwelchen Tricks schaffst, ist ja noch lange
nicht gesagt, dass Excel diese große Datenmenge in akzeptabler Zeit zu
irgendetwas weiterverarbeiten kann.

Excel ist eben ein Spreadsheet-Programm und kein Datenanalyse-Tool.
Gast #2816242
Lesenswert?

Yalu X. schrieb:
> Was soll denn mit den Daten geschehen, nachdem sie im Excel-Format —
> möglicherweise auf mehrere Dateien verteilt — gespeichert worden sind?
>
> Selbst wenn du das mit irgendwelchen Tricks schaffst, ist ja noch lange
> nicht gesagt, dass Excel diese große Datenmenge in akzeptabler Zeit zu
> irgendetwas weiterverarbeiten kann.
>
> Excel ist eben ein Spreadsheet-Programm und kein Datenanalyse-Tool.


Ich wollte die Daten graphisch darstellen und 1x noch umrechnen.
Gast #2816247
Lesenswert?

conchulio schrieb:
> Ich wollte die Daten graphisch darstellen und 1x noch umrechnen.

Wenn du mit irgendeiner Tabellenkalkulation eine Grafik aus 6*10^6 
Daten generieren willst ohne sie vorher angemessen zu reduzieren,
so solltest du den Rechner besser für mehrere Monate in die Kammer 
stellen.
(Firma: BfEHS) #2816259
Lesenswert?

Und am Ende sind die Daten ein Temperaturverlauf der in 1ms Abständen 
mit 16 Bit erfasst wurde. Wenn ein Wert x erreicht wurde soll eine Lampe 
angehen...

Sag doch mal an was das für Daten sind und was du damit vorhast. Dann 
sagen dir die Leute hier wie das gehen könnte.

So etwas kann man auch erstmal mit einem Teil der Daten testen.
Gast #2816315
Lesenswert?

Noch verwegener:
das Ganze erinnert mich an die Wave Darstellung von Audacity. Da kannst 
Du zoomen, kopieren, ausschneiden und sogar noch reinhören....

Mach doch eine wav Datei aus den Messwerten, oder nimm gleich die Klänge 
deines shakers auf ;-)
Gast #2816319
Lesenswert?

Hatte mich interessiert, darum habe ich mir gerade mal eine Importdatei 
mit 600000 Zeilen je 10 Werten erstellt und in OOcalc importiert.
1
#!/bin/bash
2
for((z=0;z<600000;z++)); do
3
  for((s=0;s<10;s++)); do
4
    let n=$RANDOM
5
    let n=n/256
6
    printf "%03d;" $n
7
  done
8
  echo
9
done

Hat entgegen meiner Erwartungen nur wenige Sekunden gebraucht.

Grafik würde ich damit trotzdem nicht bauen wollen;-)

Antwort schreiben

Bitte melde dich an, um einen Beitrag zu schreiben.

oder

Mit Google-Account einloggen

Die Registrierung ist kostenlos und dauert nur eine Minute.

Jetzt registrieren