Zeichenkonvertierung

var soll kein Array sein. Wozu auch?
Du liest eine Zahl ein (in eine unsigned char Variable)
und schreibst diese Zahl auf das neue File.
Das Leerzeichen im Formatstring vom fscanf würde ich
auch entfernen. Beim einlesen von Zahlen werden führende
Leerzeichen, Tabulatoren, CR/LF ohnehin vom fscanf ausgefiltert.

Alternativ könntest du dir überlegen ob du anstelle
des Dampfhammers fscanf() das Ganze nicht mit dem Goldschmiede-
hämmerchen fgetc/fputc machen willst. Mit fgetc() ein
Zeichen lesen. Wenn es nicht ' ', '\t', '\n' war, mittels
fputc auf die neue Datei schreiben.

Von welcher Konvertierung redest du eigentlich die ganze Zeit?

Musst du aus einer ASCII Hex Datei wieder eine binäre
Form machen?

Wenn ja:
OK fscanf macht das, klar. Schreiben kannst du trotzdem
einfacher mit fputc.

Ansonsten: Ist doch kein Problem aus 2 ASCII Hex-Charactern
wieder die Zahl zusammenzusetzen

unsigned char convNibble( char Character )
{
  if( Character >= 0 && Character <= 9 )
    return Character - '0';

  if( Character >= 'A' && Character <= 'F' )
    return Character - 'A' + 10;

  if( Character >= 'a' && Character <= 'f' )
    return Character -'a' + 10;

  return 0;
}

  ....

  int c1, c2;
  unsigned char Total;

  while( ( c1 = fgetc( file1 ) ) != EOF &&
         ( c2 = fgetc( file2 ) ) != EOF ) ) {
    Total = convNibble( c1 ) * 16 + convNibble( c2 );
    fputc( Total, file2 );
  }

> Aber C bereitet mir Kopfschmerzen.

Warum nimmst du das dann ohne entsprechendes Lernen der
Grundlagen?