Programm findet lib nicht, ldconfig zeigt sie

[Operator S. (smkr)]

Ich habe ein Programm geschrieben, welches crosscompiliert auf einem 
embedded Linux laufen soll.

Was mir jetzt noch fehlt ist die richtige Linkereinstellung.

Zuerst habe ich das Unterverzeichnis in die ld conf eingetragen:

$ cat /etc/ld.so.conf 
        /usr/lib/mariadb/

Nun wird dies auch vom Linker gefunden, aber mein Programm findet es 
nicht.

$ ldconfig -p |grep maria
        libmariadb.so.2 (libc6) => /usr/lib/mariadb/libmariadb.so.2

$ ldd /usr/bin/dbHandler |grep maria
        libmariadb.so.2 => not found

Wenn ich nun eine Kopie von der lib nach /usr/lib/ kopiere, dann wird 
dies auch von meinem Programm erkannt, im Unterverzeichnis aber nicht.
Liegt der Fehler bereits beim kompilieren vor? Oder muss ich noch eine 
config auf dem Board vornehmen?