Es ist wie immer: Es kommt auf die konkreten Verhältnisse an.
Vereinfacht gesagt: Masse ist dafür da, den Strom, der in den
Signaladern "hin" fließt, wieder "zurück fließen" zu lassen. Dafür
sollte man immer eine Ader im Kabel benutzen. Die Schirmung sollte
betriebsmäßig keinen Strom tragen, weil die Masse selten wirklich
"unverschmutzt" = störungsfrei ist. Die Störströme auf der Masse werden
ansonsten als Störfeld abgestrahlt, wenn diese auf dem Schirm laufen.
Aus Gründen wie zur Vermeidung von Brummschleifen (ground loops) werden
Schirme zuweilen nur einseitig aufgelegt. Besser ist wie im Vorpost
erwähnt die zweiseitige Auflage. Zur Vermeidung von Ausgleichsströmen
(z.B. bei Potentialunterschieden im Schutzleiter) wird die Schirmung
manchmal kapazitiv gekoppelt und nicht direkt.
Erwähnung soll auch das große Theme Blitzschutz finden: Schirmung von
Kabeln ausserhalb von Gebäuden ist eine Wissenschaft für sich...
Das Modell "Koaxkabel" (Schirm=Rückleiter)ist geeignet, wenn man
einerseits die Kabelkosten im Blick haben muss, andererseits die
angeschlossenen Geräte in ihrem Verhalten gut kennt und ausserdem die
fließenden Ströme sehr klein sind. Wer sich unsicher ist, greift auch im
Falle der koaxialen Signalführung zum Twinax (Seele + Rückleiter
drumherum + Schirm).