Wow! Danke für die ausführliche (und anschauliche) Herleitung
und für den Lösungsweg… Ich verstehe jetzt die Konstruktion
der Lösung, obwohl das Umsetzen in Formeln für Excel noch
lange nicht problemlos ablaufen wird 
Numerisch habe also meine Punkte (da meine Fläche ja immer
parallel zur x/y-Fläche des Koordinatensystems liegt ändert
sich z nicht) und die Quadratseitenlänge konstant k=10 hat.
a’ = (x, y, z)
b’ = (x+10, y, z)
c’ = (x+10, y+10, z)
d’ = (x, y+10, z)
Die Eckpunkte A’, B’… zu bilden ist klar.
Der „’“ ist ja eigentlich für den Punkt (Großbuchstabe) bzw. den Vektor (Kleinbuchstabe) auf der (Einheits-)Kugeloberfläche gedacht.
Also, wenn
A ein Eckpunkt mit Vektor a = (x, y, z) ist, dann ist der Punkt auf der Oberfläche
A’ mit a’ = (x’, y’, z’)
und
x’ = x/Sqrt(x^2+y^2+z^2)
y’ = y/Sqrt(x^2+y^2+z^2)
z’ = z/Sqrt(x^2+y^2+z^2)
B ist b = (r, s, t)
mit
r = x + 10
s = y
t = z
und
B’ ist verbunden mit b’ = (r’, s’, t’)
mit
r’ = r/Sqrt(r^2 + s^2 + t^2)
etc.
Analoges gilt für
C, c= (u, v, w), und D, d = (h, k, l).
Was mir jetzt aber (schon) Probleme macht, ist die folgende
Konstruktion mit den Kreistangenten in eine Excel-Formel zu
packen:
cos(alpha) = b_ab*c_ac/Betrag(b_ab)/Betrag(c_ac).
… was ja dann von der Komplettlösung nur noch Millimeter
entfernt wäre…
[A]
Wir bilden jetzt einen Vektor, der in der Ebene aufgespannt von a’ und b’ (selbe Ebene wie von a und b natürlich) liegt und senkrecht auf a’ steht. Dazu ziehen wir von b’ einfach den Teil ab, der parallel zu a’ ist. Also
b’ - a’ (a’*b’)/Sqrt(a’*a’)
mit
Sqrt(a’*a’) = 1
(a’*b’) = x’r’+y’s’+z’t’
haben wir also den Vektor
(r’ - (x’r’+y’s’+z’t’)x’, s’ - (x’r’+y’s’+z’t’)y’, t’ - (x’r’+y’s’+z’t’)z’)
Nennen wir ihn
aB = (aB_x, aB_y, aB_z)
mit aB_x = r’ - (x’r’+y’s’+z’t’)x’, etc.
Normierung:
aB’ = (aB_x’, aB_y’, aB_z’)
mit aB_x’ = aB_x/Sqrt(aB_x^2+aB_y^2+aB_z^2), etc.
[B]
Der Vektor in der Ebene a’ c’ und senkrecht zu a’
aB -> aC
b -> c
r,s,t -> u,v,w
Also:
aC’ = (aC_x’, aC_y’, aC_z’)
mit
mit
aC_x’ = aC_x/Sqrt(aC_x^2+aC_y^2+aC_z^2), etc.
mit
mit aC_x = u’ - (x’u’+y’v’+z’w’)x’, etc.
[C]
Da aB’ und aC’ den Betrag eins haben, ist
Zahl_a = cos(alpha) = aB*aC
= aB_x’.aC_x’ + aB_y’.aC_y’ + aB_z’.aC_z’
[Punkt für skalare Multiplikation wurde eingeführt!]
Dies ist eine Zahl zwischen -1 und +1, nennen wir sie Zahl_a.
Dann ist alpha = arccos(Zahl_a).
Beim Berechnen des arccos muss man ein wenig aufpassen. Der Taschenrechner meines Sohnes ergab einen Fehler bei arccos(-0,5), obwohl meines Erachtens 2 pi /3 hätte herauskommen sollen. Aber
arccos(-x) = pi - arccos(x)
[Bitte in Formelsammlung nachschlagen, da ich dies so aus dem Kopf schreibe. Aus dem selben Grunde kann das oben alles grotte falsch sein. Aber im Prinzip stimmt es.]
Zusammenfassung (per copy & paste):
alpha
= arccos(Zahl_a) für Zahl_a >= 0
alpha
= pi - arccos(Zahl_a) für Zahl_a