also ich würde zuerst den Abstand der beiden Mittelpunkte ausrechnen. Ich nehm mal an, dass die beiden Mittelpunkte in einem kartesischen Koordinatensystem gegeben sind, oder?
Auf jeden Fall musst du dir dann nur noch überlegen, was für diesen Abstand gelten muss, damit der kleinere Kreis in dem größeren liegt.
Eine explizite Formel wird es höchstwahrscheinlich nicht geben.
Außerdem: Überlegen ist doch besser als stures Einsetzen
ich bin auf der suche nach einer Formel mit der ich berechnen
kann ob ein Kreis in einem anderen Kreis liegt.
Gegeben ist mit der Mittelpunkt und der Radius beider Kreise.
Du kannst es auch vollkommen anders machen:
Setze beide Kreisgleichungen gleich.
Wenn du Schnittpunkte erhältst, ist die Sache schon geklärt.
Erhältst du keine, muss du nur anhand der Lage entscheiden, ob sie nebeneinander liegen könnten.
LGR