Frage: sollten in Zukunft Entscheidungen einer Maschine überlassen werden, wenn sich herausstellt, dass deren Fähigkeiten das menschliche Niveau übersteigt?
Beispiel:
2093: Die Menschen haben vor einigen Jahren eine Künstliche
Intelligenz (KI) geschaffen, die bei wichtigen Entscheidungen um Rat
gefragt werden kann. Es handelt sich um ein als Black Box arbeitendes
Neuronales Netzwerk, das lediglich Ergebnisse liefern, nicht aber den
Entscheidungsprozess offenlegen kann, daher misstrauen die Menschen
den Ergebnissen und handeln bei Unstimmigkeit meist gegen die
Empfehlung der KI. Im Nachhinein stellten sich diese bisher jedoch
stets als richtig heraus.
Die Menschheit stehe nun vor einer plötzlichen und existenziellen
Entscheidung mit zwei Handlungsoptionen - eine falsche Entscheidung
würde ihren Untergang bedeuten.
Die Menschheit hält übereinstimmend B für die einzig richtige
Entscheidung.
Die KI hält A für den richtigen Weg.
Wie sollte entschieden werden: A oder B?
PS:
Da dies keine Denksportaufgabe ist, bitte nicht wieder löschen!