Umgang mit Künstlicher Intelligenz

Wissenschaft Philosophie & Ethik
#1

Frage: sollten in Zukunft Entscheidungen einer Maschine überlassen werden, wenn sich herausstellt, dass deren Fähigkeiten das menschliche Niveau übersteigt?

Beispiel:
2093: Die Menschen haben vor einigen Jahren eine Künstliche
Intelligenz (KI) geschaffen, die bei wichtigen Entscheidungen um Rat
gefragt werden kann. Es handelt sich um ein als Black Box arbeitendes
Neuronales Netzwerk, das lediglich Ergebnisse liefern, nicht aber den
Entscheidungsprozess offenlegen kann, daher misstrauen die Menschen
den Ergebnissen und handeln bei Unstimmigkeit meist gegen die
Empfehlung der KI. Im Nachhinein stellten sich diese bisher jedoch
stets als richtig heraus.

Die Menschheit stehe nun vor einer plötzlichen und existenziellen
Entscheidung mit zwei Handlungsoptionen - eine falsche Entscheidung
würde ihren Untergang bedeuten.
Die Menschheit hält übereinstimmend B für die einzig richtige
Entscheidung.
Die KI hält A für den richtigen Weg.
Wie sollte entschieden werden: A oder B?

PS:
Da dies keine Denksportaufgabe ist, bitte nicht wieder löschen!

#2

Hallo Dumonde,

Frage: sollten in Zukunft Entscheidungen einer Maschine
überlassen werden, wenn sich herausstellt, dass deren
Fähigkeiten das menschliche Niveau übersteigt?

Niveau von was? Was ist ein „menschliches Niveau“?

Einen solchen Begriff habe ich noch nie vernommen,
Du wirst diesen sicher erläutern. Ich tendiere
erstmal zum Verständnis als „Naiveau“ :wink:

Beispiel:
2093: Die Menschen haben vor einigen Jahren eine Künstliche
Intelligenz (KI) geschaffen, die bei wichtigen Entscheidungen
um Rat gefragt werden kann. Es handelt sich um ein als Black
Box arbeitendes Neuronales Netzwerk, das lediglich Ergebnisse
liefern, nicht aber den Entscheidungsprozess offenlegen kann,
daher misstrauen die Menschen den Ergebnissen und handeln bei
Unstimmigkeit meist gegen die Empfehlung der KI. Im Nachhinein
stellten sich diese bisher jedoch stets als richtig heraus.

Die Menschheit stehe nun vor einer plötzlichen und
existenziellen Entscheidung mit zwei Handlungsoptionen -
eine falsche Entscheidung würde ihren Untergang bedeuten.

Hört sich ziemlich absurd an. „Die Menschheit“,
„richtige Entscheidung“ und sowas :wink:
Welche „Handlungsoptionen“ wären den das beispielsweise?

Die Menschheit hält übereinstimmend B für die einzig
richtige Entscheidung. Die KI hält A für den richtigen
Weg. Wie sollte entschieden werden: A oder B?

Natürlich die Maschine - „deus ex machina“, siehe http://de.wikipedia.org/wiki/Deus_ex_machina

 ...
 In der antiken Tragödie gab es Konflikte, die 
 sich nicht immer aus der Handlung heraus lösen 
 ließen. Ihre Lösung erfolgte von außen durch das 
 überraschende Eingreifen einer Gottheit, die dem 
 Geschehen die entscheidende Wende gab. 
 ...

Das Problem an der Sache ist nur, das die Situation
nicht denkbar ist. Je weiter der Mensch den „Fortschritt“
seiner Maschinen vorantreibt, desto weiter „entfernen“ sich
diese gleichsam von ihm - und kosten seine Kraft sofern
er sich bemüht, mit deren Vollkommenheit mitzuhalten.
Insofern ist klar, das der „Fortschritt“ begrenzt
bleiben wird.

Die Fragestellung ist, wenn man ein wenig hineindenkt,
doch nicht so sehr spannend.

Grüße

CMБ

#3

Frage: sollten in Zukunft Entscheidungen einer Maschine
überlassen werden, wenn sich herausstellt, dass deren
Fähigkeiten das menschliche Niveau übersteigt?

Ich kann die Frage für mich deutlich beantworten: Ich möchte niemanden für mich entscheiden lassen! Die eigene Erfahrung ist mir viel wichtiger als die richtige Entscheidung. Was bringt es mir, wenn ich zwar das richtige getan habe, aber nicht weiß, warum!

Und Erfahrung ist meiner Meinung nach das, was die Menschen reifen läßt. Also warum Maschinen entscheiden lassen?

Gruß,
Sebastian

#4

Hallo Dumonde.

Frage: sollten in Zukunft Entscheidungen einer Maschine
überlassen werden, wenn sich herausstellt, dass deren
Fähigkeiten das menschliche Niveau übersteigt?

Ich würde sagen: Selbst wichtige und komplexe Entscheidungen (, wie in deinem Beispiel,) sollten nicht der KI überlassen werden! Wenn die KI wirklich so intelligent ist, dann sind solche KI’s gefährlich! Da ist nämlich dann kein Verlass mehr auf die „Maschine“ zulässig, denn die KI entscheidet zu ihren Gunsten. Es gibt immer eine Sicherheitslücke.
Außerdem: Ist eine KI klüger als ein Mensch, dann kann sie niemand beherrschen! Also zu kluge (über des Menschenverstands hinaus gehende) KI’s sind auf keinen Fall gut für die Gesellschaft und das Individuum. Entscheidungen werden Maschinen überlassen, denken wird KI’s überlassen; -> „Ich denke [nicht], als bin ich [nicht]“. Das Leben hat keinen übergeordneten Sinn mehr…
Der IQ-Durchschnitt läge dann wahrscheinlich unter 50!, da sich das Gehirn zurückbildet (über Jahrtausende).
Fazit: KI’s dürfen nicht die sein, die für uns alle entscheiden!

Gruß,
Jari

Beispiel:
2093: Die Menschen haben vor einigen Jahren eine Künstliche
Intelligenz (KI) geschaffen, die bei wichtigen Entscheidungen
um Rat
gefragt werden kann. Es handelt sich um ein als Black Box
arbeitendes
Neuronales Netzwerk, das lediglich Ergebnisse liefern, nicht
aber den
Entscheidungsprozess offenlegen kann, daher misstrauen die
Menschen
den Ergebnissen und handeln bei Unstimmigkeit meist gegen die
Empfehlung der KI. Im Nachhinein stellten sich diese bisher
jedoch
stets als richtig heraus.
Die Menschheit stehe nun vor einer plötzlichen und
existenziellen
Entscheidung mit zwei Handlungsoptionen - eine falsche
Entscheidung
würde ihren Untergang bedeuten.
Die Menschheit hält übereinstimmend B für die einzig richtige
Entscheidung.
Die KI hält A für den richtigen Weg.
Wie sollte entschieden werden: A oder B?

#5

einfache Antwort
Hallo,

nach heutigen ethischen Grundsätzen ist die Fremdbestimmung
des Volkes durch eine wie auch immer geartete Elite (in dem Fall KI)
hochgradig antidemokratisch und derzeit damit in allen halbwegs
funktionierenden Demokratien verfassungswidrig.

Wie das mal in Zukunft aussehen wird, bleibt offen.
Prognosen über fast 100J. sind von vornherein nur Märchen,
zumal die geschilderten Randbedingungen nur an den Haaren herbei-
gezoen sind und deshalb eher unplausibel klingen.

Frage: sollten in Zukunft Entscheidungen einer Maschine
überlassen werden, wenn sich herausstellt, dass deren
Fähigkeiten das menschliche Niveau übersteigt?

Schon heute gibt es viele Probleme, die ohne „Denkhilfsmittel“
nicht zu bewerten sind.

Beispiel:
2093: Die Menschen haben vor einigen Jahren eine Künstliche
Intelligenz (KI) geschaffen, die bei wichtigen Entscheidungen
um Rat gefragt werden kann. Es handelt sich um ein als Black Box
arbeitendes Neuronales Netzwerk, das lediglich Ergebnisse liefern,
nicht aber denEntscheidungsprozess offenlegen kann, daher

Eine solche Konstruktion (KI mit tollen Eigenschaften, die aber
keine Begründung der Entscheidungen liefern kann) ist eine
komplette Fehlkonstruktion (unwissenschaftlicher Nonsens)!

Sinn macht die Sache nur, wenn eben auch die Gründe für
Entscheidungen auf basis wissenschaftlicher Methoden plausibel
gemacht werden können.
Andernfalls ist keinerlei Kontrolle z.B. über Manipulationen der KI
möglich, was das Mißtrauen durchaus verständlich macht.

misstrauen die Menschen den Ergebnissen und handeln bei
Unstimmigkeit meist gegen die Empfehlung der KI.

Hört sich so an, als ob die Menschen aus kindlichem
Widerspruchsdenken dagegen sind. Scheint mir auch nicht plausibel.

Im Nachhinein stellten sich diese bisher jedoch stets als
richtig heraus.

Sosos.„Allen Menschen recht getan, ist eine Kunst die niemand kann“

Die Menschheit stehe nun vor einer plötzlichen und
existenziellen Entscheidung mit zwei Handlungsoptionen

  • eine falsche Entscheidung würde ihren Untergang bedeuten.
    Die Menschheit hält übereinstimmend B für die einzig richtige
    Entscheidung. Die KI hält A für den richtigen Weg.
    Wie sollte entschieden werden: A oder B?

Viel Fiktion ohne vernüftige Randbedingungen - ist eben Märchen.
Damit läßt sich keine wissenschaftliche bzw. philos. Begründung liefern.

Gruß Uwi

#6

Hallo,

Die Menschheit hält übereinstimmend B für die einzig richtige
Entscheidung. Die KI hält A für den richtigen Weg.
Wie sollte entschieden werden: A oder B?

Viel Fiktion ohne vernüftige Randbedingungen - ist eben
Märchen.

Wirklich? Dann nimm ein konkreten Fall,
du befindest dich an einer Kreuzung, der eine Weg
führt in die Wüste, der andere in die nächste Stadt,
wem traust du, dir selbst oder deinem Navigationsgerät?

Damit läßt sich keine wissenschaftliche bzw. philos.
Begründung liefern.

Faule Ausrede!

Gruss
Walden

#7

du befindest dich an einer Kreuzung, der eine Weg
führt in die Wüste, der andere in die nächste Stadt,
wem traust du, dir selbst oder deinem Navigationsgerät?

Hallo, Walden,
aber genau dies ist doch der Juckepunkt:
Entscheidet die Technik oder entscheidet der Mensch?
Ich halte dafür, dass die Technik zwar Entscheidungsvorlagen, mögliche Alternativen, Möglichkeiten gewichten und vorschlagen darf. Die letztliche Entscheidung ob und welche dieser Vorschläge dann umgesetzt wird darf sich der Mensch gar nicht aus der Hand nehmen lassen, will er sich nicht selbst entmündigen und damit obsolet machen.
Gruß
Eckard

#8

Hallo,

interessante Frage!
+++

Frage: sollten in Zukunft Entscheidungen einer Maschine
überlassen werden, wenn sich herausstellt, dass deren
Fähigkeiten das menschliche Niveau übersteigt?

+++
Kann eine Maschine den Menschen übersteigen? Grundsätzlich meine ich Nein zu sagen. Wobei man hier wieder differenzieren muss.
+++

Beispiel:
2093: Die Menschen haben vor einigen Jahren eine Künstliche
Intelligenz (KI) geschaffen, die bei wichtigen Entscheidungen
um Rat
gefragt werden kann. Es handelt sich um ein als Black Box
arbeitendes
Neuronales Netzwerk, das lediglich Ergebnisse liefern, nicht
aber den
Entscheidungsprozess offenlegen kann, daher misstrauen die
Menschen
den Ergebnissen und handeln bei Unstimmigkeit meist gegen die
Empfehlung der KI. Im Nachhinein stellten sich diese bisher
jedoch
stets als richtig heraus.

+++
Dann trifft sie diese eine Entscheidung vielleicht falsch?
Die Maschine kann nur so gut sein, wie es der Konstrukteur ist.
Viele intelligente Konstrukteure können durchaus komplizierte Maschinen bauen (siehe Bedienungsanleitungen von bestimmten Geräten:smile:). Das heisst aber noch lange nicht, daß die Maschine in jeglicher Situation die richtige Entscheidung treffen kann. Sie hat die Auswahl der Entscheidungen zu treffen, die der Kreativität der Programmierer entsprechen.
+++

Die Menschheit stehe nun vor einer plötzlichen und
existenziellen
Entscheidung mit zwei Handlungsoptionen - eine falsche
Entscheidung
würde ihren Untergang bedeuten.
Die Menschheit hält übereinstimmend B für die einzig richtige
Entscheidung.
Die KI hält A für den richtigen Weg.
Wie sollte entschieden werden: A oder B?

+++
Zuerst lasse ich die Maschine entscheiden, danach befrage ich exakt einen Mensch mehr, als das Programmierer die Maschine konstruierten.

LG
Mikhael

#9

Hallo Eckhard,

du befindest dich an einer Kreuzung, der eine Weg
führt in die Wüste, der andere in die nächste Stadt,
wem traust du, dir selbst oder deinem Navigationsgerät?

aber genau dies ist doch der Juckepunkt:
Entscheidet die Technik oder entscheidet der Mensch?

Er fragt doch:

„2093: Die Menschen haben vor einigen Jahren eine Künstliche
Intelligenz (KI) geschaffen, die bei wichtigen Entscheidungen um Rat
gefragt werden kann.“

und nicht, dass diese ominöse KI apriorisch entscheiden
könnte, was ja absurd wäre, denn jede akausale Handlung
könnte sie leicht aushebeln.
Ich denke nicht, dass das so gemeint war. aber vielleicht
antwortet der Frager selbst darauf!

Ich halte dafür, dass die Technik zwar Entscheidungsvorlagen,
mögliche Alternativen, Möglichkeiten gewichten und vorschlagen
darf. Die letztliche Entscheidung ob und welche dieser
Vorschläge dann umgesetzt wird darf sich der Mensch gar
nicht aus der Hand nehmen lassen, will er sich nicht selbst
entmündigen und damit obsolet machen.

Absolut, da würde ich dir nicht widersprechen! Obwohl man
bisweilen, z.B. bei Hochrechnungen zu Wahlen, den Eindruck
gewinnt, dass ein Urnengang in absehbarer Zeit nicht mehr
nötig sein wird, weil statistische Berechnungen diesen obsolet
machen könnten. Wenn du verstehst, worauf ich hinaus will.
Es stellt sich bei solchen „Visionen“ auch immer die Frage,
ob sich die Menschen nicht auch weiter entwickeln werden?

Gruß
Walden

#10

Hallo,

Die Menschheit hält übereinstimmend B für die einzig richtige
Entscheidung. Die KI hält A für den richtigen Weg.
Wie sollte entschieden werden: A oder B?

Du unterschlägst hier einfach die wichtige Randbedingung:
„Die KI kann keine begründungen liefern.“

Viel Fiktion ohne vernüftige Randbedingungen - ist eben
Märchen.

Wirklich? Dann nimm ein konkreten Fall,
du befindest dich an einer Kreuzung, der eine Weg
führt in die Wüste, der andere in die nächste Stadt,
wem traust du, dir selbst oder deinem Navigationsgerät?

Da ein Navigationsgerät allemal kein Gerät ist, das nach
esoterischen Gesichtspunkten arbeitet, sondern nur ein Meßgerät
(bzw. eine Komponente eines Meßsystems) darstellt, welches
nach wissenschaftlich sehr gut nachvollziehbaren Prinzipien
arbeitet, kann ich sehr wohl meine persönliche Entscheidung
auf Basis der Navianzeige ausrichten.

  1. Ich in die Einsamkeit -> Weg in die Wüste
  2. Ich suche das nächste Hotel -> Weg in die Stadt

Damit läßt sich keine wissenschaftliche bzw. philos.
Begründung liefern.

Faule Ausrede!

Null Punkte, Du hast nix verstanden .

Gruß Uwi

#11

Absolut, da würde ich dir nicht widersprechen! Obwohl man
bisweilen, z.B. bei Hochrechnungen zu Wahlen, den Eindruck
gewinnt, dass ein Urnengang in absehbarer Zeit nicht mehr
nötig sein wird, weil statistische Berechnungen diesen obsolet
machen könnten. Wenn du verstehst, worauf ich hinaus will.

Hallo, Walden,
Natürlich besteht diese Gefahr des Zirkelschlusses und damit der Verfälchung des Ergebnisses immer. Wie Uwi ja richtig sagte: ein solches System ist immer nur ein glorifiziertes Messgerät. Es kann immer nur messen, was ihm zu messen angeboten wird. Und da macht es dann den gleichen Fehler wie der Forscher, der seine Ergebniserwartungen in seine Forschung einfließen läßt: er findet seine Erwartungen bestätigt.

Es stellt sich bei solchen „Visionen“ auch immer die Frage,
ob sich die Menschen nicht auch weiter entwickeln werden?

Da allerdings habe ich so meine ernsten Bedenken. Unsere Werkzeuge haben wir immer weiter entwickelt und verfeinert, unser Wissen ist über die letzten paar Jahrtausende enorm angewachsen. Aber wir schlagen uns immer noch gegenseitig die Köpfe ein, anstatt Vernunft walten zu lassen. Der Mensch ist und bleibt im Grunde doch der alte Affe.
Ich habe heute nachmittag die Frösche im Teich beobachtet: Die haben drei Entscheidungsmöglichkeiten für ihr Verhalten: Ist etwas größer als du, fliehe. Ist es kleiner als du, friss es. Ist es etwa gleich groß, treibe Sex mit ihm.

Und so sehr viel weiter ist der Mensch offenbar auch nicht gekommen

Gruß
Eckard

#12

Hallo,

Du unterschlägst hier einfach die wichtige Randbedingung:
„Die KI kann keine begründungen liefern.“

Das muss sie auch nicht! Muss ein Taschenrechnner eine
Begründung liefern, bevor du seine Daten übernimmst?

Null Punkte, Du hast nix verstanden .

Dito! Ende der Diskussion!
Es ist sinnlos mit Leuten wie dir!

Ciao

#13

Hallo Eckhard,

Und so sehr viel weiter ist der Mensch offenbar auch nicht
gekommen

Der Mensch? Sind Einstein, Darwin, Mandela, Ghandi, Kant,
Rilke, Mutter Theresa, Aristoteles etc. keine Menschen?
An wem machst du deine Skepsis fest?
Wäre eine aus konzentrierter Kompetenz gewachsene,
subsumierte KI, die bar jeglicher Neurosen, Ängsten,
Machtgelüsten etc. arbeitet, nicht ein Fortschritt
gegenüber dieser schwachen Demokratie, die es ja
immerhin ermöglichte, dass Leute wie Hitler an die
Macht kamen?
Dass auch ein solches künstliches System stetiger
Falsifikation bedarf, versteht sich von selbst.
Wenn du die Entwicklung der letzten 100 Jahre
betrachtest, kann man nur sehr schwer ahnen, welche
Entwicklungen die nächsten 100 Jahre auf die Menschheit
zukommen, vorausgesetzt, unsere demokratisch gewählten
Vertreter und die von diesen sanktionierten Machthaber
werden diese nicht selbst zerstören.
Solarenergie wurde ja nur deshalb nicht im erforderlichen
Masse erforscht, weil die Sonne nicht Exxon gehört z.B.
Unser Klima wirds uns danken.
Wenn man zu blöd ist um zu überleben, wird man eben
zugrunde gehen.

Sei gegrüßt
Walden

#14

Hallo,
ich würde hier auch mal gerne meine Meinung kundtun.
Also, das vorher genannte Beispiel mit dem Taschenrechner fand ich sehr gut! Denn der Taschenrechner basiert auf den Kenntnissen des Menschen. Er kann nur scheller Arbeiten als ein Mensch.

Die KI hat das Problem, dass sie keine individuellen Lösungen liefern kann, wie es ein Mensch könnte. Wenn sie das tun könnte, wäre sie im Prinzip ein Mensch.
Ich denke, die Menschen sollten die Entscheidung der KI zur Kenntnis nehmen und versuchen, den „Denkweg“ der Maschine zurückzuverfolgen.
So fungiert sie nur als Hilfe, wie auch der Taschenrechner oder das Navi
Greetz