Juli Zeh hat zu doiesem Thema einen Roman gwschrieben : "Einsame Herzen".

Per Algorithmus werden potentielle Selbstmörder gesucht, die dann an Organisationen vermittelt werden, die Selbstmordattentäter für ihre Propagandazwecke benutzen.

Die Zukunftsvisionen sind grausig.

Die Protagonisten wirken kalt, wie ferngesteuert - ohne Gewissen und ohne Moral.
In diesem Fall gleichen sich nicht die Maschinen den Menschen an - es ist umgekehrt.
Die Menschen beginnen zu funktionieren.
Ich kann jedem nur empfehlen, ein oder zweimal das Buch von Nick Bostrum zu lesen, um nur mal eine Ahnung davon zu bekommen, wie komplex und derzeit völlig ungelöst das Kontrollproblem bei der Entwicklung von KI ist.

Der Autor versucht logisch zu erläutern wann mit der Entstehung einer echten KI zu rechen sein dürfte und welche weiteren Folgen das höchstwahrscheinlich haben wird. In diesem Buch geht es um echte künstliche Intelligenz, darum welche Ziele diese haben dürfte und wo sich diese (äußerst nachteilig) auf die Menschheit auswirken könnten. Das Buch beschreibt eindrucksvoll, dass es nur eine Frage der Zeit ist, bis es eine künstliche Superintelligenz geben wird. Wenn man dem Autor glauben darf, und ich wüsste nicht, was dagegen spricht,

Künstliche Intelligenz: Roboter kommen zu Wort, Albert Einstein als Roboter
Soll das die Menschheit beruhigen oder hält man sie für Dumm.
https://www.youtube.com/watch?v=yrVvv59Iq8I

Leider überwiegen in der technikaffinen Community, die begeistert das technisch Machbare immer weiter vorantreiben wollen, als auch bei Businessleuten, Managern und Investoren, denen die glitzernden Dollarzeichen aus den Augen springen, unkrtitische, teilweise naive und/oder verantwortungslose Euphorie und das pure Ignorieren von kritischen Einwänden.
Die Haltung "es gibt hier kein Problem, und wenn, dann bekommen wir es in Griff, wie wir das immer auch schon in der Vergangenheit getan haben" ist falsch und gefährlich. Im Gegensatz zu den Gefahren anderer Technologien, wie z. B. der Kernenergie, bei der selbst ein GAU lokal begrenzt bleibt, hat die Menschheit nur einen Versuch bei der Erschaffung von allgemeiner KI, bei der niemand ausschließen kann, dass sie sich in kürzester Zeit zur Superintelligenz entwickelt, die dann möglicherweise nicht mehr zu kontrollieren ist. Allein der Umstand, dass es niemand ausschließen kann, sollte zu mehr Vorsicht, zu mehr Ehrfurcht und zu sehr viel stärkerem Nachdenken und Forschen zu den Risiken führen.
Sumsum hat u.a. geschrieben: ''Leider überwiegen in der technikaffinen Community, die begeistert das technisch Machbare immer weiter vorantreiben wollen, als auch bei Businessleuten, Managern und Investoren, denen die glitzernden Dollarzeichen aus den Augen springen, unkrtitische, teilweise naive und/oder verantwortungslose Euphorie und das pure Ignorieren von kritischen Einwänden. Die Haltung "es gibt hier kein Problem, und wenn, dann bekommen wir es in Griff, wie wir das immer auch schon in der Vergangenheit getan haben" ist falsch und gefährlich.''

Ja, die 'Nebenwirkungen und Risiken' werden, wenn überhaupt, nur ungenügend angesprochen bzw. konkretisiert. Es sind sehr einflussreiche Persönlichkeiten, die in den wichtigsten Organisationen, in den höchsten Gremien und in den mächtigsten Tech-Firmen ansässig sind und die entscheidend dazu beitragen, wie unsere Zukunft aussehen wird und welche massgeblich mitverantwortlich sind, wie unsere Gegenwart bereits jetzt aussieht. Inwiefern werden da die Bürger / Nutzer in diese Entscheidungen miteinbezogen und inwiefern über diese aufgeklärt?


Der Unternehmer, Futurist und Transhumanist Ray Kurzweil, seit 2012 Director of Engineering bei Google, macht zur künstlichen Intelligenz folgende Aussagen:

''Künstliche Intelligenz wird ungefähr im Jahr 2029 menschliches Niveau erreichen. Gehen wir weiter bis, sagen wir, 2045, so werden wir diese Intelligenz bereits vervielfacht haben; und die menschlich-biologische Maschinenintelligenz unserer Zivilisation wird vervielfacht um das Milliardenfache."
https://www.cancom.info/2014/12/ist-kun ... 5-moglich/

Wie er diesbezüglich künstliche Intelligenz in Verbindung zum Menschen sieht, erklärt er so:
''Das wird eine tief greifende Änderung, die einzigartig sein wird in der Natur. Computer werden immer kleiner und kleiner werden. Letztendlich werden sie in unsere Körper und Gehirne gehen und uns gesünder, klüger machen."

Am unmissverständlichsten klingt die folgende Prognose von ihm:
''Wenn Sie im Jahre 2035 mit einem Menschen sprechen werden, werden sie mit jemandem sprechen, der eine Mischung aus biologischer und non-biologischer Intelligenz ist."

Und zu Gottes Existenz:
''Gibt es Gott? Nun ja, ich würde sagen, noch nicht.''
Dabei bezieht er sich auf die bevorstehende 'Singularität'. Gemeint ist damit der Zeitpunkt, ab dem sich künstliche Intelligenz verselbstständigt, sich autonom und rasant verbessert und damit den technischen Fortschritt derart beschleunigt, dass die Geschicke der Menschheit hinter diesem Ereignis nicht mehr vorhersehbar sind, weil deren Gestaltung nicht mehr in ihren eigenen Händen liegt. Bei den Transhumanisten ist die Rede von einer schnellen und direkten Integration der organischen, menschlichen Spezies in eben diesen Prozess.

Will er etwa (s)einen eigenen Gott erschaffen?

Auf dieselbe Frage antwortet Dr. Will Caster, führender Forscher im Bereich künstlicher Intelligenz, im Film 'Transcendence' zum Thema 'Singularität' mit der Gegenfrage: ''Haben das die Menschen nicht schon immer getan''?
https://www.youtube.com/watch?v=icuojmn-zKg
(Trailer Transcendence / 2'35'')


''Neben dem ethischen Aspekt der Legitimität dieses totalitären Zugriffs auf den Menschen, der eigentlich die Differenz von Nutzung und Missbrauch gar nicht mehr zulässt, stellt sich die Frage, ob wir in diesem Kontext eines quasi-göttlichen Algorithmus fortan überhaupt noch die menschliche Vernunft und deren Königsdisziplin, die Wissenschaft brauchen werden? Menschliche Urteilskraft hat weder die Datenbasis noch die Rechenkapazität oder -geschwindigkeit von Super-Computern. Sollten wir uns dann nicht lieber dem neuen Gott beugen, seiner Offenbarung Glauben schenken, seinen Geboten folgen, Digitalisierungskritiker als Häretiker dem Scheiterhaufen zuführen und denjenigen unter Strafe stellen, der es wagt, sich ohne Anleitung der Algorithmen des eigenen Verstandes zu bedienen?''
https://www.rubikon.news/artikel/orwell-3-0
Algorithmen 'erobern' die Kunstwelt:

Künstliche Kunst - so kreativ können Maschinen sein: kreieren statt kopieren.
'Echte' Rembrandt's malen, Musik-Hits komponieren, Bestseller schreiben – immer klügere Algorithmen beeinflussen und gestalten die Kunstwelt.


KI-Trends im Silicon Valley
https://www.ndr.de/kultur/kulturdebatte ... ey122.html



Für Interessierte hier eine Auswahl an Beispielen aus der KI-Kunst-Szene; man höre sehe und staune:


Wenn Roboter Rockstars werden
https://www.ndr.de/fernsehen/sendungen/ ... l5726.html


Wenn Maschinen Musik machen
https://www.ibrahimevsan.de/2017/04/07/ ... ik-machen/


Wenn Computer komponieren - Die Mozart-Maschine
https://www.nzz.ch/feuilleton/musik/wen ... -ld.106940


Wenn der Computer einen 'echten' Rembrandt malt
https://www.welt.de/kultur/kunst-und-ar ... aelde.html


Wenn Maschinen Menschen malen
http://www.haz.de/Sonntag/Tipps-Kritik/ ... kuenstlich


Wenn KI-Systeme eigene Kunst-Stile hervorbringen
http://winfuture.de/news,98358.html


Aus Malerei wird Musik – per Algorithmus
https://www.wired.de/collection/tech/au ... lgorithmus
(Musikvideo leider nicht mehr verfügbar)


Wenn Algorithmen Dichter werden
https://www.nzz.ch/feuilleton/schauplat ... n-ld.10562


KI entwickelt Film-Trailer für den Science-Fiction-Film 'Morgan'
http://www.horizont.net/marketing/nachr ... ler-142476


Last but not least - wenn KI Kunst Kommerz produziert:
$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$


Da stellt sich letztendlich die provokative Frage: inwiefern und wie lange bleibt der Mensch in dieser künstlichen Kunstwelt noch 'Künstler.'?
@Adimus - ............ wie lange bleibt der Mensch in dieser künstlichen Kunstwelt noch 'Künstler.'?

Kreativität, die "automatisiert wird", ist keine mehr, meine Meinung.

In vielen Bereichen beginnt KI Einfluss auf die Medienlandschaft zu nehmen. Die Frage bei diesem Trend ist also nicht mehr ob, sondern wie hoch der Anteil KI automatisch generierter Medien und Inhalte sein wird. Die ersten Ansätze sind heute schon erkennbar.
Ungefähr ab 2035 wird die Rechenleistung von Computerchips die Leistungsfähigkeit des menschlichen Gehirns übersteigen. Zwar werden die Maschinen dann sicherlich nicht generell intelligenter sein, aber schon zuvor wird immer mehr KI auch im Medienbereich Kreativität und Inhalteproduktion automatisieren.

Haben wir als Menschen in der Zukunft da überhaupt noch Chancen, und da meine ich nicht nur die Kunstwelt. Denn auch in der Finanzwelt halten
selbst adaptierende, lernende Algorithmen Einzug.
Wie wird das die Märkte verändern, kann es an den Märkten für eine Super-Intelligenz so etwas wie garantierte Gewinne und "Unbesiegbarkeit“ geben?
Eine Frage die beinhaltet, ob an der Börse Menschen irgendwann gegen die automatisierten Programme nicht mehr bestehen können, so wie schon heute beim Schach.
......aber, oft ist KI noch gar nicht so clever, sie produziert haarsträubende Fehler und gefährliche Verwechslungen.

Bei einem Foto glaubt der Captionbot, es wäre eine Person, die auf einem Tisch sitzt. Auf dem Foto ist aber eine farbige Plastikschildkröte zu sehen. Wissenschaftler haben sie mit einem 3D-Drucker hergestellt, um zu zeigen, wie anfällig Bilderkennungssysteme sind. Die KI von Google hielt die Schildkröte für ein Gewehr. In anderen Fällen des Tests wurde ein Baseball für Espresso gehalten.Solche Experimente können auch in der Realität gefährliche Folgen haben. In Deutschland befürworten viele Politiker und Bürger den Einsatz von Videoüberwachung mit intelligenter Bilderkennung.
Doch wenn Algorithmen Schildkröten mit Waffen verwechseln, wären fehlerhafte Alarmmeldungen keine Überraschung. Und noch riskanter sind mögliche Fehler bei selbstfahrenden Autos.
Ja, Sumsum, mir liegt weniger perfekte, menschliche Kunst auch näher und an Konzerten bevorzuge ich lieber echte 'Bio Stars'. Die ersten Hologramm-Band Tourneen werden nicht mehr lange auf sich warten lassen und die Kids können bald wieder zu den guten alten Beatles und Stones in Ohnmacht fallen. Und die ersten Roboter-Bordelle haben in Japan, Korea und Spanien auch schon ihre Türen geöffnet und Barbie, Ken und Co. (in Japan sogar Kinderpuppen) bieten ihre Liebesdienste an. Vielleicht bald schon mit integrierter Samenbank? Tja, Wunschkonzert auf allen Ebenen – ob das die Menschheit zufriedener und glücklicher macht?

Die ganze KI-Entwicklung steckt ja noch sozusagen in den Kinderschuhen und wird noch viel dazulernen und effizienter werden müssen. Learning by doing - das geht sozusagen schon von Heute auf Morgen. Schneller als wir denken.

Wenn man sich vorstellt, dass die noch gegenwärtige Fehler- und Mangelhaftigkeit der KI auch andere Bereiche wie den militärischen Komplex, die Precrime oder die Börsen etc. betrifft, fragt sich einmal mehr, wer dann die Verantwortung für die sogenannten Kollateralschäden und Folgen tragen wird. In der Kunstwelt oder Sexindustrie mögen diese noch tragbar sein, aber in Kriegen, bei Fehlverurteilungen sowie bei Verkehrsunfällen oder einem Börsencrash etc. kann dies ungeahnte Ausmasse zur Folge haben. Who's responsible? Der Hersteller, der Programmierer, der Robotor?
Und nun...........

Lieber Adimus, solltest du die Absicht haben, dieses Jahr Urlaub in Kalifornien zu machen, so denke daran, Augen auf im Straßenverkehr: "Vorsicht, heißt die Mutter der Porzellankiste". :wink:
Bisher musste ein Fahrer im Notfall eingreifen können. Seit April dürfen in Kalifornien Autos getestet werden, die komplett ohne Lenkrad und Pedale gebaut wurden.
50 Firmen aus aller Welt haben die Erlaubnis zum Testen selbstfahrender Autos erhalten, auch deutsche Autobauer. Und es soll der Betrieb der Wagen per Funk überwacht werden, ähnlich wie Flugschreiber in der Luftfahrt.

Die Steuersysteme selbstfahrender Autos sind erwiesenermaßen störungs- und manipulationsanfällig und es gab nie Zweifel, dass auch selbstfahrende Autos zum Tod von Menschen führen würden. Wenn Unfälle mit Todesfolge aber eintreten, sind auch Diskussionen darum unvermeidlich: Vor kurzem tötete ein sich autonom fortbewegendes Fahrzeug eine Frau in Arizona, dann starb ein Mann in einem Auto von Tesla, dessen Autopilot aktiviert war.

Ich frage mich, was bitte soll erstrebenswert daran sein, sich völlig fremdbestimmt durch die Gegend kutschieren zu lassen? Weshalb sollte ich die Verantwortung für mein und meiner Mitfahrer Leben in die Hände fremder Leute legen? Man muss schon am Zuckerbergsyndrom leiden, um Vertrauen in jene zu legen, die da programmieren. Die Überwacher wollen natürlich gern wissen, wo ich war, wo ich bin, mit wem ich mich abgebe, was ich da oder dort kaufe, ob ich ergo kreditwürdig bin ... Bösartige Institutionen können solche Autos manipulieren: anhalten, fremdsteuern.

Die Vermeidung von Lebensrisiken im Verkehr ist keineswegs meine Freiheit wert. Schon Kästner wusste, dass das Leben immer lebensgefährlich ist. Und welcher Gefahr ich mich aussetze oder auch nicht, das bestimme immer noch - ich selbst.
Also, das mit den selbstfahrenden Autos hat mehrere Aspekte.
Erstmal ist ein Auto mit viel Elektronik und W-Lan an Bord angreifbar und überwachbar, auch wenn da noch ein Mensch lenkt.
Die generelle Gefahr der Überwachung sehe ich auch, nicht nur im Autoverkehr.

Unter bestimmten Umständen könnte ich mir jedoch autonomes Fahren gut vorstellen und es könnte auch zur Minderung von Unfällen beiträgen. Wenn auf Autobahnen oder Schnellstraßen alle Wagen automatisch im gleichen Abstand und im gleichen Tempo (meinetwegen differenziert nach Fahrbahn) dahinrollen, ist das nicht nur entspannend, es dürfte auch zu weniger Unfällen kommen. Gut, in Dschland müsste das Pendant zum amerikanischen Waffengesetz, das fehlende Tempolimit überwunden werden, wobei sich Daimler, Audi, BMW & Co. hartnäckig sträuben werden.
Niemand würde in ein Flugzeug ohne Pilot steigen, obwohl die Dinger faktisch schon von allein fliegen. Aber die unendliche Anzahl möglicher Situationen am Boden ist für die KI-Forschung natürlich kein Problem. :roll:
Ich denke, dass selbstfahrende Autos der Traum jedes totalitären Überwachungsstaates sind, also alle außer Island. - selbstfahrend heißt ferngelenkt. ...
kurz und knapp, aber recht hat er........der Herr Lesch
https://www.youtube.com/watch?v=Q_1GKN_lVfg
Strotzen unsere Straßen von mitfühlsamen, zuvorkommenden, barmherzigen Verkehrsteilnehmern in ihren fahrenden Kabinen? Zeigen wir im Verkehr diese soft-skills, die Maschinen fehlen? Da haben alle hier sicherlich auch schon alle ganz andere Erfahrungen gemacht. Es gibt ne Menge Autofahrer/innen, die ich lieber auf Sicherheitsabstand von mir sehen würde.
Es wäre mal einen Feldversuch wert, ob Menschen oder Algorithmen die besseren Fahrer im Sinne von Verkehrssicherheit sind. Schon im heutigen Stadium der Entwicklung bin ich mit nicht sicher, das das Ergebnis zu Gunsten unserer Spezies ausfallen würde. :lol:
Hauptsache, die künstliche Intelligenz bekommt keine Depressionen....
Ja @ Sumsum, dafür bräuchte ich nicht mal nach Kalifornien zu gehen, dass haben wir in der Schweiz ansatzweise auch schon. Eigentlich wäre es schon nett, mit einem alten tuckernden Ami-fass wie einem Buick Century oder so in der Gegend herum zu cruisen. Handgesteuert natürlich. Aber in diesem Fall werde ich mir das nochmal gut überlegen müssen ;-)

Die Postauto Schweiz AG hat bereits Testfahrzeuge (Shuttlebusse) im Einsatz:
https://www.youtube.com/watch?v=ZnYYxhHwZpo (1'48'')

Ersten Studien zufolge sei die Akzeptanz der Bevölkerung sehr gross und es würden insbesondere wegen grösserem Vertrauen in die Technik mehr solcher autonomer Fahrzeuge befürwortet……..
https://www.postauto.ch/de/news/erste-s ... %B6lkerung

Aber... ist die Verantwortungs- und Haftungsfrage wirklich ausreichend geklärt? Wenn der Mensch einen Unfall baut ist er verantwortlich, aber wenn ein selbstfahrende Maschine Menschen tötet, wie die Beispiele aus den USA die Du erwähnt hast, wer haftet dann? Wer wurde / wird dann zur Verantwortung gezogen??

Auf jeden Fall wird sich auch das Arbeitslosenamt besonders über die vielen erwerbslosen Fahrer freuen dürfen. Auf dem Lande hat ein Fahrer oft zusätzlich noch eine gesellschaftlich-soziale Funktion für viele Menschen. Aber dank implantiertem Chip wird das Individuum künftig auch gleich erfasst und erkannt und im besten Fall sogar noch 'persönlich' begrüsst.

''Ich frage mich, was bitte soll erstrebenswert daran sein, sich völlig fremdbestimmt durch die Gegend kutschieren zu lassen? Weshalb sollte ich die Verantwortung für mein und meiner Mitfahrer Leben in die Hände fremder Leute legen?''
Diese Fragen stelle ich mir allerdings auch, eine befriedigende Antwort darauf habe ich nicht gefunden. Was mein Leben anbetrifft, gebe ich das Steuer (noch) lieber nicht für einen Algorythmus aus der Hand.



''Es wäre mal einen Feldversuch wert, ob Menschen oder Algorithmen die besseren Fahrer im Sinne von Verkehrssicherheit sind. Schon im heutigen Stadium der Entwicklung bin ich mit nicht sicher, das das Ergebnis zu Gunsten unserer Spezies ausfallen würde.''
So eine Feldstudie zur Verkehrssicherheit, @roadrunner, wäre sicherlich interessant und aufschlussreich. Also das Problem mit Unfällen durch Raser oder alkoholisierten Fahrern wäre wohl weitgehend gelöst und sicher bald Vergangenheit.

Auf dem Argument Sicherheit wurde aber auch der ganze Aufbau des heutigen Überwachungsapparates begründet und wird auch weiter ausgebaut werden. Die totale Sicherheit wird es aber nicht geben, die totale Überwachung schon eher.

Anderseits entstehen ganz andere, neue Risiken und Sicherheitslücken. Auch für Hacker öffnen sich komplett neue Bereiche und so ein gehackter und / oder umprogrammierter autonom amok-fahrender Bus ist dann sicher auch nicht ohne… Die nahe Zukunft wird’s zeigen.


''Hauptsache, die künstliche Intelligenz bekommt keine Depressionen....''
Die Depressionen, @Wuselino, bekommen dann die entlassenen Fahrer. Aber das läuft dann unter Kollateralschaden.



Die Menschheit sollte sich vielleicht mehr Gedanken über Entwicklungen wie die von autonomen Killer-Robotern machen, von denen wir nicht wissen, ob sie dazu in der Lage sind, Freund von Feind oder Soldat von Zivilist zu unterscheiden.
https://www.swissinfo.ch/ger/politik/au ... -/44032132
Der Mensch ist in diesem Spiel die Manipulationsmasse, eine aus Maschinensicht unzulängliche, aber steuerbare Komponente. Diese Entwicklung lässt sich weder aufhalten, noch wirksam steuern.

Es gibt eine Wissenschaft, die sich dem digitalen gänzlich verschließt, sie hat über alle menschlichen Errungenschaften hinweg die Welt geprägt, die Philosophie. Philosophisch sind die knallharten Optimisten des Silicon-Valley leider eher nicht bewandert, sonst würden sie manchmal innehalten und darüber nachdenken, was sie da gerade tun.

Und mal ein Blick auf unsere schöne Erde........
In der Natur gibt es zurzeit ein exponentielles Wachstum bei Bakterien. Nach einer kurzen Phase, in der sie sich erst auf den vorhandenen Nährstoff einstellen, folgt eine Phase mit exponentiellen Wachstum.
Manchmal kann die Zukunft sehr überraschend sein, aber auch erschreckend vorhersagbar.
Tja, liebe @Sumsum, dann wirf mal schnell Dein Smartphone in den Müll, wie es Prof. Welzer empfiehlt. :wink: Zu gefährlich, die Teile.