Schon vor Jahrzehnten hat ein Forscher im Bereich der KI einmal sinngemäß geäußert, er wolle eine Maschine schaffen, die Stolz auf ihren Erbauer sei ...

Es gibt (Edit: auch ...) auf diesem Gebiet die ganze Palette an menschlichen Intentionen, das muss man sich klarmachen.

(Edit: Und manche davon können z.B. egozentrisch, skrupellos, grössenwahnsinnig oder einfach nur "bescheuert" sein ...)



Viele der literarischen Motive, die man aus der Science Fiction bereits lange kennt

- Maschine wehrt sich dagegen, "abgeschaltet" zu werden

- Maschine wendet sich gegen Erbauer oder andere Menschen
...(etwa weil sie "erkennt", dass Menschen selbst nicht nach den moralischen Prinzipien handeln, die sie der Maschine "mitgegeben" haben)

- Maschine wird "verrückt" (etwa weil man sie durch einen widersprüchlichen Auftrag zum "Lügen" gezwungen hat)

- Maschine nutzt andere Maschinen (Systeme), um bestimmte Ziele zu erreichen.

- ...


Können uns m.E. durchaus in der Realität ereilen, wenn Maschinen bestimmte Schwellen der Wahrnehmung, des Lernens, der Fähigkeit zur
Selbstorgansiation überschreiten.

Ja, einige SF-Autoren haben eine ziemlich konkrete Vorstellung, was KI sein kann. Z.B. die Autoren von Star Trek haben mehrere rote Fäden, z.B. Data oder das medizinische Notprogramm entwickelt. Interessant natürlich Stanley Kubricks Version. Oder Steven Spielberg natürlich. Oder bei Interstellar die kubischen Navigationsroboter. Aber die Befürchtung, dass dabei sowas wie der Terminator entstehen kann, ist vielleicht nicht ganz unbegründet.

Stanislaw Lem hat sich u.a. als SF Autor mit solchen Fragen befasst und dabei - oft mit einem zwinkenden Auge - seine Leser
zum Nachdenken anregt:

https://de.wikipedia.org/wiki/Stanisław_Lem


Daraus Zitat:

"
In den 2000er Jahren wurde der vielseitig gebildete Lem zum Kritiker des – von ihm teilweise vorhergesagten – Internets und der Informationsgesellschaft, weil diese die Nutzer zu „Informationsnomaden“ machten, die nur „zusammenhangslos von Stimulus zu Stimulus hüpfen“ würden. Die allgemeine Steigerung der technischen Leistung gehe „paradoxerweise mit einem Verfall der Fantasie und Intelligenz der Menschen einher.“
"

Wenn SciFi wuerd ich den late Ian M. Banks empfehlen, grad auch in dem Zusammenhang....seine anderen Buecher, unter dem Name Ian Banks, sind auch ned ohne....

ist nicht gerade sehr alt geworden...

Mehr Inhalt hat er halt kreiert als Du....ich mein so nachdenkenswertes......auch mehr als ich, moecht I noch anmerken...da simmer on par......moeglicherweise....

Naja von wegen der KI möchte ich nur sagen:


lesensiediepackungsbeilageoderfragensieihrenarztod erapotheker


Gag am Rande:

Frage:

"Was machen Sie eigentlich beruflich ?"

Antwort:

" Ich bin ArztoderApotheker"


Nun sind jedoch viele Menschen, die heutzutage (schönes Wort, was bedeutet es eigentlich genau ?) Antworten geben
(ganz gleich, ob sie jemand überhaupt darum gebeten hat), weder Arzt noch Apotheker ...

Hilfreich hierzu im Leben:




Wen können/sollten wir also fragen/konsultieren, wenn wir eine Packungsbeilage inhaltlich nicht verstehen ?

(Edit: Und wer versteht die schon ?)

Heutzutage sind die Packungsbeilagen noch perverser als früher, ganz zu schweigen von damals, deswegen liest sie nicht mal der Arzt oder Apotheker mehr

Interessant, das freut' mich übrigens in diesem Forum, immer wieder auch mal von "Insidern" auf anderen Gebieten was zu hören ...

Das ist mittlerweile wirklich so... Die PVS oder auch Apotheken Software hat Prüfmodule, die auf Risiken und Interaktionen hinweisen (und die man zuerst "tunen" muß, um halbwegs normal arbeiten zu können, sonst hat alles mit allem Interaktionen).


Danach sind sie allerdings sinnvoll und viel pflegeleichter, als die, pardon, Alibizettel zu versuchen, zu analysieren

Wenn wir alles Gelernte vergessen haben, bleibt uns noch unsere Bildung
(angeblich A. Einstein)

Wer nicht naturwissenschaftlich arbeiten möchte, dar kann ja immer noch als Jurist an der Gestaltung von
"Beipackzetteln" mitwirken ...


(Edit: Aber auch der Jurist sollte sich u.a. hiermit





ein wenig auskennen, sonst kann's extrem blöd werden im konkreten Fall ...)

Blöd, ja, oder - beim Juristen weniger, aber beim Arzt, schnell tödlich... Von daher ist es eher gut, daß die Genannten diverse "Helferlein" haben. Abgesehen von der nachlassenden Allgemeinbildung, ist die Materie zusehends komplexer, so daß sie immer weniger Menschen wirklich "im Griff haben", selbst in ihren engen Spezialgebieten. Die Gefahr, "vor lauter Bäumen den Wald nicht mehr zu sehen", nimmt IMHO zu.

Egal, von wem: Bildung ist verdautes Wissen. (nicht versautes)

Unsere Schule, eine „Gute“, wie ich heute weiß, hatte uns fast nichts beigebracht, was wir direkt im Leben gebrauchen/anwenden konnten.
Nachdem wir (ihre ehemaligen Schüler) aber erkannt hatten daß sie uns offensichtlich „Bildung“ beigebracht hatte, war dann vieles leichter im weiteren Verlauf, auch wenn wir oft und in vielem Praktischen fast wieder bei „Null“ starten mußten…
Sie hatte auch verstanden, uns verantwortungsvolles Denken, Logik und aber auch Imagination und Fantasie zur Hand zu geben.

Ähnliche Anregungen konnte ich auch der „klassischen Science Fiction“ abgewinnen. Lem ist imho ein gut gewähltes Beispiel. Man sollte ihn nicht ganz ohne Humor lesen.


LG
Bernd

Ich bin kein Fan von Elon Musk, aber seiner Forderung nach verbindlichen Regeln für Gestaltung und Einsatz von KI
stimme ich grundsätzlich zu.

Hier einige Äußerungen, die inzwischen bereits ca. 5 Jahre alt sind:

https://www.handelsblatt.com/unterne.../20069146.html


Das Thema hat ja viele Facetten, ich persönlich sehe da u.a.

- die Frage nach der klassischen Software Qualität: Sicherstellen, das KI basierte Software (nach jewils gegebener Spezifikation) tut,
was sie soll und nicht tut, was sie nicht soll

- die Frage nach der Verantwortung bei Entscheidungen aber auch Fehlentscheidungen, Unfällen, Verlusten etc., die mittelbar oder
unmittelbar mit dem Einsatz von KI oder KI-artiger Software zusammenhängen

- ethische Fragen wie etwa in welchen Bereichen und zu welchem Zweck KI eingesetzt werden darf

- gesellschaftspolitische Fragen, wie etwa sichergestellt werden soll, das KI Einsatz unseren gesellschaftlichen Grundwerten entspricht
und z.B. keine gesellschaftlichen Gruppen dadurch benachteiligt werden

- Fragen im Bereich des geistigen Eigentums und des Urheberrechtes, die auftauchen, wenn KI basierte Verfahren etwa bei der Gestaltung
von Werken (mit-) eingesetzt werden ...



Da könnten wir m.E. Politiker und Juristen gut gebrauchen, welche sich in

- den Grundlagen der Informatik (!)
- in der modernen Softwaretechnik, insbesondere
- im Entwurf und
- in der Qualitätsicherung wirklich auskennen.


Im Idealfall bräuchte es m.E. eine Art "Charta" mit (möglichst) einfachen Regeln, die ggf. auch von Nichtfachleuten verstanden werden
können und klare Abgrenzungen schaffen, "was geht und was nicht".

Dass bestimmte Möglichkeiten der KI insbesondere für totalitäre Staaten (Edit: und solche, die es werden wollen ...) ein "gefundenes Fressen"
sind, dürfte jedem klar sein.

U.a. Geheimdienste - ganz gleich ob in der Geschmacksrichtung "Inlandsgeheimdienst" oder "Auslandsgeheimdienst" - dürften sich dabei
allerdings kaum oder nur aufgrund erheblichen Drucks in die Karten schauen lassen.

Mit Zen... ähm, Moderation vs. Freiheit in Foren, ist es sowieso immer "ein Leiden". Es wird mit oder ohne KI immer Konflikte geben, weil es in der Natur des Menschen liegt, Grenzen auszutesten, und in der Natur mancher, die fast schon zwanghaft zu brechen. Ein recht geschickter Versuch war in einigen Foren, +/- Bewertung durch Mitglieder, wer zu viel "-" kassierte, flog irgendwann, nur das schmeckte wieder den Admins nicht etc. Dazu kommt, in den meisten Foren, noch "die Geißel der Menschheit", die Werbung, die von Klicks abhängig macht, viel Streit, viele Klicks...

Ceterum censeo: Unlösbar.