Da kennt sich aber einer aus

Mit der M$ - KI lässt sich schon gut "rumfaxen" ...

...ist ja auch nicht soo schwer...

Da gibt es Unternehmen in den USA, die kaufen massenweise alte Bücher zum Kilopreis, scannen sie ein um Datenbanken damit zu füllen und vernichten sie anschließend. Nur um ihre KI Algorithmen zu trainieren. Alles, damit diejenigen, die zu faul zum selber lesen sind der KI mehr oder weniger schlaue Fragen stellen können.

Schöne neue Welt.

Gruß

RD

Lieber Hörzone,

Die KI ist im Grunde nichts anderes als eine sehr leistungsfähige Such- oder sollte ich vielleicht besser sagen Antwortmaschine. Das ist zunächst mal wirklich nicht schlecht. Google 2.0 so zusagen. Google arbeitet seit geraumer Zeit ja auch damit wenn man konkrete Fragestellungen formuliert. Früher hat Google lediglich Quellen im Netz zum Thema angeführt, die man selber studieren kann, sofern man dazu die Lust und die Zeit besitzt. Heute gibt Google (Bing) selber zusammenhängende und selbst formulierte Antworten. Das ist wirklich nicht schlecht und wenn es um Sachen geht, die klar sind, also nicht einem bestimmten Meinungsbild unterliegen, dann stimmt das nach meiner Erfahrung auch.

Beispiel, Auf die Frage welche Fahrerlaubnis man mit dem alten Führerschein der Klasse 3 besitzt, bekommt man eine klare Antwort und dazu gibt es noch die Information, welchen aktuellen Führerscheinklassen das entspricht.

Geht es aber um Dinge, die einer irgendwie geprägten ideologischen Betrachtung unterliegen, dann wird es nicht selten kritisch, einseitig bzw. sogar falsch. Und genau aus diesem Grund versuchen mächtige Leute die Meinungsführerschaft? im Netz an sich zu reißen. Wie ich schon erwähnt habe, lässt Putin an einem alternativen Wikipedia arbeiten, das seine (alternative) Weltsicht im Netz verbreiten soll. Unter anderem aus dem Grund die KI zu beeinflussen. Anstatt selber die Originalquellen zu Rate zu ziehen, ist man schnell dabei die von der KI gegebene Antwort zu akzeptieren. Das ist ja die KI, die muss es ja wissen und es ist ja auch sehr bequem.

Trump ist noch nicht so weit, der verbreitet immer noch über seinen Messenger-Dienst höchstpersönlich seinen kruden Unfug, den man sehr schnell als Lüge entlarven kann, ab und zu machen Journalisten auch mal ihre Arbeit. Aber die Leute hinter ihm sind da bestimmt schon ein ganzes Stück weiter. Die sind ja auch nicht so dumm wie er.

Das Beispiel mit dem Herrn Marlboro ist tatsächlich nicht schlecht. Aber mal ehrlich, wer macht sich denn die Mühe, ein so intensives und zeitraubendes Quellenstudium zu betreiben. Die meisten und leider kann ich mich da auch nicht ganz von ausnehmen, geben sich mit schnellen Antworten zufrieden, wie gesagt, das ist halt bequem.

Kurz gesagt, die KI bietet Chance und Möglichkeiten, die es bis dahin so nicht gegeben hat. Aber ohne selber (nach)zudenken geht es auch mit der KI nicht, wenn man die 'Wahrheit' wirklich wissen will. Und ich möchte gerne wissen wie viele akademische Arbeiten 'mal eben schnell' mit kräftiger Hilfe der KI zusammengebastelt sind.

Gruß

RD

"Nur das Pferd hat Zukunft" 2.0 ?

Gnade...

Die Büchse der Pandora ist mit der KI geöffnet. Man wird sie nicht mehr schließen können. Und in welche Richtung das alles geht, werden wir nicht mehr erleben. Es ist bei solchen Entwicklungen immer wie Fluch und Segen zugleich. Es liegt an uns, was daraus wird. Und da die Mächtigen dieser Welt längst den moralischen Kompass verloren haben - falls sie je einen solchen überhaupt mal gehabt haben - steht zu befürchten, daß wir als user von vorn bis hinten manipuliert werden. Wer kann Information von gezielter Desinformation dann noch trennen?

Ich mag mir als Kassandra-Rufer gar nicht ausmalen, wohin uns das noch bringt.

Aber zweifelsohne gibt es auch gute Seiten daran. Licht und Schatten. Ich befürchte, der Schatten verschluckt irgendwann das Licht.

Gruß
Franz

Franz, Du hast das Grundproblem das mit der KI einher geht verstanden...denke ich. Wobei das wohl nur der Anfang sein dürfte. Spätestens wenn sämtlich Nutzerendgeräte die am Netz hängen von einer mutierten KI übernommen worden sind, wird es dann auch der Letzte begriffen haben.

Gruß

RD

Man muss schon zwischen den Gefahren von KI und deren grundlegenden Prinzipien unterscheiden. Wenn KI nichts weiter als Google 2.0 wäre, dann wäre sie auch nicht besonders gefährlich. Ist sie aber nicht.

Google sucht, was irgendwer irgendwann ins Netz gestellt hat. Generative KI hingegen synthetisiert völlig Neues. Wenn ich beispielsweise Code für einen ESP32 mit der KI generiere, weil ich tatsächlich zu faul bin, die Programmiersprache neu zu lernen, dann stand das Ergebnis vorher nirgendwo im Internet. Wenn KI für Wirkstoffentwicklung in der Medizin, in der Materialwissenschaft oder in der Teilchenphysik eingesetzt wird, dann wird dort „New Matter“ erzeugt, was es vorher nicht gab. Natürlich kann ich KI auch einfach fragen, wer der Fußball-Weltmeister von 1954 war, dann bekomme ich auch eine Antwort und ein paar Zusatz-Infos. Dann ist es Google 2.0. Das ist so, als ob ich mir einen 200-teiligen Werkzeugkoffer kaufe und daraus immer nur den Hammer nehme.

Wer das Prinzip auf eine „Lesehilfe für Faule“ reduziert, verwechselt die Berechnung neuer Erkenntnisse schlicht mit dem Zusammenfassen von Texten. Dass ausgerechnet diejenigen KI für ein Werkzeug der Lesefaulen halten, die sich erfahrungsgemäß selbst ungern die Mühe machen, Originalliteratur oder Primärquellen überhaupt aufzuschlagen, hat eine gewisse Ironie. KI ersetzt nicht das eigene Lesen – aber sie setzt voraus, dass man versteht, worüber man überhaupt spricht.

Ich verwende KI auch beruflich und schaffe damit „Neues“. KI kann natürlich irren, je komplexer das Problem ist, umso öfter. Der erfolgreiche Einsatz von KI setzt voraus, dass der Mensch davor die Kontrolle und die Fähigkeit dazu hat, den Output qualitativ zu bewerten.

Was die Gefahren von KI angeht, da teile ich die Bedenken. KI muss kontrollierbar bleiben. Da habe ich aufgrund der menschlichen Natur und der politischen Weltlage durchaus Sorgen, dass dies nicht gelingen wird. Das ist aber ein anderes Thema und hat nichts zu tun mit dem grundlegenden Nutzen von KI im Allgemeinen und dem grundlegenden Nichtverstehen Einzelner, was KI überhaupt ist oder macht im Besonderen.

"KI muss kontrollierbar bleiben". Ja, aber wer oder was garantiert das? Ich fürchte, das wird irgendwann unkontrollierbar, ohne daß das jemand noch bemerkt. Nach wenigen Jahren KI kann man doch schon erkennen, wozu KI in der Lage sein könnte.

"Der erfolgreiche Einsatz von KI setzt voraus, dass der Mensch davor die Kontrolle und die Fähigkeit dazu hat, den Output qualitativ zu bewerten." Kann er das wirklich? Ich hab da meine Zweifel, kenne mich aber mit der komplexen Materie auch nicht aus.

Gruß
Franz

Das ist in der Tat ein Problem. MMn muss jede KI mit einem Hard-Aus Schalter versehen sein. Das ist genau das Gegenteil von dem, was bei der Auslegung von Rechenzentren Usus ist, nämlich maximale Verfügbarkeit auch bei Stromausfall. Bei KI muss aber ein Mensch, eine Institution, eine Regierung den Stecker ziehen können, jederzeit. Das ist die ultimative Ratio, neben den ganzen Software Lösungen zur Kontrolle, nur die sind im Zweifel immer eine Generation dümmer als das, was sie kontrollieren sollen.

Das ist die Krux. Betrifft aber nicht nur KI. Wenn ich Dir meine Prompts und die KI Ausgaben dazu vorlege, verstehst Du nur Bahnhof. Ich kann das aber aufgrund meiner Erfahrung und Ausbildung bewerten. Dasselbe mit "normaler" Information aus den Internet: da steht soviel Unsinn, dass ein jeder seine Meinung oder sein Bauchgefühl gestützt bekommt. Es hilft nichts, KI macht einen Menschen nicht schlauer als er ist.

Übersicht mit KI

Hab die KI mal nach einer Spiegel-Kolumne befragt mit dem Titel: "Sind wir Menschen wirklich dumm genug, uns selbst auszulöschen?" Das ist ja meine These zur KI generell. Und das hat mir die KI dazu geantwortet:

In seiner Der Spiegel-Kolumne befasst sich René Pfister mit den Warnungen vor den existenziellen Gefahren Künstlicher Intelligenz. Er beschreibt einen neuen Fatalismus im Silicon Valley, in dem Tech-Größen wie Elon Musk zugeben, dass die unkontrollierte Beschleunigung von KI dem Wahnsinn gleicht, diese Entwicklung aber aus Profit- und Machtgier sehenden Auges weiter vorantreiben. [1]

Kernpunkte der Kolumne

• Der Tech-Fatalismus: Führende Akteure der Branche wissen um die potenziellen Risiken einer unkontrollierbaren Superintelligenz, treiben den Ausbau aber aus Wettbewerbsdruck und dem Einsatz von Milliarden Dollar unverdrossen voran. [1]

• Ökonomischer Verdrängungswettbewerb: Die KI-Revolution verändert den Arbeitsmarkt rasant. Komplexe Berufe wie die der Softwareentwickler werden massiv unter Druck gesetzt, da Algorithmen menschliche Leistungen in vielen Bereichen übertreffen. [1]

• Die zentrale Frage: Pfister spitzt die Situation zu, indem er das Bild zeichnet, dass zukünftige Beobachter (oder fiktive Aliens) auf eine Zivilisation blicken, die genial genug war, eine solche Technologie zu erfinden, aber zu kurzsichtig und „dumm“, die eigene Kontrolle darüber nicht zu wahren. [1]

Gruß
Franz

PS. Und ja, da hilft wohl nur, den Stecker zu ziehen, bevor es auch dazu zu spät ist.

Da steckt mMn viel Wahrheit drinn. Es wird ein Thema der nächsten Jahre sein, eine Technologie kontrollierbar zu machen, die derartiges Potential in alle Richtungen hat. Ich sehe es kritisch, dass diese Technologie weitgehend in privaten Händen liegt. Man stelle sich vor, Atombomben wären bei Amazon gelagert. Vielleicht überspitzt formuliert ....