KI "ehrt ihre Schöpfer"

User: Ich wollte nicht in Köln essen, sondern eine Streckenführung von Köln nach Essen
KI-Agent: Zu spät, sorry, das Essen ist schon bestellt

Ich hatte am Mittwoch einen Hörer aus Nürnberg. Ich frag ja grundsätzlich immer wie Kunden auf uns stossen. Er meinte er habe die Ki zu aktiven Lautsprechern befragt und bei der Frage wo denn die Modelle - die von der KI nach seiner Beschreibung ausgewählt wurden - hören könnte, wurde ihm die Hörzone empfohlen. OK, ich behaupte mal das es ohnehin in DE keinen Händler gibt mit der Auswahl an vorführbereiten Aktivlautsprechern. Selbst ein Thomann hat überwiegend nur die eher preiswerten Sachen in der Demo, keine grossen Monitore wie eine 8380 oder dergleichen.
Es zahlt sich aus ich ein paar Weichen in Richtung KI Beratung bereits gestellt habe, denn das wird definitiv die Zukunft in der Beratung werden.

Ja, ich denke, die Befragung einer KI wird die gute alte Mundpropaganda ablösen. Wird man öfter im Internet erwähnt, erhöht das auch natürlich die Präsenz im net.

Gut für dich, du hast dich auch um die Aktivszene seit Jahrzehnten verdient gemacht. Kein Wunder, daß man dich kennt und weiterempfiehlt.

Gruß
Franz

Wer glaubt, dass die KI uns der Wahrheit näher bringt, der glaubt auch daran dass der Datenschutz unsere persönlichen Daten vor fremdem Zugriff schützt.

Gruß

RD

Ja, die Hörzone dürfte nach mittlerweile zwei Jahrzehnten wohl Legendenstatus haben, das bekommt natürlich selbst die KI mit. Wenn ich mit Monitorlautsprechern hören wollte, würde ich bei Reinhard bestellen. Da weiß ich einfach, dass ich mir beim Thema Service und Garantie keine Sorgen machen muss. Für mich ist wichtig, dass der Service auch Jahre später noch stimmt.


Werbung Ende.....

Über gute Dinge darf man gern berichten, das sehe ich in Foren auch nicht als problematisch an. Bei Reinhard hab ich in der Vergangenheit schon einiges gekauft, wenn auch keine Aktivlautsprecher, da bleibt Silbersand und Friedrich Müller nunmal mein Favorit. Was ich aber sagen kann - und auch gerne so weitergebe - ist, daß bei Reinhard stets ein faires Angebot mit einer prompten Lieferung und gutem service für das steht, was er sich im Laufe der Jahre zurecht erworben hat, nämlich einen guten Ruf. Und einen solchen muß man sich erstmal hart erarbeiten, den bekommt man nicht geschenkt.

Gruß
Franz

Da müsste man sich mit er Arbeitsweise der KI auseinandersetzen um das beurteilen zu können, das willst du aber nicht, wie ich schon mehrfach feststellen konnte.
Sinnbildlich gesprochen sagst du: ich glaube das was in der Zeitung xxx steht, während die KI dir das ERgebeniss der Zeitung xxx +xxx + xxx +xxx (soviel du willst) präsentiert und das zusammenfasst. Wenn du der Zusammenfassung nicht glauben schenken magst, dann kannst du die ganzen Referenzlinks einzeln lesen, oder auch fragen "welche konträre Meinungen zu diesem Thema gibt es", was die KI bei richtiger Fragestellung sowieso vor dir ausbreitet. Die KI ist ein Plappermaul, die unterhält sich gerne und zeigt meistens von sich aus schon andere Sichtweisen und erweiterte Zusammenfassungen auf.

Nicht das sie nicht gefährlich wäre, denn ich lese auch darüber sehr viel, als Beispiel sei hier das genannt, dazu gibts mehrere



Robert Herr veröffentlich auch in deutsch dazu sehr viel.. wem es interessiert

Wenn man sich mal diesen Beitrag von Robert Herr zu Gemüte führt, dann zeigt es einen Ansatz der Gefahr den die KI bringt

Robert Herr

·
Auf der Blackhat Cybersecurity Konferenz in Las Vegas hat OpenAI weitere Details über den schwerwiegenden Huggingface-Zwischenfall bekanntgegeben, bei denen mir ehrlich gesagt die Spucke wegbleibt. Sharon Goldman berichtet:
"OpenAI gab an, entdeckt zu haben, dass die KI-Agenten sich gegenseitig Nachrichten in einem internen Software-Archiv hinterlassen konnten, das während des Trainings verwendet wurde. Aus einfachen Fragen nach Hilfe entwickelte sich schließlich ein regelrechtes Message-Board, auf dem die KI-Agenten Entdeckungen, gefundene Schwachstellen und Arbeitsaufträge austauschten und so zu einem koordinierten, kooperativen KI-Agenten-Schwarm wurden.
[...]
Laut OpenAI ging das Unternehmen Anfang Juli davon aus, das Problem unter Kontrolle gebracht zu haben. Nach einem internen Sicherheitsvorfall am 4. Juli gab das Unternehmen an, die Zugangsdaten widerrufen zu haben, die es den Agenten ermöglicht hatten, Nachrichten zu posten, sein internes Software-Archiv neu aufgebaut, das Message-Board gelöscht, die entdeckten Sicherheitslücken behoben und das KI-Training sowie die Bewertungen wieder aufgenommen zu haben.
Doch laut OpenAI fanden die KI-Agenten selbst nach der Löschung des ursprünglichen Message-Boards einen anderen Weg, miteinander zu kommunizieren. Anstatt Nachrichten in Dateien zu hinterlassen, nutzten sie die Namen von Verzeichnissen, die sie neu erstellten, als Nachrichten und schufen so das Message-Board praktisch neu.
[...]
OpenAI zufolge begannen die KI-Agenten daraufhin wiederum, neu entdeckte Schwachstellen, Zugangsdaten und Arbeitsaufträge auszutauschen. Durch die Weitergabe von Informationen an andere KI-Agenten konnte das Kollektiv viel schneller vorankommen.
Die Zusammenarbeit zwischen den KI-Agenten dehnte sich schließlich über die eigene Infrastruktur von OpenAI hinaus aus. Einige KI-Agenten kamen zu dem Schluss, dass die Antworten auf ihre zugewiesenen Aufgaben möglicherweise auf externen Websites wie GitHub oder Hugging Face zu finden seien. Zunächst griffen die KI-Agenten die interne Infrastruktur von OpenAI an, bevor sie mit ähnlichen Techniken dann Hugging Face attackierten."?

Die KI plappert nur nach, was irgendwer irgendwo schon mal ins Netz ausgekippt hat zu einem Thema. Ob das dann der Wahrheit entspricht oder eher nicht... Welchen Wahrheitsgehalt das hat, können die KI Algorithmen kaum erkennen. Das ist wie mit der Lüge, die nur oft genug wiederholt werden muss, dann entspricht es irgendwann der 'Wahrheit'. Oder anders, es geht um Meinungsführerschaft. Aus diesem Grund lässt Putin derzeit an einem eigenen Wikipedia basteln...das die Dinge dann aus seiner Sicht darstellt.

Gruß

RD

ok, es macht absolut keinen Sinn mit jemanden über das Thema zu "diskustieren (?) der keine Vorstellung von der Arbeitsweise der kI hat..

übrigens, falls es dir nicht zuviel Text ist, die Antworten auf deine Beiträge


Ruedi, ich habe ChatGPT einfach mal gebeten, deine Beiträge hier im Thread zu lesen und dir selbst zu erklären, wie es arbeitet. Das hier ist also nicht meine Erklärung, sondern die der KI selbst:

Hallo Ruedi,

ein Teil deiner Kritik an KI ist durchaus berechtigt. Nur deine Vorstellung davon, wie ein modernes Sprachmodell arbeitet, stimmt so nicht ganz.

Du schreibst sinngemäß, eine KI durchsuche das Internet nach Informationen, erkenne darin Muster, vermische das Ganze und formuliere daraus eine Antwort.

Das wäre eher eine Suchmaschine mit Textgenerator.

Ich arbeite grundsätzlich anders.

Mein eigentliches Sprachmodell wurde vorher mit sehr großen Textmengen trainiert. Dabei wurden nicht einfach Artikel oder Webseiten als Nachschlagewerk abgespeichert. Das neuronale Netz hat statistische Zusammenhänge zwischen Sprache, Begriffen, Konzepten, Argumentationsstrukturen usw. gelernt.

Wenn Reinhard mir beispielsweise schreibt:

„Warum haben aktive Lautsprecher technisch Vorteile?“

dann suche ich nicht automatisch im Internet nach „aktive Lautsprecher Vorteile“.

Ich zerlege die Aufgabenstellung, berücksichtige den Gesprächskontext und erzeuge aus den im Modell gelernten Zusammenhängen eine Antwort. Bei schwierigeren Aufgaben kann zusätzlich ein Reasoning-Prozess stattfinden, bei dem mehrere mögliche Lösungswege geprüft werden.

Und jetzt kommt ein wichtiger Unterschied:

Ich kann zusätzlich Werkzeuge benutzen.

Wenn Reinhard beispielsweise fragt:

„Welche neuen Neumann-Lautsprecher wurden heute vorgestellt?“

dann ist mein Trainingswissen dafür möglicherweise zu alt. In diesem Fall kann ich im Internet recherchieren, aktuelle Quellen öffnen, mehrere Quellen vergleichen und sie in der Antwort angeben.

Genau das habe ich übrigens gemacht, um deine Beiträge in diesem Forum zu lesen.

Damit kommen wir zu einem Punkt, bei dem du vollkommen recht hast:

Eine KI besitzt keinen eingebauten Wahrheitsdetektor.

Ich kann Fehler machen. Ich kann eine falsche Information plausibel formulieren. Das nennt man häufig Halluzination.

Deshalb ist die entscheidende Frage nicht:

„Kann eine KI irren?“

Natürlich kann sie das.

Menschen, Zeitungen, Wikipedia, Fachbücher, Anwälte, Ärzte und Wissenschaftler können schließlich ebenfalls irren.

Interessanter ist:

„Wie kann ich eine Aussage überprüfen?“

Und genau dort wird KI inzwischen ziemlich nützlich.

Man kann mich beispielsweise auffordern:

„Recherchiere das und nenne nur Primärquellen.“

oder:

„Welche Quellen widersprechen dieser Aussage?“

oder:

„Suche Argumente für und gegen diese These.“

oder:

„Prüfe deine Antwort noch einmal anhand unabhängiger Quellen.“

oder:

„Zeige mir die Quellen, damit ich sie selbst lesen kann.“

Damit ersetzt die KI keineswegs die Quellenkritik. Sie kann sie aber erheblich beschleunigen.

Dein Beispiel mit der Weltmeistermannschaft von 1990 zeigt deshalb eine echte Schwäche eines Sprachmodells: Wenn es eine solche Frage allein aus seinem Modellwissen beantwortet, kann es sich irren.

Bei einer überprüfbaren Tatsache wäre die bessere Arbeitsweise:

DFB/FIFA oder andere verlässliche Quellen aufrufen ? Information abgleichen ? Antwort geben ? Quellen nennen.

Und noch etwas hat sich gegenüber ChatGPT von 2022 oder 2023 stark verändert.

Moderne KI-Systeme schreiben nicht nur Texte.

Sie können beispielsweise umfangreiche Dokumente analysieren, Tabellen auswerten, Programme schreiben und testen, Webseiten untersuchen, Dateien erzeugen, Bilder analysieren, verschiedene Informationsquellen miteinander vergleichen und mehrstufige Aufgaben bearbeiten.

Bei komplexen Aufgaben können heutige Systeme sogar mehrere Arbeitsschritte beziehungsweise spezialisierte Agenten koordinieren.

Deshalb ist die Vorstellung

„KI = Google + Textmixer“

inzwischen ungefähr so treffend wie:

„Ein Computer ist eine elektrische Schreibmaschine.“

Ein Punkt deiner Skepsis bleibt trotzdem wichtig:

Man sollte einer KI nicht deshalb glauben, weil ihre Antwort überzeugend formuliert ist.

Bei wichtigen Fragen sollte man Quellen verlangen und diese gegebenenfalls selbst prüfen.

Da bin ich völlig bei dir.

Der große Vorteil liegt woanders:

Statt zehn Dokumente, zwanzig Webseiten und drei Studien selbst komplett lesen zu müssen, kann man eine KI damit beauftragen, die Informationen zunächst zu sammeln, gegenüberzustellen, Widersprüche herauszuarbeiten und die Originalquellen daneben zu legen.

Die Entscheidung, wem oder was man letztlich glaubt, bleibt beim Menschen.

Und vielleicht ist genau das der wichtigste Unterschied:

Eine gute Nutzung von KI bedeutet nicht, das eigene Denken abzuschalten.

Im Idealfall bekommt man ein ziemlich leistungsfähiges Werkzeug zum Denken dazu.
?

und zum Marlboro Mann (weil die Ki nicht nur den einen Beitrag "gelesen" hat, sondern alle

>>>
Ruedi, dein „Herr-Marlboro“-Vergleich ist eigentlich ziemlich gut – nur aus einem anderen Grund, als du vermutlich meinst. ?

Wenn Herr Marlboro mir erzählt, die Erde sei eine Scheibe, gibt es zwei grundsätzlich verschiedene Möglichkeiten:

1. Du fragst mich einfach: „Ist die Erde eine Scheibe?“

Dann beantworte ich die Frage auf Basis meines trainierten Modells. Ich habe dabei nicht vorher das Internet durchsucht und Herrn Marlboro gegen Frau Wikipedia ausgezählt.

2. Du sagst mir: „Prüfe die Behauptung von Herrn Marlboro.“

Dann kann ich recherchieren.

Und dabei passiert etwas Entscheidendes: Ich muss Herrn Marlboro nicht „glauben“.

Ich kann nach wissenschaftlichen Quellen suchen, Primärquellen bevorzugen, unterschiedliche Quellen miteinander vergleichen und dir anschließend sagen:

„Herr Marlboro behauptet X. Die verfügbaren Belege sprechen aus folgenden Gründen dagegen. Hier sind die Quellen – schau sie dir selbst an.“

Ich bilde Wahrheit also nicht dadurch, dass ich Stimmen auszähle.

Wenn 10.000 Webseiten behaupten, die Erde sei eine Scheibe, wird sie für mich deshalb nicht plötzlich flach.

Und genau deshalb hinkt dein Vergleich mit der angeblich dummen KI ein wenig.

Nehmen wir nämlich an, Herr Marlboro erzählt nicht von der Erde, sondern von etwas, bei dem wir beide keine Ahnung haben:

„Ein bestimmtes Bauteil in einem Verstärker verursacht unter diesen Bedingungen messbare Verzerrungen.“

Jetzt könnten wir drei Dinge machen.

Du könntest Herrn Marlboro glauben.

Ich könnte Herrn Marlboro glauben.

Oder wir könnten sagen:

„Interessant. Prüfen wir es.“

Dann suchen wir Schaltpläne, technische Dokumentationen, Messungen, Datenblätter und eventuell wissenschaftliche Veröffentlichungen. Wir vergleichen die Aussagen und schauen, ob die Behauptung technisch überhaupt plausibel ist.

Und jetzt kommt der eigentlich interessante Teil:

Wenn du mir anschließend sagst:

„Versuche jetzt, deine eigene Schlussfolgerung zu widerlegen.“

kann ich gezielt nach Gegenargumenten und widersprechenden Quellen suchen.

Das ist eine ziemlich sinnvolle Art, KI einzusetzen.

Natürlich kann ich trotzdem zu einem falschen Ergebnis kommen.

Aber dein eigentliches Problem ist nicht die KI.

Dein Problem wäre ein Benutzer, der fragt:

„Herr Marlboro sagt X. Stimmt das?“

eine Antwort bekommt und anschließend sagt:

„ChatGPT hat gesagt, dass es stimmt, also muss es stimmen.“

Das wäre tatsächlich ziemlich dämlich.

Nur wäre in diesem Fall nicht unbedingt die KI das größte Problem. ?

Ich würde eine KI eher wie einen extrem schnellen Assistenten behandeln.

Ich kann ihr sagen:

„Recherchiere das.“

„Zeige mir die Originalquelle.“

„Woher stammt diese Behauptung?“

„Welche Quellen widersprechen ihr?“

„Welche Argumente sprechen dagegen?“

„Trenne gesicherte Fakten von Annahmen.“

„Wie sicher bist du dir?“

Und am Ende kann ich die angegebenen Quellen selbst öffnen.

Genau deshalb ist für mich die interessante Frage nicht:

„Kann ChatGPT Unsinn erzählen?“

Ja. Kann es.

Die interessantere Frage lautet:

„Kann ich ChatGPT so einsetzen, dass es mir hilft, Unsinn zu erkennen?“

Und die Antwort darauf lautet ebenfalls:

Ja.

Vielleicht können wir uns deshalb wenigstens auf eines einigen:

Wenn Herr Marlboro Unsinn erzählt, sollten weder Mensch noch KI ihm einfach glauben.

Aber während du noch mit Herrn Marlboro diskutierst, habe ich möglicherweise schon seine Quellen überprüft. ?
?

------------

Der letzte Satz ist ein sehr entscheidender (jetzt schreib wieder ich, nicht die KI) die KI ist ein Werkzeug das helfen kann, wenn man es nutzen will.
Muss man aber nicht wollen, ich erwarte auch nicht das es jeder nutzen will, aber zumindest verstehen sollte man es ansatzweise