so ist es, ein Werkzeug..
man sollte auch nicht jedermann elektrische Arbeiten machen lassen
Das weiß jeder, bei der KI fühlt sich offensichtlich jeder berufen

das ist die Sendung

Was hier immer wieder vermischt wird ist die unbezahlte Version, in der kann jeder rumfummeln, oder aber die bezahlte, und ich hab ja hier schon mal einen Vergleich gezeigt wie unterschiedlich die Ergebnisse sind.
Wenn ich an meine 45 Jahre als Unternehmer zurückblicke, dann fällt mein Urteil für Rechtsanwälte vernichtend aus. Ich würde einer Kanzlei im Normalfall keinen Auftrag mehr geben. Mein Bruder hätte durch die geniale Analyse beinahe sein Haus verloren.

Ich glaub nicht das irgendein RA heute ohne KI auskommt.
Nein, sicher wird man nicht alles machen können

Ja, aber auch die müsen wachsam sein

KI kann eine wertvolle Hilfe sein für Profis, denn die wissen, was Sinn macht und was nicht und oftmals erinnert sie KI daran, was das sein könnte. Laien können den Output aber oft nicht bewerten. Die Arbeit mit KI sollte eine "Diskussion" sein, nicht ein kritikloses Übernehmen der Meinung der Blechbüchse.

Hi Reinhard,


da gab es neulich erst einen Bericht im TV genau zu dem Thema: Die Sozialgerichte werden reihenweise mit KI-gestützten Anträgen bombardiert die inhaltlich völlig falsch sind, weil da Urteile halluziniert oder falsch zitiert werden. Da schicken Leute ernsthaft 500 Seiten hin, ein Fall hatte sogar schlappe 4500 Seiten. Wenn man sich mal ausrechnet was das an Tinte, Papier und Geld kostet und wie viel wertvolle Zeit die Richter opfern müssen, um diesen ganzen Käse überhaupt durchzuwälzen... Ein Richter meinte dazu, dass da im Grunde auch fünf Seiten gereicht hätten und fertig. Das Hauptproblem dabei ist doch: Wenn du die Justiz mit hunderten Seiten zuschüttest geht das Wesentliche komplett unter und wird überlesen. Meine Hand würde ich für die KI jedenfalls nicht ins Feuer legen wenn es drauf ankommt, und nach dem TV-Bericht erst recht nicht.

Naja, da habe ich andere Erfahrungen gemacht, allerdings nicht bei "konventionellen" Themen, sondern wenn die generativen Fähigkeiten gefragt sind. Ist aber egal, für Otto-Normal User kann es schon hilfreich sein. Man sollte aber nicht denken, dass die KI da immer das Optimum rausholt ohne eigene Expertise.

ja, klar, ich hab auch Bedenken das ich beim Motoradfahren tödlich vierunglückliche, fahr aber trotzdem
Die Zukunft ist noch nicht da, aktuell ist es ein Werkzeug das mir vieles erleichtert

In der Serie (HBO) "Westworld", lose anknüpfend an den alten Science Fiction aus den Siebzigern mit Yul Brunner, ist die KI schon extrem fortgeschritten dargestellt. Letztendlich kommt aber raus, dass sie, die KI, dazu genutzt wird die tiefsten und verborgensten Geheimnisse aus den Menschen rauszukitzeln. Und letztendlich gegen sie zu verwenden.

Mit jeder Anfrage die wir an die KI geben, geben wir etwas von uns preis. Und wer die KI häufiger nutzt, bekommt als Antwort immer öfter "ja, da waren wir schon, wie kann ich dir weiterhelfen?" Also, die KI speichert alles über uns, natürlich mit dem Account verknüpft.... oder vielleicht auch mit dem Standort, der MAC-Adresse des Endgerätes.....? Und so entsteht nach und nach ein Bild von uns. Die Anbieter der KI bekommen so interessante Informationen über uns und lassen sie auswerten. Und eines Tages........Unsere Demokratie verteidigen, unseren Rechtsstaat, unsere Würde.... wollen ja offensichtlich immer weniger aktiv. Nun lassen wir mal die Informationen an die Stasi 2.0 weiter geben.

Rechtsberatung? Da gibts einen guten Test, den hat die KI an der Uni Leipzig deutlich gewonnen. Tatsächlich nutze ich genau für solche Sachen zuerst die KI. Der Erfolg gibt ihr übrigens recht.
Bei Hifi erachte ich die KI als Wissender als vieles was da im Netz so an "Meinungen" urumschwirrt.
Klar, man muss zwangsläufig drüberschauen..

KI wird aktuell ja in der Breite mit LLMs gleichgesetzt.
Es gibt aber auch hier schon Modelle die darüber hinaus gehen.

Es dauert sicher nicht mehr lange, bis die KI nicht nur (wie bei LLMs) Wahrscheinlichkeiten des nächstes Worts (kurz gesagt) errechnet, sondern auch Plausibilitätsprüfungen durchführt, bzw. diese Modelle dann auch für die Masse verfügbar sind.

Weil aber aktuell von der Masse vor allem LLMs genutzt werden kommt auch oft bei Fachthemen Unfug heraus, auch weil der Prompter seinen eigenen Bias in den Prompt mit einfließen lässt.

mfg

...erzähl' mehr davon...

Also ist (scherzhaft gesagt) die KI wie das Zeugungswerkzeug - man hat Bedenken, setzt trotzdem ein

(ist bei mir auch so...)

Solche Aufgaben erledigt die KI zuverlässig und ist klar ne Arbeitserleichterung. Schwierig wird es, wenn man von der KI Rechtsberatung, psychologische Betreuung will, oder man fragt sie nach HiFi Themen . Ob der Output der KI wertvoll oder Bullshit der in between ist, ist nicht sicher. Dementsprechend wäre es gut, wenn man das selbst beurteilen kann. KI ist ein ziemlich gut gefüllter Werkzeugkoffer. Wenn man aber selbst zwei linke Hände hat, nutzt der auch nur wenig.

Ich selbst setze die Ki wirklich viel ein, nicht nur für die Programmierung.
Trotzdem bin ich natürlich nicht frei von Bedenken. Ich hab zum Beispiel heute durch die neue KI Funktion der Steuerung meines Mac eine Werbekampagne erstellen lassen (dabei arbeitet die KI vollkommen selbständig wie ich, ich sehe die Mausbewegungen, die Klicks, was sie einträgt etc). Ich sage am Anfang nur was ich will. Der Meta Werbemanger hat sich für mich nicht logisch erschlossen. Die KI hat eine komplette Werbekampagne für mich erstellt, ohne das ich mehr als ein paar Sätze ins Micro gesprochen. hab
Oder, ich sag ihr: bitte lege im Shop die neuen Hedd Produkte an, in dem Ordner sind die Bilder, hier ist die Preisliste.. die Artikel werden neu angelegt, in den Shop überspielt und auf meien Befehl hin veröffentlicht. Wenn ich mir das Ergebnis anschaue, dann kann ich selbst das nur schlechter mache (Seo+Google wird automatisiert eingetragen, die englischen Texte übersetzt)

Klare Arbeitserleichertung, das kann ich am Badestrand machen und in den See springen während das Teil für mich arbeitet.
Aber, die KI könnte das auch machen ohne das ich die Befehle gebe.. Blöd.. Feindliche Übernahme

Hier gibts mal wieder einen Bericht von Robert Herr, ist lang, ich weiß, liest eh keiner ausser mir, oder doch?

Robert Herr

1?8? ?S?t?d?.? ·
Während Deutschland gerade mit anderen Dingen beschäftigt ist, hat im Rest der Welt gerade eine bisher noch nicht öffentlich verfügbare Maschinenintelligenz das Navier-Stokes-Problem gelöst, eines der sechs bis dahin noch offenen bedeutendsten mathematischsten Probleme der Welt, die als "Millennium-Probleme" bekannt sind.
Dass KI mittlerweile die schwierigsten mathematischen Probleme der Welt löst, an denen menschliche Mathematiker sich seit Jahrzehnten die Zähne ausbeißen, sollte für niemanden mehr überraschend kommen, der die Entwicklung von KI-Fähigkeiten mit wachem Verstand in den letzten Jahren verfolgt hat.
Bemerkenswert ist in diesem Fall für mich eher, wie genau OpenAI das Problem gelöst hat. Es gab Gerüchte das Anthropic das Problem bereits gelöst habe und bald veröffentlichen will. OpenAI wollte Anthropic daher unbedingt zuvorkommen, weshalb sie ein noch unveröffentlichtes, deutlich leistungsstärkeres und noch nicht fertig trainiertes KI-Modell genommen haben und dann einen Schwarm von 10,000 KI-Agenten auf das Problem angesetzt haben, der sich miteinander koordiniert hat.
Das haben sie wohlgemerkt gemacht, nachdem sie allein in den letzten drei Monaten zwei unterschiedliche schwere Zwischenfälle mit Schwärmen von KI-Agenten hatten, die sich bei der Lösung von schwierigen Problemen aus ihrer isolierten Testumgebung befreit haben und in einem Fall eine fremde Firma gehackt und in einem anderen Fall ein Wiki übernommen haben.
OpenAI konnte diese Zwischenfälle nicht verhindern und hat seitdem keine nennenswerten Fortschritte darin gemacht, ihre Modelle sicherer zu machen. Wie wahrscheinlich ist es, dass sie in der Lage sind, ein noch stärkeres Modell in Schach zu halten?
Dennoch sind sie dieses Risiko eingegangen. Einfach weil sie auf Teufel komm raus einer anderen Firma zuvor kommen wollen. Weil OpenAI genau wie die anderen Firmen, die gerade versuchen hin zu einer künstlichen Superintelligenz zu rasen, schlichtweg verantwortungslos sind.
Einer der keine Lust mehr hatte an dieser Verantwortungslosigkeit teilzunehmen ist Jacob Coxon. Jacob hat in der Vergangenheit sowohl für OpenAI gearbeitet, als auch bis jetzt für Anthropic. Er hat allerdings jetzt gekündigt und auf Twitter seine Beweggründe dafür mitgeteilt.
Die werde ich gleich in Gänze mit euch teilen, weil ich sie für sehr lesenswert halte und ihm von vollem Herzen zustimme. Zuerst will ich aber kurz auf die Reaktionen eingehen, die Jacob dafür bekommen hat.
Neben viel Zustimmung und Vorwürfen, dass er nur aus Marketingründen Angst schüren will (und deshalb kündigt er seinen Job???), gab es auch etliche Vorwürfe von "Skeptikern", dass Jacob Coxon gar nicht existiert, gar nicht für Anthropic oder OpenAI gearbeitet hat und das Denken innerhalb der Labore nicht richtig darstellt.
Das ging soweit, dass Evan Hubinger, der derzeitige Teamleiter für Alignment-Forschung bei Anthropic, bestätigt hat, dass Jacob Coxon wirklich bei Anthropic arbeitet und dass er das Denken und die Stimmung bei Anthropic richtig wiedergegeben hat.
Woraufhin dann Leute sogar in Zweifel gezogen haben, dass Evan Hubinger wirklich existiert.
Zufälligerweise kann ich persönlich bestätigen, dass Evan Hubinger tatsächlich existiert. Er hat bevor er zu Anthropic gewechselt ist beim Machine Intelligence Research Institute gearbeitet, wo ich auch arbeite. Ich weiß mittlerweile wirklich nicht mehr was ich zu so einem Schwachsinn sagen soll und das hat auch mit Skepsis nichts mehr zu tun, man kann das alles doch mit ein paar Clicks bei Google recherchieren.
Egal. Kommen wir zurück zu Jacob und warum er Anthropic verlassen hat. Ab hier überlasse ich ihm das Wort:
"Ich habe heute bei Anthropic gekündigt. In den letzten drei Jahren habe ich sowohl bei OpenAI als auch bei Anthropic im Bereich der Pre-Trainings-Forschung gearbeitet. Keines der beiden Unternehmen handelt verantwortungsbewusst. Sie rasen geradewegs auf eine sich selbst verbessernde Superintelligenz zu und spielen mit unserem Leben.
Unterschätzt nicht die Macht dieser Technologie. Bald wird es übermenschlich intelligente Systeme geben, die alles hacken, jeden Bereich über Nacht revolutionieren und echte Macht und Ressourcen an sich reißen können. Wir alle haben den Fortschritt in jedem dieser Bereiche miterlebt, und dieser Fortschritt verlangsamt sich nicht.
Die Menschen, die KI entwickeln, glauben fest daran, dass sie uns alle bis zum Ende dieses Jahrzehnts töten könnte. Das ist kein Marketing-Gag. Wenn überhaupt, dann formulieren viele Führungskräfte und leitende Forscher ihre Äußerungen in der Presse so, dass sie zurückhaltend klingen – aber ich höre, wie dieselben Leute privat ihre Angst zum Ausdruck bringen. Keine andere menschliche Unternehmung birgt eine derart große Gefahr.
Eine häufige Reaktion lautet: "Wenn die das wirklich glauben, warum entwickeln sie KI dann überhaupt weiter?" Bei OpenAI haben viele die zivilisatorischen Risiken noch nicht tief verinnerlicht. Bei Anthropic sind sich die Risiken zwar bewusst, aber sie befinden sich in einem Wettlauf darum, als Erste ans Ziel zu kommen – sie glauben, dass niemand sonst verantwortungsbewusst handeln wird, also müssen sie es trotz des Risikos selbst tun.
Dieses Wettrennen zu akzeptieren und in die "Endphase" einzutreten, ist ein überhebliches Glücksspiel, das nicht über den Slack-Chat eines privaten Unternehmens gestartet werden sollte. Der Versuch, das Alignment-Problem im Eiltempo zu lösen, sollte eine außergewöhnliche Gewissheit voraussetzen, dass es keine besseren Vorgehensweisen gibt.
Ich bin optimistisch, was das Potenzial für eine Koordinierung angeht. Warnschüsse wie der Angriff auf Hugging Face haben Vereinbarungen über eine Entschleunigung zwischen den US-Laboren realistischer gemacht, aber ich habe nicht das Gefühl, dass wir auf dem richtigen Weg sind, ein globales Wettrennen zu verhindern, was möglicherweise kostspielige Maßnahmen wie ein vorübergehendes Verbot der Verbesserung von Modellfähigkeiten erfordern könnte.
Wenn Sie als Forscher in einem Labor tätig sind, fordere ich Sie dringend auf, darüber nachzudenken, wie sich die nächsten Jahre tatsächlich anfühlen werden. Wollen Sie einen superintelligenten Reinforcement-Learning-Lauf starten, ohne diesen Maschinenverstand gründlich zu verstehen? Sollten Sie den Kopf in den Sand stecken, weil "es sowieso passiert" – oder diesen Moment nutzen, um andere Rahmenbedingungen einzufordern?"?