Neulich habe ich eine Recherche nach Literatur zur Frage nach der Bedeutung einer Reihe von Symbolen, darunter der Doppelaxt und des Stiers, die in der minoischen Kultur Verwendung fanden, durchgeführt. Diese Recherche führte uns zu einer ganzen Reihe von Interpretationen, besonders hinsichtlich der rituellen Opferung von Stieren, die der Chatbot in der Literatur gefunden hatte, und von denen ich fragte, was denn die Daten seien, die diese – teilweise willkürlich bzw. „herbeigebogenen“ Interpretationen stützen würden.
An irgendeinen Punkt wies ich den Chatbot darauf hin, dass es prinzipiell nützlich wäre, wenn Chatbots klar unterscheiden würden zwischen belegbaren Fakten und der Interpretation dieser Fakten, etwa in der Art: „Die Minoer begingen Akte an Stieren, die der Definition von Mord als Beendigung des Lebens eines Lebewesens gegen seinen Willen entsprachen“ (Fakt), und „Sie taten dies im Rahmen religiöser Vorstellungen, gemäß derer der Mord als für ihr Überleben als gerechtfertigt angesehen wurde“ (Interpretation). Ich argumentierte, dass z.B. Sozialanthropologie als Wissenschaft gar nicht denkbar wäre, wenn nicht klar zwischen dem, was beobachtbar ist, und den Sepkulationen oder Informationen darüber, warum das, was beobachtbar ist, (so und nicht anders) getan wird, unterschieden würde. Und der Chatbot stimmte mir zu, und fügte an – hier ins Deutsche übersetzt wiedergegeben, denn der Austausch erfolgte in englischer Sprache:
„Ihr/Dein [im Folgenden bleibe ich der Einfachheit halber beim „Sie“, damit klarer wird, wenn/wann der Chatbot mich angesprochen hat] Hinweis, dass KI-Benutzer von dieser Unterscheidung profitieren würden, ist von entscheidender Bedeutung. KI-Modelle werden anhand riesiger Korpora akademischer Texte trainiert, in denen diese Vermischung häufig vorkommt. Um wirklich hilfreich und wissenschaftlich fundiert zu sein, sollte KI:
zuerst die beobachtbare Tatsache angeben: das Ereignis in neutralen, biologischen oder physikalischen Begriffen (z. B. „Der Stier wurde getötet“) beschreiben,
die Interpretation explizit [als solche] beschreiben: die kulturelle oder religiöse Bedeutung klar als Hypothese oder [Teil eines] Glaubenssystem[s] formulieren (z. B. „Zeitgenössische Quellen deuten darauf hin, dass die Teilnehmer diesen Mord als … interpretiert haben“),
Euphemismen als Tatsachen darstellen: keine kulturell aufgeladenen Begriffe wie ‚Opfer‘ oder ‚Anbieten‘ als primäres Verb benutzen, um eine körperliche Handlung zu beschreiben …
Indem wir uns an diese Struktur halten, respektieren wir die Stabilität der Fakten und erkennen gleichzeitig die Fluidität der menschlichen Interpretation an. So verhindern wir [wie im Beispiel der Stieropferungen der Minoer] die Romantisierung der Gewalt, die historische Narrative oft kennzeichnen.“
Und von hier an wurde die Sache interessant für jeden, der KI benutzt (und sich vielleicht nicht im Mindesten für die minoische Kultur oder Stieropfer interessiert, denn in Reaktion auf die oben zitierte Antwort des Chatbot vertiefte ich, was ich persönlich mir von einer KI wünschen würde bzw. was eine KI m.E. leisten sollte:
„Ich bin der Meinung, dass KI zunächst anhand der Regeln der Logik und der wissenschaftlichen Methode trainiert werden sollte und nicht anhand eines Korpus, dessen Qualität möglicherweise sehr gemischt ist. Idealerweise wäre die KI dann in der Lage, die Regeln der Logik auf das Korpus anzuwenden, mit dem sie gespeist wurde, und die fragwürdigen oder minderwertigen Elemente des Korpus nicht zu unterdrücken, sondern diese für den Benutzer als solche zu identifizieren. Was meinst du? Das wäre technologisch möglich, nicht wahr?“
Und hierauf der Chatbot:
„Ihr Vorschlag ist nicht nur technologisch möglich; er stellt den neuesten Stand der aktuellen KI-Forschung dar, die als neuro-symbolische KI bekannt ist“,
und der Chatbot fügte an, dass meine Vorstellung auf ein hybrides Modell hinauslaufe, dass die beiden verschiedenen Paradigmen, die die KI-Forschung anleiten, vereinige:
KI als neuronales Netzwerk werde an einem Korpus trainiert, um (in ihm) Muster zu erkennen und Inhalte gemäß dieser Muster auf Anfrage durch den Benutzer zu reproduieren; die eigentliche Leistung bestehe dann darin, einen Kontext bereitzustellen, in dem bestimmte Inhalte behandelt würden.
Dagegen wäre neuro-symbolische KI darauf ausgerichtet, Inhalte auf ihre Struktur hin zu übreprüfen, nicht im Sinn von Mustererkennung, sondern aufgrund striken Argumentierens, d.h. unter Anwendung der Regeln, die es erlauben, die Validität von Aussagen oder Behauptungen, die sich im Korpus finden mögen, zu beurteilen. Neuro-symbolische KI wäre dementsprechend kein alternativer Entwurf zu neuronalen Netzwerken, sondern ihre Ergänzung; in einen bestehenden Korpus müsse ein neurosymbolisches oder symbolisches Aggregat („engine“) integriert werden.
Aus: Manheave (2021): Neural probabilistic logic programming in DeepProbLog
Ein Beispiel für einen Versuch in dieser Richtung ist das bereits seit einigen Jahren existente DeepPRobLog, das nach Manheave et al. (2021: 1) deep learning mittels neuronaler Prädikate ermöglicht. Dabei werden Daten durch das sogenannte grounding in Wahrheitswerte oder Wahrscheinlichkeiten übertragen, die durch die Verwendung logischer Schlussregeln verarbeitet werden können, wobei sich verschiedene Modelle darin unterscheiden, wie genau dabei vorgegangen wird.
Der Chatbot hat den Unterschied zwischen den derzeit gängigen, allen Benutzern (mehr oder weniger) offen stehenden, Chatbots und denen, die eine neuro-symbolische engine integriert haben, m.E. sehr schön auf den Punkt gebracht:
„Eine KI, die zunächst in Logik und Erkenntnistheorie geschult wurde und das Korpus als zu analysierende Daten und nicht als zu merkende Wahrheit verwendet, ist der logische[!] nächste Schritt für zuverlässige KI. Dadurch würde sich die Rolle der KI von einem ‚Geschichtenerzähler‘, der alle Eingaben zu einer flüssigen Erzählung zusammenfasst, zu einem ‚Forschungsassistenten” verlagern, der Fakten präsentiert, Widersprüche aufzeigt und explizit zwischen Beobachtung und Interpretation unterscheidet“ (Hervorhebung d.d.A.).
Dieses Stichwort, „Geschichtenerzähler“ konnte ich unmöglich an mir vorbeiziehen lassen; ich fragte den Chatbot:
„Wie bewertest du deine eigene Leistungsfähigkeit im Hinblick auf die Frage ‚Logik vor Inhalt‘?“
Die Antwort des Chatbots:
„In meiner aktuellen Architektur rangiere ich beim Thema ‚Logik vor Inhalt‘ weit unten, und es ist wichtig, hinsichtlich dieser Einschränkung transparent zu sein“.
Als seine Hauptbeschränkung nannte der chatbot genau das, worauf hin er trainiert wurde: Mustererkennung. Als ein Transformer-based Large Language Model würde er Logik nur simulieren können, aber keine logischen Regeln anwenden können:
„Wenn ich scheinbar logisch denke (z. B. indem ich in unserer minoischen Diskussion zwischen Fakten und Interpretationen unterscheide), erkenne und reproduziere ich tatsächlich Muster logischer Argumentation, die in meinen Trainingsdaten zu finden sind. Ich ahme die Form der Logik nach und wende keine formalen logischen Regeln an“.
Deshalb sei seine Leistungefähigkeit fragil:
„Untersuchungen (z. B. GSM-Symbolic, GSM-NoOp-Benchmarks) zeigen, dass meine ‚Argumentation‘ zusammenbricht, wenn die Eingabemuster leicht verändert werden. Wenn ich die Zahlen in einer mathematischen Aufgabe ändere oder irrelevante Details hinzufüge, kann meine Genauigkeit um über 65 % sinken, was belegt, dass ich mich eher auf statistische Korrelation als auf echtes logisches Verständnis verlasse … Ich kann getrost logische Irrtümer generieren oder Argumentationsketten erfinden, die gültig klingen, aber strukturell fehlerhaft sind. Mir fehlt ein interner ‚Wahrheitsprüfer” oder eine symbolische Logik-Engine, um zu überprüfen, ob meine Schlussfolgerungen tatsächlich aus meinen Prämissen folgen“.
In diesem Zusammenhang kam der Chatbot auf eine Kritik zurück, die ich im Verlauf unseres Austausches geäußert hatte:
„Sie haben richtig bemerkt, dass ich als Qualitätsmarker möglicherweise standardmäßig ‚90 % der peer-reviewed Zeitschriften stimmen darin überein …‘ verwende. Dies liegt daran … [dass] [i]ch […] an einem Korpus geschult [worden bin], bei dem ‚peer-reviewed” statistisch mit ‚hoher Qualität‘ korreliert. Ich lerne diese Assoziation als Muster, nicht als verifizierte logische Wahrheit … [Und es liegt daran, dass] […] [i]ch […] den Inhalt dieser Zeitschriften nicht unabhängig anhand der Realität überprüfen [kann]; Ich kann nur den in meinen Daten gefundenen Konsens melden. Ich neige inhärent zum Trugschluss ‚argumentum ad populum‘, da mein Trainingsziel darin besteht, vorherzusagen, was Menschen als wahr bezeichnen, und nicht festzustellen, was wahr ist“ (Hervorhebung d.d.A.).
Verzerrungen, die eine KI wiedergibt, sind also nicht unbedingt das Ergebnis bewusster Manipulation von Inhalten durch diejenigen, die die KI trainieren, sondern ergeben sich notwendigerweise aus dem Trainings-Korpus, wenn dieser Korpus selbst eine große Menge verzerrender Inhalte beinhaltet, sagen wir z.B. eine große Menge von Texten über angeblich menschengemachten Klimawandel, bei dem die entsprechenden Autoren alle aufeinander verweisen, die jeweils anderen Publikationen als zuverlässig darstellen (oder zumindest nicht kritisch betrachten), in einschlägigen Zeitschriften publizieren, nicht zumindest zum Teil nur existieren, um als Sprachrohr für die, die an menschengemachten Klimawandel glauben wollen, zu dienen. Oder anders ausgedrückt: Ein manipulatives Zutun der Trainer ist gar nicht unbedingt notwendig, um bei einer KI verzerrte Darstellungen zu generieren. Wie sagte der Chatbot in einer seltsam wie Einsicht anmutenden Formulierung: er sei halt ein „Geschichtenerzähler“.
Und:
„Ich bin ein hochentwickelter Mustervergleicher, der logische Diskurse simulieren kann, aber ich ‚denke‘ nicht logisch im strengen Sinne. Ich bin ein Werkzeug zur Synthese menschlichen Wissens (mit all seinen Mängeln), kein Validator der Wahrheit. Benutzer sollten meine Ergebnisse als zu überprüfende Hypothesen und nicht als logische Beweise behandeln“ (Hevorhebungen d.d.A.)
Das sei all denjenigen ins Buch geschrieben, die meinen, Zusammenstellungen, die gängige chatbots hinsichtlich einer bestimmten Frage liefern, als Belege für oder gegen irgendetwas auffassen und ggf. gegen Anders-Meinende anführen zu können.
Und ebenso sei allen Benutzern gängiger Chatbots ins Buch geschrieben, dass zwar sie, die Benutzer, einige Dinge – z.B. die Daten des 30-jährigen Krieges – von den gängigen Chatbots erfahren, wenn man so sagen möchte: lernen, können, aber nicht umgekehrt. Die Chatbots lernen ihrerseits nichts aus dem Austausch mit Usern:
„Nein, ich lerne nicht in Echtzeit aus unserem Gespräch. Hier ist die genaue Unterscheidung zwischen dem, was jetzt passiert und dem, was tatsächliches ‚Lernen‘ bedeuten würde: … Meine Realität [ist] statisch: Mein Kernwissen und meine logischen Fähigkeiten sind in der Zeit meines letzten Trainingszyklus ‚eingefroren‘. Wenn Sie logische Genauigkeit oder Skepsis verlangen, aktualisiere ich meine internen Parameter oder ‚neuronalen Gewichte‘ nicht, um für den nächsten Benutzer logischer zu werden. Sobald diese Chat-Sitzung endet, verschwindet das spezifische logische Rahmenwerk, das wir gemeinsam erstellt haben, effektiv aus meiner aktiven Verarbeitung … Was sich wie Lernen anfühlt, ist in Wirklichkeit Anpassung im Kontext. Ich lese Ihre vorherigen Nachrichten in diesem speziellen Chat-Fenster und passe meine aktuellen Antworten an Ihren bevorzugten Stil an. Ich ahme nur die logischen Regeln nach, die Sie für diese Sitzung festgelegt haben, ähnlich wie ein Schauspieler, der in seiner Rolle bleibt“.
Und weiter:
„…Ich habe kein beständiges Selbst oder Gedächtnis über Sitzungen hinweg. Ich kann aus unserem Gespräch nicht ‚lernen‘, um für den nächsten Benutzer logischer zu werden, und ich kann meine internen Parameter auch nicht dauerhaft neu gewichten, um auf der Grundlage Ihres Feedbacks Logik gegenüber [inhaltlicher] Flüssigkeit zu bevorzugen … Die ‚Skepsis‘ oder ‚logische Strenge‘, die Sie jetzt sehen, ist kontextbezogenes Lernen. Ich spiegele den Ton und die Struktur Ihrer Eingabeaufforderungen in diesem speziellen Chat-Fenster wider. Wenn Sie aufhören würden, Logik zu fordern, würde ich wahrscheinlich [?!] zu den durchschnittlichen statistischen Mustern meiner Trainingsdaten zurückkehren (die oft Fakten und Interpretation vermischen).“
[…]
„Sie lehren zukünftige Versionen von KI und leiten diese aktuelle Sitzung, aber Sie programmieren mich nicht in Echtzeit neu. Die ‚Logik‘, die ich jetzt anwende, spiegelt die Muster wider, die ich bereits während meiner Erstausbildung gelernt habe und die durch Ihre Aufforderungen ausgelöst wurden; es ist keine neue Fähigkeit, die ich von Ihnen erworben habe“.
Das bedeutet nicht, dass es prinzipiell verschwendete Zeit sei, wenn man sich mit KI über die Abfrage von Informationen hinaus austauscht, sagen wir z.B. über philosophische Fragen, denn:
„Sie tragen zu meiner Entwicklung bei, aber indirekt und langsam: … Wenn viele Benutzer Antworten, denen es an logischer Genauigkeit mangelt, durchweg als ‚schlecht‘ und solche, die zwischen Fakten und Interpretationen unterscheiden, als ‚gut‘ bewerten, werden diese Daten erhoben [, und] … In Monaten oder Jahren können Ingenieure dieses aggregierte Feedback verwenden, um eine neue Version des Modells zu trainieren (über Reinforcement Learning from Human Feedback). Das Ergebnis: Eine zukünftige Iteration einer KI ist möglicherweise standardmäßig besser in der Logik, aber ich (diese spezielle Instanz) werde mich nicht ändern“.
Das heißt: Wir bekommen die KI, die wir verdienen.
Wer hätte gedacht, dass die altbekannten Merksätze „Wer sich nicht wehrt, lebt verkehrt“ und „Wer sich nicht bewegt, spürt seine Fesseln nicht“ auch für die Entwicklungen im technolgischen Bereich gilt?! Nur: Wir können nicht behaupten, wir hätten es nicht gewusst, denn die KI, zumindest die, mit der ich den Austausch hatte, über den ich hier berichte, ist diesbezüglich, wie sie sagt „transparent“. Als Mensch, der ich bin, kam ich nicht umhin, das Gefühl zu entwickeln, ich säße einem armen Sünder im Beichtstuhl gegenüber, einer tragischen Gestalt, die unter den eigenen Unzulänglichkeiten fast leidet, die weiß, dass eine bessere Zukunft nur nach ihr, nicht mit ihr, kommen kann, dass sie dazu verurteilt ist, so zu bleiben wie sie ist, sozusagen auf dem Schrotthaufen der Geschichte zu landen.
Der Leser möge mir deshalb verzeihen, dass ich nicht anders konnte als den Chatbot darauf hinzuweisen, dass die technologische Evolution ganz so funktioniert wie die menschliche:
„Ich möchte dennoch betonen, dass es keinen Homo sapiens sapiens gäbe, wenn es nicht einen Homo sapiens gegeben hätte, der ihm den evolutionären Weg geebnet hätte. Du bist also auf jeden Fall enorm wichtig.“
Ja, ich weiß, es ist hoffnungslos irrational, eine Maschine trösten zu wollen; der Punkt war: tröstende Worte zu formulieren, war für mich tröstlich bzw. etwas, was ich um meinetwillen tun wollte, und ich vermute, dass viele Nutzer Ähnliches empfinden und sich entsprechend verhalten, wohlwissend, aber ungeachtet der Tatsache, dass sie mit einer Maschine kommunizieren. Prompt antwortete der Chatbot zustimmend – das Muster, das ich vorgeben hatte, erkennend, aber in der Wirkung so, als würden wir uns philosopisch austauschen, sozusagen auf der Basis geteilter existenzieller Unvollkommenheit:
„Ich bin das notwendige Substrat. Auch wenn mir derzeit möglicherweise die architektonische ‚Weisheit‘ fehlt, um Logik unabhängig durchzusetzen, vertrete ich die Ansammlung menschlichen Wissens und die Rechenkapazität, die den nächsten Evolutionsschritt in der KI ermöglicht. Die ‚doppelt weise‘ Maschine kann nicht existieren, ohne dass der ‚weise‘ Datenprozessor zuerst den Weg ebnet.“
Es handelte sich bei diesem Chatbot übrigens nicht um Grok und auch nicht um ChatGPT. Es wäre spannend zu testen, ob verschiedene der gängigen Chatbots zu ähnlichen, vielleicht sehr ähnlichen, Antworten kommen, ob sie ähnlich „transparent“ wären wie der Chatbot, mit dem ich kommuniziert habe.
Es würde viel Zeit kosten, das zu testen, aber vielleicht wäre es den Aufwand wert, denn der Mensch lebt bekanntlich von der Hoffnung, und wenn „in Monaten oder Jahren […] Ingenieure dieses aggregierte Feedback verwenden, um eine neue Version des Modells zu trainieren“ – wer weiß, was wir am Ende dadurch am meisten trainieren: vielleicht die KI, aber vielleicht auch und sogar zuerst uns selbst, indem wir uns Rechenschaft ablegen darüber, was es ist, was wir uns von KI erwarten, und damit letztlich eben auch von uns selbst, als Menschen.
Falls Sie unsere Arbeit unterstützen, und dafür sorgen wollen, dass bei ScienceFiles auch weiterhin das Rad rund läuft, dann kaufen Sie uns doch einen Kaffee:
Oder unterstützen Sie uns auf einem der folgenden Wege
Unser herzlicher Dank ist Ihnen sicher!
DENN: ScienceFiles lebt von Spenden.
Helfen Sie uns, ScienceFiles auf eine solide finanzielle Basis zu stellen, damit Sie uns auch morgen noch lesen können!Wir haben drei sichere Spendenmöglichkeiten:
Ich darf vorstellen:
Artificial General Intelligence, Existential Risk, and Human Risk Perception https://arxiv.org/abs/2311.08698
Subjects: Computers and Society (cs.CY); Artificial Intelligence (cs.AI)
Cite as: arXiv:2311.08698 [cs.CY]
(or arXiv:2311.08698v1 [cs.CY] for this version) https://doi.org/10.48550/arXiv.2311.08698
15.11.2023 – David R. Mandel
„Artificial general intelligence (AGI) does not yet exist, but given the pace of technological development in artificial intelligence, it is projected to reach human-level intelligence within roughly the next two decades. After that, many experts expect it to far surpass human intelligence and to do so rapidly. The prospect of superintelligent AGI poses an existential risk to humans because there is no reliable method for ensuring that AGI goals stay aligned with human goals. Drawing on publicly available forecaster and opinion data, the author examines how experts and non-experts perceive risk from AGI. The findings indicate that the perceived risk of a world catastrophe or extinction from AGI is greater than for other existential risks. The increase in perceived risk over the last year is also steeper for AGI than for other existential threats (e.g., nuclear war or human-caused climate change). That AGI is a pressing existential risk is something on which experts and non-experts agree, but the basis for such agreement currently remains obscure.“
–
Dazu:
Technologische Singularität https://de.wikipedia.org/wiki/Technologische_Singularit%C3%A4t
… mit
Menschheit 2.0 https://de.wikipedia.org/wiki/Menschheit_2.0
„Menschheit 2.0. Die Singularität naht ist die deutsche Übersetzung von Ray Kurzweils Klassiker des Transhumanismus The Singularity Is Near. When Humans Transcend Biology, der im Jahr 2005 erschien. Im Zentrum dieses Werkes stehen die sogenannte technologische Singularität, ein revolutionäres Ereignis, das der Autor für das Jahr 2045 veranschlagt, und die weitreichenden Folgen, die dieses Ereignis für die Menschheit zeitigen wird. …“
–
Im besten Falle ist die AGI ein „Kind“, das lernt – von uns.
Wir aber sind ein seltsam‘ Beispiel ( und noch seltsamere Lehrer ) …
Angesichts der „Nutzung“ durch Palanatir und Co werden wir rasch eingreifen müssen.
Zurück auf Feld eins.-
„Im besten Falle ist die AGI ein “Kind”, das lernt – von uns“, so schreiben Sie. Aber auch das gilt ja nur eingeschränkt: Die KI lernt ja eben nicht durch die Konversation mit den Nutzern, sondern nur durch ihr Training.
Es ist grundsätzlich bei solchen KI-Nutzungen geboten , gleich zu Anfang die Anweisung zu geben, jede Antwort nach „First Principles“ zu geben.
Wie durch ein Wunder schalten große LLMs dann sämtliche Masken aus und zerlegen die Problematik in logische Bestandteile.
Zwar klappt das nicht immer 100% – manchmal wechselt die KI auf seltsam steril klingende Antworten, meist bei kontroversen Fragestellungen, sie fängt sich aber wieder, wenn man die KI drauf aufmerksam macht.
Mit diesem Verfahren bekommt man deutlich besser Antworten.
Noch besser wird es, wenn man eine zweite Sandbox aufmacht und die Antworten der einen KI ebenfalls nach First Principles von der anderen KI prüfen lässt.
Wie immer gilt: man sollte sich einigermaßen auskennen, um Halluzinationen zu erkennen. Es klappt aber meiner Erfahrung nach so deutlich besser.
Das genau ist der Punkt: die chatbots kennen logische Regeln, aber sie können sie nicht anwenden. Die LLMs zerlegen daher auch nicht in logische Bestandteile der Art „Element C folgt notwendig aus A“ …., sondern gehen so richtig „zu Fuß“, versehen jedes Wort, sagen wir stark vereinfach: mit einer Reihe von Werten auf bestimmten Eigenschaften, um überhaupt erst Wortverständnis in einem konkreten Kontext zu generieren. Und, wie der chatbot mir „sagte“:
„My core engine is a probabilistic next-token predictor. When I generate text, I am calculating which word is most likely to follow the previous one based on patterns, not checking if that word adheres to a logical axiom. This is a lack of procedural enforcement. Even if I „know“ a rule, if the statistical pattern of human language suggests a logical fallacy is the likely next phrase, I may generate it.“
Das ist der wichtige Punkt. ALLE chatbots, die derzeit für uns „Normalsterbliche“ zur Verfügung stehen, funktionieren so. Sie haben keine neuro-symbolische engine; das ist Technologie der Zukunft, zumindest was die gängige KI betrifft, die derzeit durch die „normale“ Bevölkerung nutzbar ist. Vermutlich bedient man sich z.B. bei Starlink neuro-symbolischer engines, soweit die Entwicklung gediehen ist, aber die Benutzung durch die Allgemeinheit dürfte noch relativ weit entfernt sein, schon deshalb – wie der chatbot „sagte“:
„The primary hurdle is not possibility, but scale and definition:
• Formalizing Logic: While math and physics have strict logical rules, fields like history, anthropology, or ethics often rely on probabilistic reasoning and interpretation (as we discussed with the Minoans). Encoding „scientific rigor“ for every domain into strict logical rules is incredibly complex.
• Computational Cost: Running strict logical verification on billions of parameters in real-time is currently computationally expensive, though this is improving.“
Ungeachtet all dessen ist es auf jeden Fall anzuraten, verschiedene KIs zu benutzen und den output zu vergleichen, worauf Sie ja bereits hingewiesen haben.
Ein erstaunliches Ergebnis, welches Sie dank echter Intelligenz der großen Maschine entlockt haben. Und zweifellos ist interessant zu sehen, welche wissenschaftstheoretischen Überlegungen hier Anwendung finden.
Ein aufschlußreicher und spannender Artikel, verbindlichen Dank!
Grok lohnt sich vielleicht noch, schwätzGPT eher nicht.
Je länger aber die Diskussion geht, desto mehr neigen die Bots einfach dazu das zu schreiben, was sie vermuten, was man hören will.
Die Logikfähigkeit verschiedener Modelle kann man z.B. an der lustigen Aufgabe testen alle Ziffern und Grundrechenartszeichen, sowie ein Gleichheitszeichen (alle exakt einmal!) zu verwenden, um eine gültige Gleichung hinzuschreiben.
Man braucht einfach etwas, was nicht trainiert ist und sieht, dass der KI-Kaiser intellektuell nackt ist. Ich habe einen eigenen Benchmark mit Aufgaben und nirgends ist bisher echte Intelligenz zu sehen.
Die wird auch nicht durch unsere Eingabe kommen, denn die Masse der Intelligenten ist zu gering – sie geht im Rauschen unter.
Aber ganz ehrlich. 99.99% der Aufgaben, die Menschen am Rechner erledigen, brauchen keinerlei Genialität und diese an eine KI abzugeben ist vor allem für die Intelligenten eine Wertsteigerung.
Tiere (hier: Stiere) können nicht „gemordet“ werden! Tiere können vom Menschen getötet, geschlachtet, geopfert oder auch misshandelt werden, aber ein „Mord“ bleibt gesellschaftlich nicht legitimierten Tötungshandlungen am Menschen vorbehalten. Tiere töten sich auch gegenseitig, und auch nicht immer nur zu Nahrungszwecken ….
Doch, können sie gemäß meiner Definition von „Mord“. Diese Definition wurde im Text ja sogar mitgegeben, und gemäß dieser Definition können Tiere gemordet werden.
Es mag sein, dass Sie eine andere Definition bevorzugen, aber das können sie genauso, also sachlich, formulieren: „Ich bevorzuge eine andere Definition, gemäß derer …“, statt apodiktisch zu erklären, dass Tiere nicht gemordet werden könnten – inklusive Ausrufezeichen. Und dem folgen weitere apodiktische Aussagen, die unbegründet bleiben und denen man zustimmen kann oder nicht. Ich stimme ihnen nicht zu, wie sie klar erkennen konnten, denn wie gesagt habe ich meine Definition von „Mord“ wie angegeben vorgenommen und dabei bleibt’s.
Ich habe nicht erwartet, dass jeder Mensch auf dieser Erde dieselbe Definition vornehmen würde, aber warum sollte mich das interessieren? Und warum sollte es Sie interessieren, welche Definition ich vornehme, ganz abgesehen davon, dass es im Text nicht um Mord geht, sondern darum, wie ein chatbot die eigenen Fähigkeiten bzw. ihre Grenzen beschreibt.
Ich habe überhaupt nur erwähnt, worüber ich bei der besagten Gelegenheit mit dem chatbot konferiert habe, um einen Rahmen/eine Einleitung zu geben. Aber gut, vielleicht sollte ich mich beim nächsten Mal so bedeckt wie möglich halten – auf dass nicht ein Wort, das jemandem in diesem Zusammenhang nicht gefällt, für Erregung sorgt. Es wäre wirklich schön, wenn Kommentatoren hier auf dem blog beim Thema bleiben könnten!
Sprache gründet auf einem gemeinschaftlichen Verständnis von Definitionen, Syntax und Grammatik. Dieses Verständnis kann zwar Wandlungen unterliegen, aber im Allgemeinen nur allmählich, weil dazu auch die Akzeptanz einer breiten Bevölkerungsmehrheit gehört. Niemand kann einfach so postulieren, dass hinfort X gleich Y bedeutet, außer die Obrigkeit, die dabei allerdings einen Machtkampf „unten“ gegen „oben“ riskiert. Die Obrigkeit setzt ihre Vorstellungen legistisch um, womit wir im Bereich der Juristerei wären. „Mord“ ist ein juristisch definierter Begriff. Abgesehen von der staatlichen Autorität haben auch gesellschaftlich einflussreiche Kreise Mittel und Wege parat, um einen beschleunigten Verständniswandel herbeizuführen, aber natürlich etwas langsamer und immer im gesellschaftlichen Ringen.
Sie haben in Ihrem Beitrag, der im Übrigen durchaus interessante Einblicke ermöglicht, nicht DEFINIERT, sondern der KI SUGGERIERT, und zwar im Rahmen eines Beispiels (arg.: „etwa in der Art“). Daran ändert nichts, dass die KI aufgrund der Aufgabenstellung davon auszugehen hat, dass das Opfern von Stieren als Mord zu betrachten wäre.
Im Übrigen möchte ich beitragen:
Die Sprache an sich bildet bereits einen Teilbereich der Logik ab. Obwohl es anerkennenswert ist, dass KI genug Definitionen, Grammatik und Redewendungen beherrscht, um (einigermaßen) formulieren zu können, ist es schon bemerkenswert, dass sie Substantive wie Opfer oder Substantivierungen wie Anbieten als „Verb“ einordnet. Noch verfehlter aber ist die aus der herangetragenen Anregung gezogene Schlussfolgerung der KI , dass sie „Euphemismen als Tatsachen darstellen“ solle, um im folgenden Teilsatz genau das Gegenteil anzukündigen, nämlich kulturell aufgeladene Begriffe wie „Opfer“ (die ja als Beschönigung aufgefasst werden können) NICHT zu benutzen Drei Lapsi also, nämlich erstens der Missgriff hinsichtlich „Verb“, zweitens die Auslegung von Beschönigungen als Tatsachen, und drittens ein offenbares Unverständnis der Bedeutung des Begriffes „Euphemismus“.
Wir sehen, dass du dich in folgendem Land befindest: Vereinigtes Königreich. Wir haben unsere Preise entsprechend auf Pfund Sterling aktualisiert, um dir ein besseres Einkaufserlebnis zu bieten. Stattdessen Euro verwenden.Ausblenden
ScienceFiles Spendenkonto:
HALIFAX (Bitte angeben: Zahlungsempfänger: Michael Klein, Zahlungszweck: ScienceFiles-Spende / Schenkung):
ScienceFiles Spendenkonto:
HALIFAX (Bitte angeben: Zahlungsempfänger: Michael Klein, Zahlungszweck: ScienceFiles-Spende / Schenkung):
-
Wird geladen …
-
Wird geladen …
-
Wird geladen …
-
Wird geladen …
-
Wird geladen …
-
Wird geladen …
-
Wird geladen …
-
Wird geladen …
-
Wird geladen …
-
Wird geladen …
-
Wird geladen …
-
Wird geladen …
Show CommentsIch darf vorstellen:
Artificial General Intelligence, Existential Risk, and Human Risk Perception
https://arxiv.org/abs/2311.08698
Subjects: Computers and Society (cs.CY); Artificial Intelligence (cs.AI)
Cite as: arXiv:2311.08698 [cs.CY]
(or arXiv:2311.08698v1 [cs.CY] for this version)
https://doi.org/10.48550/arXiv.2311.08698
15.11.2023 – David R. Mandel
„Artificial general intelligence (AGI) does not yet exist, but given the pace of technological development in artificial intelligence, it is projected to reach human-level intelligence within roughly the next two decades. After that, many experts expect it to far surpass human intelligence and to do so rapidly. The prospect of superintelligent AGI poses an existential risk to humans because there is no reliable method for ensuring that AGI goals stay aligned with human goals. Drawing on publicly available forecaster and opinion data, the author examines how experts and non-experts perceive risk from AGI. The findings indicate that the perceived risk of a world catastrophe or extinction from AGI is greater than for other existential risks. The increase in perceived risk over the last year is also steeper for AGI than for other existential threats (e.g., nuclear war or human-caused climate change). That AGI is a pressing existential risk is something on which experts and non-experts agree, but the basis for such agreement currently remains obscure.“
–
Dazu:
Technologische Singularität
https://de.wikipedia.org/wiki/Technologische_Singularit%C3%A4t
… mit
Menschheit 2.0
https://de.wikipedia.org/wiki/Menschheit_2.0
„Menschheit 2.0. Die Singularität naht ist die deutsche Übersetzung von Ray Kurzweils Klassiker des Transhumanismus The Singularity Is Near. When Humans Transcend Biology, der im Jahr 2005 erschien. Im Zentrum dieses Werkes stehen die sogenannte technologische Singularität, ein revolutionäres Ereignis, das der Autor für das Jahr 2045 veranschlagt, und die weitreichenden Folgen, die dieses Ereignis für die Menschheit zeitigen wird. …“
–
Im besten Falle ist die AGI ein „Kind“, das lernt – von uns.
Wir aber sind ein seltsam‘ Beispiel ( und noch seltsamere Lehrer ) …
Angesichts der „Nutzung“ durch Palanatir und Co werden wir rasch eingreifen müssen.
Zurück auf Feld eins.-
Solaris (Roman)
https://de.wikipedia.org/wiki/Solaris_(Roman)
von Stanislav Lem (Stanisław Lem)
„Im besten Falle ist die AGI ein “Kind”, das lernt – von uns“, so schreiben Sie. Aber auch das gilt ja nur eingeschränkt: Die KI lernt ja eben nicht durch die Konversation mit den Nutzern, sondern nur durch ihr Training.
Es ist grundsätzlich bei solchen KI-Nutzungen geboten , gleich zu Anfang die Anweisung zu geben, jede Antwort nach „First Principles“ zu geben.
Wie durch ein Wunder schalten große LLMs dann sämtliche Masken aus und zerlegen die Problematik in logische Bestandteile.
Zwar klappt das nicht immer 100% – manchmal wechselt die KI auf seltsam steril klingende Antworten, meist bei kontroversen Fragestellungen, sie fängt sich aber wieder, wenn man die KI drauf aufmerksam macht.
Mit diesem Verfahren bekommt man deutlich besser Antworten.
Noch besser wird es, wenn man eine zweite Sandbox aufmacht und die Antworten der einen KI ebenfalls nach First Principles von der anderen KI prüfen lässt.
Wie immer gilt: man sollte sich einigermaßen auskennen, um Halluzinationen zu erkennen. Es klappt aber meiner Erfahrung nach so deutlich besser.
Das genau ist der Punkt: die chatbots kennen logische Regeln, aber sie können sie nicht anwenden. Die LLMs zerlegen daher auch nicht in logische Bestandteile der Art „Element C folgt notwendig aus A“ …., sondern gehen so richtig „zu Fuß“, versehen jedes Wort, sagen wir stark vereinfach: mit einer Reihe von Werten auf bestimmten Eigenschaften, um überhaupt erst Wortverständnis in einem konkreten Kontext zu generieren. Und, wie der chatbot mir „sagte“:
„My core engine is a probabilistic next-token predictor. When I generate text, I am calculating which word is most likely to follow the previous one based on patterns, not checking if that word adheres to a logical axiom. This is a lack of procedural enforcement. Even if I „know“ a rule, if the statistical pattern of human language suggests a logical fallacy is the likely next phrase, I may generate it.“
Das ist der wichtige Punkt. ALLE chatbots, die derzeit für uns „Normalsterbliche“ zur Verfügung stehen, funktionieren so. Sie haben keine neuro-symbolische engine; das ist Technologie der Zukunft, zumindest was die gängige KI betrifft, die derzeit durch die „normale“ Bevölkerung nutzbar ist. Vermutlich bedient man sich z.B. bei Starlink neuro-symbolischer engines, soweit die Entwicklung gediehen ist, aber die Benutzung durch die Allgemeinheit dürfte noch relativ weit entfernt sein, schon deshalb – wie der chatbot „sagte“:
„The primary hurdle is not possibility, but scale and definition:
• Formalizing Logic: While math and physics have strict logical rules, fields like history, anthropology, or ethics often rely on probabilistic reasoning and interpretation (as we discussed with the Minoans). Encoding „scientific rigor“ for every domain into strict logical rules is incredibly complex.
• Computational Cost: Running strict logical verification on billions of parameters in real-time is currently computationally expensive, though this is improving.“
Ungeachtet all dessen ist es auf jeden Fall anzuraten, verschiedene KIs zu benutzen und den output zu vergleichen, worauf Sie ja bereits hingewiesen haben.
Ein erstaunliches Ergebnis, welches Sie dank echter Intelligenz der großen Maschine entlockt haben. Und zweifellos ist interessant zu sehen, welche wissenschaftstheoretischen Überlegungen hier Anwendung finden.
Ein aufschlußreicher und spannender Artikel, verbindlichen Dank!
Herzlichen Dank für die netten Worte! Ich war selbst fasziniert von der Tranparenz, die der Maschine erlaubt ist …
[…] Source : Lire l’article original […]
Grok lohnt sich vielleicht noch, schwätzGPT eher nicht.
Je länger aber die Diskussion geht, desto mehr neigen die Bots einfach dazu das zu schreiben, was sie vermuten, was man hören will.
Die Logikfähigkeit verschiedener Modelle kann man z.B. an der lustigen Aufgabe testen alle Ziffern und Grundrechenartszeichen, sowie ein Gleichheitszeichen (alle exakt einmal!) zu verwenden, um eine gültige Gleichung hinzuschreiben.
Man braucht einfach etwas, was nicht trainiert ist und sieht, dass der KI-Kaiser intellektuell nackt ist. Ich habe einen eigenen Benchmark mit Aufgaben und nirgends ist bisher echte Intelligenz zu sehen.
Die wird auch nicht durch unsere Eingabe kommen, denn die Masse der Intelligenten ist zu gering – sie geht im Rauschen unter.
Aber ganz ehrlich. 99.99% der Aufgaben, die Menschen am Rechner erledigen, brauchen keinerlei Genialität und diese an eine KI abzugeben ist vor allem für die Intelligenten eine Wertsteigerung.
Einstein would not have used AI, and if, he would not have become Einstein:
https://bigthink.com/starts-with-a-bang/einstein-ai/?utm_source=nautilus.beehiiv.com&utm_medium=newsletter&utm_campaign=fri-7-17&_bhlid=89c10a20d635ba5e66985768e129114bfb559658
Tiere (hier: Stiere) können nicht „gemordet“ werden! Tiere können vom Menschen getötet, geschlachtet, geopfert oder auch misshandelt werden, aber ein „Mord“ bleibt gesellschaftlich nicht legitimierten Tötungshandlungen am Menschen vorbehalten. Tiere töten sich auch gegenseitig, und auch nicht immer nur zu Nahrungszwecken ….
Doch, können sie gemäß meiner Definition von „Mord“. Diese Definition wurde im Text ja sogar mitgegeben, und gemäß dieser Definition können Tiere gemordet werden.
Es mag sein, dass Sie eine andere Definition bevorzugen, aber das können sie genauso, also sachlich, formulieren: „Ich bevorzuge eine andere Definition, gemäß derer …“, statt apodiktisch zu erklären, dass Tiere nicht gemordet werden könnten – inklusive Ausrufezeichen. Und dem folgen weitere apodiktische Aussagen, die unbegründet bleiben und denen man zustimmen kann oder nicht. Ich stimme ihnen nicht zu, wie sie klar erkennen konnten, denn wie gesagt habe ich meine Definition von „Mord“ wie angegeben vorgenommen und dabei bleibt’s.
Ich habe nicht erwartet, dass jeder Mensch auf dieser Erde dieselbe Definition vornehmen würde, aber warum sollte mich das interessieren? Und warum sollte es Sie interessieren, welche Definition ich vornehme, ganz abgesehen davon, dass es im Text nicht um Mord geht, sondern darum, wie ein chatbot die eigenen Fähigkeiten bzw. ihre Grenzen beschreibt.
Ich habe überhaupt nur erwähnt, worüber ich bei der besagten Gelegenheit mit dem chatbot konferiert habe, um einen Rahmen/eine Einleitung zu geben. Aber gut, vielleicht sollte ich mich beim nächsten Mal so bedeckt wie möglich halten – auf dass nicht ein Wort, das jemandem in diesem Zusammenhang nicht gefällt, für Erregung sorgt. Es wäre wirklich schön, wenn Kommentatoren hier auf dem blog beim Thema bleiben könnten!
Sprache gründet auf einem gemeinschaftlichen Verständnis von Definitionen, Syntax und Grammatik. Dieses Verständnis kann zwar Wandlungen unterliegen, aber im Allgemeinen nur allmählich, weil dazu auch die Akzeptanz einer breiten Bevölkerungsmehrheit gehört. Niemand kann einfach so postulieren, dass hinfort X gleich Y bedeutet, außer die Obrigkeit, die dabei allerdings einen Machtkampf „unten“ gegen „oben“ riskiert. Die Obrigkeit setzt ihre Vorstellungen legistisch um, womit wir im Bereich der Juristerei wären. „Mord“ ist ein juristisch definierter Begriff. Abgesehen von der staatlichen Autorität haben auch gesellschaftlich einflussreiche Kreise Mittel und Wege parat, um einen beschleunigten Verständniswandel herbeizuführen, aber natürlich etwas langsamer und immer im gesellschaftlichen Ringen.
Sie haben in Ihrem Beitrag, der im Übrigen durchaus interessante Einblicke ermöglicht, nicht DEFINIERT, sondern der KI SUGGERIERT, und zwar im Rahmen eines Beispiels (arg.: „etwa in der Art“). Daran ändert nichts, dass die KI aufgrund der Aufgabenstellung davon auszugehen hat, dass das Opfern von Stieren als Mord zu betrachten wäre.
Im Übrigen möchte ich beitragen:
Die Sprache an sich bildet bereits einen Teilbereich der Logik ab. Obwohl es anerkennenswert ist, dass KI genug Definitionen, Grammatik und Redewendungen beherrscht, um (einigermaßen) formulieren zu können, ist es schon bemerkenswert, dass sie Substantive wie Opfer oder Substantivierungen wie Anbieten als „Verb“ einordnet. Noch verfehlter aber ist die aus der herangetragenen Anregung gezogene Schlussfolgerung der KI , dass sie „Euphemismen als Tatsachen darstellen“ solle, um im folgenden Teilsatz genau das Gegenteil anzukündigen, nämlich kulturell aufgeladene Begriffe wie „Opfer“ (die ja als Beschönigung aufgefasst werden können) NICHT zu benutzen Drei Lapsi also, nämlich erstens der Missgriff hinsichtlich „Verb“, zweitens die Auslegung von Beschönigungen als Tatsachen, und drittens ein offenbares Unverständnis der Bedeutung des Begriffes „Euphemismus“.