Gruseliges Geständnis: Selbst das Unternehmen, das ChatGPT herstellt, weiß nicht, wie es funktioniert

In letzter Zeit OpenAI , hat einen neuen Artikel veröffentlicht. Dieser Artikel ist alt GPT-2Erklärungen für das Verhalten von Neuronen im Modell zu schreiben GPT-4 Einzelheiten zu einer Technik, die das Sprachmodell verwendet, werden angegeben. Der Zweck hier ist, dass Grenznetzwerke produzieren Erklären Sie, warum sie die Ausgaben erstellen.

Die wichtigsten Sprachmodelle(LLM) die Welt der Technologie erobern, künstliche Intelligenz (KI-)Forscher wissen immer noch nicht viel über ihre Funktionsweise und Fähigkeiten unter der Haube. OpenAI im ersten Satz seines veröffentlichten Artikels „Sprachmodelle sind leistungsfähiger und verbreiteter geworden, aber wir verstehen nicht, wie sie funktionierener gibt es offen zu.

Wir wissen nicht, warum sie funktionieren

Für diejenigen, die sich nicht an den Rahmen halten, mag dies wie ein bemerkenswertes Eingeständnis eines Unternehmens erscheinen, das nicht nur auf Einnahmen aus LLMs angewiesen ist, sondern diese auch auf übermenschliche Ebenen des Denkens heben möchte.

Aber die Situation, nicht genau zu wissen, wie die einzelnen Neuronen eines Grenznetzwerks zusammenarbeiten, um ihre Ergebnisse zu erzeugen, hat einen bekannten Namen: Flugschreiber . In der aktuellen Situation wollen wir also etwas von künstlichen Intelligenzsystemen und sie reagieren nacheinander auf uns, aber was in der Mitte dieser beiden Prozesse (der Black Box) passiert, ist ein Rätsel.

Um einen Blick in die Blackbox zu werfen, verwendeten Forscher von OpenAI das GPT-4-Sprachmodell, um Beschreibungen in natürlicher Sprache für das Verhalten von Neuronen in einem viel weniger komplexen Sprachmodell wie GPT-2 zu erstellen und auszuwerten. Theoretisch könnte ein interpretierbares KI-Modell dazu beitragen, dass diese Systeme in der gewünschten Form funktionieren.

Wenn die Arbeitsformen verstanden werden, können ihre Mängel behoben werden.

Wie bekannt 100 Milliarden Neuronen im menschlichen Gehirn existiert. In einem Grenznetzwerk ist ein Neuron wie eine kleine Entscheidungseinheit, die Informationen empfängt, verarbeitet und eine Ausgabe erzeugt, genau wie eine kleine Gehirnzelle, die Entscheidungen auf der Grundlage der empfangenen Signale trifft. OpenAI versucht zu verstehen, wie diese KI-Neuronen funktionieren, aber es scheint, zumindest im Moment, eines der fortschrittlichsten KI-Modelle zu sein. Sogar GPT-4 ist schlecht darin, Neuronen zu interpretieren.

OpenAI-Forscher hoffen, dass sich mit der Weiterentwicklung der KI-Modelle die Qualität der erzeugten Erklärungen verbessert und bessere Einblicke in das Innenleben dieser komplexen Systeme ermöglicht. OpenAI veröffentlichte das Forschungspapier auf einer interaktiven Website mit Beispieltranskripten jedes Schritts, die hervorgehobene Teile des Textes und deren zwangsläufige Entsprechung zu Neuronen zeigen. Das Unternehmen gibt an, seine Arbeit fortzusetzen.

Wenn “ InterpretierbarkeitStellt sich im Feld „der gewünschte Erfolg ein, dann ChatGPT Und er kann herausfinden, warum seine Fresser sich etwas ausdenken, und dieses kritische Problem kann gelöst werden. Denn es ist ein Prozess, so wie Menschen behandelt werden, wenn sie krank werden. Wenn wir ein Problem haben, wird das Krankenhaus untersucht und diagnostiziert. Wenn die Diagnose gestellt ist, werden entsprechende Medikamente verabreicht. Jetzt Modelle der künstlichen Intelligenzmit absoluter Genauigkeit „Gipfel“wir können nicht .

Ähnliche Beiträge

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert