Token arm

In unserem Alltag zeichnet sich eine neue digitale Asymmetrie ab. Es handelt sich dabei weder um mangelnde Konnektivität noch um technologische Unwissenheit im klassischen Sinne. Es ist etwas Subtileres und in mancher Hinsicht Aufschlussreicheres: der Mangel an digitalen Tokens .

Aber was genau sind Token?

Bei der Kommunikation mit einem großen Sprachmodell – heute LLMs oder kurz „KIs“ genannt – wird Text weder Wort für Wort noch Buchstabe für Buchstabe verarbeitet. Er wird in kleinere, statistisch signifikante Einheiten, sogenannte Tokens, zerlegt.

Ein Token kann einem ganzen Wort, einem Wortstamm, einem Suffix oder einem Satzzeichen entsprechen. Im Italienischen könnte ein Wort wie „ragionevolmente“ drei oder vier Token wert sein.

Jedes Mal, wenn Sie etwas in das Modell eingeben und jedes Mal, wenn das Modell darauf reagiert, werden Token verbraucht. Je länger und komplexer eine Arbeitssitzung ist, desto mehr Token werden pro Austausch verbraucht, wodurch sich der Verbrauch schnell summieren kann.

Jedes Abonnement oder jeder Nutzungsplan beinhaltet heute eine bestimmte Anzahl an Guthabenpunkten, die über einen bestimmten Zeitraum verfügbar sind. Wir befinden uns noch in der Anfangsphase dieser Technologie, und die Art der Bezahlung spiegelt ihre mangelnde Marktreife wider. Das ist vergleichbar mit den Erfahrungen mit Mobiltelefonen: Zuerst zahlten wir für jede SMS wie für ein Telegramm, dann für Gesprächsminuten, dann für Megabytes Datenvolumen und schließlich für Gigabytes in einem monatlichen Paket. Jeder Schritt schien selbstverständlich, bis der nächste ihn überflüssig machte.

Dasselbe wird wahrscheinlich auch bei LLMs der Fall sein: Token sind heute die Maßeinheit, aber es ist vernünftig anzunehmen, dass sie sich in Richtung anderer Modelle entwickeln werden – flache Abonnements, nutzungsbasierte Preisgestaltung, differenzierter institutioneller Zugang, vielleicht etwas, das wir uns heute noch nicht vorstellen können.

Doch vorerst ist es so, dass die Maschine stoppt und keine weiteren Gespräche mehr führt, sobald die Münzen aufgebraucht sind.

Dieser Mechanismus steht in engem Zusammenhang mit einer weiteren Unterscheidung, die es zu klären gilt: der zwischen sogenanntem Prompting und Modelltraining.

Das Training eines Modells ist ein umfassender, oft kostspieliger Prozess, der in den Laboren großer Technologieunternehmen stattfindet und die Verarbeitung enormer Datenmengen erfordert. Dies verbessert die Qualität und Professionalität der Antworten in spezifischen Themenbereichen erheblich.

Eingabeaufforderungen hingegen sind das, was der Benutzer tut; sie basieren auf Konversation: So formulieren Sie eine Anfrage, schaffen einen Kontext und führen das Modell zum gewünschten Ergebnis. Das Modell wird dadurch weder verändert noch strukturell verbessert, und es werden keine dauerhaften Spuren hinterlassen. Es handelt sich um Konversation, nicht um Lernen. Gleichzeitig ist diese temporäre Konversation eine echte Fähigkeit, die Übung, sprachliches Feingefühl und ein gewisses Verständnis dafür erfordert, wie die Maschine denkt – oder besser gesagt, wie sie Denken simuliert.

Wer effektiv Anstoß geben kann, erzielt qualitativ andere Ergebnisse als Improvisationskünstler. Und diese Aktivität verbraucht natürlich Spielmarken.

Die Metapher der Rationierung lässt sich kaum vermeiden: Wenn die Token ausgehen, verstummt die Konversation, nur um am nächsten Tag wieder aufgenommen zu werden, als ob das digitale Denken eine Sperrstunde hätte.

Es entsteht eine neue digitale Kluft: Auf der einen Seite stehen diejenigen, die die Nutzung von Prompt-Systemen beherrschen, über Premium-Abonnements verfügen und diese Tools bereits in ihren täglichen Arbeitsablauf integriert haben; auf der anderen Seite sind diejenigen klar im Nachteil, die den Mehrwert dieser Systeme noch nicht vollständig erkannt haben oder denen schlichtweg die Ressourcen fehlen, sie konsequent und regelmäßig zu nutzen.

Es handelt sich nicht nur um einen technischen oder funktionalen Unterschied, wie bei der traditionellen „digitalen Kluft“.

Es handelt sich um eine tiefere Schichtung, die die Fähigkeit zur Produktion, Aufbereitung und Wertschöpfung von Wissen beeinträchtigt und die Gefahr birgt, bereits bestehende Ungleichheiten in neuer Form zu reproduzieren .

Öffentliche Einrichtungen stehen vor einer heiklen Herausforderung: Sie müssen sicherstellen, dass der Zugang zu diesen Werkzeugen nicht zu einer neuen Dimension der Ungleichheit wird. Schulen, Universitäten, Kommunen, Bibliotheken und Gesundheitseinrichtungen müssen sich mit Technologien auseinandersetzen, die die Qualität ihrer täglichen Arbeit erheblich verbessern könnten, aber die Gefahr laufen, zum ausschließlichen Privileg derjenigen zu werden, die bereits über Ressourcen, Fähigkeiten und digitale Kompetenz verfügen.

Den Bürgern den Zugang zu erleichtern bedeutet, über Formen des öffentlichen, subventionierten und informierten Zugangs zu dieser neuen Generation von Dienstleistungen nachzudenken.

Privatunternehmen, die diese Tools einsetzen, haben die Möglichkeit und in vielen Fällen die Kosteneffizienz, ihren Mitarbeitern einen angemessenen Zugang zu ermöglichen, Schulungen anzubieten und vor allem eine interne Kultur zu schaffen, die KI als Arbeitsinfrastruktur betrachtet.

Die Stärkung von Branchenexperten erfordert Investitionen in Werkzeuge und praxisnahe Schulungen.

Die Frage der symbolischen Gegenleistung ist, kurz gesagt, keine technische. Sie ist im weitesten Sinne des Wortes politisch und sozial.

Es geht darum, wer es sich leisten kann und sogar dazu fähig ist, mit Hilfe von Maschinen zu denken, und wer nicht, wer den Anschluss an die kognitive Automatisierung findet und wer mit dem konkreten Risiko, auf dem Arbeitsmarkt keinen Platz zu finden, weit abgehängt zu werden und nicht mehr auf dem neuesten Stand zu sein, warten muss.

Ich frage mich, wie viele von Ihnen nicht wissen, wie man einen KI-Dienst nutzt und noch nie mit Sprachausgabe gearbeitet haben.
Ich frage mich, wie viele von Ihnen ihr tägliches Kontingent an Tokens bereits aufgebraucht haben.

Mondoduepuntozero