Kategorie: RCS Lab Notes
Arbeitsnotizen, Modellskizzen und experimentelle Beobachtungen aus dem RCS-Systemlabor. Diese Kategorie umfasst explorative Ansätze, Hypothesen und strukturelle Vorarbeiten zur Modellierung komplexer Systeme vor ihrer Ausarbeitung zu vollständigen Artikeln.
-
Warum längere Kontextfenster kein Weltmodell ersetzen
Lange Kontextfenster gelten als ein zentraler Entwicklungspfad für Large Language Models. Je mehr Text ein Modell gleichzeitig verarbeiten kann, desto besser sollte es Zusammenhänge über Dokumente, Gespräche oder ganze Bücher hinweg erfassen. Diese Erwartung ist plausibel – aber sie vermischt zwei verschiedene Probleme: Ein längeres Kontextfenster verbessert zunächst den Zugriff auf Beobachtungen. Es erzeugt aber…
-
Die Rückkehr der Summe
Man erzählte sich später, es habe mit einem Fehler begonnen. Das war falsch. Fehler gab es ständig. Was neu war: Jemand hatte ihn bemerkt. I. Archivband 7 – Protokollauszug Zentrale Rechenanlage Sektor IV, 03:12 Uhr. Navigationsroutine 118-B reagiert nicht. Ersatzsysteme liefern divergierende Ergebnisse. Manuelle Intervention angeordnet. Der Raum war schmal, hoch, voller Schränke. Röhren glühten…