Der Cursor blinkt noch immer, kein Modell verfügbar

Gerade hatte ich eine längere Session mit Claude Fable 5, und ich bin ziemlich begeistert. Das Modell macht einfach seine Arbeit. Es quatscht nicht viel, erledigt und testet so viel im Hintergrund, dass man sich immer mehr auf das Ergebnis verlassen kann. Natürlich nie ganz. Eingreifen muss ich trotzdem an vielen Stellen. Aber nicht, weil der Coding-Agent etwas falsch gemacht hat. Sondern weil ich neue Komplexitäten finde.

Während der Agent programmiert, denke ich darüber nach, wie das Ganze laufen würde, wenn nicht nur ich es bediene, sondern auch andere. Und wie sich alles skalieren lässt. Das sind Fragen, die ich mir erst selbst überlegen muss. Meistens gehe ich dann raus und laufe einmal zum Queens Wharf und zurück (etwa 5 Kilometer entlang der wunderbaren Hafenpromenade von Newcastle), bevor ich sie überhaupt mit Claude diskutieren und eine Lösung finden kann.

Ich war also fertig mit einer Coding-Session und wollte sie, wie nach jeder Iteration, mit den Simplify- und Code-Review-Skills abschließen. Und mitten im /simplify sagt Claude Code, dass es Claude Fable nicht mehr gibt. Lapidar hieß es, ich könnte auf Opus 4.8 zurückgehen oder einfach warten. Kein Problem, heute ist Samstag. Aber was wäre, wenn ich etwas heute Abend fertig haben müsste, und dann klappt aus irgendeinem Grund die Verbindung nicht mehr? Wie peinlich wäre es, wenn ich einem Kunden beichten müsste, dass das Modell nicht verfügbar wäre und ich außerstande wäre, es ohne KI zu erledigen? Früher hieß es: Tschuldigung, E-Mail kam nicht an, Strom wurde abgeschaltet, DSL ging nicht. Das schien akzeptabel. Aber „KI unterbrochen“? Come on!

Aber es passiert. Power-User kennen das. Wir begeben uns ganz schön in die Abhängigkeit von den Providern. Was mache ich nun? Ich kann doch den Code von Fable nicht mit einem schlappen Gemini-Modell korrigieren lassen! Ich habe selbst Bedenken, Opus 4.8 dranzulassen. Also stecke ich fest und denke einmal mehr an mein Lieblingsthema: Local LLMs — und komischerweise auch Apple.

Vielleicht gewinnt am Ende doch Apple

Ich glaube mittlerweile, dass ausgerechnet Apple — der absolute Späteinsteiger — am Ende die Nase vorn hat: Dann nämlich, wenn die ganze Intelligenz nicht mehr an einer API hängt, sondern fest verdrahtet im Computer sitzt; wenn die lokalen Modelle so gut werden, dass sie auf kräftigen Rechnern genügend schnell und schlau sind. Das reicht für die meisten Benutzer, die heute für Anthropic, OpenAI oder Google bezahlen. Momentan scheint ja jeder auch für die einfachsten Mathematikhausaufgaben aus der dritten Klasse die dicksten Modelle zu benutzen. Schon bald können sich die börsennotierten Anthropics und OpenAIs nicht mehr leisten, subventionierte Pläne anzubieten. Und die Power-User werden sich ganz genau überlegen, wann die KI im Mac oder einem anderen Rechner reicht — und wann man die Super-Power wirklich braucht.

Daher: Noch denken alle, Anthropic oder OpenAI würden die großen Gewinner sein. Aber vielleicht lohnt es sich eher, auf Nvidia und Apple zu setzen. Oder auf irgendein anderes Hardware-Unternehmen, das die KI einfach in den Computer baut und ein paar Tools mitgibt, um aktuell zu bleiben — oder neue Modelle einfach per Update einspielt.

Und was dann? Der ganze KI-Hype löst sich auf wie eine Brausetablette im Wasserglas. Denn dann ist die künstliche Intelligenz im Computer nichts Besonderes mehr. KI ist dann wie ein Browser. Einfach drin. Vor 30 Jahren war ein Browser noch etwas Besonderes. Heute kann sich niemand mehr einen Computer ohne vorstellen. So wird die KI bald einfach im Rechner sitzen. Wie das Autoradio im Auto. Nichts Besonderes, einfach da. Keiner bräuchte mehr die ganzen Tech-Typen, die sabbernd neben einem Präsidenten stehen und die ganze Welt übernehmen wollen. Allerdings hat das einen Haken: Die lokalen LLMs kommen ja gerade gnädigerweise von Google, Meta und anderen. Sollte Apple in diese Richtung gehen, dann bin ich mal gespannt, wie lange es die Google-Modelle noch zum freien Download gibt. Vielleicht sollten wir noch schnell die aktuellen Gemma-Modelle und die fetten China-Modelle um Qwen, Kimi und Co. zwischenspeichern.

Bis dahin dauert es aber noch ein Weilchen. So wie hier. Während ich das geschrieben habe, hat sich immer noch nichts getan. Ich sitze immer noch vor einem blinkenden Cursor in Claude Code und weiß nicht, wie ich weiterkomme. Vielleicht sollte ich mir doch ein MacBook Pro mit 32 GB Speicher kaufen. Oder auf die nächste Version des Mac Mini setzen und darauf lokale Modelle fahren. Aber so ein blinkender Cursor kann einen auch runterbremsen. Ich gehe jetzt raus an den Hafen.