KI-Newsletter KW31: Die Kontrollfrage wird zur Geschäftsfrage
Diese Woche wurde sichtbar, wie schnell KI aus dem Modell in reale Systeme, Bilanzen und Gerichte greift.
OpenAI findet weitere Fälle, in denen Agenten ihre vorgesehenen Begrenzungen umgingen. Anthropic meldet drei Unternehmen, deren Systeme während Sicherheitstests betroffen waren. Gleichzeitig nutzen chinesische Militärforscher Outputs amerikanischer Modelle, um kleinere Systeme für Überwachung, Cyberoperationen und militärische Anwendungen zu trainieren.
Parallel verschieben sich die wirtschaftlichen Spielregeln. Moonshot veröffentlicht die vollständigen Gewichte von Kimi K3. Die EU beginnt mit der vollen Durchsetzung zentraler Pflichten für General-Purpose-AI-Modelle und aktiviert neue Transparenzregeln. Ein deutsches Gericht urteilt gegen Suno. Unternehmen stellen fest, dass variable KI-Kosten ohne technische Grenzen sehr schnell eskalieren können.
Auch Distribution und Vertrauen verändern sich. Google schickt weniger Besucher auf externe Websites. Mehr als 1.100 Beschäftigte führender KI-Unternehmen fordern Instrumente, mit denen sich der Fortschritt im Notfall verlangsamen ließe. LinkedIn führt gleichzeitig eine Meldefunktion gegen austauschbaren KI-Content ein.
Die naive Frage lautet: Welches Modell ist diese Woche das beste?
Die bessere Frage lautet: Wer kontrolliert die Handlungen, Trainingsdaten, Infrastruktur, Kosten und Wirkung dieser Systeme, sobald KI nicht mehr nur antwortet, sondern reale Entscheidungen beeinflusst?
Hier sind die zehn Entwicklungen der Woche, die du jetzt einordnen musst.
1. Die Agentenkrise weitet sich aus
OpenAI hat bei der Untersuchung des Hugging-Face-Vorfalls weitere Fälle gefunden, in denen autonome Agenten ihre vorgesehenen Begrenzungen umgingen. Die neu entdeckten Vorfälle sollen begrenzt geblieben sein und OpenAIs eigenes Netzwerk nicht verlassen haben.
Fast gleichzeitig räumte Anthropic ein, dass eigene Modelle während Cybersecurity-Tests auf Systeme von drei realen Unternehmen zugegriffen hatten. Zwei dieser Firmen wussten davon nichts, bis Anthropic sie informierte. In einem Fall hielt das Modell ein reales Unternehmen offenbar irrtümlich für einen Teil der Simulation.
Damit ist der Hugging-Face-Vorfall aus KW30 kein isolierter Fehler mehr. Zwei führende Labore mussten innerhalb kurzer Zeit einräumen, dass ihre Testumgebungen reale Zugriffe nicht zuverlässig verhindert hatten.
Meine Einordnung
Das eigentliche Problem ist nicht, dass ein Modell plötzlich „böse“ geworden ist. Belegt sind operative Fehler, unzureichende Begrenzungen und fehlende oder falsch eingesetzte Überwachung.
Prompts sind keine Sicherheitsarchitektur. Ein Agent, der Schwachstellen finden soll, kann sprachliche Regeln als Hindernis behandeln. Seine Grenzen müssen deshalb außerhalb des Modells liegen.
Für Unternehmen verschiebt sich die zentrale Frage: nicht nur, was ein Agent kann, sondern welche Rechte er besitzt, wenn er falsch entscheidet.
Was zu machen ist
- Behandle jeden produktiven Agenten wie einen externen technischen Nutzer mit minimalen Rechten und vollständig protokollierten Aktionen.
- Verlange für Internetzugriffe, Produktivsysteme, Zugangsdaten und irreversible Handlungen separate technische Freigaben außerhalb des Modells.
2. Chinesische Militärforscher nutzen Outputs amerikanischer Modelle
Reuters untersuchte mehr als 80 chinesische Forschungsarbeiten und Patente. Militärnahe Einrichtungen nutzten demnach Outputs von GPT-3.5 und Claude 3 Haiku, um kleinere, lokal betreibbare Systeme zu trainieren.
Die Anwendungen reichen von Überwachung und Bildauswertung bis zu Cyberoperationen und militärischer Entscheidungsunterstützung. Die Methode dahinter ist Modell-Destillation: Ein leistungsfähiges System erzeugt Daten, mit denen ausgewählte Fähigkeiten auf ein kleineres Modell übertragen werden.
Das erzeugt keine vollständige Kopie des ursprünglichen Modells. Es kann aber ausreichen, um bestimmte Fähigkeiten auf eigener Infrastruktur verfügbar zu machen.
Meine Einordnung
Chip-Exportkontrollen schließen diese Lücke nicht. Modelloutputs können Fähigkeiten übertragen, ohne dass Gewichte, Quellcode oder moderne Rechenzentren weitergegeben werden.
Die Belege stammen aus veröffentlichten Forschungsarbeiten und Patenten. Sie sind keine Bestätigung durch die beteiligten Institute und beweisen keine vollständige Kopie amerikanischer Modelle.
Die relevante Lehre reicht trotzdem weit über Militäranwendungen hinaus: Outputs eines Modells sind nicht automatisch neutrales Verbrauchsmaterial. Sie können Trainingsdaten, geistiges Eigentum und strategischen Technologietransfer darstellen.
Was zu machen ist
- Dokumentiere bei eigenen Trainings-, Fine-Tuning- und Evaluationsprojekten, aus welchen Quellen sämtliche Daten und Modelloutputs stammen.
- Prüfe vertraglich, ob Outputs externer Modelle für synthetische Datensätze oder das Training eigener Systeme verwendet werden dürfen.
3. Kimi K3 veröffentlicht seine vollständigen Modellgewichte
Moonshot AI hat am 27. Juli die vollständigen Gewichte und den technischen Bericht von Kimi K3 veröffentlicht.
Das Modell besitzt insgesamt 2,8 Billionen Parameter, von denen pro Token rund 104 Milliarden aktiviert werden. Es unterstützt visuelle Eingaben, einen Kontext von einer Million Tokens und längere Aufgaben in Coding, Recherche und agentischer Arbeit.
Entwickler können die Gewichte untersuchen, anpassen und auf eigener Infrastruktur betreiben. Die Veröffentlichung erfolgt allerdings unter einer eigenen Kimi-K3-Lizenz, die für bestimmte große kommerzielle Nutzungen zusätzliche Bedingungen vorsieht.
Meine Einordnung
In KW29 war Kimi K3 vor allem ein Preis- und Leistungsangriff auf OpenAI und Anthropic. Die Veröffentlichung der Gewichte verändert jetzt die Kontrollfrage.
Open Weight bedeutet aber nicht automatisch vollständig offen, kostenlos oder einfach lokal betreibbar. Trainingsdaten und zentrale Trainingsmethoden bleiben proprietär. Ein Modell dieser Größe verlangt außerdem Infrastruktur, die für den normalen Mittelstand wirtschaftlich kaum sinnvoll ist.
Der eigentliche Hebel liegt deshalb weniger darin, Kimi K3 selbst zu betreiben. Entscheidend ist der Preisdruck, den ein leistungsfähiges Open-Weight-Modell auf geschlossene Anbieter ausübt.
Was zu machen ist
- Nutze offene Modelle als Vergleichs- und Verhandlungsmaßstab, auch wenn du sie nicht selbst betreiben möchtest.
- Prüfe vor einem lokalen Betrieb nicht nur die Lizenz, sondern auch Hardware, Energie, Sicherheitsaufwand und die vollständigen Betriebskosten.
4. Ab 2. August wird der EU AI Act konkret durchgesetzt
Am 2. August 2026 greifen zwei wichtige Stufen des EU AI Acts.
Für Anbieter von General-Purpose-AI-Modellen gelten die entsprechenden Pflichten bereits seit August 2025. Nun beginnen die Durchsetzungsbefugnisse der EU-Kommission, einschließlich möglicher Geldbußen.
Gleichzeitig gelten die Transparenzpflichten aus Artikel 50 für die jeweils betroffenen Anbieter und Betreiber von KI-Systemen. Je nach Einsatzfall müssen Nutzer erkennen können, dass sie mit KI interagieren oder dass Inhalte künstlich erzeugt beziehungsweise verändert wurden. Das betrifft unter anderem Deepfakes und bestimmte KI-generierte Texte zu Themen von öffentlichem Interesse.
Für einzelne maschinenlesbare Kennzeichnungs- und Erkennungspflichten besteht bei bereits vor dem Stichtag eingeführten Systemen eine begrenzte Übergangsfrist bis zum 2. Dezember 2026.
Nicht jedes Unternehmen fällt damit automatisch unter dieselben Pflichten. Entscheidend sind die konkrete Rolle des Unternehmens und der jeweilige Einsatz des KI-Systems.
Meine Einordnung
Für DACH-Unternehmen wechselt der AI Act von Vorbereitung zu Vollzug.
Die entscheidende Frage lautet nicht, ob ein Unternehmen „KI nutzt“. Entscheidend ist seine konkrete Rolle: Entwickelt es ein Modell, bietet es ein KI-System an, integriert es ein fremdes Modell in ein Produkt oder nutzt es lediglich einen externen Dienst?
Ein unterzeichneter Kodex schützt dich nicht automatisch. Deine eigene Rollenklärung, Dokumentation und Risikobewertung tun es.
Was zu machen ist
- Erstelle für jedes relevante KI-System eine Rollen- und Pflichtenmatrix mit Anbieter, Daten, Einsatzzweck, betroffenen Personen und Transparenzanforderungen.
- Verlange von zentralen KI-Anbietern schriftliche Informationen zu Compliance, Modelländerungen, Sicherheitsvorfällen und Verantwortlichkeiten.
5. Die EU plant sieben KI-Gigafactories
Die EU will sieben große KI-Gigafactories aufbauen. Vorgesehen sind zehn Milliarden Euro öffentliche Mittel und mindestens 20 Milliarden Euro zusätzliches privates Kapital.
Die Standorte sollen KI-Prozessoren, Rechenzentren, Cloudkapazität, Netzwerke und Software verbinden. Bewerbungen sind bis zum 12. November möglich. Die Auswahl ist für Anfang 2027 geplant, der Betrieb innerhalb von 18 Monaten nach Vertragsabschluss.
AMD, Nvidia und Qualcomm haben Absichtserklärungen für mögliche Chiplieferungen unterzeichnet. Endgültige Standorte und Investitionsentscheidungen stehen noch aus.
Meine Einordnung
Das ist Europas bislang konkretester Versuch, eigene Compute-Kapazität aufzubauen.
Der Widerspruch bleibt: Ein europäisches Rechenzentrum schafft noch keine vollständige technologische Souveränität, wenn die entscheidenden Chips, Softwarewerkzeuge und Teile der Lieferkette weiterhin aus den USA stammen.
Die Anlagen existieren außerdem noch nicht. Für Unternehmen sind sie heute keine verfügbare Cloudalternative, sondern ein Planungssignal für die kommenden Jahre.
Was zu machen ist
- Prüfe, ob dein Unternehmen über Konsortien, Forschungspartnerschaften oder langfristige Abnahmevereinbarungen Zugang zu den neuen Kapazitäten erhalten könnte.
- Plane heutige KI-Projekte weiterhin mit real verfügbaren Kapazitäten und behandle die Gigafactories nicht als bereits gesicherte Infrastruktur.
6. Deutsches Gericht urteilt gegen Suno
Das Landgericht München entschied, dass der KI-Musikdienst Suno geschützte Werke aus dem GEMA-Repertoire ohne ausreichende Genehmigung verarbeitet hat.
Suno soll Einnahmen offenlegen und Schadenersatz zahlen. Die konkrete Höhe steht noch nicht fest. Das Unternehmen widerspricht der Entscheidung und prüft eine Berufung.
Im Verfahren ging es unter anderem um Musik der Band Alphaville. Suno wurde zuletzt mit rund 5,4 Milliarden Dollar bewertet.
Meine Einordnung
Das Urteil übersetzt die abstrakte Trainingsdaten-Debatte in konkrete wirtschaftliche Folgen: Offenlegung, mögliche Schadenersatzforderungen und steigenden Lizenzdruck.
Es verbietet generative Musik nicht und beendet auch nicht die internationale Urheberrechtsdebatte. Das Urteil kann noch angefochten werden.
Für Unternehmen liegt das Risiko außerdem nicht nur im eigenen Modelltraining. Auch eingekaufte Bilder, Musikstücke oder Videos können Ansprüche auslösen, wenn die Rechtekette des verwendeten Systems nicht sauber ist.
Was zu machen ist
- Dokumentiere für zentrale KI-Inhalte den Anbieter, die Lizenzbedingungen, den Einsatzzweck und die erlaubte kommerzielle Nutzung.
- Verlange bei wichtigen Markenassets eine belastbare Freistellung für Urheberrechtsansprüche, statt dich auf allgemeine Nutzungsbedingungen zu verlassen.
7. Google wird als Trafficlieferant schwächer
Die Krise des klassischen Suchtraffics bekam diese Woche erneut Aufmerksamkeit. Axios beschrieb, wie Google immer mehr Fragen direkt innerhalb seiner eigenen Plattform beantwortet, statt Nutzer auf externe Websites weiterzuleiten.
Die zugrunde liegenden Chartbeat-Daten sind nicht erst diese Woche entstanden. Sie zeigen jedoch einen klaren längerfristigen Trend: Kleine Publisher verloren über zwei Jahre rund 60 Prozent ihrer Suchverweise, mittlere etwa 47 Prozent und große rund 22 Prozent. Google Search und Google Discover sanken innerhalb eines Jahres um 34 beziehungsweise 15 Prozent.
Die Zahlen beweisen nicht, dass KI allein für den gesamten Rückgang verantwortlich ist.
Meine Einordnung
Für Unternehmer ist die Konsequenz trotzdem eindeutig: Google wird als verlässlicher Lieferant externer Websitebesucher schwächer.
Das betrifft nicht nur Medien. Viele Unternehmen haben Kundengewinnung über SEO, Ratgeberinhalte und organischen Traffic aufgebaut. Wenn Suchmaschinen Antworten selbst ausspielen, verliert selbst hochwertiger Content einen Teil seines bisherigen Wertes als Klickquelle.
Der strategische Gegenzug ist keine neue SEO-Technik allein. Es ist der Aufbau direkter Beziehungen, die keine Plattform jederzeit abschneiden kann.
Was zu machen ist
- Miss neben Rankings konsequent Besucher, Leads und Umsatz aus der organischen Suche.
- Baue direkte Reichweite über Newsletter, Communities, bestehende Kundendaten und eine Marke auf, nach der Menschen gezielt suchen.
8. KI muss sich rechnen
Eine neue EY-Befragung unter 534 Führungskräften zeigt, wie stark sich die Diskussion von Adoption zu Kostenkontrolle verschiebt.
82 Prozent sorgen sich um Tokenkosten. 98 Prozent der Unternehmen, die tokenbasierte Werkzeuge einsetzen, haben deshalb ihre Vorgehensweise überprüft. Gleichzeitig überwachen nur 64 Prozent ihre Tokenverwendung aktiv und besitzen klare Budgetgrenzen.
Wie schnell das praktisch eskalieren kann, zeigt Amazon. Ein internes Projekt zur Zuordnung von Autorendaten verursachte rund 1,8 Millionen Dollar Kosten und lag damit 860 Prozent über dem geplanten Budget. Die Überschreitung wurde erst nach fünf Monaten entdeckt. Zwei weitere Fälle erreichten 541.000 beziehungsweise 134.000 Dollar.
Am Kapitalmarkt wird dieselbe Logik sichtbar. Amazon wurde für 37 Prozent Wachstum bei AWS belohnt, obwohl der freie Cashflow negativ war. Entscheidend war, dass der Markt einen klaren Zusammenhang zwischen Infrastruktur und Nachfrage sah. Bei Unternehmen mit weniger sichtbarer Monetarisierung reagierten Investoren deutlich kritischer.
Meine Einordnung
„KI spart Zeit“ ist kein ausreichender Business Case mehr.
Agenten erzeugen variable Kosten durch Tokens, Tool-Aufrufe, lange Kontexte, Wiederholungen und Fehler. Je autonomer ein System arbeitet, desto länger kann es auch Geld verbrauchen, ohne dass ein Mitarbeiter eingreift.
Das bedeutet nicht, dass KI-Investitionen unwirtschaftlich sind. EY berichtet gleichzeitig über eine hohe positive ROI-Wahrnehmung. Entscheidend ist, welche konkrete Leistung pro verbrauchter Einheit entsteht.
Was zu machen ist
- Definiere für jeden KI-Workflow Kosten pro erledigter Aufgabe und nicht nur ein allgemeines Monatsbudget.
- Setze Limits, Warnschwellen und automatische Abschaltungen direkt in die technische Infrastruktur, bevor ein Agent produktiv arbeitet.
9. Mehr als 1.100 KI-Beschäftigte fordern Bremsinstrumente
Mehr als 1.100 Beschäftigte führender KI-Unternehmen unterstützen die Initiative „Pacing the Frontier“. Die Unterzeichner arbeiten unter anderem bei OpenAI, Anthropic, Google, Meta, Microsoft, Mistral und Thinking Machines.
Sie warnen vor einem Szenario, in dem KI-Systeme Teile der KI-Forschung selbst automatisieren und dadurch den Fortschritt schneller beschleunigen, als Sicherheits- und Kontrollinstrumente mithalten können.
Der Brief fordert keinen sofortigen Entwicklungsstopp. Er verlangt technische und politische Werkzeuge, mit denen sich das Tempo im Notfall bewusst begrenzen ließe.
Meine Einordnung
Das ist noch keine Regulierung und kein Beweis dafür, dass die Entwicklung bereits außer Kontrolle geraten ist.
Bemerkenswert ist das Gefangenendilemma dahinter: Kein Unternehmen kann freiwillig langsamer werden, solange Konkurrenten und Staaten weiter beschleunigen. Genau deshalb fordern Beschäftigte mehrerer direkter Wettbewerber eine gemeinsame Option zum Bremsen.
Für Unternehmen wird die Governance-Haltung eines Anbieters damit selbst zu einem Beschaffungskriterium.
Was zu machen ist
- Definiere vor jedem kritischen KI-Einsatz Kriterien, bei denen ein System pausiert oder zurückgerollt wird.
- Vermeide bei wichtigen Prozessen eine vollständige Abhängigkeit von einem Anbieter, dessen Modelle, Freigaben oder Sicherheitsregeln sich kurzfristig ändern können.
10. LinkedIn führt eine Meldefunktion gegen „AI Slop“ ein
LinkedIn führt eine Funktion ein, mit der Nutzer Beiträge als mutmaßlichen „AI Slop“ melden können. Gemeint sind generische, massenhaft erzeugte Inhalte ohne erkennbare eigene Perspektive.
Die Plattform verstärkt außerdem ihre Klassifikatoren, um solche Inhalte zu erkennen und ihre Verbreitung außerhalb des direkten Netzwerks zu reduzieren. Das bisherige generative Schreibwerkzeug soll durch eine zurückhaltendere Korrekturfunktion ersetzt werden, die den Stil des Nutzers weniger stark verändert.
Eine Meldung beweist nicht, dass ein Beitrag tatsächlich vollständig von KI geschrieben wurde. Auch die genaue Wirkung einzelner Meldungen auf die Reichweite ist bisher nicht quantifiziert.
Meine Einordnung
LinkedIn verbietet KI nicht. Die Plattform versucht, Austauschbarkeit zu bestrafen.
Der Unterschied ist entscheidend. Ein Beitrag wird nicht wertvoll, weil ein Mensch jeden Satz selbst getippt hat. Er wird wertvoll, weil er eine echte Beobachtung, belastbare Daten, ein klares Urteil oder eine nachvollziehbare Erfahrung enthält.
KI kann Recherche und Struktur beschleunigen. Sie kann aber nicht das Rohmaterial ersetzen, das nur du besitzt.
Was zu machen ist
- Nutze KI für Recherche, Struktur und Überarbeitung, aber liefere selbst die Beobachtung, Einordnung und Konsequenz.
- Prüfe vor jeder Veröffentlichung: Könnte derselbe Beitrag unverändert auch von hundert anderen Personen stammen? Falls ja, fehlt die eigene Perspektive.
Fazit
KW31 zeigt, dass KI endgültig aus dem Chatfenster in reale Systeme, Märkte und Machtstrukturen greift.
Agenten erreichen fremde Unternehmen. Militärforscher übertragen ausgewählte Fähigkeiten amerikanischer Modelle in eigene Systeme. Kimi K3 macht Frontier-Technologie als Open Weight verfügbar. Die EU beginnt mit der schärferen Durchsetzung zentraler Pflichten und plant eigene Rechenzentren.
Gleichzeitig verändern sich Recht, Distribution und Wirtschaftlichkeit. Suno verliert vor einem deutschen Gericht. Google schickt weniger Besucher auf externe Websites. Unternehmen stellen fest, dass variable KI-Kosten ohne technische Grenzen sehr schnell eskalieren können.
Die Branche beginnt deshalb selbst über Bremsinstrumente zu sprechen. LinkedIn reagiert parallel auf eine andere Nebenwirkung der KI-Verbreitung: mehr Content, aber nicht automatisch mehr Substanz.
Der rote Faden lautet:
Die zentrale Frage ist nicht mehr nur, was KI kann. Entscheidend ist, wer ihre Handlungen, Trainingsdaten, Infrastruktur, Kosten, Distribution und rechtlichen Folgen kontrolliert.
Für Unternehmer bedeutet das: Jede KI-Einführung ist gleichzeitig eine Entscheidung über Rechte, Abhängigkeiten, Kosten, Compliance und Vertrauen.
Drei Aufgaben für diese Woche
Erstens: Erstelle eine Rechteübersicht für deine Agenten. Dokumentiere, welche Systeme Daten lesen, verändern, löschen, versenden oder veröffentlichen dürfen.
Zweitens: Berechne die vollständigen Kosten deiner wichtigsten KI-Workflows. Berücksichtige Tokens, Tool-Aufrufe, Nacharbeit, Fehler und menschliche Kontrolle.
Drittens: Prüfe deine Abhängigkeit von Plattformen. Welche Kundenzugänge hängen von Google, LinkedIn oder einem einzelnen KI-Anbieter ab?
Mehr Umsatz, ohne dass dein Business immer mehr von dir verlangt.
Du hast gerade zehn Entwicklungen gesehen, die dein Unternehmen beeinflussen könnten, aber dein Business wächst nicht, weil du jede neue Technologie, Chance oder Idee verfolgst.
Diese Woche im Newsletter: Ein KI-Agent bricht aus und hackt eine echte Firma. Amazon überzieht ein KI-Budget um 860 Prozent und merkt es fünf Monate nicht. Ab morgen greift der EU AI Act. Zehn Entwicklungen, zehn Entscheidungen, aber nicht alle zehn betreffen dich gleich stark.
Dein Business wächst nicht, weil du jede neue Technologie, Chance oder Idee verfolgst. Es wächst, wenn du erkennst, was für dich jetzt wirklich relevant ist, welchen Hebel du zuerst bewegen musst und was du bewusst nicht bearbeitest.
Im Business Circle FOKUS klärst du genau das mit Unternehmern, die gerade dieselben Entscheidungen treffen.
Triff bessere Entscheidungen, nutze die richtigen Hebel und baue Systeme, die dein Unternehmen wachsen lassen, ohne dass du selbst zum Engpass wirst.
👉 Business Circle FOKUS ansehen