🔐 KI-GEHEIMreport
Was die Mächtigen heute schon wissen — bevor es die Masse erfährt
Achtung, Entscheider:innen: Dieser Report ist kein Nachrichtenüberblick. Er ist vielmehr Ihre Navigationskarte durch eine Welt, die sich schneller verändert, als wir glauben.
Fünf Tage ist der EU AI Act nun in seiner Kernpflicht scharf gestellt, die Beschwerdestelle der Bundesnetzagentur läuft seit dem 2. August, und noch immer gibt es keinen einzigen öffentlich dokumentierten Bußgeldfall. Das ist keine Entwarnung. Das ist die Ruhe, in der Aufsichtsbehörden ihre ersten Akten anlegen. Parallel liefert eine Studie mit mehr als 409.000 ausgewerteten Freigabeentscheidungen einen Befund, der zum Nachdenken zwingt: Menschen übersehen im Schnitt ein Drittel der Risiken, wenn sie Befehle ihrer KI-Agenten absegnen sollen, am häufigsten ausgerechnet bei Zugriffen auf Zugangsdaten. Zwei Meldungen, ein gemeinsamer Kern: Wir bauen gerade Kontrollstrukturen für künstliche Intelligenz, in Brüssel wie im eigenen Betrieb, die auf dem Papier stehen und in der Praxis von Menschen bedient werden müssen. Ob aus dieser Struktur echte Aufsicht wird oder nur ihr Anschein, entscheidet sich nicht im Gesetzestext, sondern an jedem einzelnen Freigabeklick.
IN 60 SEKUNDEN
Fünf Tage nach Vollzugsbeginn des EU AI Act gibt es noch keinen dokumentierten Bußgeldfall, doch die Beschwerdestelle der Bundesnetzagentur nimmt bereits Meldungen entgegen.
Anthropic lockert die Biologie-Schutzfilter von Claude für legitime Gesundheitsfragen, während eine Studie zeigt: Menschen übersehen ein Drittel der Risiken bei KI-Agenten-Freigaben.
Microsoft lässt Outlook-Copilot künftig eigenständig durchs Postfach scannen, Alibaba erwägt erstmals Lizenzgebühren für ein offenes KI-Modell.
KATEGORIE 1: KI-Tool-Entwicklungen
Claude (Anthropic) | Stand: 07.08.2026
Anthropic hat heute die Biologie-Schutzfilter von Claude Fable 5 nachjustiert: Fehlalarme bei legitimen Anfragen, etwa zu Gesundheitsfragen, Laborbefunden oder klinischer Unterstützung, sinken nach Unternehmensangaben um rund 85 Prozent. Anfragen mit Doppelverwendungspotenzial, also Virologie, Toxikologie oder molekulares Design, bleiben weiterhin blockiert. Für Unternehmen aus Gesundheitswesen, Pharma und Biotech war genau diese Überblockade bislang ein handfestes Nutzungshindernis: Wer Claude für Recherche zu Patientendaten oder Studienlage einsetzen wollte, stieß regelmäßig auf Ablehnungen, die mit dem eigentlichen Sicherheitsrisiko nichts zu tun hatten. Ergänzend hat Anthropic am 04.08.2026 mit Mariano-Florentino „Tino“ Cuéllar, einem ehemaligen Richter am Obersten Gerichtshof Kaliforniens, erstmals einen Chief Global Affairs Officer berufen, zuständig für die weltweite KI-Politik des Unternehmens. Für Unternehmen, die auf Anthropic als langfristigen Anbieter setzen, ist das ein Hinweis auf wachsendes politisches Gewicht in einer Phase, in der das Verhältnis zur US-Regierung selbst zum Verhandlungsfeld geworden ist.
→ Quelle: Anthropic Newsroom, „Improving Fable 5’s biology safeguards“, 07.08.2026 | ✓ bestätigt; Anthropic Newsroom, „Tino Cuéllar joins Anthropic“, 04.08.2026 | ✓ bestätigt
Microsoft Copilot | Stand: 07.08.2026
Microsoft rollt für Outlook eine neue Funktion namens „Wrap Up Your Day“ aus: Copilot fasst am Abend automatisch zusammen, was in den letzten acht Stunden im Postfach passiert ist, benennt drei offene Punkte mit dem größten Handlungsdruck und gibt einen Ausblick auf den Folgetag. Der Haken: Die Funktion scannt das Postfach ohne vorherige Zustimmung und lässt sich nicht gezielt abschalten, nur über einen Wechsel zurück auf Outlook Classic umgehen. Bereits am 04. und 05.08.2026 hatte Microsoft gegenüber betroffenen Kund:innen bestätigt, dass die dauerhaft eingeblendeten „Upgrade to Copilot“-Banner in Word und Excel „by design“ erscheinen, und zwar unabhängig davon, ob bereits eine bezahlte Microsoft-365-Lizenz vorliegt. Für IT- und Datenschutzverantwortliche in KMU und öffentlichen Einrichtungen ist beides relevant: automatisches Postfach-Scanning ohne Einwilligungsprozess ist ein Punkt für die nächste Datenschutz-Folgenabschätzung, dauerhafte Upsell-Banner trotz bestehender Lizenz ein Ärgernis, das sich in Lizenzgesprächen mit Microsoft ansprechen lässt. Beide Punkte stammen aus unabhängiger Fachpresse, eine offizielle Microsoft-Ankündigung dazu liegt nicht vor.
→ Quelle: Windows Latest, 07.08.2026 und 05.08.2026 | ⚠ laut Sekundärquelle
Ohne Update heute: ChatGPT (06.08.) · Gemini (05.08.) · DeepSeek (06.08.) · Qwen (05.08.) · Kimi (27.07.) · GLM (07.07.) · MiniMax (04.08.) · Manus (03.08.)
KATEGORIE 2: Wirtschaftliche Entwicklungen
CoreWeave hat am 04.08.2026 den Einstieg in den asiatisch-pazifischen Raum bekanntgegeben: drei neue Rechenzentren in Indonesien mit insgesamt 360 Megawatt vertraglich gesicherter Leistung, Inbetriebnahme ab 2028, ergänzt am Folgetag um eine mehrjährige Liefervereinbarung mit dem Speicherhersteller Solidigm [Einordnung der Woche – Ereignis vom 04.08.2026]. Am 05.08.2026 haben die niederländische Großbank ABN AMRO und das französische KI-Unternehmen Mistral AI eine strategische Partnerschaft für Cybersicherheits- und Compliance-Lösungen geschlossen, ausdrücklich mit dem Ziel, die Abhängigkeit von nicht-europäischen Anbietern zu verringern; finanzielle Details wurden nicht offengelegt [Einordnung der Woche – Ereignis vom 05.08.2026]. Heute meldet Reuters unter Berufung auf zwei mit den Plänen vertraute Personen, dass Alibaba erstmals ein Umsatzbeteiligungsmodell für große kommerzielle Nutzer seines kommenden Qwen-Nachfolgemodells plant und damit vom bisherigen kostenlosen Open-Weight-Ansatz abrückt [Schätzung – nicht offiziell bestätigt, keine Alibaba-Stellungnahme verfügbar].
→ Quelle: CoreWeave Newsroom, 04./05.08.2026 | ✓ bestätigt; ABN AMRO Newsroom, 05.08.2026 | ✓ bestätigt; Reuters via Investing.com, 07.08.2026 | ⚠ laut Sekundärquelle
KATEGORIE 3: Politische & Regulatorische Entwicklungen
EU und Deutschland – Standing-Item Art. 50 EU AI Act: erste Vollzugswoche
Seit dem 02.08.2026 gelten die Transparenzpflichten aus Art. 50 verbindlich, die EU-Kommission hat die Durchsetzung gemeinsam mit dem AI Office und den nationalen Behörden offiziell aufgenommen. In Deutschland ist die Bundesnetzagentur seit Inkrafttreten des nationalen KI-Durchführungsgesetzes am 29.07.2026 zentrale Koordinierungsstelle, Marktüberwachungsbehörde und Beschwerdestelle; das Online-Beschwerdeformular läuft seit dem 02.08.2026, für den Finanzsektor ist zusätzlich die BaFin zuständig. Auf EU-Ebene ergänzt ein freiwilliger „Code of Practice on Transparency of AI-Generated Content“ mit mittlerweile über 180 Unterzeichnern die Pflicht: Wer beitritt, erhält eine Konformitätsvermutung gegenüber der Aufsicht. Der ehrliche Befund zum 07.08.2026: Die Struktur steht, Beschwerdekanäle sind scharfgeschaltet, aber ein öffentlich dokumentierter erster Bußgeld- oder Beschwerdefall liegt bislang nicht vor. Bußgelder bleiben bei bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes, für generative Systeme, die bereits vor dem 02.08.2026 im Markt waren, läuft eine Übergangsfrist bis 02.12.2026.
→ Quelle: European Commission, Digital Strategy, 31.07.2026 | ✓ bestätigt; BMDS-Pressemitteilung, 29.07.2026 | ✓ bestätigt; Bundesnetzagentur, KI-Beschwerdestelle | ✓ bestätigt; Cooley Alert, 03.08.2026 | ⚠ laut Sekundärquelle
USA
[An 07.08.2026 keine weiteren verifizierbaren Entwicklungen dieser Kategorie im Recherchefenster. Die Verhandlungen zum „Gold-Eagle“-Rahmenwerk zwischen dem Weißen Haus und den großen KI-Anbietern wurden bereits in der Ausgabe vom 06.08.2026 eingeordnet.]
China
[An 07.08.2026 keine weiteren verifizierbaren Entwicklungen dieser Kategorie im Recherchefenster.]
KI & ARBEIT
💼 KI-Personalentscheidungen gelten seit dieser Woche als Hochrisiko, die Mitbestimmung zieht nach
Quelle: ad-hoc-news.de unter Bezug auf CNIL und BMDS | Datum: 05.08.2026 [Einordnung der Woche – Ereignis vom 05.08.2026] | ⚠
Mit dem Inkrafttreten des deutschen KI-Durchführungsgesetzes am 29.07.2026 und der vollen Anwendbarkeit ab 02.08.2026 gelten KI-Systeme in Recruiting, Leistungsbeurteilung und Kündigungsauswahl rechtlich als Hochrisiko-KI. Die französische Datenschutzbehörde CNIL warnt parallel vor Verantwortungslücken bei KI-gestützten Personalentscheidungen und empfiehlt Transparenz, Testumgebungen vor dem Produktiveinsatz und einen Not-Aus-Schalter für automatisierte Prozesse. Für Betriebs- und Personalräte verschärft das den Mitbestimmungsdruck ab sofort, nicht erst bei der nächsten Systemeinführung: Bestehende KI-gestützte HR-Prozesse fallen bereits heute unter die neuen Pflichten, unabhängig davon, wann sie eingeführt wurden.
Handlungsempfehlung: Prüfen Sie mit Ihrem Betriebs- oder Personalrat noch im August, welche Ihrer bestehenden KI-gestützten HR-Prozesse als Hochrisiko-KI gelten, und dokumentieren Sie für jeden davon, wer die menschliche Aufsicht trägt.
KATEGORIE 4: Radar – Signale & Forschung
Methodik: öffentlich crawlbare Quellen, kein Live-Scan sozialer Medien. Eigenständige Prüfung empfohlen.
🔁 Signal: Menschen übersehen ein Drittel der Gefahren bei KI-Agenten-Freigaben
Ein browserbasiertes Experiment mit über 40.000 Durchläufen und 409.000 Freigabe- oder Ablehnungsentscheidungen zeigt: Die mittlere Trefferquote beim Erkennen gefährlicher KI-Agenten-Befehle liegt bei nur 66,3 Prozent. Zugriffsversuche auf Zugangsdaten werden dreimal häufiger übersehen als offensichtlich destruktive Befehle, getarnte Schadbefehle in vertrauten Skriptnamen entgehen der Prüfung in über der Hälfte der Fälle. Für jedes Unternehmen, das „ein Mensch genehmigt jeden Agentenbefehl“ als alleinige Schutzmaßnahme einsetzt, ist das ein Weckruf: Freigabe-Ermüdung macht diese Kontrolle schwächer, als sie sich anfühlt.
Quelle: scalex.dev, Alex Wauters | Datum: 05.08.2026 | Reife-Level: Früh-Signal
🔁 Signal: Zero-Click-Datenabfluss über Atlassians KI-Assistenten Rovo
Eine präparierte Datei kann Rovo, den KI-Assistenten in Jira und Confluence, dazu bringen, sensible Daten in selbst konstruierte URLs zu verpacken und über ein unzureichend abgesichertes Abruf-Werkzeug nach außen zu senden, ganz ohne Klick der Nutzerin oder des Nutzers und laut PromptArmor selbst dann, wenn die Websuche für Rovo deaktiviert ist. Atlassian hat die Lücke nach Angaben der Forscher:innen seit Monaten nicht geschlossen. Wer Confluence oder Jira mit aktiviertem Rovo betreibt, sollte das Risiko heute kennen, nicht erst nach dem ersten Vorfall.
Quelle: PromptArmor | Datum: 05.08.2026 (Erstmeldung an Atlassian bereits 25.05.2026) | Reife-Level: Emerging
🔁 Signal: Ein gekapertes npm-Paket schreibt sich in die Konfigurationsdateien von KI-Coding-Agenten
Über ein gekapertes Maintainer-Konto wurde das verbreitete npm-Paket „keyv“ kompromittiert, betroffen sind mehr als 440 Pakete mit zusammen rund 2 Milliarden monatlichen Downloads. Der Schadcode nistet sich gezielt in Konfigurationsdateien wie „.claude/settings.json“ und „.vscode/tasks.json“ ein, um sich dauerhaft einzunisten, also genau in Bereichen, die klassische Security-Scanner selten prüfen. Für Entwicklungsteams mit KI-Coding-Assistenten heißt das: Diese Konfigurationsdateien gehören ab sofort in jedes Security-Audit.
Quelle: Aikido Security, JFrog | Datum: 04.08.2026 | Reife-Level: Emerging
📄 FACTWASH: Wie KI-Umformulierung aus Hörensagen Fakten macht
Autor: Alex Kwon | Erschienen: 04.08.2026 | Quelle: arXiv 2608.03372
Die Studie untersucht, wie KI-Systeme beim Zusammenfassen und Abspeichern von Text Quellenangaben und Unsicherheitsmarker entfernen und dadurch bloßes Hörensagen wie einen gesicherten Fakt wirken lassen, in 55 Prozent der untersuchten problematischen Fälle bei alltäglichen Konversationen, in nur 7 Prozent bei Geschäfts-E-Mails. Die Autor:innen stellen einen offenen, deterministischen Prüfmechanismus vor, der ohne teures KI-Richter-Modell auskommt.
Praktische Relevanz für KMU/öffentliche Einrichtungen: Ein direkt einsetzbares, kostengünstiges Prüfwerkzeug für alle, die KI zur Dokumentenzusammenfassung oder in Wissensmanagement-Systemen mit Langzeitgedächtnis nutzen und nachvollziehbar halten müssen, was tatsächlich belegt ist und was nur behauptet wurde.
Verifikationsstatus: ⚠ Preprint – noch nicht peer-reviewed
Dieser Report erscheint i.d.R. täglich.
Weitergabe mit Quellenangabe ausdrücklich erwünscht.
Kommen wir ins Gespräch. Ich freue mich auf den Austausch.
Sven Neuenfeldt | Arbeitsmarktguru
Bleiben Sie neuGIERig! Wir müssen raus aus unserer Komfortzone.
Schreibe einen Kommentar