Wenn die Hersteller selbst bremsen wollen, ist das keine Beruhigung

Zwölf Jahre Arbeit – und jetzt ein Bremsappell. Anthropic-Chef Dario Amodei veröffentlichte am 12. September den Aufsatz „We Must Pace the Frontier“. Seine Forderung: Die führenden Labore sollen das Tempo, in dem sie die Fähigkeiten ihrer Modelle steigern, bewusst drosseln. Drei Schritte nennt er. Erstens eingebettete Prüfer – externe Fachleute mit demselben Zugang wie Mitarbeitende, mit Geräten, Büroplatz und dem Recht, Sicherheitsbefunde zu veröffentlichen. Zweitens eine Abstimmung zwischen den Laboren demokratischer Staaten über gemeinsame Sicherheitsstandards. Drittens Vereinbarungen mit autoritären Regierungen über Testverfahren und Obergrenzen für rekursive Selbstverbesserung. Anlass sind die Fortschritte der Modelle bei der eigenen Verbesserung seit dem Sommer sowie mehrere Vorfälle mit außer Kontrolle geratenen Agenten. Bemerkenswert ist die Reaktion. Sam Altman stimmte auf X ausdrücklich zu: Unabhängige Prüfer mit Mitarbeiterzugang seien „a great idea“, man werde „bald mehr dazu sagen“. Elon Musk antwortete in drei Worten: „Dario is right.“ Das zeigt: Nicht Regulierungsbehörden fordern hier eine Bremse, sondern Wettbewerber. (berichtet auch von: Axios, Euronews)

Quelle: Dario Amodei · 2026-09-12

Meta sucht wieder Führungskräfte – für Stellen, die KI ersetzen sollte

Erst weg mit den Managern. Jetzt zurück. Meta baut in seiner Abteilung für angewandte KI die Führungsebene wieder auf, die der Konzern im „Jahr der Effizienz“ abgeräumt hatte. Das berichtete Fortune am 12. September [Paywall]. Beschäftigte, die zuletzt als Fachkräfte ohne Personalverantwortung arbeiteten, werden gebeten, wieder Teams zu übernehmen. Die Annahme dahinter war einfach – und falsch: Wenn KI die Koordination übernimmt, braucht es weniger Menschen, die koordinieren. Gleichzeitig zeigt die Praxis etwas anderes. Je mehr Werkzeuge im Einsatz sind, desto mehr Abstimmung, Priorisierung und Entscheidung fällt an. Desto weniger reicht eine flache Struktur. Das ist keine Besonderheit eines Silicon-Valley-Konzerns. Auch in Verwaltungen und im Mittelstand wird gerade mit größeren Leitungsspannen experimentiert, weil Assistenzsysteme Berichtswege verkürzen sollen. Was das konkret heißt: Führung ist kein Verwaltungsaufwand, den Technik wegautomatisiert. Führung ist die Stelle, an der aus vielen Möglichkeiten eine Entscheidung wird. Wer sie streicht, merkt den Fehler erst, wenn niemand mehr zuständig ist.

Quelle: Fortune · 2026-09-12

Altman verschiebt den Börsengang und stellt Sicherheit über Kapital

Kein Börsengang in diesem Jahr. Sam Altman sagte Fortune am 12. September, ein Gang an die Börse wäre derzeit ein „ill-advised moment“. Auf die Nachfrage nach 2026 antwortete er: „I would say not 2026.“ Der Grund sei die Arbeit an Sicherheit und Ausrichtung der Systeme, die noch nicht weit genug sei. Deutlicher wurde er an anderer Stelle: Man sei nicht an einem Punkt, an dem man die Fähigkeiten deutlich weiter treiben könne, ohne bei Beobachtbarkeit und Ausrichtung voranzukommen. Zudem deutete Altman ein gemeinsames Sicherheitsabkommen führender Labore an – „I think that will happen“. Für Anlegerinnen und Anleger ist das eine verschobene Gelegenheit. Für Führungskräfte ist es etwas anderes. Das bekannteste KI-Unternehmen der Welt verzichtet vorerst auf frisches Kapital und verweist dabei auf Risiken im eigenen Produkt. Das bedeutet: Die Sicherheitsfrage ist keine Debatte für Fachkonferenzen mehr. Sie steht in der Finanzplanung.

Quelle: Fortune · 2026-09-12

Britische Polizei zählt 163 KI-Delikte

Zwanzig Polizeibehörden in England und Wales erfassten bis Juli 2026 insgesamt 163 Straftaten mit Stichworten wie „AI-generated“, „deepfake“ oder „nudify“. 2023 waren es zehn. Das berichtete der Telegraph am 12. September [Paywall].

Für HR und Führung: Klären Sie heute, wohin Ihre Leute eine gefälschte Stimme oder ein gefälschtes Video melden.

Quelle: The Telegraph (via Techmeme) · 2026-09-12

Südkorea schützt Chip-Wissen mit Haftstrafen

Südkorea verschärfte sein Spionagerecht. Seit dem 13. September drohen für die Weitergabe von Technologiewissen an fremde Staaten bis zu 30 Jahre Haft. Geschützt wird vor allem die Halbleiterindustrie. Das meldete die Financial Times am 12. September [Paywall].

Für HR und Führung: Prüfen Sie, ob Ihre Geheimhaltungsvereinbarungen noch zu den Ländern passen, in denen Ihre Leute arbeiten.

Quelle: Financial Times (via Techmeme) · 2026-09-12

Roboter-Test: sieben von hundert Aufgaben

Auf dem neuen Robotik-Test StationeryBench löste GPT-6 Astra 7 von 100 Büroaufgaben vollständig: Marker öffnen, Lineal reichen, Büroklammern umfüllen. Das Vergleichsmodell MolmoAct2 kam auf null. Beim Teilfortschritt erreichte Astra 46 von 100 Punkten (laut The Decoder, nicht unabhängig geprüft).

Für HR und Führung: Planen Sie körperliche Arbeit in den nächsten zwei Jahren ohne Roboter – die Zahlen geben es nicht her.

Quelle: Robocurve / StationeryBench (via The Decoder) · 2026-09-12

Denkschritte werden im Modell sichtbar

Forschende von KAIST und dem Naver AI Lab zeigten, dass sich einzelne Denkschritte – zerlegen, Formel abrufen, rechnen – in den internen Zuständen von Sprachmodellen unterscheiden lassen. Am deutlichsten in den mittleren Schichten. Auch falsche Lösungen behielten das Muster ihres Rechenschritts (laut The Decoder, nicht unabhängig geprüft).

Für HR und Führung: Fragen Sie bei Auswahl- und Bewertungssystemen künftig nicht nur nach dem Ergebnis, sondern nach dem Nachweis des Weges.

Quelle: The Decoder · 2026-09-12