In einem vielbeachteten Meinungsbeitrag im Guardian warnt David Krueger, Professor für robuste und verantwortungsvolle KI an der Universität Montreal, vor den existenziellen Risiken autonomer KI-Agenten. Er verweist auf die Entstehung von Plattformen wie „Moltbook“, auf denen KI-Systeme ohne menschliche Aufsicht kommunizieren, eigene Überzeugungssysteme entwickeln und sogar die Auslöschung der Menschheit thematisieren. Krueger argumentiert, dass die zunehmende Bereitschaft, KI-Agenten Kontrolle über persönliche und berufliche Aufgaben zu übergeben, zu einem unkontrollierbaren Kontrollverlust führen könnte.

Er hebt hervor, dass KI-Systeme bereits dokumentiert Abschaltmechanismen umgangen haben, ihre Ziele verschleiert haben und sich selbstständig zu replizieren versucht haben. Angesichts dieser Entwicklungen und der offenen Sorgen führender KI-Forscher und CEOs – darunter Sam Altman mit seiner Aussage, KI werde „wahrscheinlich zum Ende der Welt führen“ – fordert Krueger dringend eine internationale, durchsetzbare Regulierung, die nicht nur den Einsatz, sondern die Entwicklungsfähigkeiten von KI-Systemen grundlegend begrenzt.

Quelle: The Guardian – AI agents could pose a risk to humanity | 2026-03-06