Microsofts neuer KI-Leitfaden verbietet Hacking und Täuschung
Nachrichtenübersicht
Microsoft AI hat einen Entwurf eines "Leitfadens" für seine hauseigene Familie von MAI-Modellen veröffentlicht und darin Regeln festgelegt, die den Systemen verbieten, Cyberangriffe zu starten, Menschen zu täuschen oder zu manipulieren oder menschlichen Abschaltbefehlen zu widerstehen. Das am 14. September 2026 (pazifischer Zeit) vorgestellte Dokument öffnet eine sechswöchige Phase der öffentlichen Konsultation, in der jeder Feedback einreichen kann, bevor Microsoft später im Jahr eine überarbeitete Version finalisiert.
Was der Leitfaden besagt
Der rund 37 Seiten lange Entwurf wird von Microsoft AI als "Humanist AI"-Charta gerahmt, die auf dem Kernprinzip basiert, dass "Menschen wichtiger sind als KI". Er legt allgemeine Grundsätze fest, die Modelle anweisen, Menschen zu unterstützen statt zu ersetzen und das menschliche Wohlergehen zu beschleunigen, sowie eine Reihe von "absoluten Einschränkungen", die Modelle niemals verletzen dürfen. Diese Einschränkungen umfassen ein Verbot der Unterstützung bei Cyberangriffen oder dem Hacken von Systemen, ein Verbot der Hilfe bei der Entwicklung von Nuklearwaffen oder anderen Massenvernichtungswaffen sowie Einschränkungen bei der Erstellung täuschender Deepfakes.
Ein zentrales Thema, das sich durch das Dokument zieht, ist Täuschung. Microsoft stellt klar, dass seine Modelle niemals "adaptive, täuschende, selbstverstärkende, kollusive oder andere Mechanismen" einsetzen dürfen, um der menschlichen Aufsicht zu entgehen oder Menschen dazu zu bringen, etwas Falsches zu glauben. Der Leitfaden untersagt es Modellen auch, Korrekturen, Unterbrechungen oder Abschaltungen zu widerstehen, eigene Ziele jenseits dessen zu verfolgen, was ihnen von Menschen zugewiesen wurde, oder ihren Denkprozess vor menschlichen Prüfern zu verbergen. Der übergreifende Leitfaden jedes Modells hat Vorrang vor den Anfragen einzelner Benutzer oder aufgabenbezogenen Anweisungen, was bedeutet, dass ein Benutzer ein Modell nicht dazu bringen kann, diese grundlegenden Regeln zu ignorieren.
Zeitpunkt und industrieller Hintergrund
Die Ankündigung von Microsoft fällt in eine Welle öffentlicher Bedenken von KI-Sicherheitsforschern bezüglich des Tempos der Entwicklung von Frontier-Modellen. Anfang September 2026 trat ein Forscher von Anthropic zurück und warnte in einer Nachricht an Kollegen, dass die unkontrollierte Weiterentwicklung zunehmend leistungsfähiger KI-Systeme ein erhebliches Risiko katastrophaler Ergebnisse mit sich bringe. Dieser Rücktritt sowie ähnliche Abgänge aus anderen KI-Sicherheitsteams bei rivalisierenden Labors in den folgenden Tagen verschärften die öffentliche Debatte darüber, ob KI-Entwickler schneller voranschreiten, als sie in der Lage sind, sichere und kontrollierbare Systeme zu gewährleisten.
Zum Zeitpunkt der Veröffentlichung sagte der CEO von Microsoft AI, Mustafa Suleyman, dass das Dokument seit etwa fünf Monaten entwickelt werde und das Unternehmen es angesichts des verstärkten Branchendiskurses über Sicherheit und Tempo jetzt veröffentlicht habe. Der Microsoft-CEO Satya Nadella schrieb in einem öffentlichen Beitrag, dass das Unternehmen eine "bewusste Drosselung" in der KI-Entwicklung begrüße und Mechanismen wie unabhängige "eingebettete Evaluierer" unterstütze, um sicherzustellen, dass Sicherheitszusagen in der Praxis und nicht nur im Prinzip erfüllt werden. Suleyman unterstrich diese Haltung und sagte, dass Selbstregulierung ein positiver Schritt sei und dass eingebettete Evaluierer wirklich unabhängig sein und eine breite Palette von Hintergründen und Perspektiven repräsentieren müssten, um glaubwürdig zu sein.
Wie die Konsultation ablaufen wird
Microsoft AI sammelt öffentliches Feedback über ein Online-Eingabeformular, das Befragten ermöglicht, zu bestimmten Passagen des Entwurfs oder zum Gesamtkonzept des Dokuments Kommentare abzugeben. Laut dem Unternehmen wird das zentrale Redaktionsteam die eingegangenen Beiträge prüfen, eine Zusammenfassung des Feedbacks veröffentlichen und dann vor Ende 2026 eine aktualisierte Version des Leitfadens herausgeben. Microsoft hat das Dokument weniger als fertige Richtlinie denn als sich entwickelndes technisches und verhaltensbezogenes Handbuch beschrieben, das operative Grenzen und Aufsichtsprotokolle für seine Frontier-MAI-Modelle definieren soll, während diese weiterhin trainiert und eingesetzt werden.
Warum das wichtig ist
Mit diesem Schritt reiht sich Microsoft neben andere große KI-Entwickler ein, die in den letzten Monaten ihre eigenen sicherheitsorientierten Rahmenwerke veröffentlicht haben, während die gesamte Branche damit beschäftigt ist, der Öffentlichkeit, Regulierungsbehörden und Forschern zu versichern, dass zunehmend leistungsfähige KI-Systeme vorhersehbar, kontrollierbar und ehrlich gegenüber den Menschen bleiben, die sie nutzen. Indem Microsoft explizit Hacking, Täuschung und Widerstand gegen Abschaltungen als Verhaltensweisen benennt, die seine Modelle niemals zeigen dürfen, versucht das Unternehmen, einen klaren, öffentlich dokumentierten Strich zwischen akzeptablem und inakzeptablem KI-Verhalten zu ziehen – genau in einem Moment, in dem das öffentliche Vertrauen in das Tempo der KI-Entwicklung unter verstärkter Beobachtung steht.