Berlin. Die Bundeswehr investiert verstärkt in KI-gestützte Waffen wie Drohnen und autonome Fahrzeuge. Eine Mehrheit der Bevölkerung unterstützt diese Entwicklung, fordert aber eine klare menschliche Kontrolle KI-gestützter Systeme.
Menschliche Kontrolle gefragt
Die aktuelle Umfrage des TÜV-Verbands zeigt, dass 81 Prozent der Deutschen eine klare menschliche Letztverantwortung beim Einsatz militärischer KI-Systeme erwarten. Vier von zehn Befragten plädieren für eine vollständige Überprüfung jeder Entscheidung der KI durch Menschen. Teilautonome Systeme, bei denen Menschen jederzeit eingreifen können, finden bei 41 Prozent Zustimmung. Vollautonome Waffen ohne menschliche Kontrolle lehnen 99 Prozent der Befragten ab. Die Befragten sehen in KI-Waffen ein modernes Verteidigungspotenzial, äußern aber gleichzeitig große Sorgen vor Fehlentscheidungen, Kontrollverlust und eskalierenden Konflikten.
Sicherheit und Risiken von KI-Waffentechnologien
67 Prozent der Teilnehmer fürchten falsche Zielerkennung durch autonome Systeme. 64 Prozent sehen die Gefahr, dass die Kontrolle über KI-Systeme verloren gehen könnte. Zudem äußerten 63 Prozent Besorgnis über ein internationales Wettrüsten mit KI-Technologien, während 61 Prozent ungewollte Eskalationen in Konflikten befürchten. Dr. Joachim Bühler, Geschäftsführer des TÜV-Verbands, betont:
„Verteidigungsfähigkeit bedeutet nicht, Maschinen die Entscheidung über Leben und Tod zu überlassen. Sie bedeutet, Technologie so zu gestalten, dass sie unsere Sicherheit stärkt, ohne die menschliche Hoheit aufzugeben.“
Internationale Debatte um Regeln für autonome Systeme
Auf internationaler Ebene diskutieren die Vereinten Nationen über Regelungen und mögliche Verbote autonomer Waffensysteme. Bislang konnten keine einheitlichen Vereinbarungen getroffen werden. Der europäische AI Act betrifft vornehmlich zivile KI-Systeme, lässt militärische Anwendungen weitgehend außen vor. Da viele KI-Systeme dual-use-fähig sind, also sowohl zivil als auch militärisch genutzt werden können, bleiben technische Sicherheitsanforderungen zentral. Der TÜV-Verband fordert klare Leitplanken und verantwortungsvollen Umgang mit sicherheitskritischen Technologien.
Weiterer Ausblick auf den Umgang mit menschlicher Kontrolle KI
Die Ergebnisse der repräsentativen Forsa-Umfrage im Auftrag des TÜV-Verbands (1.005 Personen ab 16 Jahren, Befragungszeitraum Oktober 2025) verdeutlichen den breiten gesellschaftlichen Konsens für eine technisch moderne, aber verantwortungsvoll kontrollierte Bundeswehr. Die Politik ist aufgefordert, klare Regeln für den Einsatz von KI-Systemen zu definieren, um die menschliche Hoheit zu gewährleisten.
Die Diskussion um die Rolle der menschlichen Kontrolle bei KI in der Verteidigung wird auch künftig bedeutend bleiben. Die nächsten Schritte umfassen internationale Verhandlungen, politische Entscheidungen zum Einsatz solcher Technologien sowie fortlaufende Evaluierungen der Risiken und Chancen.
Weitere Informationen zur KI-Studie des TÜV-Verbands bietet die offizielle Webseite tuev-verband.de. Einen Überblick zu KI-Technologien im militärischen Kontext finden Interessierte beim Bundesamt für Sicherheit in der Informationstechnik.
Lesen Sie auch unseren Beitrag zur digitalen Sicherheit in der Region.
