Zeit: 14.6.2026 um 11:06, Lukarnam schrieb:

Mein Fazit: Wenn es NICHT auf soziale Interaktion ankommt, sind unabhängige (autonome) Entscheidungsträger handelnder, dabei zuverlässiger und transparenter.

Je nach Entscheidung werden deren Parameter von menschlichen, risikobewussten, Entscheidern durchaus dokumentiert. Wenn ein Protokoll einige Gründe festhält, schützt das die Entscheider - egal allerdings, ob das wirklich die echten Gründe sind.

Bei KIs fällt es eben schwer, zu dokumentieren, warum ein bestimmtes Ergebnis heraus kommt. Und sie sind ja wahrscheinlichkeitsbasiert. Wenn sie also mal die "1" würfeln, dann gibt es eben nichts, was das dokumentiert (allerdings bei entsprechendem Einsatz eine Kontrollschicht, die das hoffentlich abfängt. Irgendwann ist das Produkt aus Fehlerwahrscheinlichkeit 1 x Fehlerwahrscheinlichkeit 2 klein genug, um irreal zu sein. Kennen wir aus der FMEA).

Noch nicht lange her, da habe ich mal über die Problematiken von Kill-Chains und "Human in the Loop", "Human on the Loop" etc. gepostet.

Anbei ein Artikel, der mal anschaulich darlegt, was selbst "Human in the Loop" in der Praxis eigentlich bedeutet - nämlich oftmals keine wirkliche menschliche Evaluation, sondern nur ein "abnicken" ohne große Prüfung.

"Authority in Name Only

That is the lesson of Epic Fury that most after-action assessments have skipped. They asked whether the campaign met its objectives. The harder question is whether the chain of command still functioned at machine speed, or whether the authority assigned to a human on paper had quietly migrated into the software.

This is not an indictment of any commander or administration. The dynamic is structural. Once a targeting pipeline runs faster than a person can verify what it produces, the real decision shifts to the system that produces it, whatever the doctrine says about who is in charge."

https://thedefensepost.com/2026/06/30/human-oversight-ai-targeting/

Das ist die Wirklichkeit, vor der wir stehen.

Francesco di Lardo

Das Ganze ist eigentlich für jeden relevant.

In den meisten anderen Fällen hat die Kill-Chain funktioniert wie sie sollte. Im beschriebenen Fall hatten die 120 Schülerinnen aber unbestreitbar "Pech". Es wäre sehr zynisch zu fragen: "Wer weiß, wie vielen von denen in der Schule beigebracht wurde, die Amerikaner und Israelis zu hassen?".

Andere Zusammenhänge mögen uns da sehr viel direkter betreffen:

Algorithmen entscheiden in einigen Bundesstaaten der USA darüber, ob jemand vorzeitig aus der Haft entlassen wird oder nicht.

In einigen Bundesstaaten der USA gibt es "predictive policing", bei dem ein Algorithmus berechnet, wo sich "am wahrscheinlichsten" Straftaten ereignen werden und wo infolge dieses Assessments Polizeistreifen hingeschickt werden. Einerseits scheint dies sehr sinnvoll. Andererseits verstärkt es natürlich einen Bias - wo keine Polizeistreife ist, kann sie auch nichts finden. Und wo sie ist, noch mehr.

Was, wenn das marktbeherrschende Modell von KI-assistierter Filtersoftware für Bewerbungsunterlagen - aus welchen nicht kontrollierbaren Gründen auch immer - Dein Bewerbungsprofil nicht mag?

Was, wenn Deine Kreditwürdigkeit aufgrund Deiner Postanschrift geringer eingeschätzt wird, obgleich für Dich persönlich eine höhere Kreditwürdigkeit besteht als bei der Masse Deiner Nachbarn um Dich herum? Du wirst die höheren Zinsen zahlen müssen, ohne Chancen, dagegen vorzugehen.

Alle diese Fälle haben eins gemeinsam:
Funktioniert meistens. Aber einige haben "unschuldig" Pech und - wichtiger noch - keine Chance, sich dagegen zu wehren.
Da wird menschliches Schicksal bzw. da werden Menschen Maschinen unterworfen - und dies im Wortsinn.

Wenn man abermals "Pech" hat, kommt womöglich noch folgender "Twist" hinzu:
Die Entscheidung der Bombardierung der Schule wurde von einem Menschen "abgenickt" - obgleich er freilich keine wirkliche Möglichkeit hatte, die Situation tatsächlich zu prüfen.
Wer trägt die Verantwortung?
Wird diese dann dem "abnickenden" Menschen aufgebürdet, während man die fehlerhafte Maschine exculpiert? Oder deren Hersteller? Oder deren Programmierer?

Wie ist es im "autonomen" Fahrzeug auf "Autopilot"? Der Konzern versichert, "alles geht automatisch". Aber er verpflichtet den Fahrer nach Warnton ggf. binnen Sekundenbruchteil einzugreifen. Ist das nichts anderes, als sich einen "schmalen Fuß zu machen" und sich zu exculpieren und dem Menschen die Verantwortung aufzubürden nebst einer Situation, die dieser eigentlich gar nicht mehr unter Kontrolle bringen kann?

Francesco di Lardo