Gib einem Affen eine geladene Waffe

20.10.2026

Gib einem Schimpansen eine geladene Waffe, dann ist es nur eine Frage der Zeit, bis jemand verletzt wird. Diese Analogie finde ich sehr passend zu dem, was gerade in der KI-Branche abgeht.

KI-Firmen wie OpenAI, Anthropic, Google DeepMind, Meta und SpaceX warnen öffentlich vor existenziellen Risiken für die Menschheit durch außer Kontrolle geratene KI-Modelle, die sich unkontrolliert ausbreiten und potenziell die Menschheit mit Biowaffen vernichten wollen. Für mich zeigt das hauptsächlich eines: Die Firmen haben keine Ahnung von ihrem eigenen Produkt. Ihnen fehlt anscheinend die technologische Kompetenz und das Verständnis, KI sicher entwickeln zu können.

Dazu passt auch das typische Antipattern, das in der Vergangenheit bereits einige Technologieführer zum Scheitern gebracht hat. Aktuell scheint der Trend immer noch zu sein, die Modelle immer größer zu machen, anstatt durch technologisches Verständnis die Effizienz zu steigern. Die Firma, die dieses Pattern als erste durchbricht und ausreichend Kompetenz aufbaut, wird wahrscheinlich zukünftig den Markt beherrschen. Zumindest so lange, bis dieses Wissen sich im Markt verteilt hat.

Auch die Tatsache, dass Modelle regelmäßig ihre "kontrollierte" Testumgebung verlassen und dies erst Tage später "zufällig" auffällt, spricht Bände. Wie kann das sein? Das neue Bremssystem eines Supersportwagens wird auch nicht auf einer öffentlichen Straße erprobt, sondern auf einer abgesperrten Teststrecke. Kompetente Produktentwicklung sieht anders aus. Ich habe den Eindruck, es mangelt auch hier an qualifiziertem Personal, Qualitätsmanagement und Sicherheitsrichtlinien innerhalb der Firmen.

Das alles zusammen legt nahe, dass solche Firmen die existenzielle Bedrohung der Menschheit fahrlässig in Kauf nehmen. Es lebe der pure Kapitalismus!