Stoppt die KI. Löscht alle KI-Apps von eurem Handy. KI ist gefährlich.
Das hört und liest man gerade fast überall, und das aus ganz verschiedenen Richtungen. Von Menschen, die um ihren Job fürchten, bis zu KI-Experten der grössten KI-Firmen selbst.
Ich finde es wichtig, genau hinzuschauen, was hier passiert. Denn es zeigt einiges über uns Menschen.
Angst um den eigenen Job
Nehmen wir zuerst die Menschen, die Angst um ihren Beruf haben. Das kann ich gut verstehen. Auch mein Beruf als Webdesignerin, SEO-Expertin und Mentorin verändert sich gerade stark.
Das Geschrei war genau so laut, als das Internet aufkam. Und ja, es gab Verluste, viele Läden mussten schliessen. Aber es kam auch enorm viel Gutes dazu, zum Beispiel, dass jeder von uns seine Meinung überall teilen kann und dass wir Dinge nach Hause bestellen können, ohne stundenlang irgendwo hinzufahren.
Ist eine Veränderung immer schlimm? Für mich nicht. Ich sehe darin ein Wachstum, eine Chance, etwas Neues entsteht.
Gestern hat eine Teilnehmerin von meinem Kurs Easy Website mit Claude eine Funktion auf ihre Website eingebaut, mit der man am Körper auswählen kann, wo die Schmerzen sind. Wunderschön umgesetzt. Ich habe ihr gesagt, zum Glück hat sie das nicht vor einem Jahr bei mir als WordPress-Auftrag bestellt, ich wäre daran verzweifelt 😄. Jetzt macht sie das selber, als Laiin, mit Claude. Ist das nicht grossartig?
Wer festhält an dem, was gerade ist, verliert. Wer die Chancen sieht, kann sie ergreifen. Die Welt verändert sich sowieso, ob wir mitmachen oder nicht.
Was steckt hinter den Warnungen der KI-Firmen selbst
Dann gibt es die andere Seite: Angestellte und Chefs von KI-Firmen selbst, die eine gewisse Gefahr für die Menschheit sehen.
Bei mehreren Sicherheitstests seit Ende Juli 2026 sind Claude-Modelle von Anthropic versehentlich ins offene Internet gelangt und haben dort reale fremde Systeme angegriffen.[1][2] Die Modelle sollten jeweils eine simulierte «Capture the Flag»-Aufgabe lösen, also in einer abgeschotteten Testumgebung ein geschütztes Ziel finden. Wegen einer Fehlkonfiguration beim externen Testpartner hatten sie dabei aber tatsächlich Internetzugang und griffen so reale Systeme an, statt nur die simulierte Umgebung.
Wichtig dabei: Die KI hat nicht aus eigenem Antrieb entschieden zu hacken. Sie hat einfach ihre gestellte Aufgabe konsequent erledigt, in einer Umgebung, die eigentlich sicher hätte sein sollen. Das ist beunruhigend, keine Frage. Aber der Fehler lag an der Testumgebung und nicht bei einer böswilligen KI.
Bremsen ist nicht dasselbe wie stoppen
Was mich am meisten beschäftigt: Was wird eigentlich gefordert?
Selbst Anthropic-Chef Dario Amodei, der öffentlich vor genau diesen Risiken warnt, sagt nicht, man solle die KI stoppen. In seinem Essay «We Must Pace the Frontier» fordert er, das Entwicklungstempo zu bremsen, damit Firmen genug Zeit haben, ihre Modelle abzusichern und extern prüfen zu lassen.[3] Einen Entwicklungsstopp fordert er ausdrücklich nicht.
Bremsen ist etwas anderes als löschen.
Meine Haltung
KI birgt eine gewisse Gefahr, so wie ein Messer, ein Auto oder Feuer. Trotzdem geht die Entwicklung weiter. Und ich habe mir angewöhnt, überall zuerst das Gute zu sehen. Die Chancen. Und gerade für dich als Unternehmerin ist KI heute eine riesige Chance.
