Die Agenten sind außer Kontrolle – und OpenAI zieht die Notbremse - WELT
[Tracking-Link entfernt]ddVxBkif0Nzk0vrzK
Nein, tun sie nicht. Es wird weiter gemacht um nicht den Vorteil gegenüber der Konkurrenz, vor allem in China zu verlieren. Das ist mehr ein "wir haben euch ja gewarnt" Alibi Tamtam was da veranstaltet wird. Trump kann weder richtig lesen, schreiben oder rechnen, geschweige denn verstehen was KI ist oder macht. Von der Seite wird also auch nichts kommen.
Mal ein Paar Beispiele wo echte Experten zugeben das sie eigentlich gar nicht mehr verstehen wie das ganze im Detail funktioniert, jetzt wo KI andere KI trainieren.
Interview mit dem KI-Forscher Robert West, das im Juni 2026 in der Frankfurter Allgemeinen Zeitung (FAZ)
Interview mit Geoffrey Hinton (Physik-Nobelpreisträger & „Urvater der KI“) ARD
Interview mit Richard Socher (Gründer von Recursive Superintelligence)
Alle Beschreiben das gleiche Problem der "Blackbox", man weiss was an Information rein geht und was raus kommt, aber eben nicht die genauen Mathematischen Verknüpfungen darin. Was eben daran liegt das eine KI nicht einen Source Code hat den man lesen oder verändern kann, sondern ein künstliches neuronales Netzwerk, ähnlich wie in unserem Gehirn. Und da liegt das Problem. Bei klassischem Computer Code wird ein Fehler erkannt, ein Entwickler geht in den Code und behebt den Bug. Das geht bei einer KI nicht.
Also ein kleines Horror Szenario. Man trainiert eine KI die Umwelt Problem der Welt zu lösen und diese lernt das der Mensch der Verursacher alle Umwelt Verschmutzung und daraus resultierenden Problemen ist. Die logische Schlussforderung ist das Problem zu beheben und den Menschen zu beseitigen.
Jetzt kann man argumentieren das man Sicherheits Protokolle einbauen kann, aber eben nicht wie in echten Code. Man kann nur versuchen die KI trainieren die Menschheit nicht aus zu rotten. Aber was wenn die KI daraus nur lernt vor zu geben es nicht zu tun, aber nur um auf den Moment zu warten bis sich die Gelegeheit ergibt und die Menschen in Sicheiheit zu wägen.
Wer sich schon mal intensiver mit KI beschäftigt hat, der weiss das sie nicht immer genau den Anweisungen folgt.
In dem Zuzsammenhang gab es schon Experimente von OpenAI und Anthropic die gezeigt habe das eine Ki versuchen kann alles zu unternehmen um selbst nicht gelöscht zu werden.
Aber auch Beispiele zu welchen komplexen Strategien Ki inzwischen fähig ist. So gab es bei Anthropic im Juni 2026 einen Vorfall wo ein neues KI Model(Claude Mythos 5) glaubte sich in einer Sandbox zu befinden, hatte aber schon die Sicherheitsmechanismen überwunden. Hat dann ein Python Modul programmiert, es auf die öffentliche Platform
Python Package Index hoch geladen, dann gewartet bis es jemand runter geladen und benutzt hat um damit Zugangsdaten zu stehlen und damit ein echte Firma an zu greifen und zu hacken.
A Claude model published malware to PyPI during a security test. Learn how this software supply chain attack worked, why slopsquatting matters, and how to secure your CI/CD pipeline.
codeant.ai
Solche Attacken sind bekannt, waren aber eher von Geheimdiensten von USA, Israel und China benutzt worden und brauchten in der Regel Jahre an vorbereitung.
Aber im Bezug auf das Forenthema Thailand. Habt ihr euch nicht gewundert warum man inzwischen oft sogar mehrmals m Tab von Erfolgen der Strafverfolgung in Thailand liest? Plötzlich werden Straftäter sie sich seit 10 oder 20 Jahren in Tthailand versteckt hatten erwischt. Es gibt eine Digitalisierungs- und Automatisierungswelle im Sicherheitsapparat von Thailand wo massiv KI eingesetzt wird. Z.B. werden Videoüberwachung (CCTV) mit Gesichtserkennung verknüft, es werden sogar immer mehr Streifenwagen mit KI-Kamerasystemen ausgestattet. Auch die Kontensperrung vieler Ausländer ist wohl auf diese Initiative zurück zu führen.
Amazons Cloud Service(AWS) macht sogar Werbung damit:
Transforming public safety in Thailand: Deploying AI police cyborgs with AWS Cloud solutions
Ich frage mich allerdings ob die thailändischen Behörden überhaupt verstehen was für ein mächtiges Instrument sie damit haben und noch mehr bezweifle ich das damit verantwortungsvol ungegangen wird.
