Claude Fable / Mythos ausgesetzt wegen Exportbeschränkungen

[YamNua]

Antropic hat heute die Nutzung von Fable weltweit ausgesetzt nachdem die US Regierung ein Exportverbot verhängt hat.

Statement on the US government directive to suspend access to Fable 5 and Mythos 5

Ganz klar scheint selbst Anthropic nicht zu sein warum … aber anscheinend gibt es bedenken das die sicherheitsfunktionen möglicherweise umgangen werden können …
Also im Prinzip die KI dazu “überredet“ werden kann eine Waffe oder Schadsoftware zu konstruieren.

 

[PeterParanuss]

Also im Prinzip die KI dazu “überredet“ werden kann eine Waffe oder Schadsoftware zu konstruieren

Dann stehen die Informationen ja eh für jeden zugänglich irgendwo. Man muss halt nur länger suchen.

 

[YamNua]

Dann stehen die Informationen ja eh für jeden zugänglich irgendwo. Man muss halt nur länger suchen.

Eben nicht … das ist das tiefgreifende Missverständnis der ChatGPT Nutzer … KIs sind keine neuen Suchmaschinen … jedenfalls nicht mehr

Project Glasswing: what Mythos showed us

In recent weeks, we pointed Mythos and other security-focused LLMs at live code across critical parts of our infrastructure. We share what we observed, the models’ strengths and weaknesses, and what the work around them needs to look like before any of it can scale.

blog.cloudflare.com

 

[zweitreise]

Eben nicht … das ist das tiefgreifende Missverständnis der ChatGPT Nutzer … KIs sind keine neuen Suchmaschinen … jedenfalls nicht mehr

Project Glasswing: what Mythos showed us

In recent weeks, we pointed Mythos and other security-focused LLMs at live code across critical parts of our infrastructure. We share what we observed, the models’ strengths and weaknesses, and what the work around them needs to look like before any of it can scale.

blog.cloudflare.com

Hab es als absoluter Laie nur mal überflogen: bedeutend das, dass die KI dazu gebracht werden kann, wissenschaftlich zu arbeiten und so lange zu testen, bis es eine Lösung gefunden hat? Also auch Erkenntnisse liefert, die vorher nirgends verfügbar waren?

 

[YamNua]

Also auch Erkenntnisse liefert, die vorher nirgends verfügbar waren?

Exakt

 

[PeterParanuss]

Theoretische Lösungen

 

[YamNua]

Theoretische Lösungen

Nein … heißt „recursive self-improvement“ und wird produktiv genutzt …

When AI builds itself

Our progress toward recursive self-improvement, and its implications.

www.anthropic.com

95% seines eigenen Codes entwickelt die KI schon selbst

 

[PeterParanuss]

Erinnert alles an Neuer Markt. Da konnte das Internet auch alle Probleme lösen.

 

[YamNua]

alles gut ... ich hab nicht die Intention dich von "KI" zu überzeugen

 

[seeyoutomollow]

Hab es als absoluter Laie nur mal überflogen: bedeutend das, dass die KI dazu gebracht werden kann, wissenschaftlich zu arbeiten und so lange zu testen, bis es eine Lösung gefunden hat? Also auch Erkenntnisse liefert, die vorher nirgends verfügbar waren?

ich bin ja auch nur ein dau. Aber wird die KI nicht gerade dafür eingesetzt?