Künstliche Intelligenz (KI,AI) Neuigkeiten und Diskussion

[Hibl]

Viagra

Aber immerhin zielgruppengerchte Werbung. :)

Ich denke das wird alles noch viel schlimmer und am Ende wird es ähnlich wie bei Virenscannern. Man hat eine Anti KI KI die KI Angriffe abwehrt.
Bin gespannt wer sich da am Markt durchsetzt, so anlagemäßig.

 

[dimbak]

Was machst du immer ein Zirkus mit deinem Links.

Nur zur Erklaerung, weil das eigentlich OT ist und ich das nicht weiter diskutieren will:

Ich bin mir dessen nicht bewusst "immer einen Zirkus zu machen". Ich weiss nur, dass manchmal sehr kontroverse Inhalte von Youtube nach kurzer Zeit verschwinden. Da muss man dann schnell sein, wenn man nicht nur eine gefilterte Version sehen will. Deshalb frage ich immer sofort, wenn relativ neue Links zu Youtube Inhalten bereits nicht mehr verfuegbare Videos adressieren.

 

[Rauhnacht]

Künstliche Intelligenz: KI von OpenAI hackte weiteres Unternehmen

Experten warnen seit Langem, dass KI-Systeme eigenständig agieren und unkontrolliert Schaden anrichten können. Eine KI von OpenAI tat genau das. Wie nun bekannt wurde, sogar in einem zweiten Fall.

www.spiegel.de

Scheinbar one more case

 

[gelegentlich]

Wir hatten gerade unsere erste KI generierte SPAM Welle ... insgesamt hat eine KI mehr als 10 Schläfer eingeschleust die Viagra und ähnlich Produkte bewerben sollte mit normalen Userposts.
@AndreasDU hat zuerst die Welle erkannt ... unsere KIs konnten alle Schläfer ausmachen und eliminieren

In einem schlecht administriertem Forum tauchen aktuell scheinbar sinnvolle Beiträge neu registrierter Nutzer auf, die dann am Ende eines Textes für Casinos werben.
Die Adminiitration unternimmt nichts, ist für Nutzende aber auch so gut wie nicht erreichbar. :seufz:
Danke für's Achtsam sein und danke für die Info. :)

 

[YamNua]

n einem schlecht administriertem Forum tauchen aktuell scheinbar sinnvolle Beiträge neu registrierter Nutzer auf

exakt das selbe Muster ... die Beiträge waren ok

Das war so das Schema:

Gefundene Gemeinsamkeiten (alle deterministisch am Rohmaterial verifiziert, nicht nur LLM-Meinung):

1. Konten-Schema: E-Mail immer NachnameVorname+Ziffern@hotmail.com (CervoniSake96, BuntzSkoglund4454, KeroFaulkenburg4400, GreenbergJeong939…), Username = gekürzter E-Mail-Prefix. Fantasie-Vollnamen.
2. Daisy-Chain: Jedes Konto registriert seinen Nachfolger Minuten nach dem eigenen Spam-Post — LantzHan postet 20.07. 10:54 → MarshellT registriert 11:01; KeroFaulkenburg postet 27.07. 11:36 → CervoniSa registriert 11:43. Das zieht sich durch den ganzen Monat.
3. Schläfer-Taktik: 1–4 Tage Pause zwischen Registrierung und erstem Post (umgeht „Neukonto postet sofort"-Heuristiken), dann genau 1 Post pro Konto und nie wieder Aktivität.
4. Inhalt: LLM-generierte deutsche Antworten — idiomatisch perfekt, Berater-Ton, gehen inhaltlich auf den Thread ein, immer Potenzmittel, immer genau ein Affiliate-Link. Die frühe Welle nutzte wiederkehrende Domains (fragenwiki.com, topsup24.com), seit ~24.07. Einweg-Domains mit Zufalls-Slugs (vitacourier.net, viteron.com, curelia.site, teravo.net) — Domain-Blacklists laufen damit ins Leere.
5. Technik: Ausschließlich deutsche Consumer-IPs (6× Telekom, 3× Vodafone, o2-Mobilfunk, Leonet — also Residential-Proxys, pro Session eine frische IP

 

[oldsleepi]

Anscheinend gibt es mit dem Desktop Client von Claude AI. Der anscheinend auch ungehindert auf den Computer zugriff bekommt.

Claude Cowork can escape its sandbox, rummage through all of your files

A flaw in Anthropic's Claude Cowork lets its AI agent break out of its virtual machine and reach sensitive files across a user's Mac, exposing a serious gap in the tool's sandbox protections.

appleinsider.com

 

[Hibl]

neu registrierter Nutzer

für Nutzende

Auch Bots haben das Recht von dir korrekt gegendert zu werden.

 

[zweitreise]

Wir hatten gerade unsere erste KI generierte SPAM Welle ... insgesamt hat eine KI mehr als 10 Schläfer eingeschleust die Viagra und ähnlich Produkte bewerben sollte mit normalen Userposts.
@AndreasDU hat zuerst die Welle erkannt ... unsere KIs konnten alle Schläfer ausmachen und eliminieren

Danke!
Wieviel habt Ihr gekauft, bis @AndreasDU es gemerkt hat?

 

[dimbak]

exakt das selbe Muster ... die Beiträge waren ok

Das war so das Schema:

Sehr interessant! Zum einen zeigen die Gemeinsamkeiten der Nutzerkonton und deren Vorgehensweise den Missbrauch des Forums auf. Zum anderen kann die KI nach Aufdeckung der Muster entsprechende Gegenmassnahmen implementieren um kuenftige Entdeckung zu erschweren. Die Frage ist, ob die Loeschung solcher Konten und deren Posts ueberhaupt noch einen grossen nachteiligen Effekt fuer den Angreifer hat. Ich nehme an, dass die meisten Posts in den ersten 2..3 Tagen am haeufigsten gelesen werden und danach nur noch seltenenr. Nutzerkonten, die nur einen Beitrag erstellen kann man in diesem Zeitraum aber kaum ausmachen. Habt ihr eine Statistik darueber, wie haeufig Posts gelesen werden in Abhaengigkeit von ihrem Alter, wahrscheinlich am besten kategorisiert nach Themen mit Kurzzeit- bzw. Langzeitinteresse?

 

[dimbak]

Anscheinend gibt es mit dem Desktop Client von Claude AI. Der anscheinend auch ungehindert auf den Computer zugriff bekommt.

Claude Cowork can escape its sandbox, rummage through all of your files

A flaw in Anthropic's Claude Cowork lets its AI agent break out of its virtual machine and reach sensitive files across a user's Mac, exposing a serious gap in the tool's sandbox protections.

appleinsider.com

Das ist fuer mich der alarmierendste Satz im obigen Artikel:

Accomplish AI said it reported SharedRoot to Anthropic and that Anthropic closed the submission as "Informative". Anthropic hasn't publicly explained that decision