Ein Aspekt der hier kaum besprochen wird ist der Sicherheitsaspekt. Ich erlebe eigentlich täglich das bei meinem Kunden einfach alles in Copilot und Co kopiert wird, ohne Sinn und verstand. Von Passwörtern, API Token und sensiblen Kundendaten ist alles dabei. Auch wenn die ganzen Anbieter immer wieder versichern das die Daten nicht zum Trainieren der KI und "sicher" in einer privaten und dedizierten Instanz wären(dedicated tenant) so habe ich jetzt selbst schon 2 Mal das Gegenteil erlebt.
Beide Male hatte ich mit MS 365 Copilot Instanz von verschiedenen Kunden gearbeitet. Ich war am Anfang erstaunt wie Copilot Informationen aus sämtlichen Meetings(Teams mit Autodiktat), eMails und MS Sharepoints sowie interen Websites heran gezogen hat. Was natürlich sehr praktisch ist da man nicht jedesmal alles zusammen suchen muss zum eine Thema und Copilot diese Informationen im Kontext einbezieht.
Bei beiden muss ich über ein Virtual Desktop Infrastruktur (VDI) arbeiten damit keine Daten raus und keine Schadsoftware ins Unternehmen kommt. Ich kann keine eMail außerhalb des Kunden senden und selbst Copy?Paste ist in in Citrix(wer es nicht kennt ist eine Art von Remote Desktop), was ich benutzen muss um mich in die VDI zu verbinden, blockiert.
Dort habe ich unterschiedliche UserIDs etc. Trotzdem hat mir Copilot Antworten gegeben die zu 100% darauf schließen lassen das die Information aus einem Chat in der anderen Umgebung des anderen Kunden kamen.
Das hat mich in eine dumme Situation gebracht. Melde ich dies dem Kunden, so wird mir wahrscheinlich vorgeworfen ich hätte auch Nachlässigkeit die falsche Instanz benutzt und so die Informationen "geleacked". Was aber in dem Setup unmöglich ist. Das man einem externen Berater mehr Glaubwürdigkeit schenkt als MS halte ich in dem Zusammenhang für unwahrscheinlich.
Aber auch bei meiner Beratertätigkeit fallen mir halt immer wieder die oben erwähnten Nutzerfehler auf. Und das kann sogar gegen geltendes Recht verstoßen. Füttert eine Bank oder Versicherung eine Ki die außerhalb der EU gehostet wird mit persönlichen Daten ihrer Kunden kann das schon ein Verstoß gegen EU Datenschutz Recht sein.
Es aber im privaten haben einige Leute schon böse Überraschungen erlebt. Es gibt genug Berichte über Clawdbot und andere Tools wo tausende User quasi mit herunter gelassener Hose im Internet standen.
Man muss sich halt nur selbst fragen warum sollten Unternehmen kostenlose Kontingente für ihre KI einrichten, wirklich nur zum ausprobieren. Oder doch um mit den Daten ihre KI zu trainieren oder Daten über die Nutzer zu sammeln.
Noch ein paar Tips um Token zu sparen.
Ladet keine Bilder von Texten, PDFs oder Word Dokumente hoch. Diese haben sehr viel mehr Informationen als den reinen Text um den es geht. MS hat das Tool
Markitdown veröffentlich das den Text extrahiert und als Markdown exportiert, was man dann als Input für eine Ki nehmen kann.
Wer englische Texte von KI generieren lässt, der sollte die KI anweisen die Texte nach dem Standard "ASD-STE100" zu erstellen. Der kommt aus der Raum- und Luftfahrt und beschreibt wie Texte sachlich aber verständlich sein sollen.
Nutz eine "freie" KI wie die von der Google Suche um euch einen Prompt für eine KI schreiben zu lassen. Die macht dann die Planung und in der anderen KI verbraucht ihr weniger Token.
Seid sehr spezifisch in euren Prompts. Wenn das Ergebnis nicht das ist was man erwartet hat liegt das in der Regel daran das die Anweisung nicht genau genug waren.
