- Mitglied seit
- 15.02.2018
- Beiträge
- 10.475
- Likes erhalten
- 83
Also das beliebte und bekannte Thema KI.
Ich denke aber ist ein Punkt über den Ihr informiert sein müsst.
Wir setzen zur Administration KI ein aber ausschließlich lokale Modelle.
Ein lokales Modell ist ein LLM das nicht in den Rechenzentren der großen Anbieter läuft sondern ausschliesslich auf lokaler Hardware ( Hier ist es ein MacMini 2 und ein MacMini 4 die bei mir auf meinem Schreibtisch stehen ) mit einem Gemma und einem QWEN Modell. Die Verarbeitung der Daten erfolgt ausschließlich lokal.
Ich prüfe die Serverlogs mit Hilfe dieser Modelle, genauso wie Sicherungen und Uptime ... bei Fehlern oder Statusänderungen werde ich per WA benachrichtigt, eine Routinemeldung sieht dann so aus:
Anhang anzeigen 1777455909027.png
Anhang anzeigen 1777455959028.png
Das erleichtert mir die Administration enorm ... da ich auch per WA Befehl von unterwegs einfache Problemlösungen durchführen kann ... start von Diensten etc
Ein weiterer Punkt den wir ab Donnerstag testen sind die Wahlen zur Miss TAF. Die Wahlen waren für einen Mod immer mindestens 3 Std Arbeit ... ich habe die ersten Testläufe jetzt fertig und die nächsten Wahlen lasse ich von dem Gemma LLM erstellen ... mal schauen wie das wird ....
Noch einmal abschliessend Zusammenfassend:
- eure Daten verlassen verlassen nicht das TAF bzw meinen MacMini
- wir erheben nicht mehr Daten als vorher. Wir beschränken uns auf die standardmäßigen Logs des Webservers.
- KI trifft keine Entscheidungen ( Selfi oder nicht etc ) sondern ist ausschliesslich zur Administrativen Unterstützung
- Firewallregeln und Blocks (Fail2Ban) passt die KI automatisch und selektiv an, falls entsprechende Bedrohungen erkannt werden.
-> Daten (Logs, nicht der Content den ihr erzeugt) werden aber durch die LLMs strukturiert und besser durchsuchbar
Meinungen und Gedanken willkommen ... ich weiss das es sicher kontrovers Besprochen wird ... aber ich denke es ist nur fair wenn ich das zur Diskussion stelle
Gruss
Yam
Ich denke aber ist ein Punkt über den Ihr informiert sein müsst.
Wir setzen zur Administration KI ein aber ausschließlich lokale Modelle.
Ein lokales Modell ist ein LLM das nicht in den Rechenzentren der großen Anbieter läuft sondern ausschliesslich auf lokaler Hardware ( Hier ist es ein MacMini 2 und ein MacMini 4 die bei mir auf meinem Schreibtisch stehen ) mit einem Gemma und einem QWEN Modell. Die Verarbeitung der Daten erfolgt ausschließlich lokal.
Ich prüfe die Serverlogs mit Hilfe dieser Modelle, genauso wie Sicherungen und Uptime ... bei Fehlern oder Statusänderungen werde ich per WA benachrichtigt, eine Routinemeldung sieht dann so aus:
Anhang anzeigen 1777455909027.png
Anhang anzeigen 1777455959028.png
Das erleichtert mir die Administration enorm ... da ich auch per WA Befehl von unterwegs einfache Problemlösungen durchführen kann ... start von Diensten etc
Ein weiterer Punkt den wir ab Donnerstag testen sind die Wahlen zur Miss TAF. Die Wahlen waren für einen Mod immer mindestens 3 Std Arbeit ... ich habe die ersten Testläufe jetzt fertig und die nächsten Wahlen lasse ich von dem Gemma LLM erstellen ... mal schauen wie das wird ....
Noch einmal abschliessend Zusammenfassend:
- eure Daten verlassen verlassen nicht das TAF bzw meinen MacMini
- wir erheben nicht mehr Daten als vorher. Wir beschränken uns auf die standardmäßigen Logs des Webservers.
- KI trifft keine Entscheidungen ( Selfi oder nicht etc ) sondern ist ausschliesslich zur Administrativen Unterstützung
- Firewallregeln und Blocks (Fail2Ban) passt die KI automatisch und selektiv an, falls entsprechende Bedrohungen erkannt werden.
-> Daten (Logs, nicht der Content den ihr erzeugt) werden aber durch die LLMs strukturiert und besser durchsuchbar
Meinungen und Gedanken willkommen ... ich weiss das es sicher kontrovers Besprochen wird ... aber ich denke es ist nur fair wenn ich das zur Diskussion stelle
Gruss
Yam
Zuletzt bearbeitet:
