Künstliche Intelligenz (KI,AI) Neuigkeiten und Diskussion

[KingPing]

Alle LLM haben ihre Ungenauigkeiten/Halluzinationen. Eine Antwort geben zu müssen, ist Ihnen antrainiert.

Ich habe da mit Gemini ganz miese Erfahrungen gemacht. Da gibt es nicht nur Sycophancy und Confirmation Bias im Extremen, sondern auch systemische Fehler. Da wird zwar auf Hinweis der Fehler bestätigt, sich entschuldigt und dann wird trotz Info, den Fehler zu beheben, der gleiche Fehler wieder gemacht.

p.s.: Ich nutze ausschließlich die freien Modelle, also kein Abo.

 

[YamNua]

Wurde schon drauf hingewiesen… kannst du mit den richtigen Prompts ganz gut einschränken… auch kleinere lokale LLMs neigen gerne dazu … deshalb nutze ich dann Frontier Modelle um die Plausibilität zuerst zu überprüfen… sonst muss das LLM noch mal dran und die Arbeit wiederholen ( läuft aber alles automatisch auf Agenten Ebene )

 

[oldsleepi]

Genause sehe ich LLM-Anwendungen, die völlig problemlos deterministrisch, also mit Regeln/Code gelöst werden können. Braucht dann praktische keine Rechenleistung und vermeidet auch jedes Datenschutz/Sicherheitsthema.

Das stimmt zu 100%, sehe ich bei meiner Arbeit ständig. Anstatt kurz nach zu denken, einfach alles die KI erledigen lassen. Was wohl auch daran liegt das viele die sich heute "Programmierer" nennen nicht in der Lage sind ein Business Requirement zu abstrahieren und in Code um zu setzen. Am Ende kommen hunderte Zeilen Code aus der Ki, für etwas das man mit weniger als hundert hätte lösen können.
Das führt meiner Meinung nach nach und nach zur Verblödung der ITler, besonders der Programmierer.

 

[YamNua]

. Am Ende kommen hunderte Zeilen Code aus der Ki, für etwas das man mit weniger als hundert hätte lösen können.
Das führt meiner Meinung nach nach und nach zur Verblödung der ITler, besonders der Programmierer.

Widerspricht allerdings dem was wir bei Artcraft sehen ... also schnelle, schlanke Clone in Rust dieser Monster Adobe Software ... da ist es nach meinem Verständnis ehr umgekehrt.

 

[Doc2026]

Widerspricht allerdings dem was wir bei Artcraft sehen ... also schnelle, schlanke Clone in Rust dieser Monster Adobe Software ... da ist es nach meinem Verständnis ehr umgekehrt.

Auch hier ist sicherlich entscheidend, wer die KI zum Coden verwendet und wie. Wenn man die Architektur vermasselt und die KI einfach nur draufloscoden läßt, wird das natürlich nix.

 

[YamNua]

Wenn man die Architektur vermasselt und die KI einfach nur draufloscoden läßt, wird das natürlich nix.

Richtig ... das war mein Punkt ... wenn ich auf ein eh schon "menschlich" vermurkstes Projekt die KI "loslasse" wäre es zumeist besser von Null anzufangen

 

[oldsleepi]

Das meine Ich ja. Wer genug davon versteht wird einen prompt schreiben der, der Ki genau sagt was sie tun soll. Wer keine Ahnung hat wird eben einfach alles in die KI "kippen" und hoffen das etwas dabei raus kommt.
Mit einem Harnes wie ECC kann man auch mit KI durch die einzelnen Phasen bei SW, wie Planung, Design, Implementierung, Test gehen. Daher finde ich das ganz nützlich, sonst ist meine Erfahrung eher die das eine KI einfach drauf los Code erstellt wenn man im Prompt nur das Problem schildert was man Lösen will.

 

[YamNua]

Daher finde ich das ganz nützlich, sonst ist meine Erfahrung eher die das eine KI einfach drauf los Code erstellt wenn man im Prompt nur das Problem schildert was man Lösen will.

Hast du schon mal mit mehreren Agenten gearbeitet bei solchen Prozessen? Ist eigentlich sehr effektiv wenn man „Kontroll Agenten“ einsetzt die die “Coder” kontrollieren

 

[oldsleepi]

Hast du schon mal mit mehreren Agenten gearbeitet bei solchen Prozessen? Ist eigentlich sehr effektiv wenn man „Kontroll Agenten“ einsetzt die die “Coder” kontrollieren

Ja, ich habe schon mal Claude benutzt um dann Agenten mit Codex zu steuern. Also die Planung macht Claude, die Implemetierung der kleineren Anfagen dann Codex. Ich habe auch schon mal versucht lokale Modelle zu steuern, aber da gab es immer irgendwelche Probleme.