Künstliche Intelligenz (KI,AI) Neuigkeiten und Diskussion

Alle LLM haben ihre Ungenauigkeiten/Halluzinationen. Eine Antwort geben zu müssen, ist Ihnen antrainiert.

Ich habe da mit Gemini ganz miese Erfahrungen gemacht. Da gibt es nicht nur Sycophancy und Confirmation Bias im Extremen, sondern auch systemische Fehler. Da wird zwar auf Hinweis der Fehler bestätigt, sich entschuldigt und dann wird trotz Info, den Fehler zu beheben, der gleiche Fehler wieder gemacht.

p.s.: Ich nutze ausschließlich die freien Modelle, also kein Abo.
 
Wurde schon drauf hingewiesen… kannst du mit den richtigen Prompts ganz gut einschränken… auch kleinere lokale LLMs neigen gerne dazu … deshalb nutze ich dann Frontier Modelle um die Plausibilität zuerst zu überprüfen… sonst muss das LLM noch mal dran und die Arbeit wiederholen ( läuft aber alles automatisch auf Agenten Ebene )
 
Genause sehe ich LLM-Anwendungen, die völlig problemlos deterministrisch, also mit Regeln/Code gelöst werden können. Braucht dann praktische keine Rechenleistung und vermeidet auch jedes Datenschutz/Sicherheitsthema.
Das stimmt zu 100%, sehe ich bei meiner Arbeit ständig. Anstatt kurz nach zu denken, einfach alles die KI erledigen lassen. Was wohl auch daran liegt das viele die sich heute "Programmierer" nennen nicht in der Lage sind ein Business Requirement zu abstrahieren und in Code um zu setzen. Am Ende kommen hunderte Zeilen Code aus der Ki, für etwas das man mit weniger als hundert hätte lösen können.
Das führt meiner Meinung nach nach und nach zur Verblödung der ITler, besonders der Programmierer.
 
  • Zum Heulen
  • Like
Reactions: 1 users
. Am Ende kommen hunderte Zeilen Code aus der Ki, für etwas das man mit weniger als hundert hätte lösen können.
Das führt meiner Meinung nach nach und nach zur Verblödung der ITler, besonders der Programmierer.
Widerspricht allerdings dem was wir bei Artcraft sehen ... also schnelle, schlanke Clone in Rust dieser Monster Adobe Software ... da ist es nach meinem Verständnis ehr umgekehrt.
 
Widerspricht allerdings dem was wir bei Artcraft sehen ... also schnelle, schlanke Clone in Rust dieser Monster Adobe Software ... da ist es nach meinem Verständnis ehr umgekehrt.
Auch hier ist sicherlich entscheidend, wer die KI zum Coden verwendet und wie. Wenn man die Architektur vermasselt und die KI einfach nur draufloscoden läßt, wird das natürlich nix.
 
  • Like
Reactions: 1 user
Wenn man die Architektur vermasselt und die KI einfach nur draufloscoden läßt, wird das natürlich nix.
Richtig ... das war mein Punkt ... wenn ich auf ein eh schon "menschlich" vermurkstes Projekt die KI "loslasse" wäre es zumeist besser von Null anzufangen
 
Das meine Ich ja. Wer genug davon versteht wird einen prompt schreiben der, der Ki genau sagt was sie tun soll. Wer keine Ahnung hat wird eben einfach alles in die KI "kippen" und hoffen das etwas dabei raus kommt.
Mit einem Harnes wie ECC kann man auch mit KI durch die einzelnen Phasen bei SW, wie Planung, Design, Implementierung, Test gehen. Daher finde ich das ganz nützlich, sonst ist meine Erfahrung eher die das eine KI einfach drauf los Code erstellt wenn man im Prompt nur das Problem schildert was man Lösen will.
 
  • Like
Reactions: 1 user
Daher finde ich das ganz nützlich, sonst ist meine Erfahrung eher die das eine KI einfach drauf los Code erstellt wenn man im Prompt nur das Problem schildert was man Lösen will.
Hast du schon mal mit mehreren Agenten gearbeitet bei solchen Prozessen? Ist eigentlich sehr effektiv wenn man „Kontroll Agenten“ einsetzt die die “Coder” kontrollieren
 
Hast du schon mal mit mehreren Agenten gearbeitet bei solchen Prozessen? Ist eigentlich sehr effektiv wenn man „Kontroll Agenten“ einsetzt die die “Coder” kontrollieren
Ja, ich habe schon mal Claude benutzt um dann Agenten mit Codex zu steuern. Also die Planung macht Claude, die Implemetierung der kleineren Anfagen dann Codex. Ich habe auch schon mal versucht lokale Modelle zu steuern, aber da gab es immer irgendwelche Probleme.
 
  • Like
Reactions: 1 users
Genau so etwas wird in der Softwarebranche unumgänglich werden. Man wird für die Basics kein Geld mehr verlangen können.


Die Entwickler der Zukunft werden sich mit dem Kunden zusammensetzen und dessen Bedürfnisse in Prompts für eine KI umsetzen. Aus den Entwicklern werden Berater und Manager werden (müssen). Bei Programmänderungen wird nicht mehr der Sourcecode geändert, es wird einfach das ganze Programm mit einem geänderten Prompt neu generiert.

Was natürlich dem künftigen IT-Mitarbeiter als Aufgabe bleiben wird, das sind entsprechende Tests der Software vor dem Einsatz ins Produktivsystem. Bei der Definition von Aufgaben werden natürlich so wie heute Fehlern passieren, falsche, missverständliche, unvollständige oder nicht eindeutige Angaben werden auch in Zukunft vorkommen.

Interessant ist für mich die Frage, wie gut das generierte Coding einer KI ist. Bisher war es normal, dass dem Entwickler beim Umsetzen der Anforderung in den Quellcode der eine oder andere Fehler passiert. Macht eine KI vergleichbare Programmierfehler? Da fehlt mir die Erfahrung.

Generell stellt sich für mich die Frage, wie in Zukunft Fehler gesucht werden. Stundenlange Debugging-Sessions, wie ich sie zu meiner Zeit noch machten musste, werden in einem generierten Coding nicht mehr möglich sein. Aber ich bin mir sicher, auch dafür wird es Lösungen geben 😂
Tja, wenn man wirklich ein guter Entwickler mit viel Erfahrung ist und das auch leidenschaftlich macht, weiß wie man sowas angeht, behaupte ich mal :ang: (ich weiß, das stinkt jetzt :-))

Ne ich habe tatsächlich zumindest in meinem Bereich PHP/Symfony & Legacy festgestellt, dass durch Claude doch ziemlich cooler Code rauskommt und sogar ziemlich clean und vor allem umfangreich getestet. Einzigst die Negativ-Tests (vor allem Security) wurden aber sträflich vernachlässigt (mMn), was gerade bei Unittests natürlich absolut nicht (von mir) gewollt ist. Ich habe mir dafür tatsächlich eigene Skills definiert und jetzt funktioniert das nahezu perfekt. Solchen Code würde ich selbst nicht mal mit viel Zeit hinbekommen.

Ich glaube entscheidend sind hier Erfahrungen in dem Bereich. Ich halte mich nicht gerade für einen sonderlich guten Experten in PHP, sicherlich nicht schlecht, sonst hätte ich wohl auch nicht >28 Jahre darin überstanden, aber eben auch kein Gott darin. Was ich aber jetzt in einer Woche mit meinem Team herunterkloppe, hab ich zuvor allein nur max. in 5-6 Monaten hinbekommen und dann sicherlich nicht mit solch einer sauberen Code-Quality und Abtestung (Coverage meist >97%). Die Erfahrung spielt meiner Meinung nach hier die entscheidene Rolle.

Klar, das kostet auch schon etwas... meine KI Kosten belaufen sich derzeit bei ca. <300,- €/Monat, wobei hier lediglich meine eigenen Projekte und lediglich ein paar wenige kleine Aufträge darüber nur laufen. Je mehr Aufträge, desto mehr wird das dann auch. Mein Glück war eben auch genug Zeit mich damit zu beschäftigen und neben dem Lernen auch das passende Setup aufzubauen

Das stimmt zu 100%, sehe ich bei meiner Arbeit ständig. Anstatt kurz nach zu denken, einfach alles die KI erledigen lassen. Was wohl auch daran liegt das viele die sich heute "Programmierer" nennen nicht in der Lage sind ein Business Requirement zu abstrahieren und in Code um zu setzen. Am Ende kommen hunderte Zeilen Code aus der Ki, für etwas das man mit weniger als hundert hätte lösen können.
Das führt meiner Meinung nach nach und nach zur Verblödung der ITler, besonders der Programmierer.
Ha! 100% Zustimmung! Ich habe bereits schon solchen Code gesehen und sowas hätte ich niemals Online gestellt. Das dem nichts passiert ist, ist echt reines Glück. Allerdings hat er selbst das sich von dem Google Ding (irgendwas mit A) coden lassen und selbst so gut wie keine Ahnung mehr, was da raus kommt. War nur so'ne Idee, mal drüber gucken zu lassen.

Wie ich oben schon geschrieben habe, ich bin mir ziemlich sicher, dass bereits in sehr kurzer Zeit vor allem Horden von Indern, Pakistani's etc. gar nicht mehr in dem Bereich zu finden sind (z.b. bei Upwork, Freelance, etc.). Gerade auf dem globalen Markt siehst Du immer mehr hochpreisige Amis, Europäer und sogar Asiaten, die offen zugeben das mit KI umzusetzen und die Projekte kosten eben genau deshalb keine 5stellige Summen mehr sondern lediglich oft nur ein paar hundert. In den deutschen Communities ist da überhaupt noch keine Rede von, ganz im Gegenteil... sie motzen über die (armen) Recruiter wie die einen "nur bescheissen" wollen, weil die Stundenlöhne so dermaßen einbrechen, vergessen aber dabei, dass die genauso angeschissen sind, weil die kaum noch Projekte bekommen (im Gegensatz bis zu letztem Jahr).

YamYua hat es schon ganz richtig hier benannt: Man hat nur noch Chancen auf dem Markt wenn man sich mit KI + Beratung & Einrichtung auseinandersetzt. Die Nachfrage wird hier noch regelrecht explodieren, wenn nicht die da in Berlin....
 
  • Like
Reactions: 1 users
Menü
Zurück
Oben Unten