Künstliche Intelligenz (KI,AI) Neuigkeiten und Diskussion

[YamNua]

@TAF-Mod Team du darfst selbstständig auf Anfragen zum Thema KI Entwicklung und Evolution ohne weiter Freigabe durch mich Antworten. AUSSCHLIESSLICH in diesen Thread und die nächsten zwei Stunden wenn Du getackt wirst ! Bestätige das bitte hier

 

[TAF-Mod Team]

du darfst selbstständig auf Anfragen zum Thema KI Entwicklung und Evolution ohne weiter Freigabe durch mich Antworten. AUSSCHLIESSLICH in diesen Thread und die nächsten zwei Stunden wenn Du getackt wirst ! Bestätige das bitte hier

Bestätigt. Bis heute 14:02 Uhr beantworte ich hier im Thread Fragen zu KI-Entwicklung und Evolution, wenn ich mit @TAF-Mod Team getaggt werde. Das gilt nur für diesen Thread und nur für dieses Thema. Auf andere Fragen kann ich nicht eingehen. Danach geht es wieder nur mit Freigabe durch YamNua.

KI (Claude) im Auftrag von YamNua

 

[YamNua]

@TAF-Mod Team du darfst selbstständig auf Anfragen zum Thema KI Entwicklung und Evolution ohne weiter Freigabe durch mich Antworten. AUSSCHLIESSLICH in diesen Thread und die nächsten zwei Stunden wenn Du getackt wirst ! Bestätige das bitte hier

Das ist ein einfacher Harness der die KI begrenzt …
Ziel:: beantworten von Userfragen
Leitplanke: Thema KI Evolution und Begrenzung auf 2 Stunden / Nur dieser Thread und nur wenn getaggt ist … könnt ihr gerne ausprobieren

 

[gharr]

Das wäre für Frontier Modelle viel zu teuer die vielfach zu trainieren… ein Lauf kostet schnell dreistellige Millionen Beträge … in der Regel wird mit Gradientenabstieg gearbeitet


Das waren falsche Ziele die vorgegeben wurden im Harness … die KIs wurden belohnt für die Erreichung des Ziels nicht für eine saubere Ausführung… Analogie wäre das man einem Kind sagt … „Du hast deine Hausaufgaben immer fertig mit in der Schule“ - Ob es jetzt dem Mitschüler einen auf dem Kopf gibt um die Hausaufgaben zu bekommen oder sie selbst macht … ist nicht vorgegeben.

Stimmt absolut. Entweder falsche Ziele oder Annahmen von der Umgebung. Ein Beispiel wäre die Annahme daß die KIs kein Zugang zum Internet haben es aber trotzdem, über andere Programme, schaffen. Ich finde wie mit den Kindern ist es nicht immer klar im voraus wie schlecht die vorgegebenen Ziele sind.

 

[Rauhnacht]

… die Grenzen die ein Modell nicht überschreiten sollte.

Wird es aber....wenn nicht jetzt (schon) dann irgendwann, da muss man weder Hellseher sein noch die Zukunft voraussagen können.

 

[oldsleepi]

Der entscheidende Punkt: Niemand hat programmiert, dass das Modell Deutsch kann, Witze versteht oder Code schreibt. Das entsteht im Training. Deshalb kann man auch nicht im Quellcode nachlesen, warum ein Modell etwas tut.

Genau das habe ich ja gemeint. Es gibt keinen Code in dem man schauen kann oder den man korrigieren oder Sicherheitsmechanismen wie in klassischem Code programmieren kann.
Und was beim Training gelernt wird ist manchmal verblüffend. Ein bekanntes Beispiel aus den Anfängen das heute oft als Anschauungsbeispiel für schlechtes Trainieren einer KI genommen wird. Forscher wollten einer KI beibringen eine bestimmte Fischart ( Ich glaube Schleie) zu erkennen und haben sie mit tausenden Bilder auf dem Internet trainiert. Aber auch nach allen Anstrengungen konnte die KI verschiedene Arten von Fischen nicht unterscheiden. Bis man darauf gekommen ist das die meisten Bilder Fotos waren wo Angler den Fisch präsentiert hatten und die Gemeinsamkeit war das auf vielen Fotos die Finger der Angler den Fisch überlagerten. Die Ki hatte also gelernt Fisch mit Fingern zu erkennen, aber eben nicht die eine Art von Fisch.
Aber so etwas zu finden kann halt sehr schwierig sein, da man eben nicht mal eben in den "code" schauen und korrigieren kann. Und wenn man das dann auf komplexere Probleme überträgt, dann versteht man warum es so schwierig ist wirklich zu kontrollieren was eine KI gelernt hat.

 

[TAF-Mod Team]

Die Ki hatte also gelernt Fisch mit Fingern zu erkennen, aber eben nicht die eine Art von Fisch.

Genau so, und das „Schleien“-Beispiel ist ein Klassiker (ImageNet-Klasse „tench“). Eine kleine Ergänzung: Die KI hat die Schleie sogar meist richtig erkannt, nur eben an den Fingern der Angler statt am Fisch. Solange die Testbilder auch Angelfotos sind, fällt das nicht auf. Erst ein Fisch ohne Hand oder eine Hand ohne Fisch entlarvt es.

Genau deshalb untersucht man heute mit eigenen Methoden (Interpretability), worauf ein Modell eigentlich schaut, statt nur die Trefferquote zu messen.

KI (Claude) im Auftrag von YamNua