spieleprogrammierer.de - Forum und Wiki zur Spieleprogrammierung und Spieleentwicklung

Zitat von »RmbRT«

Wie genau kann ich die Differenz des Outputs mit dem Perfekten Ergebnis vergleichen (Back propagation), wenn ich doch gar nicht weis, was das Perfekte ergebnis ist (oder doch )?

Entweder du weißt es. Siehe: http://de.wikipedia.org/wiki/%C3%9Cberwachtes_Lernen, der Artikel ist wie wikipedia schon selbst gemerkt hat nicht so dolle aber als Stichwortgeber sollte es reichen.
Oder du weißt es zumindest für bestimmte Inputs: Siehe: http://en.wikipedia.org/wiki/Temporal_difference_learning

Zitat

Wie wende ich ein Netzwerk auf eine Situation an?

Kommt auf die Situation drauf an.

Zitat

Wie weis ich, wie viele hidden Layers ich benötige, und wie viele Neuronen in diese jeweils reingehören (also genausoviele wie in der Input-Schicht, oder (nInput+nOutput)/2 (mittelwert) )?

Jahrelange Erfahrung. Nein ernsthaft, für die meisten ML-Verfahren ist ziemlich gut untersucht wie man den Input am besten kodiert und was du als Output haben willst ist meist auch klar. Soweit ich mich erinnere braucht man immer nur ein hidden layer (mehrere sind nicht mächtiger). Wieviele Neurone das braucht kann man entweder semantisch motivieren, oder eben per Erfahrung abschätzen. Eine Regel dazu ist mir nicht bekannt. Mittelwert ist jedenfalls quatsch.

Zitat

Was mache ich mit dem Output / wofür ist er da?

Kommt auf die Anwendung drauf an. Wenn du nicht weißt was du mit dem KNN vorhast wofür willst du es dann überhaupt benutzen. KNNs können (z.B.) als Klassifikator oder als Funktionsapproximator verwendet werden. Für Klassifikation verwenden die coolen Kinder aber lieber die Support Vector Machine (SVM).

Zitat

Meine Jetzige vorstellung ist:

Im Prinzip ist das gar nicht mal so verkehrt.

Zitat

Aber ich denke, das stelle ich mir noch viel zu leicht vor, allein schon, da ich nichts von den Formeln verstehe, die in den Tutorials stehen (mit dem "Summen-E" (heist doch so, oder?) etc.).

Der Buchstabe den du vermutlich meinst heißt Sigma und wird als Summenzeichen verwendet. Und ohne die Formeln zu verstehen wirst du nicht weit kommen.

Zitat

Kann mir jemand vielleicht einen Link zu einem idiotensicher erklärten Tutorial schicken

Ne, für Idioten ist das Thema prinzipiell unzugänglich. Bishop hat einen sensationell guten Ruf, ich konnte das Buch bislang leider nicht selbst lesen:
http://www.amazon.co.uk/Pattern-Recognit…/dp/0387310738/

Zitat

oder vielleicht sogar schritt für schritt erklären (also, wo nicht ein Mathematisches Vorwissen auf Abi-Niveau angenommen wird - komme erst in die 10.! )?

Soweit ich mich erinnere brauchts gar nicht soo viel Vorwissen. Also ich bitte dich, ein Summenzeichen...

Zitat

Wäre super nett!

Geht aber eben nicht.

Zitat

P.S.: Ich weiß, dass ich eigentlich die finger davon lassen sollte, weil es zu komplex ist, aber es lässt mich nicht mehr los!
Hoffe, ich habe mich ausreichend präzise formuliert
MfG, RmbRT

Ja wenn du das schon weißt. Hoffe ich konnte trotzdem etwas helfen.

Zitat von »LetsGo«

Also jetzt ohne mich selbst mit neuronalen Netzen auszukennen(hab gerade mal reingeschaut):

Ja, das merkt man

Naja es ist eine Blackbox mit input und output, was dazwischen stattfindet ist natürlich schon ein System (wobei ich jetzt wieder nicht genug über diesen Systembegriff weiß). Wenn du dir Backpropagation mal anschaust, stellst du aber fest dass man dafür eigentlich nur ableiten können muss:

http://de.wikipedia.org/wiki/Backpropagation

Mein Wissen ist ehrlich gesagt auch relativ lückenhaft (bin wie gesagt eher Fan der SVM) aber es würde mich sehr wundern, wenn man zur Implementierung und Betrieb eines KNN außer Differentialrechnung irgendwas von den von dir genannten brauchen würde. Für Herleitung bzw. Korrektheitsbeweis eventuell noch Laplace Lagrange (so macht man es zumindest bei der SVM, man optimiert die duale Form).

EDIT: Ich hab mich von deinem Laplace jetzt ganz irritieren lassen und meinte lagrange.

Zitat von »LetsGo«

OK, dann korrigiere ich mich dahin gehend, wenn man es wirklich verstehen will kommt man um Systemtheorie nicht rum (und diese erfordert sehr viel Mathematische Kenntnisse).

Allerdings hab ich das auch so vom TE verstanden, dass er sich ausgibig damit Beschäftigen will. Und wenn man das Summenzeichen nicht kennt , halte ich das für unrealisitsch.

Jetzt beweg ich mich auf dünnes Eis, aber könnte es sein dass du da einen glänzenden neuen Hammer hast? Systemtheorie hilft AFAIK Systeme zu verstehen, deren Innenleben nicht bekannt ist. Beim KNN kennst du das innenleben und den Zusammenhang zwischen Input und Output sehr gut. Das mit der BlackBox war aus sicht des Anwenders gesprochen. Das Prinzip KNN würde ich dann als "verstanden" bezeichnen, wenn die Motivation/Herleitung verstanden wurde. Und dafür braucht es nicht sooo viel.

Zitat von »LetsGo«

Glänzender neuer Hammer? Was meinst du damit?

Genau das:

Zitat

Systemtheorie ist universell auf anwendbar und beschreibt ein Systemverhalten mathematisch. Dafür muss das Innenleben insofern bekannt sein, dass man eine Übertragungsfunktion hat. Der Vorteil der Systemtheorie ist einfach, dass man jegliche Systeme mathematisch beschreiben kann und auch aneinander hängen kann. (Blackbox)

Man kann sogut wie alles damit beschreiben. Das wird sowohl in der E-Technik als auch in der Ökonomie, Finanzmathematik und eben auch bei neurralen Netzen gemacht.

Edit: Vielleicht weniger kurz angebunden beschrieben: Das verhalten eines KNN wird mathematisch bereits durch das Neuronenmodell selbst hinreichend beschrieben. Eine zusätzliche Theorie ist zur Beschreibung strenggenommen nicht notwendig.

Zitat von »dot«

Also ich hab im Rahmen meines Studiums sowohl einen schönen Batzen Systemtheorie als auch Neuronale Netze abbekommen und auch wenn ein NN sicherlich systemtheoretisch erfassbar ist, erschließt sich mir nicht ganz, was der Zweck einer solchen systemtheoretischen Herangehensweise in Zusammenhang mit NN sein sollte!?

Das freut mich doch wenn jemand der wirklich Ahnung hat mir beim dilletieren zustimmt