Numerik von Minimierungsproblem - wann funktionieren SQP-Verfahren gar nicht?
-
Bloops schrieb:
In so einem Fall ist es für gewöhnlich sinnvoll, sowohl u_i als auch x_i als Optimierungsvariablen aufzufassen, und
bildet dann zusammen mit den Variablenbeschränkungen von x und u die Nebenbedingungen. Stichwort in diesem Kontext: direct multiple shootng.
Vielen Dank für das Stichwort, das sieht interessant aus, ich werd da auf jeden Fall nachrecherchieren. So werde ich es wohl mal versuchen.
Was ich aktuell noch nicht ganz verstanden habe: mein Problem, das ich oben hingeschrieben hab, ist ja einfach ein Optimalsteuerungsproblem -- und zwar problematischerweise eins, das an manchen Stellen singulär wird (weil sowohl meine Systemdynamik als auch meine Kosten linear von meinen Eingangswerten u abhängen). Darum versagen dann an diesen singulären Stellen alle meine indirekten Verfahren. Aber ich verstehe noch nicht ganz, wie sich dieses Problem in den direkten Verfahren äußert -- ich gucke mir ja so Dinge wie die Hamiltonfunktion o.ä. nie an. Aber ich fände es auf der anderen Seite auch verwunderlich, wenn so das Problem auf einmal komplett verschwinden würde. Hat dazu jemand ne Idee?
Dass SQP nur bei einer konvexen Zielfunktion ein globales Minimum finden kann, ist klar. Also sind gute Startwerte nicht blöd
Normalerweise habe ich die, das sollte also nicht das ganz große Problem sein (ich habe es mit einem prädiktiven Regler zu tun, dh. ich hab quasi das fast gleiche Problem ein paar Seunden vorher schon mal gelöst ...). Aber irgendwas passt immer noch nicht so ganz in meinem Code.
Aber nochmal vielen Dank euch.
-
Daniel E. schrieb:
Hat dazu jemand ne Idee?
Joh ...
"Heisen-Bug! - To measure the Bug changes the Bug itself." (Markus Völter)
Als Naturwissenschaftler muss ich klarstellen: Mit singulär meinst Du
http://de.wikipedia.org/wiki/Reguläre_Matrix => singuläre Matrix ?Wir lösen das über Entropie! Kräfte und Flüsse!
Wir weisen allen direkten Verfahren nach Laufzeitbetrachtung & Komplexitätsgrad Entropiewerte zu. Je höher die Ordnung (kleine Laufzeit & Komplexität) desto kleiner der Wert. Obwohl Du dann bestimmte singuläre Punkte hast, bist Du dann von unterschiedlichen Entropiegradienten umgeben (Kraft). Mit jeden direkten Verfahren hast Du beim Direct Multiple Shooting eine Kostenerhöhung/-reduktion für die Intervalle, die Du als Ressource betrachtest, um die Systemdyamik entweder anzuheißen oder abzukühlen. Das Threading der direkten Verfahren wird gewichtet nach dem Entropiegradienten und dem Ressourcegewinn-/Verlust der Intervalle beim DMS (Fluss). Was dann wieder zur Folge hat das der Entropiegradient abnimmt (ebenso Kraft und Fluss). So baust Du für die indirekten Verfahren (z.B. zufallgesteuert) einen Kernel aus den direkten Verfahren auf, den Du auch in singulären Punkten nutzen kannst. Nach der Abkühlung des Systems (Gradient < Schwellwert) dann einfach ein Simulated Annealing.
So habe ich bis heute fasst jedes harte Optimierungsproblem erschlagen, also so dass ich zumindestens ein Ergebnis rausbekam das annehmbar war. Ob es das Optimum war steht auf einen anderen Blatt ...
-
Prof84 schrieb:
Daniel E. schrieb:
Hat dazu jemand ne Idee?
Joh ...
"Heisen-Bug! - To measure the Bug changes the Bug itself." (Markus Völter)
Als Naturwissenschaftler muss ich klarstellen: Mit singulär meinst Du
http://de.wikipedia.org/wiki/Reguläre_Matrix => singuläre Matrix ?Nein, ich meine, daß die Hamilton-FunKtion unabhängig von den Systemeingängen wird und damit das Maximumsprinzip nicht mehr anwendbar ist.
-
Prof84 schrieb:
Bloops schrieb:
//edit:
Auch interessant sind natürlich allgemein Interior-Point-Verfahren (z. B. https://projects.coin-or.org/Ipopt )
Im nicht-liniaren Bereich?!
Never!
http://de.wikipedia.org/wiki/Innere-Punkte-Verfahrenhttp://www.informatik.oelinger.de/data/datafiles_datafile_1045559964.pdf => S.44 Tabelle 2
Die Aussage ist einfach falsch.
Vor allem in den letzten 10-20 Jahren hat sich auf dem Gebiet der nichtlinearen Interior-Point-Methoden eine Menge getan. So gehören heute einige der effizientesten QP-Solver den IP-Methoden an und auch für allgemein nichtlineare Probleme sind IP-Methoden von sehr großem Interesse.Guckst du einfach mal hier: Google: nonlinear interior point
Zum Beispiel ist gleich der erste Link sehr interessant: http://www.math.kth.se/~andersf/doc/sirev41494.pdf
Ob nun SQP, IP oder ein anderes Verfahren besser geeignet ist, hängt halt vom konkreten Problem ab.
PS: Randbemerkung @Prof84: So sehr ich dein umfangreiches Wissen auch bewundere, gibt es Personen, welche durch die Art ihrer Erklärungen allen anderen zeigen müssen, dass sie über ebendieses (zu) verfügen (glauben), oder aber es gibt Personen, die versuchen, durch ihre Erklärungen möglichst hilfreich zu sein, indem sie sich auf das Nötige beschränken und eine gute Verständlichkeit in den Mittelpunkt stellen. (Das musste einfach mal gesagt sein :p )
-
Bloops schrieb:
PS: Randbemerkung @Prof84: So sehr ich dein umfangreiches Wissen auch bewundere...
Mal eine halbe Stunde durch Wikipedia zu surfen und daraufhin eine eigene Interpretation des Gelesenen wiederzugeben, bekommst Du sicher auch hin.
-
Daniel E. schrieb:
Nein, ich meine, daß die Hamilton-FunKtion unabhängig von den Systemeingängen wird und damit das Maximumsprinzip nicht mehr anwendbar ist.
Ja, so falsch war mein Einwurf nicht:
Guckste Du hier:
http://en.wikipedia.org/wiki/Hamiltonian_mechanics
http://de.wikipedia.org/wiki/Hamiltonoperator
und dann kuckst Du da:
http://en.wikipedia.org/wiki/Hamiltonian_(control_theory)
http://en.wikipedia.org/wiki/Pontryagin's_maximum_principleaka Physicist vs Computer Scientist.
Bloops schrieb:
Deine Aussage ist einfach falsch.
Vor allem in den letzten 10-20 Jahren hat sich auf dem Gebiet der nichtlinearen Interior-Point-Methoden eine Menge getan.Möglich, möglich ...
Die genaue Antwort muss ich Dir eine Zeit schuldig bleiben, bis ich Zeit finde mir die Sachen anzuschauen. Mein Verstand sagt mir, der Begriff non-liniar muss erweitert werden, damit die Sache funktionieren könnte. Stand by ...Bloops schrieb:
PS: Randbemerkung @Prof84: So sehr ich dein umfangreiches Wissen auch bewundere, gibt es Personen, welche durch die Art ihrer Erklärungen allen anderen zeigen müssen, dass sie über ebendieses (zu) verfügen (glauben), oder aber es gibt Personen, die versuchen, durch ihre Erklärungen möglichst hilfreich zu sein, indem sie sich auf das Nötige beschränken und eine gute Verständlichkeit in den Mittelpunkt stellen. (Das musste einfach mal gesagt sein :p )
Hmmm ...Registrierungsdatum 2003?! Dann hast Du ja nur etwa 100 Post von mir verpasst, die darlegen, dass ich weder zur Einen noch zur anderen Gruppe gehöre.
Wieso ist der Informationsgehalt in diesen Post plötzlich für MICH gestiegen? ...
http://de.wikipedia.org/wiki/Informationsgehalt
http://de.wikipedia.org/wiki/TransinformationParadoxerweise steht dies auch noch im direkten Zusammenhang zu Daniel E.s Problem.
-
Hängt der Begriff "non-liniar" eigentlich mit dem ähnlich klingenden "non-linear" zusammen? Bin nur neugierig, vielleicht kannst du mir das als Leadership Position Owner bei termini technici erklären.
-
scrub schrieb:
Hängt der Begriff "non-liniar" eigentlich mit dem ähnlich klingenden "non-linear" zusammen? Bin nur neugierig, vielleicht kannst du mir das als Leadership Position Owner bei termini technici erklären.
"That's your 35th attempt to stimulate an emotional response!"
(Student Spock to his class mates in "Star Trek" [ähmm oder war es "Star Wars"? Bei diesen Teil bin ich nicht so sicher ...]
)NERD := Non Emotional Reacting Dude
... oder wie die gefrusteten ERDs hier immer sagen: "Was ein arroganter A.!"
und morgen ist es wieder so weit - *bufftata* *bufftata*
-
scrub schrieb:
Hängt der Begriff "non-liniar" eigentlich mit dem ähnlich klingenden "non-linear" zusammen? Bin nur neugierig, vielleicht kannst du mir das als Leadership Position Owner bei termini technici erklären.
Den Begriff "non-linear" kann man nur schwer erweitern, er umfaßt schon alles außer dem Linearen. Mehr als alles wird er nicht definieren wollen. (Wollen schon, aber nicht können, und ich freu mich schon auf ein furchbar pseudowissenschaftliches Posting.) Also wäre die logische Antwort, daß "non-liniar" bestimmt was anderes ist. Mal hoffen, daß er uns morgen erleuchtet. Vielleicht wird "non-linear" in der anderen Richtung erweitert, quasi-linear, semi-linear, linear?
-
Die Frage ist doch eher: konvex oder nicht konvex?