Eigene, kompilierte DLL debuggen?

happystudent

Hallo,

Danke schonmal für die Antworten. Also die Module werden soweit ich das sehe richtige geladen. Also im Module Fenster steht dass sowohl die dll die sich nicht debuggen lässt als auch die exe welche zu debug-Testzwecken verwendet wird "an der Standard-Ladeaddresse geladen" wurden.

Mir ist allerdings beim rumprobieren noch etwas aufgefallen: Ich kann die besagte dll schon debuggen, allerdings nur ihren Einstiegspunkt (DllMain). Wenn ich dort einen breakpoint setze stoppt der Debugger auch.

In den weiteren Funktionen der dll geht das aber nicht mehr, in keiner davon. Ich habe folgende Funktionen in der dll:

Zwei mit extern "C" __declspec(dllexport) deklarierte Funktionen
Eine LRESULT CALLBACK WndProc welche zum Subclassen einer externen Anwendung verwendet wird
Eine normale Funktion, die aber von einer der oberen Funktionen aufgerufen wird

Kann es vielleicht irgendwie damit zusammenhängen dass es nicht funktioniert? Also dass die Funktionen extern sind oder zum Subclassen verwendet werden?

JulianH

Könntest ja mal einen Int 3 Breakpoint setzen, wenn das Programm dann nicht abbricht liegt es daran, dass dieser Punkt niemals erreicht wird:

__asm
	{
		Int 3;
	}

So bald der Prozessor den Opcode 0xCC (Int 3) erreicht, schmeißt der Prozessor eine Exception.

In Visual Studio kannst du sogar

__debugbreak();

schreiben.

happystudent

Du meinst der Punkt wo ich meinen Breakpoint setze? Also der wird schon erreicht, das hab ich sichergestellt (MessageBox, cout, etc.). Daran kanns nicht liegen, sonst würde mein Programm auch gar nicht funktionieren weil das die betroffenen Funktionen dringend braucht...

Martin Richter

Dann wird dieser Code auch nicht ausgeführt.
Geh mal bis zu der Stelle im Debugger in der die EXE den DLL Code ausführt. Dann schalte auf Assembler um und mach einen Step-Into.
In welchem Modul landest Du?

happystudent

Martin Richter schrieb:

Dann wird dieser Code auch nicht ausgeführt.

Äh doch, also wie gesagt ausgeführt wird der Code definitiv. Wenn ich die dll mittels AllocConsole ein eigenes Konsolenfenster öffnen lasse kann ich von der Funktion aus mittles cout text ausgeben. Oder einfach mittels MessageBox.

Martin Richter schrieb:

Geh mal bis zu der Stelle im Debugger in der die EXE den DLL Code ausführt. Dann schalte auf Assembler um und mach einen Step-Into.
In welchem Modul landest Du?

Also das geht nicht so einfach. Ich hab eine Debug-Exe, welche zu debugging Zwecken meine erste dll lädt (welche sich auch problemlos debuggen lässt). Diese dll lädt dann wiederum eine zweite dll und platziert in der externen Anwendung mittels SetWindowHookEx eine Hook.

Also unmittelbar von meinem Code selbst aufgerufen wird keine Funktion der zweiten dll, es wird lediglich eine

extern "C" __declspec(dllexport) LRESULT CALLBACK hook_proc(int msg, WPARAM wP, LPARAM lP)

Geladen und in der externen Anwendung mittles SetWindowHookEx eingesetzt. An den eigentlichen Aufruf komm ich also gar nicht ran, da der ja in der externen Anwendung liegt...

Durch diese hook_proc (und von ihr aufgerufene Unterfunktionen) will ich aber debuggen können.

Martin Richter

Dann stimmt dennoch 100% etwas nicht mit dem Modul...
Dieses Modul ist NICHT geladen!
Schreib einen INT3 in Deinen Code und lass ihn in den Debugger rauschen.

happystudent

Ok, hab ich gemacht (sowohl __debugbreak als auch Int3). Resultat war dass die externe Anwendung abstürzt mit der Windows-Fehlermeldung "Die Anwendung funktioniert nicht mehr".

Breakpoints werden trotzdem nicht erreicht

Martin Richter

Debuggger natürlich attachen. Oder hinterher mit JustInTime attachen. Wieso stürzt das überhaupt ab. Normalerweise bekommet die Frage ob man debuggen möchte...

happystudent

Hm, also wie genau soll ich das jetzt machen?

Wenn ich in meinem Projekt auf "Debuggen->An den Prozess anhängen..." gehe und dort den Zielprozess der externen Anwendung auswähle dann läuft der Debugger ja schon, ich kann dann eigentlich nur auf "Stop" drücken.

Ich kann zwar im Projektmappen-Explorer Rechtsklick auf mein Projekt und dann "Debuggen->Neue Instanz starten", aber gestoppt wird der Code trotzdem nicht an dem Breakpoint... Auch das Programm crasht weiterhin einfach.

Habe auch sichergestellt dass unter "Optionen->Debugging>Just-In-Time" alle Codetypen aktiviert sind. Trotzdem geht es immer noch nicht

Hi,

ich hab ein clr-Projekt übernommen, bei dem ich in den dlls zwischen nur verwaltet und automatisch bzw. gemischt umschalten muss, damit ich dort debuggen kann.

MfG