Sockets und das HTTP-Protokoll

Hallo Leute,

ich habe mir das fertige Programm runtergeladen und das funktioniert auch wunderbar.

Allerdings habe ich ein Problem wenn ich die Seite anstatt in einer Datei zu speichern in einem std::string speichern möchte um dann damit weiter zu arbeiten.

Wenn ich überall da wo in die Datei geschrieben wird die Variable "buf" einem String zuweise bekomme ich einen zerstückelten Inhalt.

Also da wiederholt sich der Inhalt manchmal und es ist nicht alles an der Position wo es sein sollte.

Kann mir vielleicht jemand einen Tipp geben wie ich am besten das Programm abändern kann damit der Inhalt nicht in eine Datei sondern in einem string gespeichert wird der dann am Schluß den kompletten Inhalt der Webseite hat.

Ich wäre für jeden Tipp sehr dankbar.

Aber sonst ist es ein perfektes Tutorial. Vielen Dank.

nixchecker

Du solltest einen StringBuffer benutzen und ganz am Ende erst einen String draus machen. Ich glaube, dass ich das so gamacht habe (Sourcen sind tief in einer VM vergraben).

Ok das heißt also das ich an den stellen wo mit fout.write(...) in die Datei geschrieben wird stattdessen in einem StringBuffer schreiben und dann am schluß aus dem StringBuffer einen String daraus machen?

nixchecker

Ja, das meinte ich, aber.....

nee, das nehme ich mal zurück.
Habe Codeschnipsel gefunden. Ich mache das so:

std::string meinString = "";
meinString append(buf, bytesRecv);

Genaugenommen arbeite ich auf der Referenz eines übergebenen Strings.

Damit sollte das klappen.

Ansonsten sollte Dir klar sein, dass ein cout in der Console unter Umständen für einige Zeichen Schotter ausgibt, da bin ich auch mal drauf reingefallen....

Hi,

ja ist mir bekannt mit dem cout.

Aber so scheint es zu funktionieren. An "append" hab ich gar nicht gedacht.

Vielen Dank für die Hilfe.

nixchecker

nixchecker schrieb:

Vielen Dank für die Hilfe.

Schön, dass auch ich mal helfen konnte

Danke fürs Tutorial. Ich hab mir den Code runtergeladen mit der gekapselten recv Funktion. Damit hab ich mir einen kleinen Webseitendownloader geschrieben.

Diese Funktion hier hat mich eine Weile beschäftigt:

//Chunk complete
for(int i = 0; i < 2; ++i)
{
 char temp;
 Recv(Socket, &temp, 1, 0);
}

Die soll doch dafür sorgen daß die letzten zwei Bytes ignoriert werden, nur warum landen die im GlobalBuffer? Diese letzten zwei Bytes sollte man vielleicht noch ordnungsgemäß entsorgen.

Das Problem war, daß nach dem laden des letzten Chunks der Website die Schleife ja mit der If Bedingung chunkSize <= 0 mit einem Break abgebrochen wird. Dann stand aber nochwas in dem GlobalBuffer - den man ja nicht nachmachen soll. Nämlich ein Zeilenumbruch - die nicht entsorgten zwei Bytes. Als folge davon konnte der Header der folgenden URL nicht mehr ausgewertet werden und der Download lief eine gewisse Zeit Amok.

cout << "Downloading... (Chunked)" << endl;
while(true)
   {
    stringstream sstream;
    GetLine(Socket, sstream);
    int chunkSize = -1;

    // Größe des nächsten Parts einlesen
    sstream >> hex >> chunkSize; 

    if(chunkSize <= 0)
      {
       break;
      }

Das hat mich eine ganze Weile beschäftigt.

joomoo

TheRave schrieb:

Danke fürs Tutorial. Ich hab mir den Code runtergeladen mit der gekapselten recv Funktion. Damit hab ich mir einen kleinen Webseitendownloader geschrieben.

Diese Funktion hier hat mich eine Weile beschäftigt:
//Chunk complete
for(int i = 0; i < 2; ++i)
{
 char temp;
 Recv(Socket, &temp, 1, 0);
}
Die soll doch dafür sorgen daß die letzten zwei Bytes ignoriert werden, nur warum landen die im GlobalBuffer? Diese letzten zwei Bytes sollte man vielleicht noch ordnungsgemäß entsorgen.

Das Problem war, daß nach dem laden des letzten Chunks der Website die Schleife ja mit der If Bedingung chunkSize <= 0 mit einem Break abgebrochen wird. Dann stand aber nochwas in dem GlobalBuffer - den man ja nicht nachmachen soll. Nämlich ein Zeilenumbruch - die nicht entsorgten zwei Bytes. Als folge davon konnte der Header der folgenden URL nicht mehr ausgewertet werden und der Download lief eine gewisse Zeit Amok.
cout << "Downloading... (Chunked)" << endl;
while(true)
   {
    stringstream sstream;
    GetLine(Socket, sstream);
    int chunkSize = -1;
                    
    // Größe des nächsten Parts einlesen
    sstream >> hex >> chunkSize; 
                    
    if(chunkSize <= 0)
      {
       break;
      }
Das hat mich eine ganze Weile beschäftigt.

Tatsächlich. Das tut mir leid, vielen Dank dass du mir das sagst. Ich hatte einfach FInd & Replace gemacht um alle recv Funktion zu ersetzen.

Werde das gleich mal korrigieren und hochladen.

Ist ja kein Problem. Der Fall tritt ja auch nur ein, wenn man mehrere URLs hintereinander lädt.

FeGm

Wie schafft man es, das ganze so um zu schreiben, das man damit mehrer Seiten hintereinadner herutnerladen kann?

Ich habs schon mehrfach probiert, zB. das ganze in eine Funktion ausgelagert und diese mehrfach aufgerufen oder Schleifen an verschiedene Stelle gesetzt, doch leider kahm bei jeder 2. Verbindung der folgende Fehler:
http://img212.imageshack.us/img212/3702/errorerfolgreichsm9.jpg

Ich hab den Quellcode hier nicht gepostet, da der Fehler bei vielen Verschieden versuchen kahm und ich dachte ich hab vlt. nur irgendwas dummes übersehen...

Das simpelste war das komplette (Bis auf eingabe der URL) in eine Funktion zu packen und diese zweimal aufzurufen.

Jemand eine Idee was ich falsch mache?

//edit: Windows Vista, Code::Blocks und MinGW

ReduX

Hi,
Ich habe noch ne kleine Frage zu den HTTP Sachen.
Wie kann ich nen request hinschicken mit nem username und nem passwort?
Also z.B. solche urls http://username:passwort@domain.com ?
Hoffe das die Frage nochnicht gestellt wurde (habe nicht alle Seiten durchgeblättert).

Schönes Wochenende!
MFG ReduX

schau mal hier: http://html-world.de/program/http_6.php#authorization

Tim schrieb:

Das eingescannte Bild ist einfach nur cool

Was für ein eingescanntes Bild?

Mr. N

Was für ein eingescanntes schrieb:

Tim schrieb:

Das eingescannte Bild ist einfach nur cool

Was für ein eingescanntes Bild?

Das, das ersetzt wurde.

monoid

Hallo miteinander,

ich hab mich jetzt in dieses Tutorial reingearbeitet. Leider liefert mein IIS folgenden Response zurück:

HTTP/1.1 100 Continue

Server: Microsoft-IIS/5.1

Date: Wed, 26 Mar 2008 17:29:40 GMT

HTTP/1.1 200 OK

Server: Microsoft-IIS/5.1

Date: Wed, 26 Mar 2008 17:29:40 GMT

Connection: close

X-Powered-By: ServletExec/5.0p06, Servlet/2.4, JSP/2.0

Content-Type: text/html; charset=UTF-8

Cache-Control: no-cache

Set-Cookie: JSESSIONID=2ZeunHRcvNeHrcmBfYa9cw1yilk; path=/arsys

Aufgrund dessen läuft die GetLine Funktion in eine Endlosschleife -> Absturz. Probiere jetzt schon seit Tagen herum. Ich versuche dieses Tutorial auf alle Webserver (Apache,Tomcat,IIS) zum laufen zu bekommen.

Danke für eure Hilfe!

joomoo

Hallo

monoid schrieb:

Hallo miteinander,

ich hab mich jetzt in dieses Tutorial reingearbeitet. Leider liefert mein IIS folgenden Response zurück:
HTTP/1.1 100 Continue

Server: Microsoft-IIS/5.1

Date: Wed, 26 Mar 2008 17:29:40 GMT

HTTP/1.1 200 OK

Server: Microsoft-IIS/5.1

Date: Wed, 26 Mar 2008 17:29:40 GMT

Connection: close

X-Powered-By: ServletExec/5.0p06, Servlet/2.4, JSP/2.0

Content-Type: text/html; charset=UTF-8

Cache-Control: no-cache

Set-Cookie: JSESSIONID=2ZeunHRcvNeHrcmBfYa9cw1yilk; path=/arsys
Aufgrund dessen läuft die GetLine Funktion in eine Endlosschleife -> Absturz.

Aufgrund von was?
Könntest du mir die URL (d)eines IIS-Servers geben, dann kann ich das selber ausprobieren.

So! Hallo mal wieder!

Nach Monaten Abwesenheit bin ich auch mal wieder da und natürlich brauche ich mal wieder Eure Hilfe.

Wie im Thread schon mal erwähnt, habe ich einen Teil dieses Samples erfolgreich in meinem Programm verbaut, das schöne ist halt, dass das alles ohne weitere Libs, .NET oder sonst was läuft.
Jetzt habe ich einen Umbau vor und müßte dazu einen Post-Request erzeugen. Da ich hier nur Get-Beispiele finde und aus der W3-Protokoll-Doku nicht gänzlich schlau werde, frage ich hier mal nach.
Vielleicht hat ja jmd. die notwendigen zusätzlichen Zeilen, die Grundform sollte ja die selbe sein.

THX!

http://jmarshall.com/easy/http/

SammyRukka schrieb:

...und aus der W3-Protokoll-Doku nicht gänzlich schlau werde,...

...und Du meinst, mit dem Link wird's besser... :p hast Du ein Vertrauen!

Aber OK, ich werd's mal durchforsten und hoffen, dass ich daraus sinnvollen Code gießen kann. thx so far

SammyRukka schrieb:

...und Du meinst, mit dem Link wird's besser... :p hast Du ein Vertrauen!

die seite gibts schon ziemlich lange. ich hab' damals 'nen kleinen webserver gecodet und hatte 0 ahnung von http. ich hab' fast alles, was man dafür wissen muss von dieser seite.
btw, hier ist ein einfaches beispiel u.a. mit POST request: http://dev.makingthings.com/browser/firmware/trunk/controller/makingthings/webclient.c