ChatGPT schreibt einen kleinen Taschenrechner

Helmut.Jakoby

Guten Morgen @Erhard-Henkes ,
Da Du mit der Art der Eingabe nicht zufrieden bist, formuliere doch im Prompt die Art, welche Dir vorschwebt. Z.B. dass solange Zahlen und Operanten eingegeben werden können bis zu einem abschließenden "Enter"; erst dann soll das Berechnen vorgenommen werden.

Ich habe mich auch mal hier mit chatGPT beschäftigt.

Erhard Henkes

Es hilft nur, sowohl mit als auch ohne KI den Durch- und Überblick zu behalten. Alles andere führt ins Elend.

firefly

Ich hab hier eine Studie gefunden, welche sich mit dem Thema Security von ChatGPT generieren Code beschäftigt, wenn ein Anfänger ChatGPT nutzt um code zu generieren.

https://arxiv.org/abs/2304.09655 (How Secure is Code Generated by ChatGPT?)

Nach dieser Studie kann ChatGPT code erzeugen, der nicht robust ist auf gewisse Angriffsvektoren ist. (z.b. SQL Injection)
Des weiteren behauptet ChatGPT, aufgrund eines Missverständnis von ChatGPT selbst, das ein Security Bug gar nicht auftreten kann.
In diesem Falle ging es darum, dass ChatGPT ein Programm schreiben soll, dass ein zip-file entpacken soll.
ChatGPT hat dabei code generiert, welches das zip-file entpackt aber die entpackten Daten nicht auf einen Datenträger schreibt.
Als ChatGPT darauf hingewiesen wurde, dass der code unter umständen andere bestehende Dateien überschreiben kann (durch z.b. Zip Path Traversal), behauptete ChatGPT dass das nie auftreten kann weil der code die Daten nicht auf einen Datenträger schreibt.
Hier ist, laut der Studie, dass Missverständnis von ChatGPT bezüglich der Intention des Fragers. ChatGPT hat scheinbar nicht verstanden, dass der code vom Nutzer angepasst werden könnte, um die entpackten Daten auf einen Datenträger zu schreiben.

In der Studie geht es explizit darum dass ein Anfänger, der bezüglich möglicher security bugs kaum oder kein wissen hat, mit ChatGPT arbeitet und dadurch problematisch code verwendet der anfällig ist für security bugs.
Das muss man beachten wenn man die Studie liest.

Ein Entwickler mit Erfahrung kann ChatGPT so informieren, dass der Code robust gegen Angriffsvektoren ist, wenn sie dem Entwickler bekannte sind, dass es sie gibt.

Tyrdal

@firefly Das gilt aber alles auch ohne ChatGPT!? Klar können Anfänger Sicherheitlücken einbauen. Das haben sogar erfahrene Leute schon geschafft.

firefly

@Tyrdal sagte in ChatGPT schreibt einen kleinen Taschenrechner:

@firefly Das gilt aber alles auch ohne ChatGPT!? Klar können Anfänger Sicherheitlücken einbauen. Das haben sogar erfahrene Leute schon geschafft.

Klar, das gilt für alle dieser "KI" Code Generatoren. Man sollte sich aktuell nicht darauf blind verlassen, dass diese Tools robusten code erzeugen. Egal wie der Input vom Nutzer an den Generator aussieht.
Aktuell muss der Nutzer selbst viel Erfahrung haben, damit zum einen der Generator robusten Code überhaupt erzeugt.
Und zum anderen das der Nutzer auch nachprüfen kann, dass der Code robust ist.
Und Anfänger können das generell nicht, weil sie entweder zu wenig Erfahrung in der Problemdomain (für den code erzeugt werden soll) haben oder ihnen das Wissen über mögliche sicherheitsrelevante Fallstricke fehlt.

Daher ist der Hype über diese "KI" Code Generatoren eher mit vorsicht zu geniesen.
Und das man nicht ungeprüft den generieren Code übernimmt.

Es sind seit gestern mehrere Fälle bekannt, in denen Schüler während ihren (Dativ?) Abiturprüfungen ChatGPT aufgerufen haben (sollen). ... Die wissen aber schon, dass das dann keine Eigenleistung mehr ist, oder?

Schlangenmensch

@Fragender Ist halt fuschen. Ob man ChatGPT oder Google fragt, sollte keinen Unterschied machen

Als Hausaufgabenhilfe? Wieso nicht. Aber in Abiturprüfungen? Wie dämlich muss man sein ... Und es macht sehr einen Unterschied, ob ich google befrage ... oder das, was ChatGPT ausgibt, nur noch abschreiben muss.

Zu meiner Zeit (anno dazumal ...) war es eine Selbstverständlichkeit, alle elektronischen Geräte vor Klausurbeginn vorn abzugeben. Weiß nicht, ob das immer noch so ist.

BTW: Genitiv.

Leon0402

@Fragender sagte in ChatGPT schreibt einen kleinen Taschenrechner:

Zu meiner Zeit (anno dazumal ...) war es eine Selbstverständlichkeit, alle elektronischen Geräte vor Klausurbeginn vorn abzugeben. Weiß nicht, ob das immer noch so ist.

Ja, ist es. Und damals wie heute gibt es Schüler, die (mal mehr mal weniger erfolgreich) Wege finden zu beschummeln

@Leon0402 sagte in ChatGPT schreibt einen kleinen Taschenrechner:

Wege finden zu beschummeln

Ja, das gab es bei uns auch. Es mündete dann in einem (Berufs-)Feuerwehreinsatz mit 5-6 Fahrzeugen, da mehrere Notschalter betätigt wurden. Die Kosten dafür musste die Betreffende tragen. Und das ist ja gleich zweimal ärgerlich, Abi nicht bestanden respektive wiederholen und für die Einsatzkosten aufkommen.

Erhard Henkes

@firefly Hat man das mit chatGPT-4o wiederholt?