News Datenleck: 100.000 kompromittierte ChatGPT-Konten im Darknet

[netzgestaltung]

Ich finds einfach schön, dass der alte Homer das noch ältere Troja in unseren digitalen Sprachgebrauch eingebracht hat.

 

[Weyoun]

Oo wtf ... wer das als Arbeitnehmer macht, gehört eigentlich von Arbeitgeber standrechtlich gekeult! Aber selbst wer selbstständig ist und das macht, der sollte nie wieder Umgang mit sensiblen Daten haben.

Warum tut man so was?

Oft ist es genau andersherum: Der Arbeitgeber schaltet einfach Funktionen frei, von denen der gemeine Arbeitnehmer gar nicht weiß, wie er sie deaktivieren kann.

Bestes Beispiel bei uns in der Firma: Nach jedem Teams-Meeting wird automatisch eine Zusammenfassung des Gesprochenen generiert (soweit ich weiß, wird dafür Chat GPT benutzt). Ich bin einer der wenigen, der die Einstellungen gefunden hat, wie man das in Teams abstellt.

Ebenso schlimm: In Outlook gibt es seit geraumer Zeit die Möglichkeit der "Auto-Antwort", bei der der Inhalt der (teilweise streng vertraulichen) Mail durch einen Microsoft-Algorithmus gejagt wird und am Ende Antwortmöglichkeiten vorgeschlagen werden. Hier habe ich bisher keine Deaktivierungsmöglichkeiten gefunden. Gemeldet habe ich beides seit Monaten an unsere Compliance-Verantwortlichen, aber getan hat sich nicht.

Von daher wäre ich vorsichtig, wer genau denn nun "gekeult" werden sollte.

 

[grincat64]

Ebenso schlimm: In Outlook gibt es seit geraumer Zeit die Möglichkeit der "Auto-Antwort", bei der der Inhalt der Mail durch einen Microsoft-Algorithmus gejagt wird und am Ende Antwortmöglichkeiten vorgeschlagen werden. Hier habe ich bisher keine Deaktivierungsmöglichkeiten gefunden. Gemeldet habe ich beides seit Monaten an unsere Compliance-Verantwortlichen, aber getan hat sich nicht.

Kann ich bestätigen - bei uns das Selbe.
Betrifft lt. Nachfrage bei MS nur die Abwesenheits-Ansage. Was natürlich nicht stimmt aber scheinbar haben sie an eine Deaktivierungsmöglichkeit garnicht gedacht bei der Implementierung.
Wird auf jeden Fall eine Compliance-Geschichte aber bis dieses Rad rollt ist das sehr fragwürdig und mit Vorsicht zu genießen, alleine schon aus DSGVO-Sicht könnte es da böse Bumerang geben.

 

[GeleeBlau]

Klingt aber auch wieder nach Userfehler. Wenn ich mit meinem Chatthema fertig bin, dann lösche ich den Chat.
Wer in seiner Liste hunderte alte Chats stehen hat ist dann selber Schuld.

 

[Palomino]

Warum tut man so was?

Weil selbst heute noch in vielen Bereichen ein kritisches Bewusstsein fehlt. Und neben den Leuten die über die potentiellen Gefahren berichtet haben gab es natürlich auch sofort Personen die festgestellt haben dass sich Arbeitsabläufe erheblich verbessern lassen und dann wurde Vernunft durch Dollar Zeichen ersetzt.

 

[Kuestennebel79]

Kann ich bestätigen - bei uns das Selbe.
Betrifft lt. Nachfrage bei MS nur die Abwesenheits-Ansage. Was natürlich nicht stimmt aber scheinbar haben sie an eine Deaktivierungsmöglichkeit garnicht gedacht bei der Implementierung.
Wird auf jeden Fall eine Compliance-Geschichte aber bis dieses Rad rollt ist das sehr fragwürdig und mit Vorsicht zu genießen, alleine schon aus DSGVO-Sicht könnte es da böse Bumerang geben.

Ich glaube es ist nur eine Frage der Zeit bis MS Teams zum absoluten Security Mega Gau führt. So viele Unternehmen gerade nach Corona nutzten das und niemand kümmert sich darum, ob und wie das abgesichert ist, wie lange die Daten erhalten bleiben, welche Inhalte dort geteilt werden, sensibel und privat.
Das DSVGO ist gut, aber wenn die Leute zu busy sind sich vorher Gedanken zu machen, dann nutzt das auch nicht.

 

[habla2k]

gehört eigentlich von Arbeitgeber standrechtlich gekeult!

Aber sonst gehts dir noch gut?

Ergänzung (22. Juni 2023)

In Outlook gibt es seit geraumer Zeit die Möglichkeit der "Auto-Antwort", bei der der Inhalt der (teilweise streng vertraulichen) Mail durch einen Microsoft-Algorithmus gejagt wird und am Ende Antwortmöglichkeiten vorgeschlagen werden.

Wir nutzen auch Outlook, aber so etwas wie ne Auto-Antwort habe ich noch nirgends gesehen, gilt das nur für bestimmte Versionen?

 

[F1.08]

Ich habe Chatgpt über den Googleaccount genutzt. War das jetzt nen Fehler?

Ja

Da hat wohl jemand OAuth nicht verstanden. Nein, das war kein Fehler. ChatGPT hat keinen Zugriff auf dein Google-Konto und hat auch nicht dein Passwort.

Ergänzung (22. Juni 2023)

Bei uns (Softwareentwicklung) sind auch KI-Erweiterungen für Visual Studio Code wie Tabnine untersagt. Die bauen nämlich ständig Verbindungen zu irgendwelchen Servern auf. Einige kann man zwar auch selbst hosten, machen wir aber nicht.

Würden wir niemals machen, schließlich sollen unsere Mitarbeiter möglichst effizient arbeiten.

ALLE neuen Arbeitnehmer die in den letzten Monaten kamen, auch Praktikaten und Studenten, haben mich gefragt ob es OK ist solche Dinge wie ChatGPT oder KI-Erweiterungen zu nutzen. Da fragt man sich echt ob die noch ordentlich lernen, habe nicht das Gefühl.

Selbst wenn man alles selbst amchen kann, gibt es sehr viele Stellen, an denen man mit KI viel langweilige Tipparbeit ersetzen kann (gerade UI-Code und ähnlicher Mist).

 

[Weyoun]

Wir nutzen auch Outlook, aber so etwas wie ne Auto-Antwort habe ich noch nirgends gesehen, gilt das nur für bestimmte Versionen?

Wenn ich meine Mails im Posteingang anschaue, gibt es immer häufiger drei mögliche Antwortmöglichkeiten (wenn man draufklickt, wird eine Art "Mini-Mail" als Antwort verschickt), deren Antworten vom Text abhängig ist. Im Screenshot mal ein einfaches Beispiel.

Ergänzung (22. Juni 2023)

Klingt aber auch wieder nach Userfehler. Wenn ich mit meinem Chatthema fertig bin, dann lösche ich den Chat.
Wer in seiner Liste hunderte alte Chats stehen hat ist dann selber Schuld.

Es geht nicht um die schriftlichen Chats, sondern um Teams-Besprechungen (teilweise 2 Stunden lang), wo das Gesprochene eines jeden Teilnehmers in jeder Sprache am Ende der Besprechung zu einem "Meeting-Protokoll" an den Besprechungsleiter geschickt wird.

 

[habla2k]

@Weyoun
Kenne ich tatsächlich nicht, wir nutzen Office 365, vielleicht ein Feature global nicht installiert? Ich achte mal drauf.

 

[Weyoun]

Wir haben auch Office 365 (Enterprise).

 

[Intruder]

Hat aber nahezu niemand. Und wenn man auf die Fehler hingewiesen wird (siehe oben), wird es bewusst ignoriert.

bzw. man bekommt einen neuen Aluhut geschenkt 😏
schlußendlich muss jeder für sich selber verantworten was der anstellt. Mehr als auf Gefahren und Probleme hinweisen kann man nicht machen und wenn man nicht hören will, tja dann muss man halt fühlen und es auf die weniger schöne Art begreifen



oder auch nicht...
denn viele sind nicht nur extremst beratungsresistent sondern auch noch lernunfähig 😂

Ergänzung (22. Juni 2023)

Damit ist das weit sicherer als ein eigener Account, wo User und PW bei denen am Server sind.

und ist Google safe vor Datenlecks?
Wie gesagt - die Frage ist nicht ob man sicher ist sondern eher wann man erwischt wird und dran ist. Heute ist alles nur noch eine Frage der Zeit und mit ob das dann weitaus sicherer ist, sich über Google mit einem Token bei anderen Websites anzumelden oder ob man für jede Webseite eigene Zugangsdaten hat...

bin ich ehrlich gesagt noch unschlüssig. Denn wenn ich DEIN Google Account habe, du es nicht mitbekommst, wo kann ich mich damit überall anmelden gehen?

Aber der User hofft und glaubt, wie so schön in der Kirche, das alles gut gehen wird und man selber nie betroffen ist.

 

[GeleeBlau]

@Weyoun
achso. Ne ich meinte die Chats bei ChatGPT, bei denen offensichtlich manche Leute ganze Code-Dateien inklusive doxygen Kommentare über Autor und Co reinladen. Und dann diese Chats Monate lang in der History-Leiste links drin stehen lassen

 

[Intruder]

wo das Gesprochene eines jeden Teilnehmers in jeder Sprache am Ende der Besprechung zu einem "Meeting-Protokoll" an den Besprechungsleiter geschickt wird.

auch in Klingonisch?

Sorry für die doofe Frage 😂 aber der Sicherheitsoffizier auf der Enterprise muss ja auch wissen wie es weiter geht...

 

[duckyisshiny]

@duckyisshiny
@Scardust
@Nuklon

Die Website besitzt nichts als ein Token, mit dem sie Ihre Identität bei Google bestätigen kann. Und falls sie gehackt wird, dann gibt es gar kein echtes Konto, dessen Daten entwendet werden könnten.

Deswegen verstehe ich nicht inwiefern es ein Problem ist, wenn man sein google Konto nutzt

 

[Weyoun]

auch in Klingonisch?

Sorry für die doofe Frage 😂 aber der Sicherheitsoffizier auf der Enterprise muss ja auch wissen wie es weiter geht...

Worf spricht die Standardsprache der Föderation (welche ist das eigentlich?).
Ich spreche die Standardsprache der Gründer (Dominionanisch).

Ergänzung (22. Juni 2023)

@Weyoun
achso. Ne ich meinte die Chats bei ChatGPT, bei denen offensichtlich manche Leute ganze Code-Dateien inklusive doxygen Kommentare über Autor und Co reinladen. Und dann diese Chats Monate lang in der History-Leiste links drin stehen lassen

Dort habe ich gar keinen Account. Leider nutzt aber Microsoft die Chat GPT-Algorithmen auch für Teams, wenn man dies nicht aktiv in den Einstellungen deaktiviert (was dann nur bis zum nächsten Office-Update erhalten bleibt). Noch größere Angst habe ich, dass Microsoft irgendwann mittels Teams sein Chat GPT trainiert.

 

[Intruder]

Worf spricht die Standardsprache der Föderation (welche ist das eigentlich?).

das ist eine gute Frage.... einigen wir uns einfach auf englisch 😂

Ich spreche die Standardsprache der Gründer (Dominionanisch).

Binär müsste man sprechen können. Nur das ist alles zu lang

 

[gustlegga]

So haben damals sicherlich auch Leute auf sie Dampfmaschine reagiert. Was mit denen passiert ist, sollte klar sein

Nicht alles was hinkt ist auch ein Vergleich.
Es geht nicht um generelle KI Ablehnung, sondern um kritisches Hinterfragen von möglichen Risiken.
Das du dies hier im Forum laufend als "Rückständig" abzuqualifizieren versuchts ist ungefähr gleich dämlich wie deine scheinbare bedingungslose Technikgläubigkeit wenns um das Thema ChatGPT & Co geht.
Aber früher oder später wirst auch du das verstehen wenn du mal etwas älter bist.

 

[pitu]

Es muss mehr reguliert werden und ich bin nicht der einzige der so denkt!

YouTube

An dieser Stelle steht ein externer Inhalt von YouTube, der den Forumbeitrag ergänzt. Er kann mit einem Klick geladen und auch wieder ausgeblendet werden.

YouTube-Embeds laden

Ich bin damit einverstanden, dass YouTube-Embeds geladen werden. Dabei können personen­bezogene Daten an YouTube übermittelt werden. Mehr dazu in der Datenschutzerklärung.

YouTube-Embeds laden

Datenschutzerklärung

 

[XY-Diddi]

Klingt aber auch wieder nach Userfehler. Wenn ich mit meinem Chatthema fertig bin, dann lösche ich den Chat.
Wer in seiner Liste hunderte alte Chats stehen hat ist dann selber Schuld.

Aber sonst gehts dir noch gut?

Ergänzung (22. Juni 2023)

Wir nutzen auch Outlook, aber so etwas wie ne Auto-Antwort habe ich noch nirgends gesehen, gilt das nur für bestimmte Versionen?

Zum "Aber sonst gehts dir noch gut?" meine Erfahrungen:
In einem Unternehmen, welches Kameras herstellt und weltweit vertreibt, gab es ein Softwareproblem.
Ich stand dabei, als der CEO die Mitarbeiterin fragte, wie sie sich einloggen würde. Sie hob die Tastatur, holte einen kleinen Zettel hervor und gab das darauf stehende Passwort in die Konsole ein ...
In einem MB-Unternehmen verließ ein Mitarbeiter für einen Moment seinen Service-Annahmeplatz. In dieser Zeit ging ein anderer Mitarbeiter an ihn und "arbeitete" dort kurzzeitig weiter. Hätte ich das nicht gesehen, hätte der Mitarbeiter, der seine Arbeitsplatz für einen Moment verlassen hatte und das Unternehmen mehr als ein Problem gehabt.
Es gibt Admins, die wären besser keine ...
Eine große Unsitte ist es auch, den Webbrowser über "X" zu beenden, anstatt sich vom Programm abzumelden.
Um mich an die eigene Nase zu packen: Auch ich habe schon aus versehen Daten geändert von denen ich zuvor sicher war, dass es die richtigen wären. Für das vorhandene Backup bin ich heute noch mehr als Dankbar!