Die Warnungen vor Sicherheitslücken bei der chinesischen KI DeepSeek werden immer lauter. So werden etwa Profile der Nutzer erstellt, und diese Daten werden in China gespeichert.

Behörden und Cybersicherheitsfachleute haben gravierende Sicherheitsbedenken gegen die chinesische KI DeepSeek. Dabei geht es gleich um mehrere Punkte: die offenkundig sehr weitreichende Speicherung von Nutzerdaten, die Manipulierbarkeit der Anwendung für kriminelle Zwecke und die Frage, inwieweit der chinesische Spionage- und Überwachungsapparat Zugriff auf Nutzerdaten hat.

Speicherung von Tastatureingaben

Ein wesentlicher Kritikpunkt ist die Speicherung der Tastatureingaben. DeepSeek informiert in seinen Datenschutzhinweisen darüber, dass “Tastatureingabemuster oder -rhythmen” (keystroke patterns or rhythms) erfasst werden - ein Verfahren, das zur Identifizierung von Nutzern eingesetzt werden kann.

“Auch Tastatureingaben innerhalb der App können womöglich mitgelesen werden, bevor sie abgeschickt werden”, sagt eine Sprecherin des Bundesamts für Sicherheit in der Informationstechnik (BSI) auf Anfrage der Nachrichtenagentur dpa: “Daneben wird die Art und Weise, wie Tastatureingaben vorgenommen werden, gespeichert.”

Mit solchen Mustern könnten mit Hilfe Künstlicher Intelligenz Nutzprofile erstellt und wiedererkannt werden. “Das BSI hält diese Möglichkeit mindestens für sicherheitskritische Bereiche für bedenklich”, betont die Sprecherin.

[…]

  • macniel@feddit.org
    21·
    5 months ago

    Ich glaub ja eher nicht das Deepseek das Problem ist, eher die GUI und die App. Denn das LLM kann man lokal laufen lassen und entsprechend enschließen.

    • Hotznplotzn@lemmy.sdf.orgOP
      21·
      5 months ago

      Abgesehen davon, dass die Masse der Leute wohl eher die App nutzen, ist das Problem viel umfassender. Die chinesische Zensur kann man auch bei lokaler Nuztung von Deepseek nicht umgehen. Das China Media Project hat sehr gute Berichte dazu verfasst, siehe etwas diese drei:

      A Proposal for AI-Powered Censorship (Januar 2025)

      Tracking Control: Sparking Compliant AI (Mai 2024)

      AI for All (Dezember 2024)

      Es ist ein bisschen viel, aber sehr lesenswert.

      • macniel@feddit.org
        2·
        5 months ago

        Oh okay. Da die Datenbank von Deepseek einfach Mal n Terrabyte groß ist konnte ich es noch nicht selbst testen.

        Aber danke für die Sourcen!

        • Hotznplotzn@lemmy.sdf.orgOP
          2·
          5 months ago

          Wired gibt einen Einblick, wie die chinesiche Zensur bei Deepseek in etwa funktioniert. Der Artikel beschreibt auch, wie man sie im Grunde umgehen kann. Allerdings ist das nicht einfach, weil Du eben nicht weisst, welche Trainingsdaten verwendet wurden und welche bewussten Verzerrungen ('biases") genau eingebaut wurden. Für Experten ist das m.E. schon nicht einfach, und für die Masse der Leute sowieso nicht.

          Edit: Hier ist der Wired-Artikel:

          Here’s How DeepSeek Censorship Actually Works—and How to Get Around It

          [Edit zur Tippfehlerkorrektur.]

  • fuzzy_feeling@programming.dev
    01·
    5 months ago

    welchen mehrwert hat man denn, wenn man die keystrokes einsammelt, anstatt nur mit dem regulären input zu arbeiten?

    ansonsten unterscheidet sich die datensammelei doch nicht wesentlich von den gängingen social media apps, oder?

    edit: auf der seite vom bsi ist darüber nichts zu finden, außer
    https://www.bsi.bund.de/DE/Service-Navi/Presse/Pressemitteilungen/Presse2025/250127_KI-im-Alltag.html

    scheint also ein artikel zu sein, der so an die dpa ging, weil fast alle (focus, tagesschau, t3n) den selben wortlaut haben.

    weiß nicht, ob ich die kommunikationstrategie vom bsi so gut finde.

    • SoaringDE@feddit.orgDeutsch
      1·
      5 months ago

      Jeder tippt etwas anders. Du kannst z.b. sehen ob mehrere Personen eingaben machen und die eingaben ihnen zuordnen. Z.b. jemand der mit 10 vs 2 fingern tippt.

      Keystrokes werden auch erfasst wenn du den Text wieder löschst. Also wird alles erfasst was jemals getippt wurde. Passwort aus versehen einfügen und direkt wieder löschen ohne je zu senden -> egal is trotzdem aufm Server

    • pathos@infosec.pubEnglish
      01·
      5 months ago

      Man muss ja nun auch mal relevant erscheinen, da bietet sich ein chinesisches LLM wirklich an xD

  • JASN_DE@lemmy.world
    01·
    5 months ago

    Aber OpenAI und der andere Rotz ist OK oder was? Haben die sich von der Union was vom Lack geklaut?

      • JASN_DE@lemmy.world
        1·
        5 months ago

        Mein Problem mit der Meldung ist, dass damit den Anschein erweckt wird, als ob die US-Angebote in Sachen Datenschutz besser wären.

    • trollercoaster@sh.itjust.worksDeutsch
      01·
      5 months ago

      Das ist halt Kwalitätsdschurnalismus vom allerfeinsten. Die Sorte, die man, ohne, dass es jemand merkt, einfach mit einem “KI”-Bullshitgenerator ersetzen könnte.