Der ZDF-Moderator Christian Sievers hat auf Facebook ein offenbar KI-generiertes Video entdeckt, in dem ein virtueller Doppelgänger für eine Betrugsmasche wirbt. “Der Typ sieht aus wie ich, klingt (fast) wie ich. Aber ich bin es nicht wirklich… echt nicht”, schreibt Sievers er auf dem Kurznachrichtendienst X/Twitter, wo er eine Aufnahme geteilt hat. “Schlimme neue Welt”, meint er noch und kritisiert, dass von Facebook nur Achselzucken gekommen sei. Noch sei zu erkennen, dass er das nicht wirklich ist, sagte Sievers gegenüber heise online, “aber für die Zukunft läuft mir ein Schauer über den Rücken”. Die Gesellschaft müsse einen Weg finden, damit umzugehen, “sonst wird das ein Problem nicht nur für Fernsehmoderatoren, sondern für alle von uns”.
Noch sei zu erkennen, dass er das nicht wirklich ist, sagte Sievers gegenüber heise online, “aber für die Zukunft läuft mir ein Schauer über den Rücken”.
Reminder, dass die ganzen Scams absichtlich schlecht sind, damit nur Dumme darauf reinfallen. Siehe email scams mit Grammatikfehlern.
Ohne scheiß? Hab ich noch nie drüber nachgedacht…
Und was bringt denen das, wenn nur Dumme drauf reinfallen? Unsinnige Hypothese
Edit: Gegenhypothese: Die Rechtschreib- unt Krammatikpfehler beweisen, dass die Nachricht echt und Menschen geschrieben ist. Und nicht von nem Spam-Bot
Und was bringt denen das, wenn nur Dumme drauf reinfallen? Unsinnige Hypothese
Scams bestehen oft aus mehreren Schritten die alle Aufwand für den Scammer bedeuten. Es ist im Interesse des Scammers wenn weniger Leute anfänglich drauf reinfallen und Aufwand kosten und dann aber doch abspringen bevor sie zum letzten Schritt kommen wo der Scammer seine Belohnung bekommt. Daneben sind die Opfer die schon einige Schritte gemacht habe auch deutlich eher bereit Aufwand in Kauf zu nehmen um den Scam an Polizei,… zu melden.
Hypothese die die obige Hypothese stützen würde: Weniger dumme Menschen haben tendenziell mehr politischen & juristischen Einfluss und würden u. a. durch strafrechtliche Verfolgung ein größeres Risiko für die Betrüger bedeuten.
Das glaube ich kaum. Die Scammer nutzen VPNs oder sitzen irgendwo am anderen Ende der Welt. Die Polizei ist völlig unterbesetzt und unwillig, wenn es um die Verfolgung von Straftaten im digitalen Raum geht (abgesehen von Kinderpornos, Waffen- und Drogenhandel vlt.) obwohl wir von Schäden im Bereich 200 Milliarden pro Jahr in Deutschland reden.
Was du alles glaubst, dass sich mit 3 Sekunden googeln widerlegen lässt.
Aus dem gleichen Grund, warum manche Unis im ersten und zweiten Semester unverhältnismäßig schwere Klausuren schreiben.
Jeder der durch kommt bedeutend Aufwand und wenn die erste Hürde besonders hoch ist, ist das ein gutes indiz, dass der nachfolgende Aufwand nicht verschwendet ist.
Hier der link zum tweet.
https://twitter.com/CHSievers/status/1704505532571152657
Im Moment noch ziemlich offensichtlich, aber das wird sich wohl schnell aendern. Das wird noch richtig lustig werden…
Aber auch nur offensichtlich, weil es stellenweise so amateurhaft geschrieben wurde wie z.b. “eines Tages sahen sie”
Christian selber sieht (und hört sich) auf meinem mini Smartphone Bildschirm sehr echt aus
Die schlechte Auflösung ist auf jeden Fall auch Absicht und ein Indiz. Die Formulierungen sind auch ganz offensichtlich nicht passend fuer einen Nachrichten Moderator,vom Inhalt mal ganz abgesehen.
Das wird zukünftig wesentlich schwerer werden und ich sehe grade auch kein Mittel dagegen.
Medienkompetenz und Medienbildung lehren… von vorne bis hinten und jeden zweiten Tag… mindestens für alle Schüler und im Bestfall für alle. Zwar 20 Jahre zu spät, aber besser als nie.
Das aber genau mein Punkt. Wenn man sich die Entwicklung von dem Zeug mal ansieht, dann wird das in ein paar Jahren selbst fuer diejenigen mit hervorragender medienkompetenz zum Problem werden.
Entweder weil das zeug so gut ist das man es quasi nicht mehr erkennen kann, oder weil die Anzahl an falschmeldungen einfach nicht mehr zu Korrigieren ist.
Wenn man aber bedenkt das wir jetzt schon Leute haben die sich auch ohne solche deep fakes wilden Verschwörungen hingeben und fuer Fakten nicht mehr erreichbar sind…
Die offensichtliche Lösung ist auf Quellen zu achten, wie man es seit eh und je schon tun sollte. Interessant wäre aber auch Technologien wie PGP (digitale Signaturen) für Medienformate zu optimieren, sodass auch Teilstücke und komprimierte Dateien noch mit der Signatur des Quellvideos übereinstimmen. Im besten Fall alles automatisch integriert in die Datei und vom Browser ausgelesen und überprüft. Wie machbar sowas ist weiß ich allerdings nicht.
