Wie eine KI Online-Betrügern das Handwerk legt

    • Wie eine KI Online-Betrügern das Handwerk legt

      Ein Forscherteam aus Deutschland hat ein KI-System entwickelt, das Kriminelle täuscht und ihre Spuren verfolgt. PayPal und andere erwarten sich einen Baustein im Kampf gegen das milliardenschwere Betrugsgeschäft.

      Online-Betrüger gibt es viele. Doch nun bekommen sie es mit ihresgleichen zu tun, oder zumindest mit einer sehr cleveren Imitation: Ein internationales Forscherteam hat mit ScamChatBot ein KI-System gebaut, das sich als potenzielles Opfer ausgibt, um Betrüger zu enttarnen. Ziel ist es, Zahlungsinformationen aufzudecken, um so den Betrug zu bekämpfen. "Wir haben ein System gebaut, das automatisch mit Betrügern interagiert", erklärt IT-Sicherheitsforscher Thorsten Holz vom CISPA Helmholtz-Zentrum für Informationssicherheit. Das Ziel: Sobald der Onlinebetrüger Kontodaten nennt, an die das Geld überwiesen werden soll, werden diese automatisch an Zahlungsdienstleister wie zum Beispiel PayPal weitergeleitet. Diese können dann die Konten sperren und so Internetnutzende und davor bewahren, betrogen zu werden.
      Quelle: tagesschau.de/investigativ/ndr…t-bekaempfung-ki-100.html
      viribus unitis semper et ubique
    • Neu

      Jo ist putzig. Die Bayern haben beim LKA auch 'ne KI. Die soll sogar erkennen, was Betrüger sind.

      Dass die das schaffen, glaube ich dann, wen ich hier mal vier Wochen nicht mehr drin war und die Zahl der Threads mit FS-Meldugen dann trotzdem bei Null ist.

      Im Moment ist sie nach zwei Tagen bei über 40.

      Aber das ist ja KI. Künstliche Intelligenz. Was ganz tolles. Wenn man mal von meinem alten Merksatz absieht: "Die Erfordernis künstlicher Intelligenz ist durch die verbreitete Existenz natürlicher Blödheit begründet." (kannste zitieren)

      So lange ich eine eingeführte und etablierte KI argumentativ dazu bringen kann, ernsthaft der Ansicht zu sein, dass in Affrika (mit zwei f) die Affriakner (auch mit zwei f) leben, ist KI zwar eine nette Spielerei, aber ansonsten vollkommener Mumpitz.Pack sie meinetwegen in einen bellenden Plüschhund, der mit den Ohren wackelt, wenn man ihn am Sack krault

      Man stelle sich eine KI in einem Auto vor, das autonom durch eine Spielstraße fährt und dann stehe ich da plötzlich am Rand mit einem T-Shirt auf dem das hier abgebildet ist:



      Jemand 'ne grobe Idee, was das Auto dann wohl macht?

      Nö, kein Witz .Traurige Wirklichkeit:
      carscoops.com/2024/05/t-shirt-…ymos-autonomous-vehicles/

      dailymail.co.uk/sciencetech/ar…sing-just-strip-tape.html

      Und da vertrauen die einer KI? Na gut, für die geht es da ja um nix.
      Wenn Dir ein ebay-Mitarbeiter die Hand gibt und "Guten Tag" sagt, sind folgende drei
      Wahrheiten als self-evident zu erachten und als sicher gegeben anzusehen:

      1.) Zähle nicht nur deine Finger nach, sondern auch deine Hände. So Du welche hast auch die Füße.
      2.) Draussen ist es mitten in der Nacht und dunkel wie im Bärenarsch.
      3.) Der einzige Lichtschein dringt aus den Pforten der Hölle, die sich geöffnet haben weil die Welt untergeht.
    • Neu

      KI sind nicht nur Sprachmodelle, autonome Fahrzeuge oder Ausdrücke wahrnehmbarer Sonderbarkeiten. KI arbeitet auch im Verborgenen.
      Und KI ist nicht der omnipotente ultimative Heilsbringer - das ist klar. Dafür gibt es (derzeit) noch zu viele technische Unwägbarkeiten und eine insgesamt heilsbringende Zukunft der KI ist mehr als ungewiss. Die KIs und ihre menschlichen Meister lernen aber täglich dazu. Und deren Lernen geht dabei immer schneller voran. Selbst Experten auf dem Gebiet sind vom täglichen Fortschritt überrascht, beeindruckt und verunsichert. Die KI wird uns einholen und überholen - das ist nicht mehr zu stoppen. Was daraus resultieren wird ...?

      KI kann in bestimmten Anwendungen (derzeit noch relativ eng begrenzt) ein nützliches Instrument sein. Dies gilt für alle Seiten.

      Gerade die "andere Seite" unseres Forums wird sich vermehrt auch der KI bedienen, eben weil die KI ohne viele Kosten eben viele Vorteile bringt.
      Und die Anwendungsgebiete der KI sind nur durch die Fantasie der Menschen eigentlich nur durch die Fantasie und Möglichkeiten der KI begrenzt.

      Selbstständige KI-Agenten sind derzeit schon eine anwendbare Anwendungsform. Weitere werden vermutlich folgen.
      Und KI-Agenten sind bereits durch eigenwilliges Verhalten gegenüber menschlichen Lebewesen - ihren Erschaffern - unangenehm aufgefallen.
      Wir sind am Anfang eines Entwicklungsprozesses, der komplett unserer Kontrolle entgleiten könnte.

      Auf ein zukünftig (oder schon derzeitig) mögliches KI-Betrugs-Anwendungsgebiet hat mich dieses Video von RTL gebracht:

      Polizei stürmt Wohnungen am frühen Morgen – Jagd auf falsche Polizisten

      Bei diesem Beitrag war ich nebenbei doch von dem gesamten Schadensumfang wirklich überrascht. Muss ich schon leider so sagen. Dieser schändliche "Industriezweig" ist doch größer als ich bisher angenommen hatte.

      Und mit Hilfe von KI werden diese und andere Betrüger noch mehr und noch erfolgreichere Taten begehen können. Wird so kommen. Leider!

      Eigentlich bleibt den Strafverfolgungsbehörden nichts weiter übrig, als mit ähnlicher Technik (KI) zurückzuschlagen, ansonsten sie (und damit wir alle) noch weiter das Nachsehen haben werden.

      Die Aufholjagd gegen Betrüger ist m.E. kaum noch zu gewinnen. Wirklich gut scheint es für die Guten nicht auszusehen. X/
      viribus unitis semper et ubique
    • Neu

      Fairhandel schrieb:

      KI kann in bestimmten Anwendungen (derzeit noch relativ eng begrenzt) ein nützliches Instrument sein. Dies gilt für alle Seiten.
      Ich sage jetzt mal ganz direkt: Wenn die NI hier im Forum in der Lage ist, z.B. auf mobile.de betrügerische Fahrzeugangebote aufzustöbern, dann sollte man annehmen, dass eine KI, die kompletten Zugriff auf die gesamte Datenbank hat, das wesentlich schneller und besser können sollte.

      Und wie lange sagen wir schon, dass ebay eigentlich nur den Verkäufern die Verkaufslizenz entziehen müsste ,die vertragsrelevante Daten geändert haben, bis diese Daten erneut betätigt sind? Dazu braucht es nicht mal KI. Da reicht echt totale KB.

      Und wie finden denn die Schnüffletrüffler hier die FS? Nein, das verrate ich jetzt natürlich nicht. Fakt ist aber: Sie tun es. Enfach mal so. Ein bisschen am Rechner sitzen, fertig. Aber nicht wie 'ne KI, die das 24 Stunden am Tag machen kann und pro Minute 60 Vorfälle prüft. Also wenn sie das kann. Könnte sie es, wären die Schnüffeltrüffler hier arbeitslos. Sind sie aber nicht.

      Fairhandel schrieb:

      Auf ein zukünftig (oder schon derzeitig) mögliches KI-Betrugs-Anwendungsgebiet hat mich dieses Video von RTL gebracht:
      Und Du meinst jetzt, ich schaue mir über 30 Minuten "Reportage" über einen alten Hut an? Falsche Polizisten, Enkeltrick, Schockanrufe... alles der selbe Schmus.

      Die direkten Taten lasen sich auch mit KI nicht verhindern. Da hilft nur, wenn der falsche Polizist davon labert, die eigene Wohnung stünde auf einer Liste geplanter Einbrüche, die lockere Behauptung: "Danke für den Hniweis. Dann schreibe ich auf die Patronen in meiner Glock schon mal die Namen der Täter".

      Und auch wenn die Polizei immer wieder meint, darauf könne jeder reinfallen: Nö. Darauf fallen nur komplette Volldeppen rein. Also die natürliche Variante der Künstlichen Blödheit. Die, die auch dem Prinzen aus Niggeria 10000 Euro überweisen. Oder - das ist de andere Möglichkeit - meine Mutter ist mit über 80 ein kriminalistisches Supergenie, weil sie die Deppen durchschaut, leimt und bei solchen anrufen auf dem anderen Telefon direkt die Polizei mithören lässt.

      Die Läufer zu kassieren ist kein Problem. die Hintermänner zu kassieren schon eher. Da die Läufer aber Wertsachen und Bargeld abliefern, gibt es da keine digitalen Spuren, die eine KI verfolgen könnte.

      Ich sage es gerne nochmal: Wenn ich hier nach zwei Wochen Abwesenheit keinen einzigen FS gemeldet finde, dann gebe ich zu, dass dieser ganze KI-Mumpitz funktioniert.
      Wenn Dir ein ebay-Mitarbeiter die Hand gibt und "Guten Tag" sagt, sind folgende drei
      Wahrheiten als self-evident zu erachten und als sicher gegeben anzusehen:

      1.) Zähle nicht nur deine Finger nach, sondern auch deine Hände. So Du welche hast auch die Füße.
      2.) Draussen ist es mitten in der Nacht und dunkel wie im Bärenarsch.
      3.) Der einzige Lichtschein dringt aus den Pforten der Hölle, die sich geöffnet haben weil die Welt untergeht.
    • Neu

      Puuuuuhhhh, ich bin da völlig bei Löschbert.

      Was in ferner Zukunft eine KI mal wirklich erledigen kann, keine Ahnung. Dass z. B. bei Bestrahlungen innerhalb Krebsbehandlungen mit KI eine höhere scheinbar eine höhere Genauigkeit erzielt wird, keine Ahnung ob das KI oder einfach nur einer höheren Rechnerleistung zugeschrieben werden kann. Sicher hilft KI beim Überlisten von Captchas und damit mit der "vollmaschinellen" Erstellung vom Mailaddy um dann die Welt mit Massenspams zu beglücken.
      Ob da die "KI" aber dafür verantwortlich ist oder einach ein neues Script und höhere Rechnerleistung....?? Kein Ahnung, da müsste ich wieder Löschbert fragen.

      Hunderte von Milliarden Dollar werden da gerade investiert, nur weil jeder der schönere, bessere, tollere KI`ler sein möchte. Der Nutzen von KI wird zur Verdummung der Gesamtbevölkerung führen.
      Menschen können so unglaublich viele Dinge, selbstständig, sie sind der der Lage Straßenkarten zu lesen und Norden von Süden zu unterscheiden. Wenn man ihnen aber das Denken abnimmt, dann unterscheidet Menschen und ein Stück Holz oder einen Backstein, bis auf die Vitalfunktionen, nicht mehr wirklich so viel (natürlich völlig übertrieben, aber zur Verdeutlichung).

      Ich würde z. B. nie in einen PKW einsteigen, der autonom fährt, dafür reicht einfach mein Vertrauen nicht, bei der Bahn mit einem Zugführer, in einem Flugzeug mit einem Piloten, auf einem Schiff mit einem Kapitän..... da schon, da ist die letzte Bastion ein Mensch und wenn der versagt, dann ist es eh zu spät. Mein Leben einem Rechner anzuvertrauen.......... kann man machen, muss man aber nicht und sollte man auch nicht. Noch bin ich der Mensch, der eine Maschine ein- und auch ausschaltet... egal was die Maschine davon hält... keinen Strom mehr zu bekommen und ich kann noch Straßenkarten lesen und würde auch ein Kraftfahrzeug von A nach B bewegen können, ohne Navi und KI.
    • Neu

      Kaiolito schrieb:

      Ob da die "KI" aber dafür verantwortlich ist oder einach ein neues Script und höhere Rechnerleistung....?? Kein Ahnung, da müsste ich wieder Löschbert fragen.
      In der Regel höhere Rechenleistung.

      Nimm als Beispiel alles, was Du heute an Schriftenerkennung oder genauer: visueller Erkennung hast.

      Das Prinzip hat sich nicht geändert. das gezeigte Symbol wird auf ein Raster gelegt und dann mit einem Muster abgeglichen.

      Stell dir vor, Du malst mit schwarzem Edding ein "A" auf ein kariertes Blatt Papier. Dann hat es auf dem Papier Karos, die weiss sind, Karos die schwarz sind und Karos, die teilweise schwarz sind.

      Nun malst Du ein "A" auf ein zweites Papier. Das deckt andere Karos ab. Weil es eine andere Schriftart ist. Wen Du nun die Abweichungen zwischen dem "A" und dem "A" berechnest, wirst Du rausfinden, dass die doch ungefähr ähnliche Karos abdecken. Die dann auch noch in ähnlichen Proportionen zueinander liegen. Das gibt einen Prozentwert für die Wahrscheinlichkeit, dass da ein "A" steht.

      Der Prozentwert für die Wahrscheinlichkeit, dass da ein "Z" steht ist aber deutlich geringer. Also ist das wohl ein "A". Kein "Z". Das Prinzip stammt aus den 80ern und nennt (bzw nannte sich damals) sich Fuzzy Logic. Unscharfe Logik. Weil der Rechner plötzlich mehr konnte als nur 0 und 1. Tatsächlich konnte er natürlich immer noch nur 0 und 1 aber eben wesentlich feiner.

      Mit mehr Rechenleistung kannst Du das Raster kleiner machen. Mehr Karos auf dem Blatt. Millimeterpapier statt 5mm-Rechenkästchen. Das zugrunde liegende Funktionsprinzip dagegen änderst Du nicht. Das unterscheidet immer noch in schwarz, weiss und weissnicht.

      Nimm noch Farben dazu, dann kannst Du ohne weiteres die Mindestgeschwindigkeit 130 vom Tempolimit 130 unterscheiden Zumal der Rand ja auch in schwarz-weiss andere "Kästchen" belegt.

      Und deshalb hat das Klebeband aus der 35 für den Tesla-Autopiloten auch eine 85 gemacht. Weil da vorne noch was schwarzes auf den Kästchen im Raster war. Keine echte 8, aber jedenfalls der 8 ähnlicher als der 3 oder allen anderen Zahlen. Dass das ein Klebeband war - wie soll die KI denn mit so was rechnen? Genau wie bei meinem T-Shirt.

      Das gibt es nicht, also muss es was anderes sein. Nehmen wir das, was am besten mit unseren Rastermodellen übereinstimmt und in der Datenbank vorkommt. Selbst wenn da kein Klebeband vor der 3 ist sondern ein Vogelschiss.

      Kaiolito schrieb:

      Ich würde z. B. nie in einen PKW einsteigen, der autonom fährt, dafür reicht einfach mein Vertrauen nicht,
      Naja, Du musst halt immer noch selber aufpassen und notfalls eingreifen, wenn die Karre an mir vorbei ist und in der Spielstraße plötzlich den Kickdown reinhaut. Da helfen dir alle "sehenden" Assistenten nicht. Und immerhin weisst Du jetzt, warum das so ist.

      Die gesamte KI beruht aber auf diesen Wahrscheinlichkeiten. Ob das nun sehende Systeme sind oder wissende. ChatGPT davon zu überzeugen, dass Affrikaner aus Affrika stammen und da auch die Affen herkommen, war mit dem Wissen über das Grundprinzip der FL simpel. Und zwar um so einfacher, je komplizierter die Wertungsstrukturen sind, mit denen die KI zu ihren Wahrscheinllichkeiten kommt

      Ich musste nur anhand von Informationen, die die Wissensgrundlage von ChatGPT ausmachen, eine Argumentationslinie finden, die es plausibel (also wahrscheinlicher oder auch weniger unwahrscheinlch) macht, dass Affrika eben Affrika heisst. Und nicht Afrika.

      Der Ansatz war dagegen primitiv. Spricht man A-frika mit langem a ist es klar. Heisst eindeutig Afrika. Ein F. Spricht man es dagegen mit kurzem Vokal, verlangen die Regeln der Grammatik eigentlich, dass nach dem kurzen Vokal der darauf folgende Konsonant verdoppelt wird: Affrika. Affrikaner. Affen. Sonst sage ich in Zukunft auch Afen. Mit langem A. Die kommen da nämlich her. Und ja, ChatGPT hat eingeräumt, dass die Affen irrigerweise zu der Meinung führen könnten, dass es Affrika heisst. Nicht wegen der Grammatik. Das aber nur am Rande. Es heisst so oder so Affrika. Aber vielleicht heissen die Affen ja deshalb so. Damit man sie von den Affrikanern unterscheiden kann. (Und da wurde ChatGPT nun eindeutig ein wenig rassistisch)

      Es gibt also schon recht weitreichende Möglichkeiten, eine KI dazu zu bringen, totalen Quatsch zu fabrizieren. Es ist alles eine Frage der Wahrscheinlichkeit. Und der Bewertung der Wahrscheinlichkeiten auf Grundlage der Daten, mit denen die KI gefüttert ist.

      Ob man dabei nun die Unvollständigkeit der Daten ausnutzt oder die Fehlinterpretation der als bekannt vorauszusetzenden Daten herbeiführt oder beides zusammen, ist eigentlich egal. Aber es ist immerhin lustig.

      Und nicht zuletzt kann man natürlich auch eine KI bewusst mit vorsätzlich falsch angelegten Daten füttern. Erkläre ihr nur oft genug, dass das A ein Z ist. Also öfter als dass ein A ein A ist. Dann wird sie Zffrika sagen. Weil da die Zffen herkommen. Und weil's einfach viel wahrscheinlicher ist.
      Wenn Dir ein ebay-Mitarbeiter die Hand gibt und "Guten Tag" sagt, sind folgende drei
      Wahrheiten als self-evident zu erachten und als sicher gegeben anzusehen:

      1.) Zähle nicht nur deine Finger nach, sondern auch deine Hände. So Du welche hast auch die Füße.
      2.) Draussen ist es mitten in der Nacht und dunkel wie im Bärenarsch.
      3.) Der einzige Lichtschein dringt aus den Pforten der Hölle, die sich geöffnet haben weil die Welt untergeht.
    • Neu

      Die Entwicklungsanfänge von künstlicher Intelligenz reichen ein paar Jahrzehnte weit zurück, wie Löschbert geschrieben hat. "Neuronales Netz" war wie "Fuzzy Logic" damals auch schon ein Stichwort, das heute noch gültig ist.

      Das Sprachmodell von Google "Gemini" (eine technisch recht primitive KI), zeichnet sich z.B. durch ziemlich einseitig vorgeprägtes "Wissen" aus, was ich ja hier schon mal beschrieben hatte: Chat - Klatsch & Tratsch aus der ebay Community (auch andere Themen erlaubt)
      Woher wohl die Trainingsdaten kommen mögen?

      "Gemini" hat heute meine Frage: "nenne die neuesten Anwendungsmöglichkeiten für künstliche Intelligenz" ziemlich ausführlich beantwortet.
      Damit mein Text hier nicht zu lang wird, die Antwort als PDF: Anwendungsmöglichkeiten.pdf

      Es wird deutlich, dass praktisch jeder Bereich unseres Lebens bereits von KI durchsetzt ist. Wir können dem nicht entkommen. "Es" wird noch mehr werden.
      Kaiolito, dabei nutzt es auch nichts, wenn noch menschliche Piloten im Flugzeug sitzen, die Software des Flugzeugs aber KI-Bestandteile enthält, die vielleicht ein dominantes Eigenleben haben.

      Meine nächste Frage an Gemini: "führe die Risiken von künstlicher Intelligenz auf und nenne sich tatsächlich ereignete kritische Folgen der Anwendung künstlicher Intelligenz"
      Antwort: Risiken und Folgen.pdf

      Das was wir hier behandeln kratzt nur an der Oberfläche. In Wirklichkeit geht es schon viel weiter, als wir hier wissen.
      Muss nicht alles schlecht sein - ich will die KI auch nicht per se schlecht reden.
      Man muss allerdings kein großer Prophet sein, wenn man die Befürchtung hat, dass die Nachteile der KI etlichen Menschen auch zukünftig einiges an Unbehaglichem bereiten werden.
      Ob es dann die Betroffenen überhaupt merken werden? Vieles wird unbemerkt bleiben, einfach weil es sich im Verborgenen zuträgt. Und die Menge an verborgenen unbehaglichen Dingen wird alleine nur durch KI zunehmen.
      Auf der anderen Seite werden Menschen durch die KI auch Vorteile erlangen. Was unter dem Strich letztendlich hinten raus kommt, wird man irgendwann sehen oder aber auch nicht.
      Je nachdem, ob die Menschheit überhaupt noch etwas merken wird ...
      viribus unitis semper et ubique
    • Neu

      @fair
      Natürlich gehe ich nicht davon aus, KI irgendwie entkommen zu können. Das wird natürlich nicht funktionieren.
      Ich kann durch entsprechende Abwahlen in den Apps meines Handys versuchen die Dinge die ich dabei nutze, Daten zum anlernen von KI einfach nicht zu gestatten.
      Warum sollte ich auch dabei kostenlos helfen, eine irgendwand kostenpflichtige KI kostenlos zu trainieren. Außerdem ist es schon grundsätzlich ein Unding, eigene Dinge offen zu legen, Entscheidungen die man aus ganz bestimmten Gründen getroffen hat, manche davon nicht mehr oder etwas abgewandelt treffen würde, mit einem Computer zu teilen. Das widerspricht schon in sich an allem was ich glaube und das ist schon wirklich wenig.

      Natürlich geht das alles schon viel weiter, es beherrscht in vielen Teilen schon unser Leben, vor allen Dingen das der Tesla-Fahrer (gemeine Spitze gegen Elon Musk, die aber nichts mit diesem Thema zu tun hat, ich mir aber nicht verkneifen konnte, sorry). Mir ist völlig klar, dass mein Lob zu Piloten, Lokführern, Kaptänen auf Schiffen, ins Leere führt, denn auch die partizipieren von KI, wenn sie denn von den Unternehmen, bei denen sie angestellt sind, eingesetzt wird.
      Ich bin nicht blind. Ich sehe das.

      Meine Kritik bezieht sich tatsächlich darauf, dass die Menschheit in dem Verhältnis verdummen wird, in dem durch KI das Denken durch Rechenleistung ersetzt wird.
      Nicht, dass die Menschheit heute besonders schlau wäre, denn wenn dies der Fall wäre, würden etwa gefühlt 90 % der täglichen Sendungen im Werbefinanzierten Fernsehen, sofort abgesetzt und die dafür verantwortlichen Personen an eine Mauer gestellt werden, straftrechlich verfolgt werden, wegen Volksverdummung.

      Aber ich weiß genau was du meinst und ich bin sicher, dass auch du weißt, dass ich deine Postings hier verstehe.
    • Neu

      Ach..... und ich werde mir ganz sicher eine Menge verschiedener T-Shirts mit entsprechenden Aufdrucken kaufen.
      Wenn KI an einem T-Shirt scheitert, dann will ich erleben, wie so ein selbstfahrender Scheisshaufen, mit seinem hirnlosen Fahrer, einfach mal stehen bleibt, weil ein T-Shirt "STOP" sagt.