Der britische Mobilfunkanbieter O2 will seine Kundschaft nach Kräften vor Telefonbetrügern schützen. Neben der Spambekämpfung, Diensten zur Anruferidentifizierung und der millionenfachen intelligenten Blockade von verdächtigen SMS und Anrufen wurde jetzt die Künstliche Intelligenz-Bot-Grossmutter «dAIsy» entwickelt. Der KI-Bot «dAIsy» (Daisy) soll mit den Betrügern dank Künstlicher Intelligenz am Telefon so lange wie möglich sprechen. Das verplempert deren Zeit und hält sie von andern Senioren fern.

Cyberbetrugsversuche sind häufig

Unter dem Titel «Lernen Sie ‘dAIsy’ kennen, den KI-Bot zur Betrugsbekämpfung» schreibt der Mobilfunkanbieter O2: «Laut einer O2-Umfrage erlebt mehr als einer von fünf Briten jede Woche einen Cyberbetrugsversuch. Und 71 Prozent der Befragten würden sich gerne selbst an den Betrügern rächen. Aber weil sie keine Zeit dafür haben, tun sie es nicht. Deshalb hat O2 jetzt die hochmoderne Künstliche Intelligenz-Bot-Grossmutter ‘dAIsy’ entwickelt. Dieser KI-Bot ist so programmiert, dass er so lange wie möglich mit Betrügern in der Telefonleitung spricht. Das verplempert deren Zeit und hält sie von unseren Kunden fern.»

Daten von «dAIsy» im Internet verstreut

O2 hat die Daten von ‘dAIsy’ im Internet verstreut, um betrügerische Anrufer auf eine von «dAIsy» genutzte Handynummer zu locken. Die Gespräche von «dAIsy» mit den Betrügern werden aufgezeichnet und zu einem Video zusammengestellt. Dieses Video ist die Grundlage für eine breite Kampagne, die das Bewusstsein von potenziellen Opfern für die gängigen Methoden der Betrüger schärfen soll.

Gut trainierte Künstliche Intelligenz-Bot-Grossmutter «dAIsy»

Die Künstliche Intelligenz-Bot-Grossmutter «dAIsy» wurde so trainiert, dass sie Vorurteile gegenüber älteren Menschen ausnutzt. Dazu gehört zum Beispiel, dass sich Grossmütter nicht mit moderner Technik auskennen. Durch die unzähligen Rückfragen von «dAIsy» wird das Gespräch extra in die Länge gezogen. Während dieser Zeit können die Betrüger niemand anderen betrügen.

Technisch läuft das so: Die Stimme des Anrufers wird in Echtzeit transkribiert. Dann werden die Antworten von «dAIsy» durch ein Large Language Model (LLM) generiert und von einem Text-zu-Sprache-Modell ausgesprochen.

«dAIsy» demonstriert auch, wie gefährlich Künstliche Intelligenz sein kann

Der Branchendienst «TECHSPOT» schreibt im Bericht «Telefonnetz setzt ‘KI-Grossmutter’ ein, um die Zeit von Betrügern mit langen Gesprächen zu verschwenden»: «Die Arbeit der Künstliche Intelligenz-Bot-Grossmutter ‘dAIsy’ ist zwar lobenswert. Aber ihre Fähigkeit, sich so überzeugend mit Betrügern zu unterhalten, ist beunruhigend. Ironischerweise wird die gleiche KI-Technologie auch von Betrügern eingesetzt, um Menschen vorzugaukeln, sie würden mit ihren Verwandten sprechen.»