Netzteil mit Münze in der Steckdose

Amazon Alexa bringt Kind in Lebensgefahr

Der Sprachassistent Amazon Alexa hat einem Kind eine Aufgabe vorgeschlagen, die potentiell tödlich ist: Ein teilweise eingestecktes Netzteil sollte dabei mit einer Münze berührt werden.

Von   Uhr

Das hätte ins Auge gehen können. Der Sprachassistent Amazon Alexa schlug einem Kind, das eine Aufgabe gestellt bekommen wollte, kurzerhand vor, ein Netzteil in die Steckdose zu stecken und es halb herauszuziehen und dann die beiden Kontakte mit einer Münze zu berühren. Das berichtet unter anderem das Blog The Bleeping Computer. So etwas kann einen tödlichen Stromschlag verursachen. Das erst 10jährige Kind hatte Alexa gefragt, welche Herausforderung es zum Zeitvertrieb annehmen sollte. Diese Funktion ist wohlbekannt, bei Apple Siri gibt es sie allerdings nicht.

Offenbar durchsucht die Künstliche Intelligenz von Alexa das Web nach Herausforderungen und tatsächlich: Auf TikTock gibt es derartige, lebensgefährliche Versuche. Vermutlich hat sich der Sprachassistent daran oder an Berichten über diese Versuche orientiert. Die Mutter des Kindes gab gegenüber Medien bekannt, dass sie zum Glück anwesend war, als die Aufgabenstellung verkünde wurde und sofort einschritt. Das Kind sagte seiner Mutter, dass so etwas sowieso nicht getan hätte, aber der Vorgang ist dennoch ein Beispiel dafür, was passieren kann, wenn man ohne menschliche Kontrolle eine KI einfach machen lässt.

Eine offizielle Reaktion von Amazon steht noch aus. Gegenüber der Website Indy100 soll ein Amazon-Vertreter behauptet haben, dass die Challenges nun sicher seien. "Das Vertrauen der Kunden steht bei allem, was wir tun, im Mittelpunkt, und Alexa ist darauf ausgelegt, den Kunden genaue, relevante und hilfreiche Informationen zu liefern. Sobald wir von diesem Fehler erfuhren, haben wir schnell gehandelt, um ihn zu beheben."

Deine Meinung ist gefragt!

In welchen Feldern siehst du den Einsatz von KI kritisch? Bist du schon einmal durch eine KI unangenehm überrascht worden?

Diskutiere mit!

Hier kannst du den Artikel "Amazon Alexa bringt Kind in Lebensgefahr" kommentieren. Melde dich einfach mit deinem maclife.de-Account an oder fülle die unten stehenden Felder aus.

Zum Verfassen von Kommentaren bitte mit deinem Mac-Life-Account anmelden.

oder anmelden mit...