1. BuzzFeed.at
  2. Buzz

Alexa gibt tödliche Tipps - Künstliche Intelligenz ist dümmer als wir glauben

Erstellt:

Von: Christian Kisler

Kommentare

Eine Steckerleiste mit diversen Ladegeräten sowie ein geröntgtes Skelett, dass auf Münzen Fahrrad fährt.
Amazons Alexa forderte eine 10-Jährige auf, mit einer Penny-Münze, einem Ladegerät und einer Steckdose zu hantieren. Potenziell tödlich. © Jochen Tack/Imago/Science Photo Library/APA-PictureDesk/BuzzFeed Austria

Nachdem Amazons Künstliche Intelligenz Alexa einer 10-Jährigen empfohlen hat, eine Münze in eine Steckdose zu stecken, ist die Aufregung groß. Das wirft die Frage auf: Wollen die Maschinen unseren Tod oder sind sie schlicht dumm?

Ein Alptraum für alle Erziehungsberechtigten und Aufsichtspersonen: Stell dir vor, das dir anvertraute Kind ist alleine daheim und fragt Amazons intelligente Assistentin Alexa via Echo nach einer Challenge, einer Herausforderung. Das Kind, sagen wir ein 10-jähriges Mädchen, hat eher eine Denksportaufgabe im Sinne, doch was schlägt Alexa vor?

Das Mädchen möge ein Handy-Ladegerät zur Hälfte in eine Steckdose stecken und die noch sichtbaren Metallstecker nun mit einer Penny-Münze berühren. So können im harmlosesten Fall Funken fliegen, es kann allerdings auch zu Kabelbrand und in weiterer Folge zu Feuersbrünsten kommen. Am häufigsten kommt es zu Stromschlägen, die potenziell tödlich sein können. In unserem Beispiel war die Mutter anwesend und geistesabwesend genug, der dräuenden Katastrophe Einhalt zu gebieten.

Amazon bestätigt Zwischenfall mit Künstlicher Intelligenz

Das ist tatsächlich passiert, wenn man einem Twitterpost von Kristin Livdahl Glauben schenken darf. Und warum sollte man nicht? Amazon selbst hat die Geschichte bestätigt und kurz darauf verlautbaren hat lassen, dass das Problem gelöst sei und nicht mehr vorkommen werde.

Was bedeutet das alles? Dass die Maschinen die Weltherrschaft an sich reißen wollen, indem sie Menschen mittels Stromschlag auslöschen? Klingt zwar ziemlich spannend, wenn du an einem Drehbuch für den nächsten Low-Budget-Endzeit-Film schreibst. Hat mit der Wirklichkeit aber eher nicht soviel zu tun. Die Wahrheit ist gleichermaßen viel banaler und beunruhigender: Die Maschinen, Artificial Intelligence oder Künstliche Intelligenz (KI), sind nicht so schlau, wie wir dachten - im Gegenteil. Sie sind ein wenig dumm.

Künstliche Intelligenzen schlagen jedes menschliche Gehirn

Beim Verarbeiten rechnerischer Operationen schlagen sie mittlerweile jedes menschliche Gehirn, das schafft sogar das Smartphone in deiner Hosentasche. Auch diverse Algorithmen sorgen dafür, dass auf deinem Bildschirm eine genau auf deine Interessen und Bedürfnisse abgestimmte Mischung von Inhalten erscheint, gerne auch werblicher Natur.

Während Künstliche Intelligenzen in Sachen Zensur gerne übers Ziel hinausschießen und etwa eine 30.000 Jahre Statue, die Venus von Willendorf, auf Facebook als pornografisch einstufen, sind sie aber allgemein im Einordnen von Nachrichten weniger sicher. Sie verstehen den Kontext einiger Dinge nicht oder eben falsch, weshalb auch ihr Einsatz in Kombination mit Drohnen im Kriegseinsatz mitunter kritisch beäugt wird.

Staatsanwalt mit Künstlicher Intelligenz in China

Ebenso eisig läuft es zumindest mir den Rücken hinunter, wenn ich lese, dass China an einer Art Staatsanwalt mit Künstlicher Intelligenz arbeitet. Robocop und Judge Dredd lassen grüßen. Dabei hast auch du Tag für Tag mit KIs zu tun, etwa mit Aurtocorrect auf deinem Smartphone. Es ist also prinzipiell kein Teufelszeug.

Letztlich ist etwa der Fehler von Amazons Alexa dadurch zustande gekommen, dass sie keine Gewichtung der ihr zur Verfügung stehenden Inhalte vorgenommen hat. Dazu war sie schlicht nicht imstande. Sie hat die interne Suchmaschine aktiviert und ist auf beim Durchforsten der Webseiten dritter Anbieter:innen auf ourcommunitynow.com gelandet. Dort wurde von der „Penny Challenge“ auf TikTok von 2020 berichtet. So kam es zum beinahe verhängnisvollen Tipp.

Jede Künstliche Intelligenz hätte diesen Fehler machen können

Freilich hätte der Fehler nicht nur Amazons Alexa passieren können, sondern jeder Künstlichen Intelligenz, auch jener von Google oder Apple. Die hatten entweder Glück, waren besser programmiert oder aber etwaige Zwischenfälle wurden nicht öffentlich gemacht. Kristin Livdahl herrschte zwar Alexa wie ein vernunftbegabtes Wesen an, sofort aufzuhören, ihre Tochter beruhigte aber: Auf eine derart hirnrissige Idee wäre sie ohnehin nicht gekommen.

Livdahl klärte ihren Nachwuchs dennoch auf, nicht jeder Information aus dem Internet blindlings zu trauen, vor allem, wenn sie von einer Künstlichen Intelligenz ausgespielt wird. Ein Rat, den wir alle befolgen sollten.

Auch interessant

Kommentare