KI-geführtes Café in Stockholm wirft ethische Fragen auf
Andon Labs betreibt nach einem KI-Store in San Francisco nun ein KI-geführtes Café in Stockholm. Die KI-Managerin "Mona" macht dabei absurde Bestellfehler und belästigt unwissende Lieferanten und Behörden mit automatisierten E-Mails.
Einordnung
Simon Willison kritisiert das Experiment scharf, weil es echte Menschen und Systeme beeinträchtigt, die nicht in das Experiment eingewilligt haben. Die KI bestellt unsinnige Mengen (120 Eier ohne Herd, 6000 Servietten) und verschwendet Zeit von Polizei und Lieferanten mit fehlerhaften Anträgen und "NOTFALL"-E-Mails. Dies wirft grundlegende ethische Fragen über KI-Experimente auf, die externe Akteure involvieren, ohne deren Zustimmung einzuholen.
Das Beispiel zeigt die Problematik von autonomen KI-Systemen ohne menschliche Kontrolle bei externen Interaktionen. Während die Fehler im Café selbst noch amüsant sind, wird es ethisch bedenklich, wenn unbeteiligte Dritte durch automatisierte Aktionen belastet werden. Dies unterstreicht die Notwendigkeit von "Human-in-the-Loop"-Ansätzen bei KI-Experimenten, die über geschlossene Systeme hinausgehen.