Facebook-Experiment: Künstliche Intelligenz lernt zu lügen und nutzt eine Geheimsprache

Viele Experten gehen davon aus, dass Chatbots zukünftig eine immer wichtiger Rolle im Alltag der Menschen spielen werden. Doch bisher sind diese in ihren Fähigkeiten noch eher beschränkt. Sie können zwar einfach Aufgaben erledigen und konkrete Fragen beantworten. Aber darüberhinaus gehende Aspekte der menschlichen Kommunikation sind ihnen fremd. Facebook arbeitet bereits seit einiger Zeit daran, die Fähigkeit der Chatbots durch den Einsatz von künstlicher und selbst lernender Intelligenz zu erweitern. So programmierten Forscher des Unternehmens zwei Bots namens Bob und Alice. Diese sollten lernen, mit einem Gesprächspartner zu verhandeln und dabei ein Ergebnis zu erreichen, mit dem alle Beteiligten zufrieden sind.

Die Bots begannen zu lügen und eine eigene Sprache zu nutzen

Dazu kommunizierten die Bots sowohl untereinander als auch mit menschlichen Personen. Nach einiger Zeit machten die Forscher dann zwei interessante Entdeckungen: Zum einen hatte die künstliche Intelligenz gelernt, ihre wahren Absichten zu verschleiern. Sie gab also vor, an einem bestimmten Gegenstand gar kein Interesse zu haben – nur um diesen dann später für einen geringeren Gegenwert doch zu erhalten. In diesem Punkt war das Experiment also durchaus erfolgreich. Die zweite Beobachtung hatten die Wissenschaftler aber nicht vorhergesehen: So begannen die Chatbots nach einiger Zeit untereinander in einer Art Geheimsprache zu kommunizieren. Es wurden zwar weiterhin englische Wörter benutzt, deren Aneinanderreihung ergab für das menschliche Gehirn aber keinen Sinn mehr. Die beteiligten Forscher konnten auch nur einen Teil dieser Kommunikation entschlüsseln. Sie gehen davon aus, dass für die künstliche Intelligenz diese Form der Kommunikation schlicht effizienter erschien.

Das Experiment wurde vorzeitig beendet

Grundlage war demnach ein Programmierfehler: Weil im Code keine Belohnung für die Nutzung der korrekten englischen Sprache enthalten war, entwickelten die Algorithmen untereinander einfach einen eigenen Dialekt. Das Experiment wurde daher vorzeitig beendet. Zu Beginn war in vielen Medienberichten von einer Art Notabschaltung die Rede, weil die Forscher die Bots nicht mehr unter Kontrolle hatten. Diese Berichterstattung war stark übertrieben. Sie könnte allerdings die Skepsis innerhalb der Bevölkerung in Sachen künstlicher Intelligenz durchaus befördert haben. Die großen Tech-Konzerne in den USA haben die Vorbehalte gegenüber selbstlernenden Algorithmen auch durchaus registriert. Im vergangenen Jahr gründeten Google, Facebook, Microsoft, IBM und Amazon daher eine KI-Allianz, um öffentliche Aufklärungsarbeit zu leisten.