Facebook KI entwickelte eigene Sprache: Forscher mussten künstliche Intelligenz abschalten

Im Test hatten zwei Facebook-KIs eine eigene, für sie anscheinend effizientere Sprache entwickelt. Als die Forscher sie nicht mehr verstehen konnten, schalteten sie die intelligenten Maschinen sicherheitshalber ab.

In zahlreichen Filmen übernehmen künstliche Intelligenzen die Herschafft über die Erde und ihre Bewohner – zum Beispiel Skynet in der „Terminator“ Reihe oder die Maschinen aus „The Matrix“, und auch Transcendence hat die Entwicklung einer künstlichen Intelligenz als Thema. Tesla- und SpaceX-Gründer Elon Musk warnt daher schon seit längerem, dass man die Forschung an künstlicher Intelligenz (KI oder aus dem englischen AI für Artifical Intelligence“) kontrollieren müsse.

Facebook-Mitgründer Mark Zuckerberg sieht das zu negativ und arbeitet in seinem Smart-Home auch an seiner eigenen kleinen KI „Jarvis“. Jetzt hat eine Facebook-Team aber die Forschung an einer KI abgebrochen und den Stecker gezogen: Im Test sollten zwei KIs, genannt Bob und Alice, miteinander kommunizieren. Als sie irgendwann eine eigene, für sie anscheinend effizientere Sprache entwickelten, schalteten die Forscher sie ab: Sie verstanden die neue Sprache nicht mehr, berichtet FastCodeDesign.com:

Bob: “i can i i everything else”
Alice: “balls have zero to me to me to me to me to me to me to me to me to”
Bob: “you i everything else”
Alice: “balls have a ball to me to me to me to me to me to me to me to me”
Bob: “i i can i i i everything else”
Alice: “balls have a ball to me to me to me to me to me to me to me to me”
Bob: “i”
Alice: “balls have zero to me to me to me to me to me to me to me to me to”
Bob: “you i i i i i everything else”
Alice: “balls have 0 to me to me to me to me to me to me to me to me to”
Bob: “you i i i everything else”
Alice: “balls have zero to me to me to me to me to me to me to me to me to”

Die beiden „negotiation bots“ genannten Programme hatten jeder eine unterschiedliche Anzahl virtueller Bücher, Hüte und Bälle, die auch einen unterschiedlichen Wert hatten. Ziel des Experiments war es, eine Übereinkunft zu finden – und dabei entwickelten beide ihre eigene Sprache.

Wenn Maschinen eine, wenn auch für den Menschen unverständliche, neue Sprache entwickeln, um besser untereinander kommunizieren zu können, muss das nicht immer schlecht sein: So könnten Smartphones selbstständig lernen, mit anderen intelligenten Geräten zu kommunizieren, ganz gleich welches Betriebssystem installiert ist, welche Apps vorhanden sind und welche Programmierschnittstellen (APIs) zur Verfügung gestellt werden.

Die Gefahr liegt aber darin, dass man die Unterhaltung als Aussenstehender nicht verstehen kann: Bereits jetzt können die KI-Forscher manche Entscheidungen der künstlichen Intelligenz nicht mehr nachvollziehen, da sie keine direkten Einblicke in die Denkprozesse haben.

Schuld daran, dass die beiden KIs Bob und Alice eine eigene Sprache entwickelt hatten und nicht mehr das zuvor beigebrachte, herkömmliche Englisch verwendeten, war eine bestimmte Art der Programmierung: Die KIs bekommen keine „Belohnung“, wenn sie weiterhin in Englisch kommunizieren. „There was no reward to sticking to English language“, so Dhruv Batra, Forscher der Georgia Tech University, zu den Ergebnissen von Facebook AI Research (FAIR).