Michal Kosinski ist ein Stanford-Forschungspsychologe mit einem Gespür für aktuelle Themen. Er sieht seine Arbeit nicht nur darin, das Wissen voranzutreiben, sondern auch darin, die Welt auf mögliche Gefahren aufmerksam zu machen, die durch die Folgen von Computersystemen entstehen. Zu seinen bekanntesten Projekten gehörte die Analyse der Art und Weise, wie Facebook (heute Meta) erlangte durch die Klicks auf „Gefällt mir“ auf der Plattform ein erschreckend tiefes Verständnis für seine Nutzer. Jetzt widmet er sich dem Studium von überraschende Dinge, die KI tun kann. Er hat beispielsweise Experimente durchgeführt, die darauf hindeuten, dass Computer dies könnten die Sexualität einer Person vorhersagen durch die Analyse eines digitalen Fotos ihres Gesichts.
Ich habe Kosinski durch meine Texte über Meta kennengelernt und mich erneut mit ihm in Verbindung gesetzt, um mit ihm zu diskutieren seine neueste Arbeitveröffentlicht diese Woche in den von Experten begutachteten Proceedings der National Academy of Sciences. Sein Fazit ist verblüffend. Große Sprachmodelle wie das von OpenAI, behauptet er, hätten eine Grenze überschritten und nutzten Techniken, die dem tatsächlichen Denken ähneln, das einst nur dem Reich von Menschen aus Fleisch und Blut (oder zumindest Säugetieren) vorbehalten war. Konkret testete er OpenAIs GPT-3.5 und GPT-4, um zu sehen, ob sie die sogenannte „Theory of Mind“ beherrschen. Dabei handelt es sich um die in der Kindheit entwickelte Fähigkeit des Menschen, die Denkprozesse anderer Menschen zu verstehen. Es ist eine wichtige Fähigkeit. Wenn ein Computersystem nicht richtig interpretieren kann, was Menschen denken, wird sein Weltverständnis beeinträchtigt und es wird viele Dinge falsch machen. Wenn Modelle Tun Wenn sie über eine Theorie des Geistes verfügen, sind sie dem Ziel, die menschlichen Fähigkeiten zu erreichen und zu übertreffen, einen Schritt näher gekommen. Kosinski hat LLMs auf die Probe gestellt und sagt nun, dass seine Experimente zeigen, dass insbesondere in GPT-4 eine Theorie der geistigen Fähigkeiten „als unbeabsichtigtes Nebenprodukt der verbesserten Sprachkenntnisse von LLMs entstanden sein könnte … Sie bedeuten das Aufkommen von mehr.“ leistungsstarke und sozial kompetente KI.“
Kosinski sieht seine Arbeit im Bereich KI als natürliche Folge seiner früheren Beschäftigung mit Facebook-Likes. „Ich habe mich nicht wirklich mit sozialen Netzwerken beschäftigt, sondern mit Menschen“, sagt er. Als OpenAI und Google mit der Entwicklung ihrer neuesten generativen KI-Modelle begannen, dachten sie, sie würden ihnen hauptsächlich den Umgang mit Sprache beibringen. „Aber sie haben tatsächlich ein menschliches Geistesmodell trainiert, denn ohne die Modellierung meines Geistes kann man nicht vorhersagen, welches Wort ich als nächstes sagen werde.“
Kosinski achtet darauf, nicht zu behaupten, dass LLM-Studenten die Theory of Mind vollständig beherrschen – noch nicht. In seinen Experimenten stellte er den Chatbots einige klassische Probleme vor, die sie teilweise sehr gut meisterten. Aber selbst das fortschrittlichste Modell, GPT-4, scheiterte in einem Viertel der Fälle. Die Erfolge, schreibt er, stellen GPT-4 auf eine Stufe mit 6-jährigen Kindern. Nicht schlecht, wenn man den frühen Stand des Feldes bedenkt. „Angesichts der schnellen Fortschritte der KI fragen sich viele, ob und wann KI ToM oder Bewusstsein erreichen könnte“, schreibt er. Abgesehen von dem radioaktiven C-Wort gibt es eine Menge zu kauen.
„Wenn in diesen Modellen die Theorie des Geistes spontan entstanden ist, deutet das auch darauf hin, dass als nächstes andere Fähigkeiten entstehen können“, sagt er mir. „Dank dieser Fähigkeiten können sie uns besser erziehen, beeinflussen und manipulieren.“ Er ist besorgt darüber, dass wir nicht wirklich auf LLMs vorbereitet sind, die die Denkweise der Menschen verstehen. Vor allem, wenn sie den Punkt erreichen, an dem sie Menschen besser verstehen als Menschen.
„Wir Menschen simulieren keine Persönlichkeit – wir haben Persönlichkeit“, sagt er. „Also bleibe ich irgendwie bei meiner Persönlichkeit hängen. Diese Dinge Modell Persönlichkeit. Der Vorteil besteht darin, dass sie zu jedem Zeitpunkt jede gewünschte Persönlichkeit haben können.“ Als ich Kosinski gegenüber erwähne, dass es so klingt, als würde er einen Soziopathen beschreiben, strahlt er. „Das verwende ich in meinen Vorträgen!“ sagt er. „Ein Soziopath kann eine Maske aufsetzen – er ist nicht wirklich traurig, aber er kann eine traurige Person spielen.“ Diese chamäleonartige Kraft könnte die KI zu einem überlegenen Betrüger machen. Ohne Reue.
