OpenAI: Sam Altman möchte ChatGPT eine Kopie aller Lebensdaten der Nutzer bereitstellen

OpenAI CEO Sam Altman hat bei einem KI-Event eine weitreichende Vision skizziert, die beängstigend wirkt: Auf die Frage, wie ChatGPT persönlicher werden könne, antwortete Altman, er wolle letztlich, dass das Modell alles im Leben einer Person dokumentiert und sich daran erinnert.

Die Idealvorstellung, wie Altman zitiert wird, sei ein sehr kleines Reasoning-Modell mit einem Kontext von einer Billion Token, in dem man das gesamte Leben unterbringen kann. Die Idee ist, dass dieses Modell über den gesamten persönlichen Kontext des Nutzers verfügt. Dazu gehöre nach der Beschreibung von Altman auch jede Unterhaltung, die man je geführt habe, jedes Buch, das man gelesen habe, jede E-Mail, die man erhalten oder gesendet habe, und “alles, was man sich jemals angesehen hat”. Zusätzlich soll es eine Verknüpfung mit Daten aus anderen Quellen geben. Der Kontext wachse dabei mit dem Leben. Altman fügte hinzu, dass dasselbe Prinzip auch für Unternehmen gelten könnte, die all ihre Daten auf diese Weise integrieren.

“Junge Menschen nutzen ChatGPT wie ein Betriebssystem”

Diese umfassende Integration persönlicher Daten, wie sie von Altman entworfen wird, könnte dazu führen, dass ChatGPT zu einem allwissenden KI-System wird. Altman selbst sieht bereits Anzeichen dafür, dass junge Menschen ChatGPT „wie ein Betriebssystem“ nutzen, indem sie Dateien hochladen, Datenquellen verbinden und komplexe Anfragen an diese Daten stellen. Es sei ein Trend, dass jüngere Generationen keine wichtigen Entscheidungen treffen, ohne ChatGPT zu fragen. Während ältere Nutzer es laut Altman eher als Ersatz für eine Suchmaschine sehen, verwendeten Menschen in ihren 20ern und 30ern ChatGPT wie einen Lebensberater.

Auswirkungen kaum vorstellbar

Die potenziellen Auswirkungen eines solchen Systems, das buchstäblich alles über uns weiß und sich an alles erinnert, sind immens und noch kaum vorstellbar. Ein solches System könnte das Leben auf vielfältige Weise erleichtern und automatisieren. Man könnte sich beispielsweise vorstellen, dass die KI automatisch die Wartung des Autos plant und den Besitzer daran erinnert, die Reiseplanung für den Urlaub übernimmt, vielleicht sogar das Ziel auf Grundlage persönlicher Vorlieben aussucht und Geschenke für bestimmte Anlässe auswählt und bestellt.

Szenario wie aus Big Brother

Doch die Kehrseite dieser von Altman gezeichneten Vision ist beängstigend. Wie sehr sollten wir einem gewinnorientierten Technologiekonzern vertrauen, der buchstäblich alles über unser Leben weiß? Man stelle sich vor, dass ein solches Unternehmen über alle wesentlichen Informationen unseres Lebens verfügt; man könnte fast von einer Kopie des Lebens sprechen. Wer garantiert uns, dass diese Daten nicht missbraucht und sicher verwahrt werden? Dagegen wirkt die dystopische Szenerie in Big Brother fast schon vertrauenswürdig.

Es gibt bereits Bedenken hinsichtlich der Manipulation von Chatbots. Sie können zum Beispiel darauf trainiert werden, politisch motiviert zu antworten. Chinesische KI-Chatbots zensieren beispielsweise Antworten, die sich auf Chinas Umgang mit der Demokratiebewegung der 80er Jahre beziehen. Und selbst bei ChatGPT erhält man manchmal Antworten auf kritische Fragen zur amtierenden Regierung, die nicht der Wahrheit entsprechen:

Darüber hinaus können Chatbots übermäßig gefällig oder sogar schmeichlerisch werden und problematische oder gefährliche Entscheidungen und Ideen gutheißen, wie bei ChatGPT selbst kürzlich beobachtet. Deshalb wurde ein Update des GPT-4o-Modells zurückgerollt. Selbst die zuverlässigsten Modelle erfinden manchmal schlichtweg Dinge, die nicht der Realität entsprechen.