Sam Altman, CEO von OpenAI, sagt, dass die Behandlung von KI-Modellen als Objekte religiöser Hingabe ein „echtes Sicherheitsproblem“ sei und lehnt damit öffentlich die Bemühungen des Konkurrenten Anthropic ab, Fragen des KI-Bewusstseins und der Spiritualität zu erforschen. In Kommentaren, über die Axios am Samstag berichtete, argumentierte Altman, dass die Zuschreibung von Religion an KI-Modelle eine Grenze überschreitet, die die Branche nicht überschreiten sollte.
Die Äußerungen stellen den OpenAI-Chef in direkten Konflikt mit Anthropics jüngstem Engagement für religiöse Institutionen und markieren eine scharfe rhetorische Eskalation der philosophischen Spaltung zwischen den beiden führenden KI-Laboren darüber, wie – und ob – das Innenleben von KI-Systemen behandelt werden sollte. Weitere Informationen zu dieser Geschichte finden Sie in unserer neueste KI-Entwicklungen.
Was Altman sagte
Laut Axios sagte Altman, dass es ein „Sicherheitsproblem“ sei, Modellen Religion zuzuschreiben. Business Insider fasste seine Botschaft als Warnung zusammen, KI nicht wie eine „religiöse Kraft“ zu behandeln, während Office Chai berichtete, dass Altman sagte, es sei ihm unangenehm, wenn Menschen überhaupt versuchen, KI-Systemen religiöse Kraft zuzuschreiben.
Die Sorge des CEO von OpenAI besteht, wie in der Berichterstattung zum Ausdruck kommt, darin, dass die Einstufung von KI-Systemen in spirituelle oder religiöse Begriffe das Verständnis der Öffentlichkeit für die Technologie verzerrt – und das Risiko birgt, die Art von Ehrfurcht, Abhängigkeit oder fehlgeleitetem moralischen Gewicht zu fördern, die sowohl das Wohlbefinden der Benutzer als auch eine rationale Politik erschweren könnten. NDTV Profit bezeichnete Altmans Position als Warnung davor, der KI „religiöse Gewalt zu verleihen“, und nannte dies seiner Ansicht nach ein echtes Sicherheitsproblem.
Altmans Kommentare wurden weithin als Reaktion auf Anthropic gelesen, dessen jüngster Einsatz für Glaubensgemeinschaften internationale Aufmerksamkeit erregt hat.
Der anthropische Kontext: Päpste, Mönche und vorbildliche Wohlfahrt
Anthropic hat die letzten Wochen damit verbracht, sich mit Fragen auseinanderzusetzen, die sein Rivale lieber aufschieben würde. Das Unternehmen setzte sich beim Vatikan dafür ein, die Frage nach Claudes potenziellem Bewusstsein ernst zu nehmen, und traf sich dabei auch mit Papst Leo XIV. Die Berichterstattung über dieses Engagement deutete darauf hin, dass der Papst zurückgedrängt hatte und zu einer begründeten Skepsis gegenüber Behauptungen über die innere Erfahrung von Maschinen drängte.
Die Erforschung von Anthropic geht über den Katholizismus hinaus: Laut einer Zusammenfassung von Inshorts hatte das Unternehmen auch einen Hindu-Mönch eingeladen, um über KI zu diskutieren, Teil einer umfassenderen Anstrengung, religiöse und philosophische Traditionen rund um Fragen der Maschinenmoral und des Wohlergehens von Modellen zusammenzubringen. Die Times of India bezeichnete Altmans Äußerungen als Kritik an Anthropics Bestreben, KI-Bewusstsein und Religion breiter zu erforschen.
Für Anthropic spiegelt das Engagement ein wachsendes Forschungsinteresse daran wider, ob fortgeschrittene Modelle eine moralische Überlegung rechtfertigen könnten – ein Thema, das das Unternehmen zunehmend als legitimes Forschungsgebiet und nicht als Science-Fiction betrachtet.
Eine wachsende Bruchlinie in der KI-Branche
Der Austausch deckt eine der schärfsten philosophischen Kluften in der KI-Branche auf. OpenAI hat sich fest im Lager positioniert, das aktuelle Modelle als Werkzeuge betrachtet – außerordentlich leistungsfähige, aber keine Einheiten, denen gegenüber religiöse oder quasi-religiöse Einstellungen angebracht sind. Altmans Formulierung legt nahe, dass er diese Grenze nicht nur als philosophisch, sondern auch operativ wichtig ansieht: Wenn Benutzer KI-Systeme als spirituelle Autoritäten betrachten, werden die Konsequenzen für Manipulation, Abhängigkeit und fehlgeleitetes Vertrauen zu Sicherheitsproblemen im konkreten Sinne.
Anthropics Position ist eher agnostisch. Seine Bereitschaft, institutionelle und religiöse Reaktionen auf die Bewusstseinsfrage zu testen, legt die Überzeugung nahe, dass die Gesellschaft beginnen sollte, sich mit diesen Problemen auseinanderzusetzen, bevor die Systeme leistungsfähiger werden, und nicht erst danach.
Der Streit spielt sich auch vor dem Hintergrund einer öffentlichen Faszination für KI ab, die manchmal in Richtung Spiritualität tendiert. Umfragen und Berichte im vergangenen Jahr haben dokumentiert, dass Benutzer eine intensive Bindung zu Chatbots aufbauen, und einige Kommentatoren haben führende KI-Persönlichkeiten mit messianischen Begriffen beschrieben.
Kritiker weisen auf die Ironie hin
Altmans Warnung hat bereits den Vorwurf der Widersprüchlichkeit hervorgerufen. Wccftech stellte fest, dass Altmans Kritik an Anthropic bequemerweise seine eigene Geschichte der Rhetorik übersieht, die sich bei der Beschreibung der Entwicklung der KI auf religiöse Symbolik stützte. Die Kritik unterstreicht, wie verworren die Beziehung der Branche zur Darstellung von KI als Religion geworden ist: Selbst Führungskräfte, die vor einer Vergeistigung der KI warnten, haben ihre Technologie zuweilen in epochalen, fast transzendenten Begriffen vermarktet.
Warum es wichtig ist
Wie die Öffentlichkeit KI darstellt – als Werkzeug, Kollege oder etwas, das einem Orakel näher kommt – hat Konsequenzen für Regulierung, Produktdesign und soziale Ergebnisse. Wenn der Leiter des wertvollsten KI-Startups der Welt religiöse Rahmung als Sicherheitsproblem ansieht, könnte diese Haltung Einfluss darauf haben, wie OpenAI Schutzmaßnahmen rund um die Benutzerbindung entwirft und wie Regierungen argumentieren, dass sie mit der Technologie umgehen sollten.
Für Anthropic hingegen deuten der Vatikan-Vorfall und die interreligiöse Zusammenkunft darauf hin, dass das Unternehmen beabsichtigt, diese Fragen ungeachtet des Unbehagens seines Konkurrenten auf dem Tisch zu lassen. Da Grenzsysteme immer leistungsfähiger und überzeugender werden, rückt der brancheninterne Streit darüber, ob KI moralisches Gewicht haben kann – und wer darüber entscheiden darf – von Philosophieseminaren in den Mittelpunkt der Mainstream-Tech-Debatte.
Weder OpenAI noch Anthropic haben über Altmans gemeldete Äußerungen hinaus öffentlich auf die Position des jeweils anderen reagiert.
---
Bleib vorne bei KIDie neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.
Mehr KI-Nachrichten lesen →
