Eine jahrzehntelange persönliche Fehde, wenn nicht wegen der "Heuchelei" von OpenAI, gäbe es kein weltweit führendes KI-Unternehmen Anthropic

Originalartikel Titel: "Die jahrzehntelange Fehde, die die Zukunft der KI prägt"

Originalartikel Autor: Keach Hagey

Reporter Keach Hagey von The Wall Street Journal veröffentlichte einen ausführlichen investigativen Bericht, der zum ersten Mal die jahrzehntelange persönliche Fehde zwischen den Gründern von Anthropic und OpenAI durch umfangreiche Interviews mit aktuellen und ehemaligen Mitarbeitern, Führungskräften und Partnern aufdeckte. Die Gestaltung der globalen KI-Landschaft ist nicht nur ein Kampf um technische Ansätze, sondern auch eine unheilbare persönliche Wunde.

In den letzten Monaten war Dario Amodeis interne Sprache weitaus intensiver als seine öffentlichen Äußerungen. Er verglich den Rechtsstreit zwischen Sam Altman und Elon Musk mit einem "Hitler vs. Stalin"-Konflikt, beschrieb die 25 Millionen Dollar Spende von OpenAI-Präsident Greg Brockman an ein pro-Trump Super-PAC als "böse" und verglich OpenAI und andere Wettbewerber mit "Tabakunternehmen, die Produkte verkaufen, von denen sie wissen, dass sie schädlich sind."

Nachdem der Streit mit dem Pentagon eskalierte, bezeichnete er OpenAI erneut als "verlogen" auf Slack und schrieb: "Diese Fakten deuten auf ein Verhaltensmuster hin, das ich bei Sam Altman allzu oft gesehen habe."

Intern bezeichnet Anthropic diese Markenstrategie als Schaffung einer "gesunden Alternative" zu den Wettbewerbern, und eine subtil spöttische Werbung, die während des Super Bowl in diesem Jahr ausgestrahlt wurde und sich gegen OpenAIs Einbeziehung von Werbung in Chatbots richtete, ist eine öffentliche Manifestation dieser Strategie.

Die Geschichte beginnt 2016 im Wohnzimmer eines gemeinsamen Hauses in der Delano Street in San Francisco. Dario und seine Schwester Daniela Amodei lebten dort, und OpenAI-Mitgründer Brockman besuchte oft aufgrund seiner Freundschaft mit Daniela. Eines Tages saßen Brockman, Dario und Danielas damaliger Verlobter und effektiver Altruismus-Philanthrop Holden Karnofsky zusammen und diskutierten den richtigen Weg für die KI-Entwicklung: Brockman war der Meinung, dass alle Amerikaner darüber informiert werden sollten, was an der Spitze der KI passiert, während Dario und Karnofsky der Meinung waren, dass sensible Informationen der Regierung gemeldet werden sollten, bevor sie der Öffentlichkeit zugänglich gemacht werden. Diese Meinungsverschiedenheit wurde später zum Wendepunkt der philosophischen Wege der beiden Unternehmen.

Beeindruckt von OpenAIs Team trat Dario Mitte 2016 bei und blieb bis spät in die Nacht mit Brockman wach, um KI-Agenten zu trainieren, die Videospiele spielen. Im Laufe von vier Jahren der Zusammenarbeit vertieften sich jedoch die Konflikte über Macht und Zugehörigkeit. Im Jahr 2017 forderte Musks Hauptfinanzierer zu dieser Zeit, eine Liste der Beiträge jedes Mitarbeiters an und nutzte sie als Grundlage für Entlassungen, wobei 10 % bis 20 % des 60-köpfigen Teams nacheinander entlassen wurden. Dario betrachtete dies als grausam, und einer der Entlassenen wurde später Mitgründer von Anthropic.

Im selben Jahr schlug der von Dario engagierte Ethikberater vor, dass OpenAI als koordinierende Stelle zwischen KI-Unternehmen und Regierungen fungiert. Brockman extrapolierte dann die Idee, "AGI an den Sicherheitsrat der Vereinten Nationen zu verkaufen", was Dario als fast verräterisch betrachtete und ihn kurzzeitig dazu brachte, über einen Rücktritt nachzudenken.

Im Jahr 2018 übernahm Altman nach Musks Abgang die Führung. Er und Dario einigten sich darauf, dass die Mitarbeiter kein Vertrauen in die Führung von Brockman und dem Chief Scientist Ilya Sutskever hatten. Dario stimmte zu zu bleiben, unter der Bedingung, dass die beiden ihn nicht mehr beaufsichtigen, stellte jedoch bald fest, dass Altman gleichzeitig den beiden das Recht versprochen hatte, ihn zu entlassen, was zu widersprüchlichen Verpflichtungen führte.

Nach dem Start der Entwicklung der GPT-Serie brach der intensivste Konflikt innerhalb des Führungsteams darüber aus, wer am Projekt des Sprachmodells teilnehmen konnte. Dario, der damals Forschungsleiter war, erlaubte Brockman nicht, einzugreifen. Daniela, die das Projekt gemeinsam mit Alec Radford leitete, drohte, von ihrer Führungsposition zurückzutreten, und zog Radfords persönliche Vorlieben in den internen Machtkampf hinein.

Darios Ansehen stieg mit dem Erfolg von GPT-2 und GPT-3, aber er hatte das Gefühl, dass Altman seinen Beitrag herabspielte. Als Brockman in einem Podcast über die Satzung von OpenAI sprach, war Dario verärgert, weil er trotz seines größeren Beitrags nicht eingeladen wurde. Ähnlich war er unzufrieden zu erfahren, dass Brockman und Altman sich mit dem ehemaligen Präsidenten Obama treffen wollten, ihn jedoch ausgeschlossen hatten.

Der Konflikt eskalierte dramatisch während eines konfrontativen Treffens in einem Konferenzraum. Altman rief die Geschwister Amodei in den Besprechungsraum und beschuldigte sie, Kollegen zu incitieren, negatives Feedback über ihn an den Vorstand zu übermitteln. Die Geschwister wiesen dies zurück. Altman sagte, die Informationen kämen von einem anderen Führungskraft, und Daniela brachte sofort diese Führungskraft zur Befragung, die behauptete, keine Kenntnis davon zu haben.

Altman bestritt umgehend, jemals eine solche Aussage gemacht zu haben, was zu einem hitzigen Streit führte. Anfang 2020 forderte Altman die Führungskräfte auf, Peer-Reviews durchzuführen. Brockman schrieb ein stark formuliertes Feedback, in dem er Daniela Machtmissbrauch und die Nutzung bürokratischer Prozesse zur Ausschluss von abweichenden Meinungen vorwarf, was Altman im Voraus als "hart, aber fair" genehmigte. Daniela wies jeden Punkt zurück und eskalierte die Diskussion bis zu dem Punkt, an dem Brockman kurz vorschlug, die Kommentare zurückzuziehen.

Bis Ende 2020 entschied das Team um Dario, zu gehen, wobei Daniela die Führung bei den Verhandlungen über die Abreise mit den Anwälten übernahm. Altman ging persönlich zu Darios Haus, um ihn zu überzeugen, zu bleiben, aber Dario bestand darauf, nur direkt an den Vorstand zu berichten, und machte deutlich, dass er nicht mit Brockman zusammenarbeiten könne. Vor seinem Weggang schrieb er ein ausführliches Memorandum, in dem er das KI-Unternehmen in "marktorientierte" und "gemeinwohlorientierte" Kategorien unterteilte, da er der Meinung war, dass das ideale Verhältnis 75 % Gemeinwohl und 25 % Markt betrage. Mehrere Wochen später verließen Dario, Daniela und fast ein Dutzend Mitarbeiter OpenAI, um Anthropic zu gründen.

Fünf Jahre später werden beide Unternehmen mit über 300 Milliarden Dollar bewertet und rennen darauf zu, an die Börse zu gehen. Während des Gruppenfotos beim AI-Gipfel im Februar in Neu-Delhi hob der indische Premierminister Modi seine Hände hoch in Anwesenheit von Technologieführern, während Amodei und Altman sich entschieden, nicht teilzunehmen, und sich unbeholfen für ein Ellenbogenstoßen entschieden.

Originalartikel-Link