OpenAI

Hauptsitz

OpenAI LP ist ein US-amerikanisches Unternehmen, das sich mit der Erforschung von künstlicher Intelligenz (KI, englisch Artificial Intelligence, AI) beschäftigt. Die gewinnorientierte Tochtergesellschaft OpenAI LP wird dabei durch das Non-Profit-Mutterunternehmen OpenAI Inc. kontrolliert.

Zentrale Geldgeber der Organisation sind der Unternehmer Elon Musk sowie das Unternehmen Microsoft. Stand 2015 war das Ziel von OpenAI, künstliche Intelligenz auf Open-Source-Basis auf eine Art und Weise zu entwickeln und zu vermarkten, dass sie der Gesellschaft Vorteile bringt und nicht schadet. Die Organisation wollte eine „freie Zusammenarbeit“ mit anderen Institutionen^[4] und Forschern, indem sie ihre Patente und Forschungsergebnisse für die Öffentlichkeit zugänglich mache.^[5] Die Firma ist mit über 1 Milliarde US-Dollar von Spenden finanziert.^[6]

OpenAI beschäftigt sich nach eigenen Angaben mit der Frage der „existenziellen Bedrohung durch künstliche Intelligenz“ – also dem möglichen Übertreffen und Ersetzen der menschlichen durch künstliche Intelligenz (KI). Die Organisation dient bis jetzt nur der Erforschung künstlicher Intelligenz. Im Februar 2018 verließ Elon Musk die Leitung von OpenAI, um angeblich Interessenkonflikte mit Teslas Entwicklungen im Bereich künstliche Intelligenz zu vermeiden. Er bleibt weiterhin Spender und Berater der Organisation.

Motive

Die Wissenschaftler Stephen Hawking und Stuart Jonathan Russell äußerten Befürchtungen, dass – wenn künstliche Intelligenz eines Tages die Fähigkeit erlangen könnte, sich selbst zu verbessern – dies zu einer „Explosion der Intelligenz“ führen könnte. Durch die damit einhergehende Überlegenheit der KI sei eine Verdrängung der Spezies Mensch durch superintelligente künstliche Intelligenz denkbar, die keinen menschlichen Wertvorstellungen unterworfen ist.

Elon Musk, Mitbegründer von OpenAI, bezeichnet künstliche Intelligenz als größte existenzielle Gefahr für die Menschheit. Um diesem Risiko bei der Entwicklung künstlicher Intelligenz entgegenzutreten, wurde OpenAI als Open-source non-profit-Organisation konzipiert. Damit sollte die Unabhängigkeit der Organisation gegenüber Geldgebern und deren Interessen sichergestellt werden; für die Forschung sollte der Freiraum geschaffen werden, sich auf lange Sicht positiv auf die Gesellschaft auswirken zu können.^[6]

Das Unternehmen OpenAI selbst gibt zu bedenken, dass es schwer abzuschätzen sei, wie sehr die Gesellschaft von hochwertiger künstlicher Intelligenz profitieren könnte. Genauso komplex sei im Gegenzug zu eruieren, welchen Schaden eine missbräuchliche Verwendung dieser Technologie mit sich bringen könnte.^[6] Aus heutiger Sicht sei es obendrein auch nicht absehbar, wann künstliche Intelligenz auf dem Level sein würde, mit der menschlichen Intelligenz in Konkurrenz zu treten.^[7] Der Vorstand von OpenAI ist jedenfalls überzeugt, dass künstliche Intelligenz eine Erweiterung des individuellen menschlichen Willens sei. Damit sollte diese Technologie auch flächendeckend verfügbar und jedem Menschen im gleichen Maße zugänglich sein.^[6] Ein Übertreffen der menschlichen Intelligenz durch das auf mehrere Jahrzehnte konzipierte Projekt OpenAI ist für den Ko-Vorsitzenden des Unternehmens, Sam Altman, jedenfalls denkbar.^[8]

Für den Vorstandsvorsitzenden von Infosys, Vishal Sikka, war die Offenlegung der Entwicklung von OpenAI maßgeblich für seine Unterstützung. Dabei war zentral, dass das Bestreben von OpenAI darin liegt, dass die Forschung stets „the greater good“ – also eine ganzheitlich positive Absicht für die Menschheit – im Fokus hatte.^[9] Cade Metz von Wired sagte, dass Firmen wie Amazon Interesse an der Verwendung von Open-Source Software und Open-Source Data hätten, um sich gegen Unternehmen wie Google oder Facebook zu behaupten, die über eine starke proprietäre Datenbasis verfügen. Firmen von Y Combinator teilen ihre Daten ebenfalls mit OpenAI, so Altman in einem Interview.^[8]

Ob OpenAI weiterhin eine non-profit-Organisation ist, wird inzwischen teilweise bestritten. Einer der Gründe dafür ist die Ankündigung von ChatGPT Plus, einem Abonnementservice für ChatGPT, der den zahlenden Nutzern Privilegien gegenüber den nichtzahlenden Nutzern einräumt.^[10] Mitgründer Elon Musk kritisierte dies indirekt über Twitter, indem er den Screenshot einer vermeintlichen Konversation von ChatGPT mit einem unbekannten Nutzer veröffentlichte, in dem die KI – nach Eingabe bestimmter suggestiver Elemente und Fragen – die Gründung eines profitorientierten Subunternehmens unter der Schirmherrschaft einer non-profit-Organisation als „hoch unethisch und illegal“ (en.: „highly unethical and illegal“) bezeichnete – was Musk mit einem Ausdruck von Interesse kommentierte.^[11] Der Stern berichtet über Absichten von Musk, ein Konkurrenzprodukt zu ChatGPT entwickeln zu wollen.^[12]

Strategie

Dass ein Risiko mit der Entwicklung und dem Voranbringen von freundlicher künstlicher Intelligenz einhergehe, bestritt Musk in einem Interview im Jahr 2015 nicht. Wichtig sei, künstliche Intelligenz möglichst vielen Menschen zur Verfügung zu stellen, damit nicht ein kleiner Teil die Vorteile der KI allein für sich beanspruchen könne. Das sei die beste Verteidigung gegen missbräuchliche Verwendung von KI-Systemen.^[13]

Diese Strategie von Musk und Altman, das Risiko der Schadensverursachung durch künstliche Intelligenz durch Open-Source KI für jedermann zu reduzieren, ist in der Community umstritten. Der Philosoph Nick Bostrom ist einer der Skeptiker dieses Ansatzes und verdeutlicht das sinngemäß mit folgender Metapher: „Wenn Sie einen Knopf haben, der Schaden in der Welt anrichten kann, würden Sie ihn nicht jedem verfügbar machen.“^[14] Mittlerweile sind neuere Modelle weitgehend proprietär und nicht mehr offen dokumentiert, was wiederum Kritik hervorrief und Fragen der Machtkonzentration und Transparenz aufwarf.^[15][16]

Produkte

OpenAI Gym

Ab 2016 hat OpenAI seine Plattform „OpenAI Gym“ entwickelt, die sich mit bestärkendem Lernen (en: reinforcement learning) befasst.^[17] Der Quellcode ist in seiner aktuellen Version auf GitHub abrufbar.^[18] Dabei wird ein Basissystem angestrebt, das leicht aufzusetzen ist und eine große Bandbreite an verschiedenen Entwicklungsumgebungen unterstützt. OpenAI Gym will damit eine Standardisierung für die Veröffentlichung von Ergebnissen in der Erforschung künstlicher Intelligenz anbieten, um Publikationen leichter vergleichen und reproduzieren zu können.^[19][20]

OpenAI Five

Mit OpenAI Five wurde ein System miteinander kooperierender Algorithmen entwickelt. KI-Systeme agieren üblicherweise unabhängig voneinander. Hier arbeiten jetzt erstmals KI-Systeme zusammen im Team an einem gemeinsamen Ziel. In dem komplexen strategischen Computerspiel Dota 2 treten Teams aus mehreren Spielern gegeneinander an. In einem Wettbewerb waren diese kooperierenden KI-Systeme den menschlichen Spielern zwar überlegen, doch es ist zu beachten, dass in diesem Wettkampf eine stark vereinfachte Version des Spiels verwendet wurde, in der nur 17 der insgesamt 115 Helden spielbar sind und einige Gegenstände sowie Illusionsrunen nicht verfügbar waren.^[21] Später wurde es Spielern aus der ganzen Welt für drei Tage ermöglicht, im Rahmen der vereinfachten Version online gegen die KI zu spielen, wobei OpenAI in 7257 Spielen eine Siegesrate von 99,4 % aufwies, aber auch von vielen Teams mehrmals hintereinander besiegt wurde – von einem Team gar 10 Mal in Folge.^[22] Ein Wettkampf mit Menschen ohne Einschränkungen im Spiel ist nicht geplant.

GPT-2

Ein weiteres Projekt ist GPT-2 (Generative Pretrained Transformer 2), eine künstliche Intelligenz, die englischsprachige Texte selbstständig vervollständigen kann und deren Texte teilweise von menschengeschriebenen Texten nicht unterschieden werden können.

Die Architektur eines GPT-Modells

Der Unterschied zu einigen anderen automatischen Textgeneratoren besteht darin, dass die Software zur Texterzeugung keine vordefinierten Textblöcke nutzt. Sie ist auch nicht auf einen Themenbereich festgelegt, sondern kann zu jeglichem Text einige passende Sätze erzeugen.^[23] Das Sprachmodell basiert auf einem künstlichen neuronalen Netz mit 1,5 Milliarden Parametern. Ein statistisches Sprachmodell beschreibt, wie wahrscheinlich ein bestimmter Satz in einem Kontext ist.^[24] Datengrundlage für GPT-2 waren ungefähr 45 Millionen Seiten Text. Die Technik hinter GPT-2 ähnelt derjenigen älterer Software, wie sie unter anderem von Google entwickelt worden ist. Nur die Wege, auf denen OpenAI die Daten zusammensetzt und wie die Softwaremodelle ineinandergreifen, waren neu.

Wissenschaftler kritisierten die von OpenAI gemeldeten Durchbrüche als Clickbaiting; die reißerischen Überschriften übertrieben den von OpenAI erzielten Durchbruch.^[25] Wie bei ähnlichen Systemen hat nach Beurteilung von Fachleuten auch GPT-2 deutliche Schwierigkeiten, Inhalte zu verstehen, was mithilfe statistischer Analysen eher überdeckt wird. Zum Beispiel wurde ein Text über Einhörner zu einem fantasievollen Text über Einhörner mit vier Hörnern. Sind die Themen ungewöhnlicher und spezieller, scheinen die erzeugten Texte an Qualität zu verlieren. Bei vielen Forschern bleibt umstritten, ob eine künstliche Intelligenz überhaupt durch mehr Datenmengen erreichbar ist. Deep Learning benötige zu viele Daten und brauche im Gegensatz zum Menschen sehr viele Beispiele, um lernen zu können. Eine algorithmische Möglichkeit, menschliches Lernen zu simulieren, bleibt nach Aussage von Forschern auch mit Blick auf GPT-2 ein Rätsel für die Forschung der künstlichen Intelligenz und der Kognitionswissenschaft.^[24] Nach Aussage eines Wissenschaftlers des Deutschen Forschungszentrums für Künstliche Intelligenz stellt sich auch mit Blick auf GPT-2 nicht die häufig aufgeworfene polarisierende Frage eines Wettkampfes zwischen Mensch und Maschine, sondern eher die Frage, auf welche Art und Weise Journalisten in Zukunft ihre Texte mithilfe von künstlicher Intelligenz verfassen werden.^[26]

Im November 2019 veröffentlichte OpenAI GPT-2 auf einer Website, auf der der Textgenerator ausprobiert werden konnte.^[23] Von Studierenden wurde GPT-2 bereits nachgebaut und durch umfangreichere Modelle übertroffen.^[27]

GPT-3

GPT-3, eine Weiterentwicklung zu GPT-2, wurde in Form einer wissenschaftlichen Publikation erstmals am 28. Mai 2020 vorgestellt.^[28] Die darauf basierende OpenAI-API ist das erste kommerzielle Produkt von OpenAI.^[29] Mit über 175 Milliarden Parametern übertrifft es bei weitem das mit 17 Milliarden Parametern vergleichbare und vormals größte T-NLG-Modell von Microsoft.

GPT-4

Im März 2023 wurde GPT-4 vorgestellt.^[30] Das Programm wurde öffentlich erst am 14. März 2023 vorgestellt, war aber ausgewählten Journalisten und Software-Entwicklern wohl schon mindestens eine Woche vorher verfügbar gemacht worden.^[31] GPT-4 soll nun auch Bilder erkennen und dazu passende Texte schreiben können.^[31] Laut Berichterstattung von Heise online soll GPT-4 angeblich ein halbes Jahr lang durch Sicherheitstrainings und menschliche Nachjustierungen gelaufen sein, nachdem es auf „AzureAI-Supercomputern“ trainiert habe.^[31] GPT-4 soll aber auch aufgrund der wohl „erhöhten“ Fähigkeiten neue Risiken bergen, die aber nicht im technischen Bericht des OpenAI-Teams (oder sonst) veröffentlicht wurden.^[31]

Anfang des Jahres 2023 forderten Wissenschaftler und IT-Prominente in einem offenen Brief, das Training besonders leistungsfähiger KI-Modelle, die kompetenter sind als GPT-4, für mindestens sechs Monate auszusetzen. Zu den Unterzeichnern gehörten u. a. Geoffrey Hinton, Yoshua Bengio, Steve Wozniak und Elon Musk.^[32][33]

DALL-E

Ein mit DALL-E erstelltes Bild, nach Eingabe von „racoons playing poker, digital art“

DALL-E wurde am 5. Januar 2021 von OpenAI vorgestellt. Der Name bildet ein Kofferwort aus WALL-E und dem spanischen Künstler Salvador Dalí. Das Programm beruht auf GPT-3 und kann Wörter als Input in Anordnungen von Pixeln als Output transferieren. Das System kombiniert dabei Bilderkennung und Computerlinguistik.^[34] So erstellt das Programm fotorealistische Bilder allein auf Basis von Texteingaben. Im April 2022 wurde die verbesserte Version DALL-E 2.0 vorgestellt.^[35]

ChatGPT

Im Dezember 2022 stellte OpenAI die künstliche Intelligenz ChatGPT vor, die auf dem GPT-3.5-Modell basierte, wobei die aktuelle Pro-Version auf GPT-4.0-Modell (ohne Bilderkennung) basiert^[36]. Sie wurde entwickelt, um Benutzern das Erstellen von natürlich klingenden Konversationen in Echtzeit in Form eines Chatbots zu ermöglichen. Durch die Verwendung von maschinellem Lernen und natürlicher Sprachverarbeitung kann ChatGPT verstehen, was ein Benutzer schreibt und mithilfe von GPT-3.5 eine möglichst passende Antwort generieren.^[37]

Eine wichtige Eigenschaft von ChatGPT ist die Fähigkeit, sich an den Kontext einer Konversation anzupassen, sowie sich an vorherige Themen zu erinnern und darauf basierend angemessene Antworten zu generieren. Dadurch kann sich ChatGPT an veränderte Gesprächssituationen anpassen und eine realistischere Unterhaltung simulieren.^[38]

Es kann den Code nahezu aller Programmiersprachen analysieren und schreiben sowie Fehler und Bugs finden, Lösungen vorschlagen und dabei seinen Lösungsweg beschreiben. Aufgrund einer zu hohen Fehleranfälligkeit wurden ChatGPT-Antworten kurz nach der Veröffentlichung auf Stack Overflow gebannt.^[39]

Point-E

Das ebenfalls 2022 via Preprint und Repository vorgestellte Point-E ermöglicht die Generierung von 3D-Modellen auf Basis von Texteingaben.^[40][41][42]

Teilhaber am Projekt

Der Vorsitzende des Projekts^[43] ist Sam Altman, ehemaliger Präsident von Y Combinator. Bis Februar 2018 war es Elon Musk, CEO von Tesla.^[44][45]

Unterstützer des Projekts^[13] sind

• Reid Hoffman, Mitbegründer von LinkedIn^[45]
• Peter Thiel, Mitbegründer von PayPal^[45]
• Greg Brockman, ehemaliger Chefentwickler von Stripe
• Jessica Livingston, eine Gründungspartnerin von Y Combinator
• Amazon Web Services
• Infosys Technologies

Hochrangige Mitarbeiter:

• Leiter der Forschung: Ilya Sutskever, ein ehemaliger Experte von Google im Bereich des Maschinenlernens^[13]
• Chefentwickler: Greg Brockman^[13]

Die Entwicklergruppe startete Anfang Januar 2016 mit einem Team aus neun Forschern. Peter Lee von Microsoft betonte dabei die hohen Kosten für einen Spitzenforscher im Bereich der Erforschung von künstlicher Intelligenz. Obwohl OpenAI Gehälter auszahlt, die sich an Profit-Organisationen und nicht an jenen von Non-Profit-Organisationen orientieren, kann das Unternehmen mit Gehaltsschemata beispielsweise von Google oder Facebook nicht mithalten. Trotz dieser Unterschiede in der Bezahlung wechselte etwa Sutskever von Google nach OpenAI. Der Grund hierfür läge sowohl in der Qualität der Forschergruppe bei OpenAI als auch an der Unternehmensmission. Für Brockman war es ein zentrales Anliegen, die Gesellschaft näher an die Verfügbarkeit von echter und sicherer künstlicher Intelligenz heranzubringen. Forscher Wojciech Zaremba von OpenAI lehnte Angebote von Firmen ab, die ihm das Zwei- bis Dreifache seines Marktwertes als Gehalt angeboten hätten, um sich stattdessen OpenAI anzuschließen.^[14]

Hatte Microsoft bereits in den Jahren 2019 und 2021 jeweils eine Milliarde US-Dollar in OpenAI investiert, sicherte sich das Unternehmen im Januar 2023 für ein weiteres Investment in Höhe von zehn Milliarden US-Dollar die Dienste von OpenAI zur Implementierung dieser in eigene Produkte. OpenAI benötigt die Finanzierung sowie das Cloud-Computing (Microsoft Azure) und Supercomputer von Microsoft, um die eigenen Programme betreiben zu können bzw. die durch die eigenen Programme anfallenden riesigen Datenmengen zu verarbeiten sowie die eigene Forschung voranzutreiben.^[46][47]

Weblinks

• Offizielle Website (openai.com)
• Interview mit Sam Altman und Elon Musk (englisch)
• Interview mit dem Angestellten Andrej Karpathy (englisch)

Einzelnachweise