Inmitten des Hypes um Donald Trumps 500-Milliarden-Dollar-KI-Infrastrukturprojekt gerieten führende Persönlichkeiten der künstlichen Intelligenz diese Woche auf dem Weltwirtschaftsforum in eine hitzige Debatte über die Gefahren der rasant fortschreitenden Technologie.
KI-Pioniere wie Sir Demis Hassabis, Chef von Google DeepMind, Dario Amodei, Mitbegründer von Anthropic, und der Informatiker Yoshua Bengio, der „Godfather of AI“, werden bei einem Treffen in Davos noch einmal deutliche Warnungen vor der Bedrohung aussprechen von KI, da kommerzielle Interessen und geopolitische Rivalitäten Sicherheitsbedenken aufwerfen. .
Während Hassabis einräumte, dass „man den Geist nicht zurück in die Flasche stecken kann“, könnte die Zivilisation eine Bedrohung darstellen, wenn die allgemeine künstliche Intelligenz (wenn Computer die kognitiven Fähigkeiten des Menschen übertreffen) außer Kontrolle gerät oder von schlechten Akteuren übernommen wird . Dies gilt insbesondere für große Sprachmodelle, die „Open Source“ und für jedermann zugänglich sind.
„Hier stehen nicht nur Unternehmen und Produkte auf dem Spiel“, sagte der Nobelpreisträger in einem Interview mit der Financial Times. „(Es ist) die Zukunft der Menschheit, der Zustand der Menschheit und die Richtung, in die wir als Gesellschaft gehen sollten.“
Amodei, dessen Startup den Chatbot Claude entwickelt hat und von Google und Amazon unterstützt wird, ist besorgt über den Einsatz von KI durch autoritäre Regierungen und sagt, er sei „sehr besorgt über ein Szenario von 1984 oder schlimmer“, sagte er.
„Die Wissenschaft weiß nicht, wie wir Maschinen kontrollieren können, die das gleiche Intelligenzniveau haben wie wir, und es ist noch schlimmer, wenn sie schlauer sind als wir“, fügte Bengio während der Podiumsdiskussion hinzu. „Manche Leute sagen: ‚Mach dir keine Sorgen, wir werden es schon herausfinden.‘ Aber verstehen Sie die Konsequenzen, wenn wir es nicht bekommen?“
Ihre Haltung wurde von Metas Chef-KI-Wissenschaftler Yann LeCun, der Milliarden von Dollar für die Entwicklung eines Open-Source-LLM namens Llama ausgegeben hat, als heuchlerisch kritisiert. Er sagte, diese Bedenken würden durch den harten Wettbewerb zwischen Konkurrenten um den Bau und Verkauf der besten Modelle widerlegt.
„Joshua und Dalio haben sich gegen Open Source ausgesprochen, was eigentlich sehr gefährlich ist“, sagte er in einem Interview. „Hindernisse bei der Open-Source-Verbreitung werden dazu führen, dass einige wenige Akteure, entweder an der US-Westküste oder in China, die Regulierung übernehmen … (und) die Macht in die Hände einiger weniger legen.“
„Das ist sehr seltsam von Leuten wie Dalio. Als wir uns gestern trafen, sagte er, dass die Vorteile und Risiken von KI ungefähr in der gleichen Größenordnung liegen, und ich sagte: ‚Wenn Sie das wirklich glauben, dann … Warum weiterarbeiten?‘ KI?’“, fügte LeCun hinzu. „Ich denke also, dass er in dieser Hinsicht ein wenig zweideutig ist.“
Während Wissenschaftler und Ingenieure über die Risiken und Chancen der KI debattierten, zeigten Führungskräfte aus der Wirtschaft unbändige Begeisterung für die Technologie.
„Es gibt keine Widersacher“, sagte Ervin Too, Präsident der niederländischen Technologie-Investmentgruppe Prosus. „Wenn wir verstehen, was große Sprachmodelle und darauf trainierte Agenten bewirken können, wissen wir als Menschen, dass sie revolutionär sind und einen unglaublich disruptiven Einfluss auf jede Branche haben werden. Daraus kann ich nur schließen .“
Die Aufregung nahm am Mittwoch noch zu, als OpenAI, SoftBank und Oracle ein 500-Milliarden-Dollar-Joint-Venture für KI-Infrastruktur in den USA namens Stargate ankündigten.
Präsident Trump begrüßte am Dienstag die CEOs Sam Altman, Masayoshi Son und Larry Ellison im Oval Office und unterzeichnete diese Woche eine Durchführungsverordnung, die viele Hemmnisse rund um die Technologieentwicklung beseitigte. Der neue US-Präsident sagte, dieser Schritt würde Amerikas Vormachtstellung im Technologiebereich sichern.
„Wir bei OpenAI glauben, dass Ihre Infrastruktur Ihr Schicksal ist“, sagte Sarah Friar, Chief Financial Officer von OpenAI. „Bei Stargate dreht sich alles um mehr Rechenleistung. Bessere Modelle können komplexere Fragen beantworten und Menschen und Unternehmen dabei helfen, mehr zu leisten.“
Stargate dominierte die Diskussion für den Rest der Woche in Davos, wobei viele, darunter auch Elon Musk, auf seiner Social-Networking-Seite X fragten, wie das Trio die versprochenen riesigen Ausgaben finanzieren würde.
Die FT berichtete am Freitag, dass Stargate noch nicht die nötige Finanzierung gesichert hat, keine staatliche Finanzierung erhalten wird und plant, nach der Fertigstellung nur noch OpenAI zu bedienen. Bisher planen SoftBank und OpenAI, jeweils mehr als 15 Milliarden US-Dollar in das Projekt zu investieren, in der Hoffnung, eine Kombination aus Eigenkapital und Fremdkapital von bestehenden Geldgebern aufzubringen, um Stargate There is zu finanzieren.
Das neue Unternehmen wurde auch als jüngster Beweis für eine Kluft in Altmans Beziehung zu Microsoft-Chef Satya Nadella und seinem Top-KI-Manager Mustafa Suleiman gewertet. Mustafa Suleiman ist ein ehemaliger Mitbegründer von DeepMind, der Anfang letzten Jahres sein Startup verließ, um zu Microsoft zu wechseln.
„Die Spannungen, die letztes Jahr in Davos aufkamen, waren nur der Anfang“, sagte Mark, CEO von Salesforce, das mit Microsoft beim Verkauf von KI-gestützten Agenten an Unternehmen konkurriert. „Mr.
„Microsoft beschleunigt derzeit seine eigene KI-Entwicklung … Dieses Muster spiegelt die Geschichte von Microsoft und seinen ‚Partnern‘ wider“, fügte Benioff hinzu. „Dies könnte den Anfang vom Ende der Beziehung markieren, und es wird für OpenAI wichtig sein, schnell auf andere Plattformen zu expandieren.“
„Mark hat keine Ahnung, wovon er spricht“, sagte Microsoft-Sprecher Frank Shaw.
Microsoft hat seit 2019 rund 14 Milliarden US-Dollar in OpenAI investiert, als Gegenleistung für die Aushandlung der geistigen Eigentumsrechte des Unternehmens und des Rechts, sein exklusiver Cloud-Computing-Anbieter zu sein. Dessen Vertrag endete jedoch mit der Ankündigung von Stargate.
Herr Nadella stellte auch die Ausgabenverpflichtungen von Stargate in Davos in Frage und verwies auf die geplanten Investitionsausgaben von Microsoft in Höhe von 80 Milliarden US-Dollar.
„Ich weiß nur, dass ich damit einverstanden bin, 80 Milliarden Dollar auszugeben“, sagte er und antwortete Musk später auf der Social-Media-Plattform X: ”
Stargate ist nur das jüngste Beispiel für einen Wettlauf um den Aufbau einer Rechenzentrumsinfrastruktur in den Vereinigten Staaten, während das Unternehmen sich auf die nächste Phase des KI-Wirtschaftsbooms vorbereitet. Letztes Jahr baute Musks xAI in nur drei Monaten einen Supercomputer namens Colossus mit 100.000 miteinander verbundenen Nvidia-Chips und versprach, diese Zahl zu verzehnfachen.
BlackRock und Microsoft bereiten die Einführung eines 30-Milliarden-Dollar-KI-Investmentfonds zum Bau von Rechenzentren und Energieprojekten vor, um der wachsenden Nachfrage aus dem Technologiesektor gerecht zu werden. Am Freitag sagte Meta-Chef Mark Zuckerberg, das Unternehmen werde in diesem Jahr 60 bis 65 Milliarden US-Dollar für die Kapitalinfrastruktur ausgeben und gleichzeitig sein KI-Team erweitern.
„Ich habe mich ununterbrochen mit Kunden aus allen Bereichen getroffen. Ich glaube nicht, dass es einen einzigen CEO gibt, mit dem ich gesprochen habe, der nicht weiß, dass er KI implementieren muss“, sagte Friar. „KI ist mehr als nur eine Agenda. Es ist eine Agenda. Sie ist nicht mehr nur ein abstraktes Konzept oder eine futuristische Vision. Sie ist da.“
Zusätzliche Berichterstattung von Harriet Agnew in Davos
