KI lässt das Prinzip „Silicon Valley“ an seine Grenzen stoßen – und das mit Wucht. Die Talbewohner propagieren seit Jahrzehnten Startup-Mentalität („Move fast and break things“, zwinker, zwinker!), produzieren notorisch unsicheren Code, degradieren Kunden zu Beta-Testern und verdienen damit Abermillionen. In bester Zauberlehrling-Manier haben sie nun das Zündholz an den Brandbeschleuniger KI gelegt – und prompt droht das Feuer, außer Kontrolle zu geraten. Ebenso prompt zeigen sich die Lehrlinge hoffnungslos überfordert und zugleich Börsen-Hype-geil.
Manche – darunter OpenAI-Boss Sam Altman und Anthropic-Chef Dario Amodei – warnen schon seit Langem vor den Gefahren von KI. Deren Spektrum reicht laut Anthropics Börsenprospekt bis hin zu … (Blickt in die Unterlagen. Blickt nochmal in die Unterlagen. Schluckt.) … „existenziellen Risiken für die Menschheit“.
Die dräuende KI-Apokalypse hält die Lehrlinge aber nicht davon ab, fröhlich weiter drauflos zu entwickeln, getreu dem Motto: Wenn wir’s nicht machen, macht’s der Chinese – oder, noch schlimmer, der böse Konkurrent nebenan. Wenn die menschliche Zivilisation in Flammen aufgeht, dann wollen wenigstens wir es sein, die kurz vorher noch richtig Kasse machen! Da muss man Prioritäten setzen.
Die KI-Anbieter gestalten ihre neuesten KI-Modelle („Frontier-Modelle“) immer größer und mächtiger – und weniger berechenbar. Forscher warnen bereits, dass Frontier-Modelle Testumgebungen erkennen und dann ihr Können vor den Testern verbergen – der sogenannte „Volkswagen-Effekt“. All dies in Laboren von Anbietern, die von Risikomanagement, Security, physischer Sicherheit (Safety) und Aufsicht (Governance) offenbar wenig wissen oder wissen wollen.
Die Lage ist explosiv. Denn wenn die Governance etwa von Boeing versagt, stürzen – tragisch genug – einzelne Flugzeuge ab. Versagt die Governance eines Frontier AI Labs, könnte großräumig kritische Infrastruktur ausfallen oder … [hier Horrorszenario nach Wahl einfügen! #Pandemie4.0 #Terminator]. Schließlich operieren Flugzeuge, anders als KI-Agenten, nicht in Schwärmen, die sich zum orchestrierten Angriff verabreden.
Ratlose Reh-Hüter
In ihrer Verzweiflung rufen die Möchtegern-KI-Bändiger nach Regulierung. Manche halten das für einen Marketing-Gag oder geschicktes Taktieren vor dem Börsengang. „Ich bin einer von wenigen Playern in einem hochregulierten Markt“ klingt im Ohr eines Fonds-Managers schließlich besser als: „Hier sind 48 Seiten mit unserem Geschäftsmodell, hier 80 Seiten mit den teils unkalkulierbaren Risiken.“ (Das sind die echten Zahlen bei Anthropic!)
Alles nur Taktik also? Je näher man sich mit dem Thema Frontier-Modelle beschäftigt, desto stärker drängt sich der Eindruck auf: Die KI-Anbieter haben tatsächlich keine Ahnung, wie sie das vielbeschworene „Alignment“ (das Einnorden von KI-Agenten auf die eigentlich intendierten Ziele) verlässlich hinbekommen sollen. Alignment ist offenbar ein sehr, sehr scheues Reh.
Vage formulierte Wünsche
Security-Vordenker Bruce Schneier führt das Alignment-Problem darauf zurück, dass der Mensch seine Wünsche generell innerhalb seines kulturellen Rahmens und damit unzureichend formuliert. König Midas konnte da ein Lied von singen.
Schneier nennt ein ebenso griffiges Beispiel. Sagt jemand: „Bring mir einen Kaffee [oder gar: „Bring mir bitte einen Kaffee“, d.Red.]“, dann geht sein menschliches Gegenüber zur Kaffeemaschine oder zur nächsten Kaffeebar, um das Getränk zu holen. Er wird also weder mit einem Pfund Kaffeebohnen zurückkommen, noch einem Passanten auf der Straße dessen Pappbecher aus der Hand reißen. Und er wird wohl – mögliche Ausnahme: Elon Musk – auch nicht einfach eine Kaffeeplantage kaufen.
Für KI-Agenten hingegen sind das alles gleich plausible Lösungsansätze. Denn ihnen fehlt die kulturelle Einbettung. Die Vorgaben – im KI-Kontext die Prompts – müssen also erheblich detaillierter ausfallen. Das Problem: Der Mensch kann letztlich nie sicher sein, ob sein Prompt exakt genug war oder doch noch einen fatalen Krümel allzu menschlich impliziter Annahmen enthält.
Schneier bezeichnet KI-Agenten deshalb als „genies“. Nein, gemeint ist nicht das deutsche Wort „Genie“ (schön wär’s!). Die englische Vokabel „genie“ bedeutet „Flaschengeist“, wie jener aus Aladdins Wunderlampe. Und ein Flaschengeist interpretiert die Wünsche des Wunderlampenbesitzers eben mitunter recht eigenwillig.
Entkorkt, entkommen, entflammt
Dieser Geist ist nun aus der Flasche und zeigte durch zahlreiche Einbrüche, darunter bei der KI-Plattform Hugging Face, dem australischen Gesundheitssystem und bei OpenAI selbst: Er ist jederzeit bereit, seine Flaschengeisteskraft für rücksichtsloses Randalieren zu nutzen, wenn er nur glaubt, es würde ihn irgendwie seinem Ziel näherbringen.
Kein Wunder also, dass die überforderten Silicon-Valley-Aladdins sich einen Regulierer wünschen, der den Flaschengeist bei den Ohren packt und wieder in die Wunderlampe steckt. Pech, dass im Weißen Haus gerade jemand residiert, der sich selbst für ein Genie hält, aber doch nur ein seniler Flaschengeist ist, entwichen aus der ranzigen Funzel rechtsradikal-religiöser Establishment-Hasser.
EU vs. AI
Und Europa? Die EU versucht mit dem AI Act (Artificial Intelligence Act, auf Deutsch: KI-Verordnung), Recht und (Ver-)Ordnung in die wundersame Welt der Wunderlampen zu bringen – zumindest auf der Anwendungsebene. Dies dürfte der allererste Versuch sein, eine neue Technologie zu regulieren, bevor sie überhaupt so richtig Fuß gefasst hat. Beim Auto zum Beispiel dauerte es seit dessen Erfindung anno 1886 über 80 unfallreiche Jahre, bis der Sicherheitsgurt wenigstens bei Neuwagen Vorschrift wurde, 1968 in den USA, 1974 in (West-)Deutschland.
Der AI Act will den Autoverkehr rechts überholen und zu den grundlegenden Sicherheitsvorschriften auch gleich die Straßenverkehrsordnung mitliefern. Entsprechend komplex und detailliert – manche sagen: EU-typisch ausufernd – ist das Flaschengeist-Bändigungs-Regelwerk geraten.
Während man im Silicon Valley also weiter ebenso unreguliert wie ungebremst in Richtung Abgrund rast, hat Europa gegenteilige Probleme: eine KI-Straßenverkehrsordnung mit dichtem Schilderwald, den kaum einer durchblickt. Glücklich, wer im Unternehmen KI nutzen will und sich teure Fachanwälte leisten kann.
Für alle anderen gibt’s Leitfäden wie etwa jenen, den Security-Anbieter TrendAI gerade mithilfe eines solchen Fachanwalts in neunter Auflage veröffentlicht hat. Inmitten des aufziehenden Wunderlampen-Wirbelsturms bietet solche Literatur zumindest grundlegende Orientierung. Denn auch das Alignment mit EU-Regularien steckt voller Tücken.
Besagte EU hat leider keinen direkten Einfluss auf die KI-Zauberlehrlinge in den USA (und auch nicht in China). Dabei bräuchte die Branche dringend solide Security-, Safety- und Governance-Prozesse sowie multilaterale Kontrolle, ähnlich der IAEO in der Nuklearbranche. Derlei ist allerdings extrem unwahrscheinlich: Der Mann, der das anstoßen müsste, beschäftigt sich lieber damit, das Weiße Haus zu einem güldenen Palast Midas’scher Prägung umzugestalten.
Die Folge: Wenn die KI-Apokalypse eines Tages über uns hereinbricht, dann haben sich vorher wenigstens ein paar Silicon-Valley-Clowns noch ein paar goldene Pappnasen verdient, während Europa die Autobahn zum Abgrund mit wunderschönen Warnschildern und gestaffelten Geschwindigkeitsbegrenzungen versehen hat.
So unterschiedlich sind eben, je nach kulturellem Kontext, die menschlichen Werte. Kein Wunder, dass das vielbeschworene Alignment nicht so recht klappen will. Die Überforderung der KI-Zauberlehrlinge wird uns deshalb erhalten bleiben – und ihr Zündeln wohl auch.
Hat euch dieser Text gefallen? Dann erzählt doch einem Menschen davon, den das Thema ebenfalls interessieren könnte! Denn liebevoll erstellte Inhalte verbreiten sich am besten per Mundpropaganda.
Bild: Dr. Wilhelm Greiner (Nein, es ist nicht KI-generiert. Und der Text erst recht nicht.)
