König Midas hätte mehr Zeit in die Spezifizierung seiner Projektanforderungen investieren sollen. Denn als er den Gott Dionysos bat, alles von ihm Berührte möge sich in Gold verwandeln, wäre er fast vereinsamt verstorben: Selbst Essen, Getränke und seine Tochter transmogrifizierten in das Edelmetall, das bekanntlich weder nahrhaft noch gesellig ist. Wer Geister herbei ruft, muss eben aufpassen, wie er seine Wünsche formuliert. Derzeit schickt sich alle Welt an, Daten per KI-Flaschengeist in Gold umzumünzen – und zugleich soll dieser den IT-Betrieb verschlanken.
Hacking war bisher Menschensache. „Wenn KIs zu hacken beginnen, wird sich das ändern“, warnt Bruce Schneier in seinem Report „The Coming AI Hackers“ („Die kommenden KI-Hacker“), dem auch obige Midas-Parabel für Spezifizierungsmängel entstammt: „KIs werden nicht auf die gleiche Weise eingeengt sein oder den gleichen Limitierungen unterliegen wie Menschen“, betont der Security-Experte. „Sie werden wie Aliens denken. Sie werden Systeme auf eine Weise hacken, die wir nicht vorhersehen können.“
Während zum Beispiel die Ingenieure des VW-Konzerns genau gewusst hätten, dass ihre Manipulation der Motorsteuerung Betrug war, kenne eine KI derlei Bedenken nicht: „Sie wird ‚out of the box‘ denken, ganz einfach deshalb, weil sie keine Vorstellung von der Box hat.“ Deshalb kann sich laut Schneier der KI-Einsatz urplötzlich als Flaschengeist erweisen, der außer Kontrolle gerät – nicht aufgrund drohender Singularität wie in den „Terminator“-Filmen, sondern schlicht wegen unpräziser Vorgaben.
So sieht er das Menetekel einer Finanzkrise an der Kanban-Wand agiler KI-Projekte: „Wir werden nicht in der Lage sein, uns von einer KI zu erholen, die unvorhergesehene, aber legale Hacks von Finanzsystemen findet. Mit Computergeschwindigkeit wird Hacking zu einem Problem, das wir als Gesellschaft nicht mehr beherrschen können.“
Solchen Kassandrarufen zum Trotz erobert KI ein digitales Troja nach dem anderen – obschon letzthin ausgebremst durch die Pandemie. So erklärte in IBMs „Global AI Adoption Index 2021“ rund ein Drittel der 5.500 Befragten, ihr Unternehmen setze bereits KI ein – also nur ungefähr gleich viele wie im Vorjahr. Skurrilerweise gab aber knapp die Hälfte zu Protokoll, ihr Unternehmen nutze Applikationen mit NLP (Natural Language Processing), also mit einer KI-Einsatzvariante – so viel zum Thema menschliche Spezifikationskompetenz.
43 Prozent der Befragten jedenfalls bekundeten, man habe den KI-Rollout aufgrund der Pandemie beschleunigt. Und 84 Prozent sagten, dass „Explainable AI“ – die Fähigkeit einer KI, Auskunft zu geben, wie sie zu einer Entscheidung gekommen ist – sehr wichtig sei für deren Akzeptanz in ihrem Unternehmen – nicht zuletzt angesichts der von Schneier skizzierten Risiken ein nachvollziehbarer Wunsch.
Unzureichende Erklärbarkeit nannten die Befragten neben Mangel an Know-how und geeigneten Tools als größten Hürde für die Entwicklung einer vertrauenswürdigen KI. „Bei künstlicher Intelligenz ist Vertrauen ein Muss, kein ‚Nice to Have‘“, sagte Margrethe Vestager, bei der EU-Kommission zuständig für Digitalisierung, anlässlich der Vorstellung von EU-Plänen, eine gesetzliche Regelung vertrauenswürdiger KI per risikobasiertem Ansatz zu etablieren. Hier reicht das Spektrum von Regeln zum Schutz der Privatsphäre bis zum Verbot von KI zur Steuerung kritischer Infrastruktur, da das Risiko dabei laut EU „inakzeptabel“ wäre.
Unternehmen investieren laut der IBM-Umfrage in puncto KI vorrangig in Datensicherheit, Prozessautomation und Kundenkontakte, Letzteres etwa per Voice- und Chatbots. „Voicebots sind ein einfacherer erster Schritt mit KI-Software“, sagt Markus Merkel von IBM. Interessanter werde aber der KI-Einsatz in Bereichen mit zahlreichen Daten aus diversen Quellen und in Silos, wie etwa im IT-Betrieb.
Ein „guter und schlanker Anfang“ für den KI-gestützten IT-Betrieb (AIOps) sei „Enterprise Observability“, also der Einsatz einer KI-Plattform für durchgängige Transparenz in der IT-Landschaft: „Angefangen auf der Applikationsebene bis zur Infrastruktur ist die Plattform in der Lage, automatisiert relevante Systemdaten zu sammeln, zu korrelieren und Handlungsempfehlungen zur Verfügung zu stellen, mit denen Betriebsteams effizienter und schneller zum Ziel kommen“, so Merkel.
Einige Anbieter arbeiten bereits mit solchen Mechanismen. HPE zum Beispiel nutzt mit seiner IT-Management-Lösung InfoSight einen unternehmensübergreifenden Data Lake und Machine Learning (ML), um kontinuierlich aus Auffälligkeiten und Störungen von Storage-Systemen auf die Fehlerquelle zu schließen, automatisiert Lösungsvorschläge zu unterbreiten und diese der gesamten Anwenderschaft bereitzustellen. Laut Angaben des Konzerns kann die Software 86 Prozent der Probleme vorhersagen. Dies habe den Anwenderunternehmen bereits über 1,5 Millionen Arbeitsstunden gespart.
HPEs neues Werkzeug Data Ops Manager unterstützt laut Hersteller „Intent-based Provisioning“: Ein KI-gesteuerter, anwendungszentrierter Ansatz soll die Bereitstellung von Speicherinfrastrukturen radikal vereinfachen. IBM wiederum nutzt mit Cloud Pak for Data eine KI, um verteilte SQL-Abfragen zu beschleunigen, während die ebenfalls neue KI-Funktion Watson Orchestrate helfen soll, Arbeitsabläufe zu automatisieren. Eine beliebte KI-Quelle ist die Cloud: Diverse Provider, allen voran AWS, Google, IBM und Microsoft, offerieren ML as a Service.
Im IT-Betrieb setzt man vor allem in puncto IT-Sicherheit große Hoffnungen auf KI. Schließlich ist es manuell kaum mehr möglich, den Überblick über die Flut der Security-Alerts zu behalten. „Die Früherkennung von Advanced Persistent Threats oder kurz APTs erfordert die Aggregation und Analyse einer großen Menge Daten nach auffälligem Verhalten, das Ähnlichkeiten zu bereits bekanntem Angriffsverhalten aufweist“, sagt Willem Hendrickx vom Security-Anbieter Vectra. Dazu zähle etwa das Aufspüren von Persistenzmechanismen, mit denen Angreifer Zugriff auf kompromittierte Umgebungen wahren, nachdem die ursprünglich genutzte Lücke geschlossen ist.
Beim Aufspüren zugehöriger versteckter Kommunikation helfe KI: „Diese Aufrufe sind oft wenige Bytes, versteckt im gesamten Datenstrom, der das Unternehmensnetz verlässt“, so Hendrickx. „KI-gestützte Sicherheitssoftware kann fast so gut wie ein Mensch nach solchen Ähnlichkeiten suchen, ohne dass man exakt wissen muss, wie das Ergebnis aussieht – und das wesentlich schneller, ohne Unterbrechung.“
Das Beispiel veranschaulicht, warum so viele Anbieter und Anwenderunternehmen auf KI und ML bauen. „Künstliche Intelligenz ist im Business angekommen“, fasst Niels Pothmann von Arvato Systems die Lage zusammen. „Immer mehr Unternehmen entdecken die Vorteile der künstlichen Intelligenz, was die Effizienz von Prozessen und wiederkehrenden Aufgaben betrifft.“
Er warnt aber: „Was viele dabei vergessen: Überführt man KI-Services in den Produktivbetrieb, sind neben der technischen Überwachung auch bedarfsgerechte Anpassungen Pflicht. Und das nicht nur einmal, sondern über den kompletten Lebenszyklus einer Anwendung hinweg.“ Um böse Überraschungen zu vermeiden, seien deshalb professionelle Managed AI Services unverzichtbar.
Angesichts solcher Hürden lohnt es, eines im Blick zu behalten: Automatisierung muss nicht unbedingt KI-basiert sein. Ein Beispiel nennt dynaMigs.net-Chef Mathias Weidmann: „Migrationen bestehen aus vielen zeitaufwändigen und komplexen Arbeitsschritten. Migrationsexperten können mit vorhandenen Basisdaten im besten Fall sogar die gesamte Prozesskette automatisieren, inklusive komplexer Vorgänge wie etwa dem Change-Management.“ Dies verkürze die Projektdauer und steigere die Qualität.
Ein ähnlich schönes Happy End hatte übrigens auch König Midas’ Innovationsprojekt: Er bat Dionysos, den Zauber zurückzunehmen, und dieser riet ihm, sich im Fluss Paktolos davon reinzuwaschen – der Sage nach der Grund dafür, dass dieser Fluss ein goldreiches Gewässer wurde. Es bleibt zu hoffen, dass heutige KI/ML-Entwickler in ihrem Bestreben, Daten in Gold zu verwandeln, mit allen Wassern gewaschen sind – damit nicht doch mal ein Flaschengeist ausbüchst und sich die künstliche Intelligenz als König-Midas’sche erweist.
(Dieser Beitrag erschien erstmals in LANline 06-07/2021.)
Bild: (c) Wolfgang Traub
IT Info 2 Go 