Betriebliche Prozessoptimierungen mittels Digitalisierung und KI

Was ist sinnvoll und erlaubt im Rahmen der neuen EU-Regulierung und den neuen technischen Möglichkeiten?

Was ist erlaubt?

Am 9.12.2023 gelang eine Einigung zwischen dem Europäischen Parlament und dem Europäischen Rat über den Artificial Intelligence (AI) Act, ein Gesetz zur Regulierung von Künstlicher Intelligenz (KI). Der AI Act der EU ist der erste umfassende Rechtsrahmen für KI weltweit.

Einige der Bestimmungen sind in der Prozessoptimierung bei privatwirtschaftlichen Unternehmen sehr relevant.

Im risikobasierten Ansatz des EU AI Acts sind nachfolgende wichtige Eckpunkte enthalten. Dabei sind insbesondere die Klassen mit hohem oder inakzeptablem Risiko im Auge zu behalten bzw. zu berücksichtigen:

Die Verwendung eines als Hochrisiko-KI-System eingeordneten Systems ist komplex und erfordert differenzierte Konzepte. Denn sowohl Anbieter:innen als auch Anwender:innen müssen eine Vielzahl an Anforderungen erfüllen und Regeln beachten. So bedürfen Hochrisiko-KI-Systeme unter anderem eines Risikomanagementverfahrens, einer kontinuierlichen menschlichen Aufsicht, einer Aufzeichnung der Tätigkeiten und einer technischen Dokumentation.

Zudem bringen sie Pflichten für die Verwender:innen mit sich, etwa ein besonderes Handling der eingesetzten Trainingsdaten oder Aufklärungspflichten gegenüber den Nutzer:innen. Die Anbieter:innen von Hochrisiko-KI-Systemen müssen weiterhin sicherstellen, dass die Systeme vor dem Inverkehrbringen oder der Inbetriebnahme die entsprechenden Konformitätsbewertungsprüfungen durchlaufen haben.

KI-Systeme, die im EU AI Act entweder teilweise verboten und/oder als Hochrisiko-Systeme eingestuft wurden und besondere Relevanz im Prozessbereich aufweisen, sind:

1. KI-Systeme, die eine Bedrohung für die Menschen, die Sicherheit und die Grundrechte darstellen, sind untersagt.

2. Biometrische Identifizierung und Kategorisierung natürlicher Personen. Facial Recognition in bestimmten Konstellationen, Emotionserkennung am Arbeitsplatz.

3. Bildung und Berufsausbildung: KI-Systeme, die dazu bestimmt sind, den Zugang zu Bildungs- und Berufsbildungseinrichtungen oder die Beurteilung von Studierenden zu bestimmen.

4. KI-Systeme, die zur Rekrutierung oder Auswahl natürlicher Personen eingesetzt werden sollen, insbesondere zur Stellenausschreibung, zum Screening oder Filtern von Bewerbungen, zur Bewertung von Kandidat:innen im Rahmen von Vorstellungsgesprächen oder Tests.

5. Social Scoring basierend auf soziales Verhalten oder persönliche Charakteristika ist gänzlich untersagt.

6. KI-Systeme, die dazu bestimmt sind, Entscheidungen über Beförderung und Beendigung arbeitsbezogener Vertragsverhältnisse, zur Aufgabenverteilung und zur Überwachung und Bewertung der Leistung und des Verhaltens von Personen in solchen Beziehungen vorzunehmen.

7. Management und Betrieb kritischer Infrastruktur; Beispiele für solche risikoreichen KI-Systeme sind bestimmte kritische Infrastrukturen etwa in den Bereichen Wasser, Gas und Strom

Die Zuverlässigkeit von verwendeten Datensätzen, dass diese relevant, repräsentativ, fehlerfrei und vollständig sind, ist generell zu sichern.

Details finden sich insbesondere im Anhang III vom EU AI Act.

Zusätzlich muss dem Transparenzrisiko begegnet werden.

Beim Einsatz von KI-Systemen wie Chatbots müssen sich die Nutzer:innen bewusst sein, dass sie mit einer Maschine interagieren. Deep Fakes und andere KI-generierte Inhalte müssen als solche gekennzeichnet werden, und die Nutzer:innen müssen informiert werden, wenn biometrische Kategorisierungs- oder Emotionserkennungssysteme verwendet werden. Darüber hinaus sollen die Anbieter:innen ihre Systeme so gestalten, dass synthetische Audio-, Video-, Text- und Bildinhalte in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkannt werden können.

Neben dem EU AI Act gelten selbstverständlich außerdem auch andere Rechtsvorschriften, wie die Bestimmungen der DSGVO – denen Rechnung zu tragen ist.

Es empfiehlt sich auf jeden Fall, im Unternehmen ein Framework für KI-Governance mit Richtlinien und Vorschriften für die Entwicklung, Bereitstellung und Nutzung von KI über den ganzen Lebenszyklus aufzubauen, welches auch ein Risikomanagementsystem umfasst.

Bei welchen Prozessen zahlt sich Digitalisierung und KI aus?

„Es kommt drauf an“ ist natürlich keine befriedigende Antwort – aber die sinnvollen Use Cases müssen für Ihr Unternehmen erarbeitet werden.

Digitalisierung besteht natürlich nicht nur aus KI, sondern diese ist nur eine Möglichkeit, welche derzeit stark im Focus der Öffentlichkeit steht. Oft tragen kleine Ablaufverbesserungen mittels Digitalisierung auch bereits erheblich zum Geschwindigkeitsgewinn oder zur Ressourcenschonung bei. Manche Hersteller stellen Low-Code-/No-Code-Entwicklungsmöglichkeiten zur Verfügung, wodurch z. B. Apps oder Automatisierungs-Flows diese Lücken schließen können.

Low-Code-Entwicklung und KI

Die Entwicklung und der Einsatz von Anwendungen wird durch Low-Code-/No-Code-Technologien vereinfacht, um manuelle Prozesse zu automatisieren und freigewordene Kapazitäten für wertschöpfende Tätigkeiten zu nutzen. Dadurch ist das Programmieren neuer Software in Zeiten der schnell voranschreitenden Digitalisierung nicht mehr ausschließlich den Entwickler:innen vorbehalten. Je nach Komplexität der gewünschten Anwendung kann sie mit geringem Schulungsaufwand von Mitarbeiter:innen der Fachbereiche schnell erlernt und gewartet werden. Produktive Lösungen sind somit auch ohne teures Fachpersonal schnell umsetzbar – die Entwicklung erfolgt per Drag-and-Drop auf der passenden Low-Code-Plattform.

Diese Low-Code-Systeme entsprechen den Anforderungen professioneller Entwicklung, so dass oft so manche Altsysteme durch den Einsatz von Low-Code-/No-Code-Lösungen abgelöst werden können. Die Low-Code-/No-Code-Entwicklung kann bei einigen der Systeme der großen Software-Herstellern einfach mit dem gezielten Einsatz von Elementen bzw. Komponenten der KI kombiniert werden.

Um die Liste der Handlungsfelder und Use Cases zu ermitteln, sind die Prozesse zu erfassen und nach Mehrwert, Geschwindigkeit und eingesetzten Ressourcen einzuordnen.

Zusätzlich ist ein entsprechender Innovationsprozess bzw. sind die entsprechenden Elemente zu berücksichtigen.

Im Zuge eines Abgleichs einer Liste von Use-Cases der Branche bzw. ähnlichen Branchen werden optionale Handlungsfelder und Use Cases generiert und bewertet. Folgende Gesichtspunkte werden bei der Bewertung besonders betrachtet:

– Projekte, die sich im idealen Bereich zwischen Geschäftswert und technischer Machbarkeit befinden, werden priorisiert.

– Digitalisierung wird mit dem gesamten Lebenszyklus im Hinterkopf geplant. Projekte müssen nicht nur entworfen und implementiert, sondern auch laufend beobachtet und bei Bedarf gewartet und nachgebessert werden.

– Die Daten werden iterativ verbessert. Das Zurückhalten von Digitalisierungsprojekten, um auf ein Informationsarchitekturprojekt zu warten, funktioniert oft nicht, da selbst, wenn es abgeschlossen ist, die Daten möglicherweise nicht ideal den Anforderungen entsprechen. Stattdessen wird mit Daten gearbeitet, auf die heute zugegriffen werden kann oder welche zeitnah generiert werden können, um schnell einen Mehrwert zu erzielen. Schlussendlich wird der Erfolg des Projekts genutzt, um für die nächsten Investitionen in die Verbesserung der Daten und Datenpipelines zu werben.

– Schnelle Erfolge werden genutzt, um Prozesse zu beschleunigen und Digitalisierungsfähigkeiten auszubauen. Genaues Analysieren des Mehrwerts der Use Cases und möglichst einfache Umsetzung ist vorrangig. Use Cases wird mit bestehenden Out of the Box-Lösungen am Markt entsprochen, die bevorzugt kompatibel zur bestehenden IT-Architektur sind. Sollte ein Use Case aufgrund starker Nutzung später hohe laufende Plattform-Kosten verursachen, kann er nachfolgend, wenn die Nutzung klar ist, auf eine kostengünstigere, aber etwas entwicklungsintensivere, technische Grundlage umgestellt werden.

– Um zu verhindern, dass KI-Modelle voreingenommen sind, werden diese in den zugrunde liegenden Daten bereinigt. Außerdem werden mehrere Hypothesen getestet, die Modelle validiert und auf Entwicklungen in Voreingenommenheit und Fairness überwacht.

Lassen Sie sich von PwC unterstützen. PwC verfügt über ausgedehnte Prozess- und Digitalisierungserfahrung.

Wenn wir Ihre bestehenden Prozessmodelle mit einigen Kriterien gemeinsam anreichern und diese mit unserer Use Case-Library abgleichen, wird evident, an welchen Stellen sich Digitalisierung und KI für Sie jetzt bereits lohnt bzw. wo Sie die Prioritäten setzen sollten.

Quellen:
www.forrester.com
www.apqc.com

Autor:
Elmar Rudelstorfer