Die Anwendungsgebiete von Künstlicher Intelligenz (KI) werden immer breiter. Sie begleitet Mediziner in der Diagnostik, hilft bei der Wartung von Maschinen, der Qualitätskontrolle von Produkten oder dem Erstellen von Texten.
Die Antwort lautet: Nicht im menschlichen Sinne. Dennoch kann sich die Prognosequalität einer KI durch veränderte Umstände im laufenden Betrieb verschlechtern. Als Folge nimmt ihre Leistungsfähigkeit ab. Je mehr Einsatzgebiete für KI-Systeme entstehen, desto wichtiger wird eine regelmäßige Qualitätskontrolle der KI-Algorithmen. Ist diese nicht vorhanden, kann das beispielsweise bei Fertigungsunternehmen zu Fehlern in der Produktion und Umsatzeinbußen führen. Im Gesundheitsbereich könnte sie die Gesundheit von Patienten gefährden, wenn etwa Röntgenbilder nicht korrekt erkannt oder falsch interpretiert werden. Ob Arzt oder Produktionsleiter, man muss sich auf die eigenen Werkzeuge und Systeme verlassen können. Es stellt sich darum die Frage, wie man die langfristige Fitness der KI erhalten kann?
2024:
2023:
2021:
Seit 2021 messen wir mit Hilfe unseres ZeTT-Radars die Verbreitung von Künstlicher Intelligenz bei kleinen und mittleren Unternehmen (KMU) in Thüringen. Die Erhebung hat bisher drei Mal stattgefunden. Im Jahr 2021 setzten nur 8 % der befragten Unternehmen Künstliche Intelligenz ein. Nach dem Hype um generative KI, wie ChatGPT, konnten wir im Jahr 2023 einen sprunghaften Anstieg auf 19 % verzeichnen. In unserer aktuellen Studie vom Oktober kletterte die Zahl der KI-Vorreiter auf 22 %. Das spricht einerseits dafür, dass Künstliche Intelligenz in den Thüringer Unternehmen angekommen ist, andererseits scheint die Verbreitung von KI-Sonderanfertigungen für den Einsatz in der Produktion oder im industriellen Bereich zu stocken, da der Anstieg stark auf der Verbreitung von generativer KI beruht.
Wir haben für verschiedene Bereiche KI-Systeme entwickelt, um z.B. Produktionsprozesse zu verbessern. Nachdem die KI-Systeme ihren Betrieb aufgenommen haben, haben wir gesehen, dass sie nach einiger Zeit schlechter und unsicherer in ihren Abschätzungen werden. Das gab den Anstoß, KI-Modelle in ihrer Tätigkeit und Qualität zu überwachen und regelmäßig ihre Fitness und Leistungsfähigkeit zu prüfen.
Wir haben ein Softwareprodukt, der AI Guard, der die aktuelle Leistungsfähigkeit eines KI-Modells erfasst und ein Add-On zur branchenspezifischen Konformitätsbewertung und regelmäßigen Überwachung im Einsatz. Das heißt, wir können die allgemeine Fitness bewerten, aber auch etwas ins Innere schauen, um Ursachen auf die Spur zu kommen.
So in der Art: Wenn wir feststellen, dass die KI nicht mehr leistungsfähig ist, kann sie nachtrainiert und aktualisiert werden, sodass sie produktiv arbeiten kann. Mit unserem direkt einsetzbaren AI Guard ist es möglich, direkt auf einer Produktionsanlage oder direkt am Medizinprodukt festzustellen, wie gut die integrierte KI gerade läuft und sie so mit wenig Aufwand aktuell zu halten. Würde sie eine Weile unbemerkt mit geringer Leistungsfähigkeit laufen, würde z.B. mehr Ausschuss produziert und ggf. hohe Verluste entstehen. Dies kann einfach unterbunden und durch den AI Guard sichtbar gemacht werden, sodass die Ausschusserkennung ohne Unterbrechung gut funktioniert und eine Produktivitätssteigerung langfristig gewährleistet werden kann.
Wir setzen unseren AI Guard hauptsächlich im Rahmen der industriellen Produktion und im Maschinenbau ein. Doch vor allem für schon regulierte Bereiche wie die Medizingeräteherstellung und kritische Infrastruktur ist eine Sicherstellung der KI-Leistungsfähigkeit und Nachvollziehbarkeit enorm wichtig und sogar gesetzlich verpflichtend. Dem können wir mit unserem Software-Ansatz gerecht werden. Darüber hinaus ist es für beliebige, qualitätsgesicherte Prozesse, die KI-gestützt sind, sinnvoll und einfach einsetzbar. Aktuell unterstützen wir auch Unternehmen, die sich in einem Transformationsprozess befinden und auf Branchen mit höheren Qualitätsanforderungen fokussieren. Hier können wir mit mehr Transparenz und dokumentierbarer Qualität für den eigenen Prozess unterstützen.
Obwohl Thüringer Betriebe immer häufiger KI einsetzen, ist das Bewusstsein zum Langzeitmanagement solcher Systeme bisher kaum verbreitet. Der Fokus liegt auf der erstmaligen Einführung und der Integration von KI in bestehende Produktionsprozesse. Aktuell kooperieren das ZeTT und Phnx Alpha mit einem Vorreiterunternehmen aus Nordthüringen. Das Unternehmen wird KI zur Prognose von Ausschuss und Defekten beim Spritzgussverfahren einsetzen. Wir helfen den Prozess zukunftssicher aufzusetzen und die KI-Modell-Qualität nach hunderten von individuellen Kleinserien-Aufträgen zu erhalten. Produktionsmitarbeiter werden dazu befähigt, die „Black Box“ der KI besser zu verstehen und selbstständig eingreifen zu können, wenn KI-Prognosen und Realität auseinanderlaufen.
Momentan werden die Risiken der nachlassenden Qualität von KI-Anwendungen von staatlichen Institutionen zwar wahrgenommen, aber nicht ausreichend adressiert. Es gibt erste regulatorische Ansätze, wie beispielsweise den EU AI Act und bestimmte (geplante) Branchenverordnungen, die Qualitätskontrollen und regelmäßige Überprüfungen vorsehen. Ihnen fehlen aber klare, verbindliche Standards und Zertifizierungen, die genau festlegen, wie Leistungsüberprüfungen durchgeführt werden sollen und wonach sich Unternehmen und Dienstleister richten müssen. Staatliche Stellen sollten deshalb verstärkt in Zusammenarbeit mit der IT-Industrie und Wissenschaft verbindliche Qualitätsstandards etablieren und regelmäßige Prüfungen der Systeme vorschreiben, um Risiken effektiv zu minimieren und eine nachhaltige KI-Nutzung sicherzustellen.
