Automatisierte Abbildung semantisch heterogener I4.0-Verwaltungsschalen durch Methoden des Natural Language Processing

2.1 Industrie 4.0 Komponente

Abb. 4

Interaktion zwischen zwei Anwendungen mit standardisierten Vokabularen.

Der Wandel von starren Wertschöpfungsketten zu flexiblen, hochdynamischen und weltweit vernetzten Wertschöpfungsnetzwerken charakterisiert das aktuelle Bestreben von Organisationen hin zu einer I4.0. Hierfür werden verschiedene Handlungsfelder bearbeitet, von denen ein zentrales das Thema der Interoperabilität ist [1]. Im Bereich der I4.0 hat sich als Basis für Interoperabilität das Konzept der Verwaltungsschale etabliert. Die Verwaltungsschale ist der digitale Repräsentant eines Asset in der digitalen Welt [46]. Ein Asset kann hierbei jede Entität sein, die einen Wert für eine Organisation hat [16]. Das Informationsmodell der Verwaltungsschale definiert die Struktur, wie ausgetauschte Informationen verschiedener Assets strukturiert sein müssen [8]. Die Komposition aus Verwaltungsschale und Asset wird als I4.0-Komponente bezeichnet. Zentraler Baustein der Verwaltungsschale sind Teilmodelle, welche Eigenschaften und Funktionalitäten der Assets und deren Inhalte, bspw. in Form von Merkmalen, abbilden [8]. Teilmodelle stehen z. B. für die Themen Identifikation, Design oder Konfiguration. Neben der spezifizierten Struktur durch das Informationsmodell wird für die Interaktion von I4.0-Komponenten eine eindeutige Semantik benötigt [33], [46]. Diese wird erreicht, wenn die Teilmodelle in standardisierter Form vorliegen und deren Semantik ebenfalls einheitlich standardisiert ist. Verschiedene Initiativen standardisieren Teilmodelle für Komponenten der Industrie, bspw. Pumpen oder Antriebe [2], [4]. Die Integration der Teilmodelle in Vokabulare wie den ECLASS-Standard [11], oder das IEC Common Data Dictionary [15], ermöglicht die eindeutige Identifikation der Teilmodelle sowie deren Merkmale und bereitet so den Weg für eine eindeutige Semantik. Syntaktisch wird ein Key-Value-Paar Konzept verwendet, das zwischen dem Key als Identifikation für das entsprechende Modellelement und der Zuordnung der Bedeutung unterscheidet. Das Modell sieht explizit vor, dass ein Modellelement mehr als einen Identifikator hat und dass die Identifikatoren von unterschiedlichen Typen sein können. So wird z. B. für den Zugriff auf das Modellelement in OPC UA oder http/REST ein frei definierbarer String verwendet, für den Verweis auf den Dictionary-Eintrag ein standardisierter Identifier, wie z. B. eine IRDI (International Registration Data Identifier) oder eine URL (Universal Resource Locator). In dem Dictionary, das ebenfalls eine standardisierte Struktur aufweist (IEC 61360), ist dann mittels Attribute das Element definiert. Diese Attribute sind teilweise maschineninterpretierbar. Einige dieser Dictionaries wie z. B. ECLASS liegen als Ontologie in OWL vor (http://www.heppnetz.de/projects/eclassowl/) und können dann auch entsprechend behandelt werden, wobei es bei der Umwandlung von ECLASS in eine OWL Ontologie zu gewissen Einschränkungen hinsichtlich der Datentypen und Sonderzeichen kommt [14]. Die Dictionaries sind in ihrer Domäne durch die Identifikatoren jeweils eindeutig.

Im aktuellen I4.0-Ansatz wird Interoperabilität durch eine einheitliche Struktur (Informationsmodel Verwaltungsschale) und Semantik (homogener Sprachraum) erreicht.

2.2 Homogener Sprachraum

Aus abstrakter Sicht findet die Interaktion zwischen zwei Anwendungen statt. Im allgemeinen Fall können die Anwendungen als Systemfunktion im Zustandsraum dargestellt werden [29]. Abbildung 4 zeigt dies beispielhaft mit den Anwendungen A und B und ihren entsprechenden Zustandsraumgleichungen. Die erste Gleichung ist jeweils die sogenannte Zustandsgleichung, bei der x(t) der Zustandsvektor, u(t) der Eingangsvektor und y(t) der Ausgangsvektor ist. Die Matrix A ist die Systemmatrix, die Vektoren b und c Spalten- und Zeilenvektoren und d ein Skalar. Die Matrix und die Vektoren haben konstante Werte, die sich aus den Differentialgleichungen, die das Systemverhalten beschreiben, ableiten. Die Ausgänge der einen Anwendung müssen den Eingängen der anderen Anwendung zugeordnet werden. Konkret heißt dies, dass der Ausgang von Anwendung A y_A mit dem Eingang von Anwendung B u_B gleichgesetzt werden muss und umgekehrt. Dies geschieht entweder während der Planung der Systemkopplung oder im operativen Betrieb. Im homogenen Sprachraum wird diese Abbildung erleichtert, indem sich auf ein gemeinsames Vokabular geeinigt wird. Beispielweise werden Regler- bzw. Systemeingänge immer mit u bezeichnet und die Ausgänge mit y. Dies entspricht einem gemeinsamen Vokabular. Eine Zuordnung kann deshalb von beiden Seiten unabhängig voneinander durchgeführt werden.

Abb. 5

Nutzung von Dictionaries zur Identifikation von Vokabularen bei I4.0 Komponenten.

Dieses Vorgehen ist auch das Grundprinzip der Eingang-/Ausgangszuordnung bei der Interaktion zwischen Verwaltungsschalen oder einer Anwendung mit Verwaltungsschalen. Wie in Abschnitt 2.1 beschrieben, sind in Verwaltungsschalen eine sehr große Vielfalt von Daten enthalten. Diese beziehen sich auf die Anwendungen (d. h. auch auf die Parameter der Matrizen A, die Vektoren b und c sowie den Wert d) sowie andere nicht-funktionale Beschreibungen, wie z. B. Typenschildinformationen, Zertifikatsaussagen und vieles mehr. In der Matrix A und den Vektoren b und c befinden sich Kenngrößen des technischen Systems, die in die Differentialgleichungen eingehen. In einem elektrischen RLC Netzwerk sind dies z. B. die Widerstandswerte, Kapazitäten und Induktivitäten, Kabellängen und Kabeltypen sowie Ströme, Spannungen, Frequenzen und Phasen. Diese Daten ergeben sich aus konstruktiven Daten und werden in Informationsmodellen abgelegt. Die Identifikation der Ein- und Ausgänge sowie der konstruktiven Daten erfolgt, indem für jede Informationseinheit eine Referenz auf eine Beschreibung in einem Dictionary hinterlegt werden soll ((1) in Abbildung 5). Es entstehen Key-Value Paare, wie in Abschnitt 2.1. beschrieben. Diese Dictionaries werden in verschiedenen Branchen standardisiert, so z. B. beim VDMA (Verband Deutscher Maschinen- und Anlagenbau) und bei ECLASS, einem der weltweiten ISO/IEC-normenkonformer Industriestandard für die Klassifizierung und eindeutige Beschreibung von Produkten und Dienstleistungen. Tauschen die Verwaltungsschalen Nachrichten aus ((2) in Abbildung 5), so beinhalten sie die auszutauschenden Daten mit Verweisen auf die jeweiligen Beschreibungen in den Dictionaries ((3) in Abbildung 5). Im Nachrichtenkasten von Abbildung 5 ist im mittleren Teil diese Referenzierung, in dem Beispiel auf ECLASS („value“: „0173-1#02-BAB216“), zu sehen. Hinter dieser Referenz befinden sich im ECLASS Dictionary die Beschreibungsattribute, wie z. B. Datentyp, Maßeinheit, erlaubter Wertebereich des Senkdurchmessers und anderes mehr. So können die Anwendungen jeweils die Zuordnung der Daten zu den Ein- und Ausgängen und zu den Parametern der Systemfunktionen intern vornehmen.

Heterogene Sprachräume, d. h. Sprachräume, die nicht in den standardisierten Dictionaries erfasst sind, wie sie beispielsweise in herstellerspezifische Beschreibungen vorliegen, werden im aktuellen I4.0-Ansatz nicht erfasst.

2.3 Semantische Interoperabilität

Allgemein wird semantische Interoperabilität als die Fähigkeit von Assets definiert, welche ihre Informationen untereinander austauschen können und verstehen, was diese bedeuten [40]. Neben dem Verwenden einer eindeutigen Semantik kann semantische Interoperabilität jedoch ebenfalls durch eine Abbildung heterogener Semantik aufeinander erreicht werden. Dies kann entweder durch eine manuelle Übersetzung oder ein automatisiertes Matching erfolgen (Abbildung 6). Das Matching kann hierbei sowohl bei horizontalen (zwischen I4.0-Komponenten, dargestellt in Abbildung 6) als auch vertikalen (I4.0-Komponente und Anwendung, dargestellt in Abbildung 2) Interaktionen stattfinden.

Abb. 6

Interaktion semantisch heterogener I4.0-Komponenten.

Die Übernahme gemeinsamer Funktionen bedingt eine Abbildung der beiden Vokabulare A und B aufeinander. Hierzu können Ontologien dienen, die Konzepte und Beziehungen innerhalb einer Domäne in strukturierter Form darstellen [47]. Um Ontologien aufeinander abzubilden, können grundsätzlich verschiedene Methoden verwendet werden. Eine Möglichkeit besteht darin, die Ontologien mittels Linked Data Methoden zu verknüpfen [3], [48]. Ein Beispiel für die Darstellung einer solchen Vernetzung verschiedener Ontologien stellt die Linked Open Data Cloud dar [44]. Hierbei findet eine Verknüpfung der einzelnen Objekte der Ontologien statt. Bei einer Interaktion von I4.0-Komponenten, deren Ontologien mittels Linked Data aufeinander abgebildet sind, können die semantischen Verknüpfungen dieser automatisiert untersucht und so ein Verständnis über die jeweiligen Ontologien hergestellt werden. Zur Realisierung von Linked Data Modellen müssen die Ontologien analysiert und Beziehungen zwischen einzelnen Entitäten angelegt werden. Die Modularisierung möglicher Ontologien in allgemeine und domänenspezifische Ontologien erlaubt eine Hierarchisierung der Ontologien und so die Wiederverwendbarkeit allgemeiner Module [7]. In einem umfassenden I4.0-Wertschöpfungsnetzwerk ist jedoch eine große Anzahl an domänenspezifischen Ontologien unterschiedlichster Komponenten zu erwarten. Diese alle miteinander zu verknüpfen, erfordert einen hohen Analyse- und Engineeringaufwand, was den Einsatz solcher Modelle erschwert.

Automatisiertes semantic matching stellt eine weitere Abbildungsmöglichkeit dar. Das in dieser Arbeit angewandte Verfahren hierzu basiert auf den natürlichsprachigen Beschreibungen der Merkmale von Vokabularen. Automatisiertes semantic matching erlaubt die konfigurationsfreie Übersetzung von Vokabularen, da die I4.0-Komponenten weder auf einem gemeinsamen semantischen Standard basieren noch händisch miteinander verknüpft werden müssen. Auf Basis des semantic matchings können I4.0-Komponenten eine konfigurationsfreie Erkundung der anderen Teilnehmer eines I4.0-Netzwerkes durchführen und mit diesen interagieren. Die Basis des Verfahrens zum semantic matching in dieser Arbeit bilden Konzepte des NLP.

2.4 Natural Language Processing

Das Ziel von NLP ist, dass Computer menschliche Sprache verstehen und darauf aufbauend Interaktionen realisieren [25]. In den letzten Jahren wurden die Methoden zur Extraktion von Wissen aus Text weiterentwickelt, sodass dieses in unterschiedlichen NLP Anwendungen, wie Text Classification oder Question Answering, verwendet werden kann. Die hier entwickelte Modellarchitektur setzt sich aus einem PLM und darauf aufbauenden SEs zusammen, vgl. Abbildung 3.

2.4.3 Sentence Embeddings für Paraphrase Identification

Abb. 7

Interaktionsmanager mit Matching Dienst in der Verwaltungsschale.

Paraphrase Identification (Detection) bezeichnet die Fähigkeit eines Modells zu erkennen, ob zwei Sätze die gleiche Bedeutung haben [42]. Ein Beispiel für eine solche Anwendung ist der Quora Question Pairs (QQP) Datensatz, bei dem vorhergesagt werden soll, ob Fragen die gleiche Bedeutung haben oder nicht [24]. Verschiedene PLMs haben hohe Genauigkeiten von bis zu 90 Prozent für diesen Datensatz erzielt, unter anderem das Modell Sentence-BERT [37]. Bei diesem Modell werden die WEs von BERT zu einem SE mit einer fixen Dimension zusammengefasst. Mittels der Kosinus-Ähnlichkeit kann im Anschluss überprüft werden, ob sich die SEs zweier Sätze ähneln. Dies ermöglicht den Abgleich, ob eine Frage des QQP Datensatzes ein Duplikat im Korpus hat oder nicht [37]. Neben dem ursprünglichen Sentence-BERT wurden weitere Modelle trainiert, die auf unterschiedlichen PLMs basieren und mit verschiedenen Datensätzen trainiert wurden [36].

3.1 Matching Dienst der Verwaltungsschale

Abbildung 7 zeigt den grundlegenden Aufbau der Verwaltungsschale. Für die in Abbildung 6 abstrakt dargestellte Interaktion und Abbildung der Semantik werden der Interaktionsmanager und Matching Dienst eingesetzt.

Die zwei Verwaltungsschalen der I4.0-Komponenten interagieren miteinander. Hierbei kennen sie das Vokabular der jeweils anderen nicht, basieren somit auf heterogener Semantik. Damit semantische Interoperabilität zwischen den beiden hergestellt werden kann, wird ein Matching der beiden Vokabulare benötigt. Für die Abwicklung der Interaktionen ist der Interaktionsmanager verantwortlich, welcher die eingehenden Nachrichten verarbeitet [46]. Die Abbildung der unbekannten Semantik auf die eigene wird durch den Matching Dienst realisiert. Dieser ist Teil des Interaktionsmanagers und bildet die eingehenden Nachrichten auf das eigene Vokabular, die Zielontologie, ab. Hierdurch kann heterogene Semantik verarbeitet und der Ansatz des homogenen Sprachraums auf einen heterogenen Sprachraum erweitert werden.

Als konkreter Anwendungsfall werden unterschiedliche Semantiken auf die Identifikation und Design Teilmodelle des Projektes Pumpe 4.0 [4] abgebildet.

3.2 NLP-Modell zur Abbildung heterogener Semantik

Die Basis des Modells bildet das vortrainierte PLM DistilBERT. Durch ein erweitertes pretraining auf domänenspezifischer Literatur wird grundsätzlich eine Erhöhung der Genauigkeit erreicht. Hierbei sind Vorhersagen der Versuch des Modells, ein unbekanntes Merkmal des Evaluationsdatensatzes dem korrekten Merkmal in der Zielontologie zuzuordnen.

Das pretraining von DistilBERT wird mit ISO-Standards, die Identifizierung und die Informationen von Pumpen beschreiben, erweitert (Schritt 1 aus Abbildung 3). Dieses Modell wird im Anschluss verwendet, um mit Datensätzen aus dem Bereich Paraphrase Identification verfeinert zu werden (Schritt 2 aus Abbildung 3). Durch diesen Trainingsablauf erlernt das Modell die Semantik des Anwendungsfalls (pretraining) und Methoden zur Lösung der Aufgabe des Paraphrase Identification (fine tuning). Die Kombination aus pretraining und fine tuning ermöglicht Zero-Shot-Learning hinsichtlich der eigentlichen Aufgabe. Zero-Shot-Learning bedeutet, dass kein fine tuning mit einem Trainingsdatensatz des spezifischen Anwendungsfalls stattfindet. Es wird lediglich ein Datensatz zur Evaluation des Modells erstellt (Schritt 3 Abbildung 3). Dieser enthält unterschiedliche Definitionen und Namen für Merkmale aus dem Bereich Identifikation und Design von Pumpen.

Die Auswahl der ISO Standards umfassen die Bereiche Identifikation von Assets allgemein und spezifische Inhalte von Pumpen. Insgesamt bilden 303 Standards die Basis für das erweiterte pretraining [17], [18], [19], [20], [21], [22], [23]. Diese wurden in das XML-Format umgewandelt [12] und zu Textpassagen weiterverarbeitet, ohne Tabellen, Bildunterschriften oder Literaturangaben. Die extrahierten Passagen wurden eingelesen, weiter gesäubert und in eine einzelne Text-Datei geschrieben. Auf diesem Text wurde das durch [50] zur Verfügung gestellte DistilBERT Modell weitertrainiert.

Die Texte der Standards ergeben drei Millionen Tokens. Tokens repräsentieren Wörter oder Teile von Wörtern. Für die Tokenisierung wurde das WordPiece Modell verwendet [30]. Die Tokens wurden in das Modell innerhalb von Sequenzen eingelesen. Untersuchungen [27] zeigen, dass die höchste Genauigkeit erzielt wird, wenn satzübergreifende Sequenzen eingelesen werden. In das Modell werden Sequenzen von 400 Tokens eingelesen. Mit einer Batch-Size von acht sowie zwölf Durchgängen und einer Gradienten-Akkumulation von zwei ergeben sich 5.724 Schritte für das Training des Modells. Das trainierte Modell, ISO-DistilBERT, wurde im weiteren Verlauf verwendet, um SEs zu trainieren.

Für das Training der SEs wurde [36] und die Datensätze MultiNLI [49], STS-Benchmark [5] und QQP [24] verwendet. Die drei Datensätze werden häufig eingesetzt, um im Bereich Paraphrase Identification neue Modelle zu trainieren. Da für den Anwendungsfall der semantischen Interoperabilität von I4.0-Verwaltungsschalen aktuell keine Datensätze für ein fine tuning zur Verfügung stehen, wurden diese allgemeinen Datensätze verwendet. Hierdurch erlernt das Modell die Aufgabe des Paraphrase Identification und kann diese auf den konkreten Anwendungsfall adaptieren. Das Modell wurde nacheinander mit den drei Datensätzen verfeinert, sodass zum Abschluss das Modell ISO-DistilBERT-SE erstellt wurde.