Trendthema
12.06.2021

Autonome Systeme als Herausforderung für den Arbeitsschutz

Autonome Systeme als Herausforderung für den Arbeitsschutz

Software-physische, künstlich-intelligente Systeme und autonome Maschinen sind mittlerweile mehr als bloße Schlagworte oder Visionen einer fernen Zukunft. Immer mehr Anwendungsszenarien werden für die unterschiedlichen Lebensbereiche zunehmend greifbar – auch und gerade in der industriellen Produktion. Die Produktsicherheit und den Arbeitsschutz stellt der Einsatz von Künstlicher Intelligenz (KI) in physischen Systemen, z. B. selbstfahrende Industrieplattformen, vor besondere Herausforderungen. Dies gilt insbesondere im Hinblick auf die mit ihrem Einsatz verbundenen rechtlichen Fragen. Im Projekt „Rechtliche Rahmenbedingungen für die Bereitstellung autonomer und KI-Systeme“ hat die Bundesanstalt für Arbeitsschutz und Arbeitsmedizin (BAuA) herausarbeiten lassen, ob und inwieweit der Einsatz dieser neuen Technologien Änderungen am bestehenden Rechtsrahmen erforderlich macht. Hierbei stehen das Produktsicherheits- und Betriebssicherheitsrecht im Mittelpunkt.

Dreh- und Angelpunkt der Überlegungen ist der Begriff des „Produkts“. Nach dem Produktsicherheitsgesetz erfolgt eine Beurteilung der von einem Produkt, etwa einer Maschine, ausgehenden Risiken im Zeitraum vor seiner Inbetriebnahme. Lernende Systeme – also solche, die sich im Betrieb auf Basis neuer Daten verändern – müssen weitergehende Anforderungen erfüllen. Durch die Veränderungen entsteht rechtlich gesehen ein neues Produkt.

Zudem ergeben sich aus der Verwendung datengetriebener Algorithmen, auch weitere Besonderheiten gegenüber herkömmlicher Software. Diese betreffen unter anderem die für die Betriebssicherheit zentralen Aspekte der Gefährdungsbeurteilung, wie Vernetzung, Kontrollierbarkeit, Widerstandfähigkeit oder Transparenz.

Ein zentrales Ergebnis der Studie ist die Entwicklung eines Kategoriensystems (Taxonomie), mit dem sicherheitsrelevante Faktoren in software-physischen (KI-) Systemen bewertbar gemacht und übersichtlich dargestellt werden. Die Grundlage hierfür bilden umfangreiche Expertenbefragungen und ergänzende Auswertungen der verfügbaren Literatur.

Auf dieser Basis werden unterschiedliche Vorschläge zur Weiterentwicklung des Produktsicherheitsrechts gemacht. So kann durch die Einführung rechtlicher Konstrukte wie der „bestimmungsgemäßen Veränderbarkeit“ oder der „Wandelbarkeit“ der Produktbegriff so angepasst und erweitert werden, dass er den spezifischen Eigenschaften von software-physischen (KI-) Systemen gerecht wird.

Als Konsequenz hieraus ist ein angepasstes „Produktbegleitungskonzept“ notwendig, mit dem Hersteller zur Gewährleistung der Produktsicherheit über den gesamten Produktlebenszyklus verpflichtet werden könnten.

Den baua:Bericht „Rechtliche Rahmenbedingungen für die Bereitstellung autonomer und KI-Systeme“ gibt es im PDF-Format zum Herunterladen im Internetangebot der BAuA.

(Quelle: Presseinformation der BAuA – Bundesanstalt für Arbeitsschutz und Arbeitsmedizin)

Schlagworte

ArbeitsschutzAutonome SystemeIndustrieproduktionKIKünstliche Intelligenz

Verwandte Artikel

22.02.2025

Wie mittelständische Unternehmen Schweißprozesse automatisieren können

Schweißtechnik ist in der metallverarbeitenden Industrie in vielen Fällen nicht ersetzbar. Doch Fachkräftemangel und steigende Kosten führen dazu, dass Aufträge immer häu...

Arbeitsschutz Automatisierung Cobot Fachkräftemangel Lichtbogenschweißen Schweißen Schweißprozesse
Mehr erfahren
DVS Group
10.02.2025

ROBOTER 2025 – Anmeldung noch möglich

In knapp einer Woche beginnt die DVS-Tagung und -Fachausstellung ROBOTER in Fellbach. Anmeldungen sind noch bis zum Beginn der Tagung am 18.2.2025 möglich.

Automatisierung Cobot Cybersicherheit Digitalisierung Industrie 4.0 Industrieroboter KI Offline-Programmierung Roboterprogrammierung Robotik Tiefeninduktion
Mehr erfahren
02.02.2025

Workflow-Optimierung in der additiven Fertigung

Die Software-Entwickler CoreTechnologie und Phasio gehen eine Partnerschaft ein. Gemeinsam führen die Spezialisten eine automatisierte Lösung für Technologie-Anwender im...

3D-Druck Additive Fertigung Kalkulation KI
Mehr erfahren
01.02.2025

Top 5 Robotik-Trends 2025 weltweit

Die International Federation of Robotics berichtet über die wichtigsten Trends, die die Robotik und Automation im Jahr 2025 prägen werden.

Arbeitskräftemangel Automation Energieeffizienz Humanoide Industrie-Roboter KI Nachhaltigkeit
Mehr erfahren
30.01.2025

RoX – Digitales Ökosystem für KI-basierte Robotik

Das Verbundprojekt RoX widmet sich dem Aufbau eines digitalen Ökosystems, das den Einsatz innovativer KI-basierter robotischer Lösungen in praxisrelevanten Anwendungen un...

KI Kommissionierung Logistik Roboter Robotersysteme
Mehr erfahren