Ethische Leitlinien fördern Vertrauen in Künstliche Intelligenz

ForeSight stellt bei der Entwicklung neuer KI-Services den Menschen als selbstbestimmtes Individuum in den Fokus der Forschung.

Intelligente, KI-basierte Smart-Living-Services für Wohnungen und Mehrfamilienhäuser entwickeln und prototypisch bereitstellen – das ist eines der wesentlichen Ziele in ForeSight. Um das Vertrauen in die neuen technologischen Möglichkeiten zu stärken, muss die Künstliche Intelligenz aber bestimmten Regeln folgen und die Rechtmäßigkeit, die Einhaltung ethischer Grundsätze und Werte sowie soziale und technische Robustheit in den Vordergrund der Entwicklung stellen.

Der im Rahmen von ForeSight entwickelte Ethik-Kodex orientiert sich u.a. an der Europäischen Leitlinie „Ethik-Leitlinien für eine vertrauenswürdige KI“, aber auch an dem konkreten Praxisleitfaden zu den Algo.Rules der Bertelsmann-Stiftung. Berücksichtigt werden dabei die wesentlichen sieben Indikatoren Vorrang menschlichen Handelns und menschliche Aufsicht, Technische Robustheit und Sicherheit, Schutz der Privatsphäre und Datenqualitätsmanagement, Vielfalt, Nichtdiskriminierung und Fairness, Gesellschaftliches und ökologisches Wohlergehen, Rechenschaftspflicht (Verantwortlichkeiten) sowie Transparenz und Erklärbarkeit.

Zum Einsatz kommt der Ethik-Kodex vor allem dort, wo KI-Services rund um die Themen Gebäudebewirtschaftung, Energiemanagement, Intelligenter Gebäudepförtner und Assistenzsysteme entwickelt werden. Und zwar bereits im sehr frühen Stadium. Dabei werden die konkreten Anwendungen aus Nutzerperspektive und bezogen auf die genannten Indikatoren bewertet, um daraus gegebenenfalls Anregungen für die technische Ausgestaltung, die Nutzerführung (UX) oder das Interface (UI) ableiten zu können. Um zum Beispiel mögliche Diskriminierungen von Nutzergruppen auszuschließen, werden bereits bei der Implementierung alternative Strategien entwickelt – und auch diese immer wieder unter ethischen Gesichtspunkten bewertet und weiter optimiert. Aus ethischer Perspektive gilt es, Menschen generell in den Mittelpunkt der Technikentwicklung zu stellen. Im Hinblick auf die KI-Anwendungen bedeutet dies auch, dass Menschen bei der Nutzung in ihrem Verhalten nicht eingeschränkt und bevormundet, sondern ihnen stattdessen alternative, weitergehende Handlungsoptionen angeboten werden.

„Damit Anwendungen, die auf KI-Services basieren, einen Mehrwert im Rahmen der Wohnungswirtschaft bieten können, sind verschiedene Voraussetzungen zu erfüllen: für uns als Betreiber müssen sie ethisch einwandfrei, rechtssicher und vertrauenswürdig sein, gleichzeitig müssen sie einen Mehrwert für die Mietenden bieten“, erklärt Birgid Eberhardt, Bereichsleiterin Smart Home/AAL bei der GSW Sigmaringen GmbH und ForeSight-Teilprojektleiterin für das Thema „Erprobungsumgebungen“ . 

Während der Projektlaufzeit werden die ethischen Leitlinien kontinuierlich weiterentwickelt. Neben der Anwendung im Projekt stehen sie auch den Assoziierten Partnern für ihr eigenes Selbstverständnis und der Formulierung ihres Unternehmenleitbilds zur Verfügung.

Projektpartner werden

Die Partner der ForeSight-Plattform entwickeln neue KI-Methoden und leiten daraus Geschäftsmodelle für sogenannte Smart-Living-Anwendungen ab. So können auch Technologie- und Dienstleistungsunternehmen von ForeSight profitieren. Wenn auch Sie mit Ihrer Organisation ein Teil von ForeSight sein wollen, kontaktieren Sie uns!

Weitere Beiträge

Quellcode ForeSight

Service Registry: Entwicklungswerkzeug für Smart Services

Von den Partnern DFKI und Strategion ist erstmals im Rahmen des Digitalgipfels das Konzept der ‚Service Registry‘ vorgestellt und implementiert worden. Seitdem ist das auf die Entwicklung von Smart Services ausgerichtete Werkzeug fest in die ForeSight-Plattform integriert und stetig weiterentwickelt worden. Unter Einbezug weiterer Partner wird die Service Registry im letzten Projektjahr nun um den ‚Smart Service Analyzer‘ erweitert, welche die Gestaltung, Bewertung und Implementierung von zukunftsfähigen Smart Services weiter vereinfacht.

foresight

ForeSight – Zwischenbilanz

Im letzten Quartal haben Forscherinnen und Forscher eine Akzeptanzstudie zu ausgewählten und in ForeSight exemplarisch zu entwickelnden Anwendungen in Verbindung mit Künstlicher Intelligenz vorgelegt.

Sense Logo

Projektabschluss SENSE im Dezember 2021

Semantische Interoperabilität lautet das wesentliche Forschungsergebnis des vom BMWi geförderten Projektes SENSE, das am 9. Dezember seinen erfolgreichen Abschluss feiert. Die in SENSE entwickelten Ansätze einer herstellerneutralen Kommunikation werden in ForeSight nun so mit entsprechenden KI-Methoden weiterentwickelt, um die digitalen und hybriden Mehrwertangebote rund um das vernetzte Gebäude voll auszuschöpfen zu können.