Neues Feature für den Intelligenten Gebäudepförtner entwickelt

Um den verantwortungsvollen Umgang mit KI-Technologien weiter zu stärken und aktiv im Bereich Smart Living zu verankern, hat die Strategion GmbH, ForeSight-Konsortialpartner und IT- und Strategieberatung, den Intelligenten Gebäudepförtner um eine Nicht-Diskriminierungs-Funktionalität erweitert.
© Strategion GmbH

Seit dem Digitalgipfel im November letzten Jahres ist der ForeSight-Use Case des Intelligenten Gebäudepförtners weit über die Grenzen des Forschungsprojektes hinaus bekannt. Das smarte Zugangssystem regelt den Personen- und Warenverkehr an Gebäudeeingängen und -übergängen und autorisiert berechtige Personen vordefinierte Bereiche (z.B. Wohnungen) zu betreten. Bewohner*innen sowie autorisierte Gäste werden dabei automatisch vom Intelligenten Gebäudepförtner erkannt, währenddessen noch nicht legitimierte Personen – ihrem Anliegen entsprechend – einen sicherheitsgeprüften Zugang zu den jeweiligen Sicherheitszonen erhalten oder abgelehnt werden können. Dem Pförtner bekannte Personen werden bei Ankunft am Gebäude über biometrische Daten wie Gesicht oder Stimme identifiziert und automatisch eingelassen. Der Pförtner respektiert die Datensouvernität des Dateneigentümers und unterstützt daher auch klassische Zugangswege, wie Schlüsselkarten und PIN Codes. Auch ermöglicht der intelligente Pförtner perspektivisch verschiedene Service-Use-Cases. Tritt im Gebäude oder in der Wohnung beispielsweise ein Wasserschaden auf, kann der KI-basierte Service des Gebäudepförtners durch die intelligente Nutzung verschiedener Sensordaten zukünftig den technischen Kundendienst rufen, das vorzufindende Szenario bereits exakt beschreiben und zur Behebung des Schadens autorisierte Personen auch in Abwesenheit der Bewohner*innen einen Zutritt zur betroffenen Wohnung ermöglichen. Aber auch Beispiele wie ein Mieterwechsel, das Eintreffen eines Lieferdienstes oder der Zugang für Gebäudedienstleister lassen sich damit abbilden. So die Idee des praxisnahen Anwendungsfalls.

ForeSight setzt auf Vielfalt, Nichtdiskriminierung und Fairness und folgt dem Prinzip der „Ethical, Legal, Social Issues“ (ELSI)

Um dem selbst gesteckten Anspruch gerecht zu werden, gilt für jedes Entwicklungsprojekt im ersten Schritt zu untersuchen, an welchen Stellen es durch die zu entwickelnden KI-Systeme zu einer möglichen Diskriminierung kommen könnte. Im Falle des Intelligenten Gebäudepförtners ist dies keine leichte Aufgabe, denn im konkreten Anwendungsfall handelt es sich nicht bloß um eine monolithische Lösung, sondern um eine Orchestrierung der verschiedenen Komponenten des Pförtners. In vier Komponenten des Intelligenten Gebäudepförtners  kommen KI-Anwendungen zum Einsatz; in der Face Recognition, der Liveness Detection, der Dialogkomponente und im Entscheidungskern. Die Face Recognition ist für die Erkennung und Zuordnung eines Gesichts zuständig, während die Liveness Detection überprüft, ob es sich dabei wirklich um eine reale Person handelt, die vor dem Pförtner steht. Die Dialogkomponente sorgt für die Möglichkeit eines verbalen Austauschs mit dem Pförtner. Der Entscheidungskern konsolidiert alle Informationen, die Besuchende beispielsweise über Sprache oder Gesichtserkennung in das zugrundeliegende System eingeben und entscheidet anhand dieser, ob der entsprechenden Person Zutritt in das Gebäude gewährt wird. Alle vier dieser Komponenten können potenziell diskriminieren. In ForeSight werden deshalb zu Beginn der Entwicklungen etwaige Benachteiligungsmöglichkeiten identifiziert und auf diesem Weg mögliche Risiken erkannt und durch entsprechende Maßnahmen reduziert. In einem cross-funktionalen Team arbeiten die Strategion GmbH, dormakaba GmbH und die GSW Sigmaringen GmbH gemeinsam an der Entwicklung diskriminierungsfreier KI-Services.

Anforderungen an Nicht-Diskriminierung und ethische Maßstäbe, die wir heute an den Menschen und dessen „echte Intelligenz“ anlegen, müssen in einer freien und demokratischen Gesellschaft das Mindestmaß dessen sein, was wir als Anforderungen an „Künstliche Intelligenz“ stellen. Wir entwickeln daher nicht nur performante KI-Systeme, sondern beziehen Ethik, Nicht-Diskriminierung und Transparenz als zentrale Designkomponenten in die Entwicklung der Services mit ein.

Florian Remark, Geschäftsführer Strategion GmbH Tweet

Wie der Use Case des Intelligenten Gebäudepförtners Diskriminierung reduziert

Wie der Intelligente Gebäudepförtner mögliche Diskriminierung reduzieren kann, lässt sich an den konkreten Beispielen der Face Recognition und der Dialogkomponente genauer erläutern. Die Dialogkomponente sorgt, wie bereits beschrieben, für einen verbalen Zutritt ohne das Betätigen einer physischen Komponente. Auf diesem Weg erhalten auch körperlich beeinträchtigte Menschen Zutritt zum Gebäude. Gleichzeitig werden andere Gruppen, wie Menschen, die z.B. die deutsche Sprache nicht beherrschen, von der Nutzung ausgeschlossen. Das Oberflächendesign des Intelligenten Gebäudepförtners muss deshalb viele Aspekte berücksichtigen. So muss eine Mehrsprachigkeit gewährleistet sein, damit Menschen  verschiedener Nationalitäten mit dem Pförtner kommunizieren können. Auch haben eine kontrastreiche Farbgebung für eine gute Lesbarkeit und eine allgemeinverständliche (Bilder-) Sprache für eine leichte Bedienbarkeit zu sorgen. Sollten Personen Falschangaben tätigen, müssen das System bzw. der Entscheidungsbaum eine entsprechende Fehlertoleranz aufweisen, um hierauf reagieren zu können und Alternativen vorzuschlagen.

 

Henrik Kortum und Florian Remark, © Strategion GmbH

Im Bereich der Face Recognition und Liveness Detection können Diskriminierungen aufgrund von Ethnie, Geschlecht oder Alter auftreten. Grundsätzlich kann jede KI auch einmal  Fehlentscheidungen treffen und beispielsweise einer berechtigen Person den Zutritt verweigern. Diskriminierend ist die KI dann, wenn die Auftrittswahrscheinlichkeit von Fehlentscheidungen für bestimmte Gruppen signifikant höher ausfällt als für andere Gruppen. In ForeSight überprüft die Strategion deshalb die im Anwendungsfall integrierten KI-Standardkomponenten zur Gesichtserkennung auf Diskriminierung. Hilfreich ist dabei der Aspekt der Erklärbarkeit. So kann z.B. für die Lebenderkennung (Liveness Detection) nachvollzogen werden, welche Merkmale die KI für die Klassifikation genutzt hat, um zur Entscheidung „reale Person“ zu kommen. Diskriminierende Merkmale können auf diesem Wege sichtbar gemacht werden. Dies ermöglicht den Forscher*innen, gezielt in die Weiterentwicklung der KI einzugreifen und diskriminierende Merkmale beim Training zu berücksichtigen. Die in Untersuchung auf Diskriminierung erreichten Testergebnisse diverser KI-Algorithmen belegen immer wieder, dass viele Standardkomponenten, basierend auf Open-Source-Ansätzen, bestimmte Gruppen bevorzugt behandeln.

Insbesondere im Smart Living Umfeld, einem der privatesten Lebensbereiche, ist es von zentraler Bedeutung, dass wir KI-Systeme entwickeln, die für alle einen Nutzen stiften. Niemand sollte von der Nutzung ausgeschlossen werden oder Nachteile erfahren.

Henrik Kortum, Projektleiter Strategion GmbH Tweet

Sobald die im Anwendungsfall des Pförtners verbauten KI-Komponenten eine Diskriminierung aufweisen, werden die entsprechenden Systeme deshalb einer Verbesserung unterzogen. Im Fokus steht dabei das Neutraining auf Datensätzen, die alle demographischen Untergruppen hinreichend stark repräsentieren. Die Fairnesskomponenten sind dabei so ausgelegt, dass eine Diskrepanz innerhalb der verschiedenen Untergruppen möglichst gering ausfällt und somit eine Benachteiligung minimiert wird. So kann bei der Entwicklung des Intelligenten Gebäudepförtners zu jeder Zeit in den Prozess eingegriffen und das Training des Künstlichen Neuronalen Netzes entsprechend angepasst werden.

© Strategion GmbH

Die Strategion erwartet durch die Entwicklung von nicht-diskriminierenden und nach ethischen Maßstäben gestalteten KI-Systemen eine signifikante Steigerung der Akzeptanz KI-basierter Smart-Living-Lösungen. Durch weitere geplante Maßnahmen, wie beispielsweise die ausschließliche Nutzung Gaia-X-konformer Dateninfrastrukturen im Kontext intelligenter Smart-Living-Services, soll der bisher erarbeitete Ansatz weiterentwickelt und langfristig standardisiert werden.

Innovationen verantwortungsvoll gestalten – unter dieser Maßgabe gestalte ich seit inzwischen mehr als 10 Jahren in Wissenschaft und Praxis im sprichwörtlichen Sinne Systeme von morgen. Das Potenzial der Integration von Künstlicher Intelligenz in den Alltag der Menschen ist dabei mindestens genau so groß wie das Risiko einer falschen oder gar missbräuchlichen Anwendung. Dem muss durch eine intelligente Algorithmik entgegengewirkt werden!

Prof. Dr. Oliver Thomas, Gründer der Strategion GmbH und Wissenschaftlicher Direktor am DFKI Tweet

Projektpartner werden

Die Partner der ForeSight-Plattform entwickeln neue KI-Methoden und leiten daraus Geschäftsmodelle für sogenannte Smart-Living-Anwendungen ab. So können auch Technologie- und Dienstleistungsunternehmen von ForeSight profitieren. Wenn auch Sie mit Ihrer Organisation ein Teil von ForeSight sein wollen, kontaktieren Sie uns!

Weitere Beiträge

Assoziierte Partner im Gespräch: Noocoon

Noocoon bietet über Planungstools Komplettlösungen für Smart Homes an. Somit wird ermöglicht, smarte Services inklusive CO2 Optimierungen als Bestandteil professioneller Wohngebäudeplanung zu nutzen oder anzubieten. Wir sprechen mit unserem assoziierten Partner Noocoon über sein Geschäftsmodell, den Einsatz von Künstlicher Intelligenz und über die Zusammenarbeit bei ForeSight.

foresight

ForeSight – Zwischenbilanz

Die ForeSight-Plattform ist in einer ersten vollständigen Version einsatzbereit und in Teilen Gaia-X-kompatibel. Zahlreiche Unternehmen sind als assoziierte Partner in das Projekt aufgenommen und erste externe Lösungen, Portale und Plattformen aus diesem Umfeld sind an die ForeSight-Plattform angebunden. Initial konnte im Use Case „Aktivitätenerkennung und lebensbegleitende Assistenz“ die Offenheit der ForeSight-Plattform demonstriert werden.

Jochen Bauer im Interview

Jochen Bauer, ForeSight-Teilprojektleiter für Daten, Datenstrukturierung und Datenschutz sowie Forschungsbereichsleiter Hausautomatisierung der FAU spricht über intelligente Insellösungen im Smart Living Markt, das Thema Datenmanagement und den Security-by-Design-Einsatz.