Neues Feature für den Intelligenten Gebäudepförtner entwickelt
Seit dem Digitalgipfel im November letzten Jahres ist der ForeSight-Use Case des Intelligenten Gebäudepförtners weit über die Grenzen des Forschungsprojektes hinaus bekannt. Das smarte Zugangssystem regelt den Personen- und Warenverkehr an Gebäudeeingängen und -übergängen und autorisiert berechtige Personen vordefinierte Bereiche (z.B. Wohnungen) zu betreten. Bewohner*innen sowie autorisierte Gäste werden dabei automatisch vom Intelligenten Gebäudepförtner erkannt, währenddessen noch nicht legitimierte Personen – ihrem Anliegen entsprechend – einen sicherheitsgeprüften Zugang zu den jeweiligen Sicherheitszonen erhalten oder abgelehnt werden können. Dem Pförtner bekannte Personen werden bei Ankunft am Gebäude über biometrische Daten wie Gesicht oder Stimme identifiziert und automatisch eingelassen. Der Pförtner respektiert die Datensouvernität des Dateneigentümers und unterstützt daher auch klassische Zugangswege, wie Schlüsselkarten und PIN Codes. Auch ermöglicht der intelligente Pförtner perspektivisch verschiedene Service-Use-Cases. Tritt im Gebäude oder in der Wohnung beispielsweise ein Wasserschaden auf, kann der KI-basierte Service des Gebäudepförtners durch die intelligente Nutzung verschiedener Sensordaten zukünftig den technischen Kundendienst rufen, das vorzufindende Szenario bereits exakt beschreiben und zur Behebung des Schadens autorisierte Personen auch in Abwesenheit der Bewohner*innen einen Zutritt zur betroffenen Wohnung ermöglichen. Aber auch Beispiele wie ein Mieterwechsel, das Eintreffen eines Lieferdienstes oder der Zugang für Gebäudedienstleister lassen sich damit abbilden. So die Idee des praxisnahen Anwendungsfalls.
ForeSight setzt auf Vielfalt, Nichtdiskriminierung und Fairness und folgt dem Prinzip der „Ethical, Legal, Social Issues“ (ELSI)
Um dem selbst gesteckten Anspruch gerecht zu werden, gilt für jedes Entwicklungsprojekt im ersten Schritt zu untersuchen, an welchen Stellen es durch die zu entwickelnden KI-Systeme zu einer möglichen Diskriminierung kommen könnte. Im Falle des Intelligenten Gebäudepförtners ist dies keine leichte Aufgabe, denn im konkreten Anwendungsfall handelt es sich nicht bloß um eine monolithische Lösung, sondern um eine Orchestrierung der verschiedenen Komponenten des Pförtners. In vier Komponenten des Intelligenten Gebäudepförtners kommen KI-Anwendungen zum Einsatz; in der Face Recognition, der Liveness Detection, der Dialogkomponente und im Entscheidungskern. Die Face Recognition ist für die Erkennung und Zuordnung eines Gesichts zuständig, während die Liveness Detection überprüft, ob es sich dabei wirklich um eine reale Person handelt, die vor dem Pförtner steht. Die Dialogkomponente sorgt für die Möglichkeit eines verbalen Austauschs mit dem Pförtner. Der Entscheidungskern konsolidiert alle Informationen, die Besuchende beispielsweise über Sprache oder Gesichtserkennung in das zugrundeliegende System eingeben und entscheidet anhand dieser, ob der entsprechenden Person Zutritt in das Gebäude gewährt wird. Alle vier dieser Komponenten können potenziell diskriminieren. In ForeSight werden deshalb zu Beginn der Entwicklungen etwaige Benachteiligungsmöglichkeiten identifiziert und auf diesem Weg mögliche Risiken erkannt und durch entsprechende Maßnahmen reduziert. In einem cross-funktionalen Team arbeiten die Strategion GmbH, dormakaba GmbH und die GSW Sigmaringen GmbH gemeinsam an der Entwicklung diskriminierungsfreier KI-Services.
Anforderungen an Nicht-Diskriminierung und ethische Maßstäbe, die wir heute an den Menschen und dessen „echte Intelligenz“ anlegen, müssen in einer freien und demokratischen Gesellschaft das Mindestmaß dessen sein, was wir als Anforderungen an „Künstliche Intelligenz“ stellen. Wir entwickeln daher nicht nur performante KI-Systeme, sondern beziehen Ethik, Nicht-Diskriminierung und Transparenz als zentrale Designkomponenten in die Entwicklung der Services mit ein.
Wie der Use Case des Intelligenten Gebäudepförtners Diskriminierung reduziert
Wie der Intelligente Gebäudepförtner mögliche Diskriminierung reduzieren kann, lässt sich an den konkreten Beispielen der Face Recognition und der Dialogkomponente genauer erläutern. Die Dialogkomponente sorgt, wie bereits beschrieben, für einen verbalen Zutritt ohne das Betätigen einer physischen Komponente. Auf diesem Weg erhalten auch körperlich beeinträchtigte Menschen Zutritt zum Gebäude. Gleichzeitig werden andere Gruppen, wie Menschen, die z.B. die deutsche Sprache nicht beherrschen, von der Nutzung ausgeschlossen. Das Oberflächendesign des Intelligenten Gebäudepförtners muss deshalb viele Aspekte berücksichtigen. So muss eine Mehrsprachigkeit gewährleistet sein, damit Menschen verschiedener Nationalitäten mit dem Pförtner kommunizieren können. Auch haben eine kontrastreiche Farbgebung für eine gute Lesbarkeit und eine allgemeinverständliche (Bilder-) Sprache für eine leichte Bedienbarkeit zu sorgen. Sollten Personen Falschangaben tätigen, müssen das System bzw. der Entscheidungsbaum eine entsprechende Fehlertoleranz aufweisen, um hierauf reagieren zu können und Alternativen vorzuschlagen.
Im Bereich der Face Recognition und Liveness Detection können Diskriminierungen aufgrund von Ethnie, Geschlecht oder Alter auftreten. Grundsätzlich kann jede KI auch einmal Fehlentscheidungen treffen und beispielsweise einer berechtigen Person den Zutritt verweigern. Diskriminierend ist die KI dann, wenn die Auftrittswahrscheinlichkeit von Fehlentscheidungen für bestimmte Gruppen signifikant höher ausfällt als für andere Gruppen. In ForeSight überprüft die Strategion deshalb die im Anwendungsfall integrierten KI-Standardkomponenten zur Gesichtserkennung auf Diskriminierung. Hilfreich ist dabei der Aspekt der Erklärbarkeit. So kann z.B. für die Lebenderkennung (Liveness Detection) nachvollzogen werden, welche Merkmale die KI für die Klassifikation genutzt hat, um zur Entscheidung „reale Person“ zu kommen. Diskriminierende Merkmale können auf diesem Wege sichtbar gemacht werden. Dies ermöglicht den Forscher*innen, gezielt in die Weiterentwicklung der KI einzugreifen und diskriminierende Merkmale beim Training zu berücksichtigen. Die in Untersuchung auf Diskriminierung erreichten Testergebnisse diverser KI-Algorithmen belegen immer wieder, dass viele Standardkomponenten, basierend auf Open-Source-Ansätzen, bestimmte Gruppen bevorzugt behandeln.
Insbesondere im Smart Living Umfeld, einem der privatesten Lebensbereiche, ist es von zentraler Bedeutung, dass wir KI-Systeme entwickeln, die für alle einen Nutzen stiften. Niemand sollte von der Nutzung ausgeschlossen werden oder Nachteile erfahren.
Sobald die im Anwendungsfall des Pförtners verbauten KI-Komponenten eine Diskriminierung aufweisen, werden die entsprechenden Systeme deshalb einer Verbesserung unterzogen. Im Fokus steht dabei das Neutraining auf Datensätzen, die alle demographischen Untergruppen hinreichend stark repräsentieren. Die Fairnesskomponenten sind dabei so ausgelegt, dass eine Diskrepanz innerhalb der verschiedenen Untergruppen möglichst gering ausfällt und somit eine Benachteiligung minimiert wird. So kann bei der Entwicklung des Intelligenten Gebäudepförtners zu jeder Zeit in den Prozess eingegriffen und das Training des Künstlichen Neuronalen Netzes entsprechend angepasst werden.
Die Strategion erwartet durch die Entwicklung von nicht-diskriminierenden und nach ethischen Maßstäben gestalteten KI-Systemen eine signifikante Steigerung der Akzeptanz KI-basierter Smart-Living-Lösungen. Durch weitere geplante Maßnahmen, wie beispielsweise die ausschließliche Nutzung Gaia-X-konformer Dateninfrastrukturen im Kontext intelligenter Smart-Living-Services, soll der bisher erarbeitete Ansatz weiterentwickelt und langfristig standardisiert werden.
Innovationen verantwortungsvoll gestalten – unter dieser Maßgabe gestalte ich seit inzwischen mehr als 10 Jahren in Wissenschaft und Praxis im sprichwörtlichen Sinne Systeme von morgen. Das Potenzial der Integration von Künstlicher Intelligenz in den Alltag der Menschen ist dabei mindestens genau so groß wie das Risiko einer falschen oder gar missbräuchlichen Anwendung. Dem muss durch eine intelligente Algorithmik entgegengewirkt werden!
Ansprechpartner
Florian Remark
Ansprechpartner Intelligenter Türpförtner.
Weitere Beiträge
Leitfaden: Vertrauenswürdige und ethisch vertretbare KI als Grundlage für deren Akzeptanz
Viele der aktuell existierenden Arbeiten im Bereich ethischer KI sind überwiegend konzeptionell und konzentrieren sich auf die Definition von abstrakten Prinzipien. Damit jedoch vertrauenswürdige KI- Anwendungen in der Praxis entstehen zu können, ist eine Überführung theoretischer Überlegungen in konkrete Handlungsempfehlungen und ein Neudenken des KI-Entwicklungsprozesses notwendig. Besonders relevant ist dies für Datenökosysteme, in denen der Mensch als Hauptnutzender der KI – Anwendung und Eigentümer der Daten auftritt. Im Rahmen von ForeSight wurde zu diesem Themenbereich unter der Leitung der GSW Sigmaringen in Zusammenarbeit mit Strategion und dem SIBIS Institut ein Leitfaden zur vertrauenswürdigen und ethisch vertretbaren KI als Grundlage für deren Akzeptanz veröffentlicht.
Drohnen im Kontext der Wohnungswirtschaft
Für Wohnungsunternehmen sind die Einsatzmöglichkeiten von Drohnen an verschiedene Anforderungen geknüpft. Ein Leitfaden der ForeSight Konsortialpartner GdW und GSW Sigmaringen beleuchtet die Rechtslage, effizienzsteigernde Maßnahmen bei verschiedenen Anwendungsfällen und den Einsatz von Künstlicher Intelligenz für Analyseverfahren. Ein Prüfschema unterstützt Wohnungsunternehmen bei der Auswahl geeigneter Partner für Drohnenflüge.
Akzeptanzstudie zu Drohneneinsatz im Wohnumfeld veröffentlicht
Im Rahmen von ForeSight wurde eine Akzeptanzuntersuchung von Drohnen-Einsätzen im Rahmen von Servicetätigkeiten in Future Living® Berlin durchgeführt. Das Ergebnis: 92 % der Mietenden bringt Verständnis für den Einsatz von Drohnen im Auftrag des Vermieters auf. Fast 60 % der Befragten bewerten den Drohnenflug auch dann als unkritisch, wenn diese nah an den eigenen Fenstern vorbeifliegt.
