app-informatics | app-informatics gmbh

artificial
intelligence
& ethics

software
engineering
& humanism

scientific
research
& responsibility

App informatics zt gmbh ist ein staatlich befugtes und beeidetes Ziviltechnikbüro für Informatik.

Wir beraten, planen, prüfen und zertifizieren bei der Entwicklung und dem Einsatz von Informations- und Kommunikationstechnologien.

Artificial Intelligence & Machine Learning

Bahnbrechende Technologie mit substantiellen Risiken

Bias und Fairness

ein AI System soll so konzipiert und eingesetzt werden, dass es gerecht und ohne Bias Ergebnisse liefert.

Digitale Transformation

aktive Veränderungen der Gesellschaft durch die Verwendung digitaler Technologien und Techniken

Algorithmic Governance

Technische, ethische und auch rechtliche Herausforderungen durch algorithmisch gesteuerte Systeme

Datenschutz

der Schutz von personenbezogenen Daten ist durch Datenschutzgesetze geregelt und wird u.a. durch technisch organisatorische Maßnahmen gewährleistet

Transparente AI

Erklärbarkeit und Transparenz (vgl. § 12 DSGVO) sind die Grundlagen einer zuverlässigen und vertrauenswürdige AI

Themen

Algorithmic Governance

Algorithmisch gesteuerte Systeme, Entscheidungssysteme (zb. Kreditzu/absagen, automatische Einstufungen): Analyse der Transparenz (vgl. § 12 DSGVO ) und Fairness.

Maschinelles Lernen und künstliche Intelligenz

Zuverlässige und vertrauenswürdige AI: Unabhängige Überprüfung einer KI Lösung auf Basis der staatlichen Befugnis und Beeidigung als Ziviltechniker

Ethik-Leitlinien für eine vertrauenswürdige KI

Ethik Zertifizierung auf Basis der Ethik Leitlinien für eine vertrauenswürdige KI der Europäischen Kommission:

Achtung der menschlichen Autonomie
Schadensverhütung
Fairness und Erklärbarkeit.

Der Anforderungs- und Prüfkatalog für eine Bewertung oder zur Durchführung eines Audits wurde gemeinsam mit der Technischen Universität Wien entwickelt.

EU Datenschutz-Grundverordnung (DSGVO)

Analyse des Ist Zustands
Ermittlung und Festsetzung von notwendigen Maßnahmen
Umsetzung und Zertifizierung

Biometrie und (Bild)Forensik

Forensische Biometrie: Gesichtserkennung, Personenerkennung,…
(Biometrische) Zutrittskontrolle: Fingerprinterkennung, Gesichtserkennung, …
Video- und Bildanalyse: Identitätsüberprüfung, Authentitätsüberprüfung

praktische und angewandte Informatik

Planung, Durchführung und Überprüfung von IT Projekten zu ausgewählten Themen

Methoden

Bewertungen und Reviews

Mit der Erfahrung als nationale und internationale Gutachter und Prüfer von IKT Projekten bewerten wir Ihr Projekt oder Ihre Projektidee hinsichtlich Durchführbarkeit, Innovationsgrad und Technological Readiness Level (TRL). Dabei berücksichtigen wir sowohl technisch – wissenschaftliche als auch kommerzielle Kriterien.

DSGVO Audits

Wir überprüfen, bewerten und evaluieren die Wirksamkeit Ihrer technischen und organisatorischen Maßnahmen zur Gewährleistung der Sicherheit der Verarbeitung ihrer personenbezogenen Daten. Wir zertifizieren die DSGVO Konformität Ihrer Datenverarbeitung.

Ethik Audits

Der vermehrte Einsatz von Algorithmen und Künstlicher Intelligenz in unserem Alltag kann zu unfairen oder intransparenten Entscheidungsprozessen führen. Auf Basis eines an der TU nach wissenschaftlichen Methoden entwickelten Assessment Schemas, evaluieren wir Ihre AI Lösung hinsichtlich Fairness, Bias und Transparenz.

Förderprojekte

Wir übernehmen in unseren Kernthemen die Antragsstellung, Projektbegleitung oder Koordination ihres Förderprojektes. Mit 20 Jahren Erfahrung in der Durchführung und Abwicklung von nationalen und internationalen Förderprojekten sind wir ein erfahrener Antragsteller und kompetenter Technologie Partner.

Gerichtsgutachten

Als allgemein beeidete und gerichtlich zertifizierte Sachverständige errichten wir IT- und Bild- forensische Gutachten.

Gutachten und Urkunden

Wir errichten Urkunden und Gutachten nach dem Ziviltechnikergesetz. Ziviltechniker sind mit öffentlichem Glauben versehene Personen. Die von ihnen im Rahmen ihrer Befugnis ausgestellten öffentlichen Urkunden werden von den Verwaltungsbehörden in derselben Weise angesehen, als wenn diese Urkunden von Behörden ausgefertigt wären.

Machbarkeitsstudien

Wir überlegen uns die Machbarkeit Ihres technischen Projektes oder Ihrer Projektidee nach wissenschaftlichen und kommerziellen Gesichtspunkten hinsichtlich Durchführbarkeit, Aufwand und Neuheit. Wir spezifizieren mit Ihnen Ihr Projekt.

Stellungnahmen

Einspruch zur Geltendmachung einer Forschungsprämie? Wir analysieren ihre Tätigkeiten und formulieren ihre Forschungstätigkeit.

Präsentationen

Wir präsentieren gerne als Keynote in Ihrem Workshop oder einer Firmenveranstaltung. Als Universitätslehrer der Technischen Universität sind wir geübt Inhalte der Informatik vorzustellen und zu erklären.

Publikationen

Mit mehr als zweihundert wissenschaftlichen Publikationen zu unseren Kernthemen in den letzten 25 Jahren können wir unsere Expertise unter Beweis stellen. Wir unterstützen Sie bei Ihrer wissenschaftlichen Dissemination zB. in einem Förderprojekt.

Wissenschaftliche Studien

Die Planung, Durchführung und Koordination von wissenschaftlichen Studien ist einer unserer Kernbereiche und leitet sich von unserer Forschungstätigkeit an der Technischen Universität Wien ab.

Zertifizierung

Als Ziviltechniker erstellen wir öffentliche Urkunden, und sind ähnlich den Notaren befugt, diese als Zertifikat auszustellen. Zertifikate zur DSGVO Konformität zum Beispiel erlangen zunehmende Bedeutung.

Projekt 1: Fairness, Bias und Transparenz von Algorithmen

Datenbasierte Technologien haben das Ziel, nach gewissen Merkmalen zu diskriminieren, zu klassifizieren und zu unterscheiden. Hierbei muss jedoch zwischen erwünschten und unfairen Formen der Diskriminierung unterschieden werden.

Auch interne Strukturen und Entscheidungsmechanismen eines Algorithmus können unfair und/oder intransparent sein. Das kann zum Beispiel folgende Bereiche Betreffen:

Entscheidungen über die Kreditwürdigkeit oder Anspruchsberechtigung
Zugang zu Gesundheitsdiensten
Zugang zu einer Arbeitsbeschäftigung
Zugang zu Bildung (z.B. Universitätszulassung)

Abgesehen vom Grundsatz der Transparenz nach der DSGVO, ist die Transparenz von Systemen entscheidend für sowohl ExpertInnen aus dem Rechtswesen, für Software-EntwicklerInnen, aber auch für reguläre UserInnen. Letzte Gruppe profitiert davon, wenn Entscheidungen eines Algorithmus nachvollzogen werden können und dadurch mehr Vertrauen in das System entsteht.

Die Ziele des Projektes* sind:

Basiswissen zu schaffen: was ist der Nutzen von Explainable AI (XAI) Methoden, welche Definitionen für Transparenz gibt es und in welche Stufen kann sie untergliedert werden, Analyse von Methoden zur Erklärbarkeit von Algorithmen.
Erarbeitung eines Frameworks: Designkriterien für einen fairen und transparenten Algorithmus, potentielle Fehlerquellen, Metriken
Daten aus der Praxis: wie ist der Grad an Transparenz, Analyse der Erklärbarkeit unter Berücksichtigung von vertraulichen Informationen

*Forschungsprojekt Fairalgos (FFG Bridge 878730) unter der Leitung von Dr. Kampel an der TU Wien

Projekt 2: Algorithmic Governance of Care

Pflegearbeit in der Langzeitpflege ist eine humanzentrierte Tätigkeit, die Empathie, körperliche Nähe und vertrauensvolle Beziehungen zwischen verschiedenen Pflegenden und Pflegebedürftigen erfordert. In den letzten Jahren wurde in Pflegesystemen vermehrt Künstliche Intelligenz (KI) eingesetzt, um professionelle Pflegekräfte bei ihren täglichen Aktivitäten zu unterstützen und Pflegebedürftigen ein zusätzliches Maß an Sicherheit zu bieten. Trotz der zunehmenden Verbreitung von KI in der Pflege beschäftigen sich bislang nur wenige Studien mit dem Bias von algorithmischen Systemen in diesem Bereich. Durch die Verknüpfung mehrerer Big Data Sets können durch KI unfaire und intransparente Entscheidungsprozesse in Gang gesetzt werden, die in der Praxis zu diskriminierenden Pflegepraktiken führen.

Ziel des Projektes* ist es, den potentiellen Bias von algorithmisch gesteuerten Pflegetechnologien in ihren Auswirkungen auf die Langzeitpflege zu untersuchen. Erkenntnisse aus qualitativen Fallstudien in der Langzeitpflege liefern die Basis für ein differenzierten Verständnis der Auswirkungen und Bedürfnisse der
Pflege in Bezug auf KI-Systeme. Auf Basis dieser Erkenntnisse werden im Projekt der Gebrauchswert von XAI-Methoden (explainable AI) (Vertrauenswürdigkeit, Fairness, Transparenz) und verschiedene Transparenzstufen in ihrer Anwendbarkeit auf Pflegesysteme untersucht.

*Forschungsprojekt AlgoCare (WWTF Projekt) unter der Leitung von Dr. Kampel an der TU Wien

Projekt 3: Vertrauenswürdige KI – Zertifizierungsprozess

Zur Gewährleistung einer vertrauenswürdigen KI führen wir Audits durch und beurteilen anhand professioneller Checklisten und Richtlinien KI-Anwendungen und Algorithmen. In der Analyse unterscheiden wir dabei zwischen Pre-Processing, In-Processing und Post-Processing.

Pre-Processing-Methoden untersuchen die Trainingsdaten hinsichtlich Bias. In-processing beschreibt Techniken, die die Netzwerkarchitektur analysieren. Das Ziel des Post-Processings ist es, das Ergebnis eines lernenden Algorithmus zu verstehen, soferne das trainierte Modell eine Blackbox ist und der Trainings- oder Lernalgorithmus nicht verändert werden kann. Einen besonderen Stellenwert hat dabei die Transparenz des KI Systems.

Das Ergebnis wird in einem Zertifikat zur Zuverlässigkeit, Transparenz und Sicherheit der KI Anwendung und der KI Algorithmen beurkundet.

Grundlage einer Zertifizierung für eine vertrauenswürdige KI ist die „Ethik Leitlinie für eine vertrauenswürdige KI“ der unabhängigen Expertengruppe HEG-KI der Europäischen Kommission. Zur Prüfung und Zertifizierung der Zuverlässigkeit und Vertrauenswürdigkeit von KI Systemen wird unter anderem auf das ethische Framework „Malta towards Trustworthy AI“ verwiesen.

Team

Priv. Doz. Dr. Martin Kampel,

Ingenieurkonsulent für Informatik

Dr. Kampel, ZT ist Gründer und geschäftsführender Gesellschafter der app informatics zt GmbH. Weiters ist er Senior Scientist am Institut für Visual Computing & Human Centered Technology, der Technischen Universität Wien.

Er studierte Datentechnik und Informatik, promovierte mit Auszeichnung und habilitierte im Fach praktische Informatik an der Fakultät für Informatik der TU-Wien. Als Informatiker an der Schnittstelle zwischen Forschung und Entwicklung spezialisiert sich Dr. Kampel auf interdisziplinäre Fragestellungen der praktischen Informatik, insbesondere Visual Computing und Künstliche Intelligenz, sowie Ethik und digitale Transformation.

Er ist internationaler Gutachter und Prüfer von wissenschaftlichen und kommerziellen Projekten, Ingenieurkonsultent für Informatik, sowie allgemein beeideter und gerichtlich zertifizierter Sachverständiger für IKT.

Prof. Dr. Robert Sablatnig

Prof. Sablatnig ist Gründer und Gesellschafter der app informatics zt Gmbh. Weiters ist er Vorstand des Instituts für Visual Computing
& Human Centered Technology der Technischen Universität Wien und dort im Bereich Computer Vision & AI in Forschung und Lehre tätig.

Er studierte Informatik mit Ausrichtung Visual Computing an der Technischen Universität Wien, wo er seit 2003 als a.o.Univ.Prof. für Computer Vision beschäftigt ist. Von 2005 bis 2017 war er Leiter des Instituts für Rechnergestützte Automation. Seit 2010 leitet er das Computer Vision Lab, das Teil des 2018 gegründeten Instituts für Visual Computing & Human-Centered Technology ist, das er seit 2019 leitet. Mit der Leitung und Koordination von mehr als 30 industrierelevanten und akademischen Forschungsprojekten setzt er Grundlagenforschung anwendungsbezogen um. Er ist internationaler Gutachter und Prüfer von wissenschaftlichen und kommerziellen Projekten, aktiv in der internationalen Forschungslandschaft tätig, im Vorstand der Österreichischen Arbeitsgemeinschaft für Mustererkennung, vertritt Österreich im Vorstand der internationalen Arbeitsgemeinschaft für Mustererkennung, sowie allgemein beeideter und gerichtlich zertifizierter Sachverständiger für Computer Vision.