app-informatics - app-informatics gmbh

artificial
intelligence
& ethics

software
engineering
& humanism

scientific
research
& responsibility

App informatics zt gmbh ist ein staatlich befugtes und beeidetes Ziviltechnikbüro für Informatik.

Wir beraten, planen, prüfen und zertifizieren bei der Entwicklung und dem Einsatz von Informations- und Kommunikationstechnologien.

Artificial Intelligence & Machine Learning

Bahnbrechende Technologie mit substantiellen Risiken

Bias und Fairness

ein AI System soll so konzipiert und eingesetzt werden, dass es gerecht und ohne Bias Ergebnisse liefert.

Digitale Transformation

aktive Veränderungen der Gesellschaft durch die Verwendung digitaler Technologien und Techniken

Algorithmic Governance

Technische, ethische und auch rechtliche Herausforderungen durch algorithmisch gesteuerte Systeme

Datenschutz

der Schutz von personenbezogenen Daten ist durch Datenschutzgesetze geregelt und wird u.a. durch technisch organisatorische Maßnahmen gewährleistet

Transparente AI

Erklärbarkeit und Transparenz (vgl. § 12 DSGVO) sind die Grundlagen einer zuverlässigen und vertrauenswürdige AI

Themen

Algorithmic Governance

Algorithmisch gesteuerte Systeme, Entscheidungssysteme (zb. Kreditzu/absagen, automatische Einstufungen): Analyse der Transparenz (vgl. § 12 DSGVO ) und Fairness.

Maschinelles Lernen und künstliche Intelligenz

Zuverlässige und vertrauenswürdige AI: Unabhängige Überprüfung einer KI Lösung auf Basis der staatlichen Befugnis und Beeidigung als Ziviltechniker

Ethik-Leitlinien für eine vertrauenswürdige KI

Ethik Zertifizierung auf Basis der Ethik Leitlinien für eine vertrauenswürdige KI der Europäischen Kommission:

Achtung der menschlichen Autonomie
Schadensverhütung
Fairness und Erklärbarkeit.

Der Anforderungs- und Prüfkatalog für eine Bewertung oder zur Durchführung eines Audits wurde gemeinsam mit der Technischen Universität Wien entwickelt.

EU Datenschutz-Grundverordnung (DSGVO)

Analyse des Ist Zustands
Ermittlung und Festsetzung von notwendigen Maßnahmen
Umsetzung und Zertifizierung

Biometrie und (Bild)Forensik

Forensische Biometrie: Gesichtserkennung, Personenerkennung,…
(Biometrische) Zutrittskontrolle: Fingerprinterkennung, Gesichtserkennung, …
Video- und Bildanalyse: Identitätsüberprüfung, Authentitätsüberprüfung

praktische und angewandte Informatik

Planung, Durchführung und Überprüfung von IT Projekten zu ausgewählten Themen

Methoden

Bewertungen und Reviews

Mit der Erfahrung als nationale und internationale Gutachter und Prüfer von IKT Projekten bewerten wir Ihr Projekt oder Ihre Projektidee hinsichtlich Durchführbarkeit, Innovationsgrad und Technological Readiness Level (TRL). Dabei berücksichtigen wir sowohl technisch – wissenschaftliche als auch kommerzielle Kriterien.

DSGVO Audits

Wir überprüfen, bewerten und evaluieren die Wirksamkeit Ihrer technischen und organisatorischen Maßnahmen zur Gewährleistung der Sicherheit der Verarbeitung ihrer personenbezogenen Daten. Wir zertifizieren die DSGVO Konformität Ihrer Datenverarbeitung.

Ethik Audits

Der vermehrte Einsatz von Algorithmen und Künstlicher Intelligenz in unserem Alltag kann zu unfairen oder intransparenten Entscheidungsprozessen führen. Auf Basis eines gemeinsam mit der der TU nach wissenschaftlichen Methoden entwickelten Assessment Schemas, evaluieren wir Ihre AI Lösung hinsichtlich Fairness, Bias und Transparenz und zertifizieren als Ziviltechnikunternehmen.

Förderprojekte

Wir übernehmen in unseren Kernthemen die Antragsstellung, Projektbegleitung oder Koordination ihres Förderprojektes. Mit 20 Jahren Erfahrung in der Durchführung und Abwicklung von nationalen und internationalen Förderprojekten sind wir ein erfahrener Antragsteller und kompetenter Technologie Partner.

Gerichtsgutachten

Als allgemein beeidete und gerichtlich zertifizierte Sachverständige errichten wir IT- und Bild- forensische Gutachten.

Gutachten und Urkunden

Wir errichten Urkunden und Gutachten nach dem Ziviltechnikergesetz. Ziviltechniker sind mit öffentlichem Glauben versehene Personen. Die von ihnen im Rahmen ihrer Befugnis ausgestellten öffentlichen Urkunden werden von den Verwaltungsbehörden in derselben Weise angesehen, als wenn diese Urkunden von Behörden ausgefertigt wären.

Machbarkeitsstudien

Wir überlegen uns die Machbarkeit Ihres technischen Projektes oder Ihrer Projektidee nach wissenschaftlichen und kommerziellen Gesichtspunkten hinsichtlich Durchführbarkeit, Aufwand und Neuheit. Wir spezifizieren mit Ihnen Ihr Projekt.

Stellungnahmen

Einspruch zur Geltendmachung einer Forschungsprämie? Wir analysieren ihre Tätigkeiten und formulieren ihre Forschungstätigkeit.

Präsentationen

Wir präsentieren gerne als Keynote in Ihrem Workshop oder einer Firmenveranstaltung. Als Universitätslehrer der Technischen Universität sind wir geübt Inhalte der Informatik vorzustellen und zu erklären.

Publikationen

Mit mehr als zweihundert wissenschaftlichen Publikationen zu unseren Kernthemen in den letzten 25 Jahren können wir unsere Expertise unter Beweis stellen. Wir unterstützen Sie bei Ihrer wissenschaftlichen Dissemination zB. in einem Förderprojekt.

Wissenschaftliche Studien

Die Planung, Durchführung und Koordination von wissenschaftlichen Studien ist einer unserer Kernbereiche und leitet sich von unserer Forschungstätigkeit an der Technischen Universität Wien ab.

Zertifizierung

Als Ziviltechniker erstellen wir öffentliche Urkunden, und sind ähnlich den Notaren befugt, diese als Zertifikat auszustellen. Zertifikate zur DSGVO Konformität zum Beispiel erlangen zunehmende Bedeutung.

Projekt 1: Effiziente, sichere bauliche Haftgestaltung in Justizanstalten in Österreich

Bisher gibt es keine baulichen und technischen Standards die Nutzer*innenbedürfnisse beinhalten, die die Umsetzung von modernen Justizanstalten in Österreich durch effiziente, sichere bauliche und technische (digitale) Maßnahmen unterstützen. Das vorliegende Projekt** hat sich zum Ziel gesetzt bauliche und technische Maßnahmen zu entwickeln, die auf dem Status Quo von 23 Justizanstalten aufbauen, mit allen relevanten Stakeholdern abgestimmt sind und die Bedürfnisse, Problemlagen und Use Cases aller Nutzer*innengruppen (Anstaltsleitung, Beschäftigte und Insass*innen) einbeziehen. Diese nachhaltigen baulichen und technischen (digitalen) Standards fließen in einen praxisorientierten Planungskatalog für Auftraggeber*innen und Umsetzer*innen ein. Dieser ermöglicht eine effiziente Durchführung von Ausschreibungen und Bauvorhaben zur Modernisierung von Justizanstalten. Das Projekt treibt die digitale Transformation für den Strafvollzug im Sinne von „Rechtsstaatlichkeit durch Technikgestaltung” wesentlich voran. Dadurch wird die konsequente Fortführung innovativer Technikgestaltung der Fa. App informatics ermöglicht. In wirtschaftlicher Hinsicht stärkt es die Sichtbarkeit der technischen Expertise für künftiges Consulting im Zusammenhang mit Technologieanwendungen im öffentlichen Sektor. Durch das Projekt werden entsprechendes F&E Know How und vertriebsrelevante Kooperationen mit wichtigen Marktteilnehmer*innen aufgebaut.

**Projekt gefördert durch die FFG, FO999895190

Projekt 2: Algorithmic Governance of Care

Pflegearbeit in der Langzeitpflege ist eine humanzentrierte Tätigkeit, die Empathie, körperliche Nähe und vertrauensvolle Beziehungen zwischen verschiedenen Pflegenden und Pflegebedürftigen erfordert. In den letzten Jahren wurde in Pflegesystemen vermehrt Künstliche Intelligenz (KI) eingesetzt, um professionelle Pflegekräfte bei ihren täglichen Aktivitäten zu unterstützen und Pflegebedürftigen ein zusätzliches Maß an Sicherheit zu bieten. Trotz der zunehmenden Verbreitung von KI in der Pflege beschäftigen sich bislang nur wenige Studien mit dem Bias von algorithmischen Systemen in diesem Bereich. Durch die Verknüpfung mehrerer Big Data Sets können durch KI unfaire und intransparente Entscheidungsprozesse in Gang gesetzt werden, die in der Praxis zu diskriminierenden Pflegepraktiken führen.

Ziel des Projektes* ist es, den potentiellen Bias von algorithmisch gesteuerten Pflegetechnologien in ihren Auswirkungen auf die Langzeitpflege zu untersuchen. Erkenntnisse aus qualitativen Fallstudien in der Langzeitpflege liefern die Basis für ein differenzierten Verständnis der Auswirkungen und Bedürfnisse der
Pflege in Bezug auf KI-Systeme. Auf Basis dieser Erkenntnisse werden im Projekt der Gebrauchswert von XAI-Methoden (explainable AI) (Vertrauenswürdigkeit, Fairness, Transparenz) und verschiedene Transparenzstufen in ihrer Anwendbarkeit auf Pflegesysteme untersucht.

*Forschungsprojekt AlgoCare (WWTF Projekt) unter der Leitung von Dr. Kampel an der TU Wien

Projekt 3: Trustworthy AI – Vertrauenswürdige KI

Zur Gewährleistung einer vertrauenswürdigen KI führen wir Audits durch und beurteilen anhand professioneller Checklisten und Richtlinien KI-Anwendungen und Algorithmen. In der Analyse unterscheiden wir dabei zwischen Pre-Processing, In-Processing und Post-Processing.

Pre-Processing-Methoden untersuchen die Trainingsdaten hinsichtlich Bias. In-processing beschreibt Techniken, die die Netzwerkarchitektur analysieren. Das Ziel des Post-Processings ist es, das Ergebnis eines lernenden Algorithmus zu verstehen, soferne das trainierte Modell eine Blackbox ist und der Trainings- oder Lernalgorithmus nicht verändert werden kann. Einen besonderen Stellenwert hat dabei die Transparenz des KI Systems.

Das Ziel des „Trustworthy AI“ Projektes* ist es Tools, Guidelines und Kriterien zur Umsetzung von harmonisierten Vorschriften für künstliche Intelligenz und zur Bewertung von gegebenen KI Lösungen zu entwickeln. Es wird ein Auditierungs- und Zertifizierungsprozess für Trustworthy AI geschaffen, um zu gewährleisten, dass verwendete KI Systeme sicher sind und die bestehenden Grundrechte wahren. Ähnlich den Prozessen eines DSGVO Audits zur Einhaltung der Regeln des Datenschutzes, werden bei einem Trustworthy AI Audit Algorithmen, Daten, Entwurfsprozesse und die Nutzung eines KI System aus technischen und sozialwissenschaftlichen Gesichtspunkten erfasst und bewertet.

Das Ergebnis wird in einem Zertifikat zur Zuverlässigkeit, Transparenz und Sicherheit der KI Anwendung und der KI Algorithmen festgehalten.

* Projekt gefördert durch die Wirtschaftsagentur Wien. Ein Fonds der Stadt Wien. Projektpartner: Vienna Centre for Societal Security, VICESSE

Team

Priv. Doz. Dr. Martin Kampel,

Ingenieurkonsulent für Informatik

Dr. Kampel, ZT ist Gründer und geschäftsführender Gesellschafter der app informatics zt GmbH. Weiters ist er Senior Scientist am Institut für Visual Computing & Human Centered Technology, der Technischen Universität Wien.

Er studierte Datentechnik und Informatik, promovierte mit Auszeichnung und habilitierte im Fach praktische Informatik an der Fakultät für Informatik der TU-Wien. Als Informatiker an der Schnittstelle zwischen Forschung und Entwicklung spezialisiert sich Dr. Kampel auf interdisziplinäre Fragestellungen der praktischen Informatik, insbesondere Visual Computing und Künstliche Intelligenz, sowie Ethik und digitale Transformation.

Er ist internationaler Gutachter und Prüfer von wissenschaftlichen und kommerziellen Projekten, Ingenieurkonsultent für Informatik, sowie allgemein beeideter und gerichtlich zertifizierter Sachverständiger für IKT.

Prof. Dr. Robert Sablatnig

Prof. Sablatnig ist Gründer und Gesellschafter der app informatics zt Gmbh. Weiters ist er Vorstand des Instituts für Visual Computing
& Human Centered Technology der Technischen Universität Wien und dort im Bereich Computer Vision & AI in Forschung und Lehre tätig.

Er studierte Informatik mit Ausrichtung Visual Computing an der Technischen Universität Wien, wo er seit 2003 als a.o.Univ.Prof. für Computer Vision beschäftigt ist. Von 2005 bis 2017 war er Leiter des Instituts für Rechnergestützte Automation. Seit 2010 leitet er das Computer Vision Lab, das Teil des 2018 gegründeten Instituts für Visual Computing & Human-Centered Technology ist, das er seit 2019 leitet. Mit der Leitung und Koordination von mehr als 30 industrierelevanten und akademischen Forschungsprojekten setzt er Grundlagenforschung anwendungsbezogen um. Er ist internationaler Gutachter und Prüfer von wissenschaftlichen und kommerziellen Projekten, aktiv in der internationalen Forschungslandschaft tätig, im Vorstand der Österreichischen Arbeitsgemeinschaft für Mustererkennung, vertritt Österreich im Vorstand der internationalen Arbeitsgemeinschaft für Mustererkennung, sowie allgemein beeideter und gerichtlich zertifizierter Sachverständiger für Computer Vision.